Демократія потребує тертя для функціонування

· Майбутнє

Демократія потребує тертя для функціонування

Японська партія Team Mirai змогла зібрати понад 38,000 питань від виборців, використовуючи AI. Це новий підхід до демократії.

Слухняність демократії

Токіо — Напередодні виборів до нижньої палати Японії, нова партія під назвою Team Mirai — або «майбутнє» японською — робила щось інше: активно слухала. Її чат-бот на основі штучного інтелекту допомагав виборцям розібратися з політичними пропозиціями, відповідаючи на їхні запитання і розпитуючи про те, що їх турбує. В результаті партія отримала понад 38 000 запитань і зібрала більше 6 000 пропозицій від виборців, які допомогли висвітлити одну з центральних дилем у японській політиці.

Виборці були стурбовані зростанням цін і прагнули термінового полегшення. Але значна частина з них скептично ставилася до рішення, яке пропонували інші партії — зниження податку на споживання — частково через можливі наслідки для соціальних програм, що фінансуються цим податком. Турбуватися про це цілком обґрунтовано, враховуючи боргове навантаження Японії, яке перевищує 200% ВВП і є найвищим у G7.

Team Mirai вирішила представляти виборців, які сумнівалися в зниженні податків, яке обіцяли інші партії. Партія здобула 11 місць з понад трьох мільйонів голосів (майже 7% від усіх поданих голосів) — це більш ніж удвічі перевищує те, що вона сподівалася отримати на своїх перших національних виборах.

Використання штучного інтелекту для більш ефективного слухання допомогло Team Mirai знайти виборців, яких звичайна політика не представляла. Але чат-бот не слухав усе. Деякі межі спілкування були вже визначені — чи то навмисно, чи внаслідок обмежень систем, на яких чат-бот спирався.

Припущення слухання

Демократичні інноватори, від політичних науковців до громадських технологів, вважають, що проблема демократії, принаймні частково, полягає у проблемі слухання: якщо інститути зможуть почути, що громадяни насправді думають і чим дійсно переймаються, політичні розбіжності можуть стати більш керованими, а рішення — більш зрозумілими. Це припущення звучить сподівано. Але воно також, по суті, є актом влади, оскільки хтось мусить вирішити, що буде почуте: які голоси будуть включені, як будуть інтерпретовані думки, що вважається консенсусом і які проблеми є важливими.

Після повороту століття почалася хвиля інновацій, спрямованих на покращення слухання. У 2010-х роках Громадська Асамблея в Ірландії допомогла розблокувати політичну інерцію щодо абортів, виробивши рекомендації, які були схвалені близько 66% виборців. Асамблея складалася з 99 громадян, випадково обраних для того, щоб бути широко представленими в ірландському суспільстві. Але цей вибір закладає припущення про представництво: хто вважається значимим голосом і яким є різноманіття.

У 2019 році Франція спробувала демократичне слухання на національному рівні. Президент Макрон запустив Великий Національний Дебат після кризи «жовтих жилетів», яка почалася з підвищення податку на паливо та переросла в гнів через витрати на життя та відстань між правлячими елітами і громадянами. Відповідь, як зафіксувала політична науковиця Елен Ландемор, тривала більше двох місяців: близько 10 000 зборів у місцевих радах, майже 19 000 місцевих книг скарг — відновлюючи cahiers de doléances 1789 року, де громадяни фіксували свої скарги та пропозиції напередодні Революції — 21 випадково вибрана громадянська асамблея і 1,9 мільйона онлайн-внесків. Але масштаб приніс свої проблеми. Хоча менші асамблеї наближалися до обговорення, онлайн-платформа здебільшого збирала думки. Чутливіші до численності слухачів не означали, що їх чують краще.

Квадратичне голосування — розвинутий Гленом Уейлом і Еріксом Познером — намагається зловити те, що асамблеї роблять добре, але з меншими витратами. Воно надає виборцям бюджет кредитів для вираження того, наскільки сильно вони дбають про певну проблему, замість того, щоб просто дати їм можливість подати один голос. Вартість подання більше голосів за той самий вибір зростає квадратично, так що інтенсивність переваги впливає на результат. Але воно не може почути людей, які не знають, наскільки їм це важливо, хто не має часу, щоб це з'ясувати, або хто висловлює свою зацікавленість по-іншому.

Polis, платформа, що використовувалася в процесі vTaiwan на Тайвані, в значній мірі усуває проблему відбору: вона дозволяє всім учасникам подавати заяви та голосувати за інші внески в масштабі. Але вибір того, що вважається значимим, не зник — він перейшов до алгоритму. Polis картографує кластери думок і підкреслює висловлювання, які отримують підтримку серед груп, тому менш підтримувані або більш спірні точки зору зникають на фоні. Постійний розбіжності не виключаються, але за дизайном вони не є в центрі уваги.


Кожна з цих інновацій уточнює інформацію, яка чутно. Але жодна з них не змінює процес, через який люди міркують разом, кидають одне одному виклик і іноді змінюють свої думки.

Але це те, що наразі обіцяє штучний інтелект. У 2024 році команда дослідників під керівництвом Майкла Генрі Теслера, наукового співробітника в Google DeepMind, створила систему для її вивчення. «Машина Хабермаса» — названа на честь філософа комунікативної раціональності — була протестована на більш ніж 5700 учасниках, які обговорювали спірні політичні питання, включаючи референдум Brexit у Великій Британії, імміграцію та зміну клімату. Результати були вражаючими: учасники надавали перевагу висловлюванням, згенерованим ІІ, які узагальнювали групові думки, замість тих, що були написані людьми; групи зближалися; розбіжності звужувалися.

Але ці результати також стали виміром успіху. Дизайнери побудували систему, щоб спонукати людей до згоди, вважаючи зближення доказом того, що обговорення спрацювало. Вони вирішили питання про те, чи є метою демократії консенсус, ще до того, як хто-небудь підключається.

Що таке демократія

Припущення слухання має глибшу проблему, ніж будь-яка з цих інновацій може виправити. Російсько-британський філософ Ісаія Берліна стверджував, що проблема не в тому, що ми недостатньо прислухаємося, а в тому, що іноді ми не погоджуємося через те, що деякі людські цінності є несумісними. Свобода суперечить рівності. Справедливість суперечить милосердю. Безпека суперечить свободі. Ці конфлікти є незбираємих, постійними рисами морального ландшафту. Як сказав Берлін, «можливість конфлікту — і трагедії — ніколи не може бути повністю усунута з людського життя, як особистого, так і соціального».

Це незручне твердження, тому що воно закриває ідею про те, що політика може врешті-решт все виправити. Це означає, що не існує остаточної гармонії. Політика виконує роботу «промоції та збереження неспокійного рівноваги» між конфліктуючими цінностями, які постійно під загрозою і потребують ремонту, писав Берлін. Якщо цінності справді конфліктують, тоді завдання демократії може полягати лише в тому, щоб відкрито і легітимно управляти цими конфліктами.

Дивлячись на це, перевага демократії в тому, що вона інституалізує програш. Вона дозволяє розбіжності у цінностях продовжуватися без вимоги остаточного вирішення. Права опозиції, захист меншин, судовий нагляд і бікамерність — це ознаки, за якими громада забезпечує, що різноманітність думок зберігає політичний статус. Сьогоднішні рішення можуть бути оскаржені та переглянуті завтра.

Класифікаційна проблема

Тепер розгляньте, що мусить робити система штучного інтелекту. Вона повинна оптимізувати щось. Це щось може бути консенсусом, як у машині Хабермаса, або задоволенням уподобань, як у більшості систем рекомендацій (скажімо, Netflix або Amazon). Яка б не була мета, система рухається до неї. І роблячи це, вона привілейовує певні цінності над іншими за дизайном, незалежно від того, чи мали дизайнери на меті націлювати на цю цінність, чи ні. Врешті-решт, оптимізація — це вибір.

На відміну від людських деліберативних інститутів, програшна сторона алгоритму не має статусу. Вибір цінностей робиться в коді, людьми, які не перебувають у голосуванні, і їх не можна оскаржити через жодну демократичну процедуру.

Той факт, що код алгоритму можна перевірити або навіть змінити в публічному репозиторії, не є тим же, що і можливість оскарження його вибору цінностей тими, хто підпадає під його вплив. Код все ще визначає, що входить до політичного процесу, перш ніж може почнуться демократичні суперечки.

Проблема з Мошиною Хабермаса полягає в тому, що рішення про те, щоб оптимізувати її для згоди, є політичним актом, який заздалегідь визначає, що демократія існує для того, щоб залишатись відкритою. Це алгоритмічна форма того, що політичний філософ Майкл Сандел називає «терпимістським уникненням» — замість того, щоб займатися моральною розбіжністю, система рухається повз неї. З цих позицій машина не підриває демократію, виробляючи погані результати; вона підміняє демократію, вирішуючи, перед тим як хтось навіть братиме участь у обговоренні, чи є домовленість взагалі метою.

Це не проблема узгодження, яку можна вирішити кращими цільовими функціями або більш ретельним навчанням. Це класифікаційна проблема. Система, яка оптимізує для консенсусу, систематично зменшує значення дисенсусу, згладжуючи краю, де насправді відбувається політична робота. І роблячи це, вона закладає вибір про те, чиї точки зору вважаються згодою, які насправді є політичними.

Дизайнери машини Хабермаса були свідомі цієї напруги. Їхня стаття цитує Шанталь Муф та Іана Шапіро — двох найвидатніших теоретиків агоністичної демократії, які стверджують, що прагнення до консенсусу є саме те, що має бути опирано — в короткому визнанні, в якому сказано: «Навіть після обговорення різноманітність думок може зберігатися».

Але визнання цього не є тим же, що й проектування для такої можливості. Машина Хабермаса спроектована для того, щоб вимагати одне, колективно підтримане висловлювання; незгода вважається невдачею процесу. Подальше просування є політичним вибором, який система тоді реалізує невидимо в масштабах.

У 2025 році політичний науковець Ніколас Палумо Ернандес стверджував, що машина Хабермаса «пересереджує бажаність згоди в деліберативних процесах» і містить «дуже вузьке уявлення про деліберативну демократію, вбудоване в її дизайн». Сам Хабермас вважав незгоду можливим, навіть легітимним результатом обговорення. Але машина, названа на його честь, вважає згоди необхідним. Хабермас розглядав політичні рішення як відкриті для оскарження; машина бачить їх як продукт завершеного процесу. Хабермас помістив деліберацію в обмін між учасниками; машина зводить їх до постачання та оцінювання внесків у процесі, умови якого встановлені заздалегідь. Система названа на честь неправильного розуміння самого філософа, якого вона наводить.

Хенрік Скауг Сетра, філософ у галузі етики технологій, застеріг наприкінці 2024 року, що машина Хабермаса може стати «не інструментом деліберації, а машиною консенсусу». Його занепокоєння полягає не лише в тому, що система спрямовує групи до згоди, але що вона представляє цю згоду як надзвичайно нейтральну. Якщо учасники почнуть вважати висловлення згенерованим ІІ як «вроджено більш нейтральними або справедливими», вони можуть стати «менш схильними критично взаємодіяти» з їхнім змістом і вважати саму систему вирішенням політичних розбіжностей, а не інструментом для їх подолання. Зовнішність нейтральності може почати підміняти політичну роботу оскарження.

Померлий Роберт Даул, провідний теоретик сучасної демократії, стверджував, що люди повинні мати змогу вирішувати, які питання ставитимуться на порядок денний. Але в машині Хабермаса дослідники сформулювали питання, використовуючи LLM, а потім проаналізували результати, щоб мінімізувати «ризик провокування образливих коментарів». Учасники не контролювали деліберативний порядок денний. Питання про те, які конфлікти варто мати, знову ж таки, було вирішено заздалегідь.


Схожі невдачі

Машина Хабермаса не є ізольованим випадком. Цифрові технології, такі як соціальні медіа та, нещодавно, генеративний ІІ змінюють, як розбіжності з'являються в публічному житті вже кілька років, підриваючи яскравість демократії.

Платформи часом алгоритмічно посилили обурення, пришвидшили поляризацію, підвищили оманливий контент і знизили спільні епістемічні блага, від яких залежить демократична деліберація. Соціальні медіа не лише зробили політику агресивнішою; вони відрізали політичний конфлікт від підзвітності. Обурення генерує взаємодію — кліки, поширення, час на платформі — але рідко призводить до представництва чи інституційної реакції. Для платформ конфлікт приносить дохід раніше, ніж він приводить до наслідків. Конфлікт може стати вірусним, але, зазвичай, нікуди, де є демократія.

Великі мовні моделі можуть часто гомогенізувати публічну дискусію своїм нейтральним звучанням і синтетичним контентом, що підлягає масштабуванню. Ще більш тривожним є їхнє плавне узгодження розбіжних думок: ці системи можуть згладжувати розбіжності до синтезу, перш ніж це набуде політичної форми.

Великі мовні моделі можуть також впливати на політичні вибори. У недавній заяві щодо рекомендацій до голосування в цій же японській виборчій кампанії, дослідники політичної економії Сьо Міядзакі та Ендрю Холл виявили, що п’ять основних чат-ботів на основі ІІ постійно рекомендували Японську комуністичну партію для змодельованих виборців із лівими політичними уподобаннями, навіть незважаючи на те, що інші, поміркованіші партії займали аналогічні позиції з розглянутими питаннями. Це сталося тому, що моделі ІІ могли вільно отримувати доступ до веб-сайту та газети Японської комуністичної партії, які часом неправильно класифікували як незалежну журналістику, тоді як більшість основних японських новинних агенцій заблокували ІІ-сканери.

Схожі проблеми можуть виникати навіть у спеціально розроблених інструментах, що використовуються з найкращими намірами.

Після того як Team Mirai опублікувала частини вихідного коду чат-бота на GitHub, публічний репозиторій показав, що система вважала певні терміни «NG словами» — японським скороченням для «не годиться», або заблокованими термінами — обмежуючи відповіді, які вона генерувала по деяких питаннях. Team Mirai розробила застосунок чат-бота, але він спирався на Claude, власну модель, поведінка якої та обмеження були визначені Anthropic. Чи знала партія про конкретні обмеження слів, залишається незрозумілим. Але як тільки демократичні інструменти будуються через шари коду застосунку, правил платформи та основних моделей, межі політичної дискусії можуть бути встановлені більше ніж в одному місці, і питання про те, з якими конфліктами вони будуть взаємодіяти — і з якими не будуть — можуть не мати простого відповіді.

Де починається політика

Те, що робило технологію Team Mirai демократичною, полягало в тому, що вона не намагалася досягти угоди. Чат-бот пояснював пропозиції партії та збирав запитання та пропозиції від людей, які з ним взаємодіяли. Але Team Mirai все ще мала вирішити, що робити з цим зворотним зв'язком — які проблеми представити та які компроміси захистити публічно. Ці вибори залишалися політичними, і виборці могли відповісти на них на виборчій дільниці.

Це відмінність між інструментами, які сприяють демократичному конфлікту, і інструментами, які замінюють його. Процес важливий. Громадські асамблеї та vTaiwan структурують розбіжність і уточнюють, що чутно, але залишають остаточний суд політичним акторам. Інструменти Team Mirai — переважно — робили те ж саме. Машина Хабермаса цього не робить.

Тримати його відкритим

Ніщо з цього не є аргументом проти використання ІІ у демократичних контекстах. Це аргумент про те, які види використання сумісні з демократією — і чи залишають вони щось для політики.

Штучний інтелект може висвітлити структуру розбіжностей, картуючи лінії конфлікту та компромісів для політиків, судів, законодавців та громадян, не вибираючи сторону. Берлін написав у своєму останньому есе, що «ворогом плюралізму є монізм — давнє переконання, що існує єдина гармонія істин, у яку все, якщо воно справжнє, зрештою має вписуватись.» І ті, хто вважає, що вони знають цю гармонію, можуть відчувати себе уповноваженими нав'язувати її, що Берлін вважав однією з найстаріших виправдань деспотизму.

Системи ІІ схильні до монізму. Вони мають цілі. Вони оптимізують. Питання в тому, чи ми створюємо інституційний і політичний потенціал, щоб тримати їх на місці — підпорядкованими безладній і неефективній, незамінній людській роботі визначення того, що ми цінуємо і хто має право це сказати.

Це також вимагає від нас прийняти, що деякі конфлікти повинні залишатися невирішеними. Завдання на сьогодні — створити інституції та технології, які можуть тримати розбіжності відкритими достатньо довго, щоб відбулися демократичні процеси. Вибори цінностей, закладені в технологічні системи, вже робляться — чи то явно, чи то приховано і, можливо, з найкращими намірами — але часто до того, як хтось подумає запитати. Демократичне завдання — зробити ці вибори видимими та оскаржуваними, перш ніж вони закриють те, що політика існує, щоб утримувати відкритим.

Оригінал: www.noemamag.com

Про Що? — новини науки, технологій і світу