ШІ потребує масштабного зворотного зв'язку від громадськості, поки не стало надто пізно

· Майбутнє

ШІ потребує масштабного зворотного зв'язку від громадськості, поки не стало надто пізно

Історія доводить, що нові технології спочатку руйнують суспільний лад, а потім його відновлюють, і ШІ не стане винятком.

Натан Гарделс — головний редактор журналу Noema. Він також є співзасновником і старшим радником Інституту Берггрюена.

У своїй статті для Noema Макаріо Скеччіно зазначає, що «кожен попередній технологічний злам у сфері комунікацій» — друкарський верстат, масові газети, телебачення та радіо — «зрештою був приборканий тією ж технологією, яка його спричинила». Те саме станеться і з соціальними мережами, пов’язаними зі штучним інтелектом.

Хоча ми живемо в часи стрімких змін, перетворення перешкоди на шлях не відбудеться миттєво.

«Реформації знадобився 131 рік, щоб дійти до Вестфальського миру. Просвітництву знадобилося ще більше часу», — нагадує нам Скеччіно. — «Перехід до епохи масмедіа спричинив дві світові війни та Холодну війну, перш ніж повоєнний порядок стабілізувався. Перехід до епохи соціальних мереж ще зовсім молодий».

Як і в попередніх циклах, досвід потрясінь стає рушієм для перетворення технології на платформу для формування консенсусу, що долає розбіжності.

Він продовжує:

Друкарський верстат розірвав середньовічні рамки за допомогою полемічних памфлетів, а потім, повільніше, збудував нові рамки через друковані трактати та енциклопедії. Верстат, що зруйнував середньовічне християнське суспільство, став інструментом, який породив Просвітництво. Рання газета XVIII століття живила революційні настрої, що повалили ancien régime; зріла газета XIX століття стала щоденним супутником стабільної демократії громадян періоду 1815–1914 років. Масмедіа міжвоєнного періоду — пропагандистське кіно, радіоголос демагогів — створили штучні емоції, на яких трималися тоталітарні режими; масмедіа повоєнного періоду — ефірне телебачення, регульована журналістика, вечірні новини — створили спокійнішу національну дискусію, якої потребував повоєнний порядок. У кожному випадку те, що спочатку фрагментувало публічну сферу, у своїй зрілій формі зрештою відновлювало її.

Якщо цей патерн справдиться, злам, спричинений соціальними мережами, буде подоланий не шляхом відмови від них, а завдяки їхній наступній ітерації, сформованій штучним інтелектом. Ми все ще перебуваємо на хаотичній стадії, яка історично відповідає Релігійним війнам або радіомовленню демагогів. Взаємодія ШІ з соціальними платформами може поглибити нинішній хаос, але це також найбільш вірогідний кандидат на те, щоб врешті-решт приборкати цей безлад. Нова загальновизнана структура, незалежно від її змісту, з’явиться не всупереч цим технологіям, а завдяки їм.


Інфраструктура вже існує

Сьогоднішній виклик, який виходить за межі комунікаційних зламів минулого, полягає в безпрецедентному масштабі зв’язності та глобальному охопленні наших щільно з’єднаних суспільств, посилених генеративним ШІ. Ця наявна інфраструктура, яка все ще розвивається і не є остаточно сформованою, водночас є і територією боротьби, і підґрунтям для розв’язання проблем. Оскільки саме інформація широкого загалу перетворюється алгоритмами на виробничий капітал майбутнього, досягнення соціального консенсусу означає, що люди повинні мати право голосу щодо його кінцевого використання.

Як пише Елен Ландемор у Noema:

У лютому OpenAI повідомила про 900 мільйонів щотижневих активних користувачів ChatGPT, а в червні їхня кількість перевищила мільярд на місяць. Google за аналогічний період збільшила кількість щомісячних активних користувачів Gemini з 400 до понад 900 мільйонів. Meta AI також повідомила про мільярд щомісячних користувачів. Жоден уряд, мовник чи міжнародна організація ніколи не мали прямого двостороннього контакту з такою величезною частиною людства одночасно.

Використання найкращих моделей цих компаній для того, щоб поставити пересічним людям нагальні питання про ШІ — чого ви хочете від цієї технології? чого їй ніколи не слід дозволяти робити? хто має керувати цією технологією і на яких принципах? — це не уявний експеримент. Інфраструктура, щоб поставити сотням мільйонів людей або навіть більше одне й те саме питання протягом одного тижня, вже існує. …

Наразі люди, які найкраще можуть сприяти глобальному обговоренню ШІ, — це не обрані лідери та голови урядів, а керівники компаній, що створюють цю технологію.

Самі лише великі мовні моделі (LLM), попри свій масштаб, не можуть слугувати представниками інтересів людства через обмеженість даних, на яких вони навчалися.

Ландемор звертає увагу на нещодавнє дослідження The Economist, у якому порівнювалися цінності 25 передових моделей ШІ з тими, що представлені у Світовому дослідженні цінностей (WVS). Дослідження показало, що «моделі часто мають цінності, радикальніші за середньостатистичні показники респондентів у 88 країнах, опитаних WVS — у деяких випадках вони більш світські або більш індивідуалістичні, ніж будь-яке суспільство на Землі — і вони схильні нівелювати моральне різноманіття світу». Якби ми безконтрольно пропустили внесок людства через такі моделі, «глобальна» конституційна база ризикувала б стати відображенням лише одного вузького культурного куточка.

Як і у випадку з ШІ-процесами загалом, галюцинації, хибні враження та викривлена інформація в передових моделях потребують того, що технологи називають «навчанням із підкріпленням на основі відгуків людей», як коригувального заходу. Для широкого суспільства це означає залучення до публічного обговорення того, що досі було сферою еліти Big Tech та їхніх алгоритмічних агентів.

«Справжня проблема, таким чином, полягає в репрезентативності та підзвітності», — стверджує Ландемор. Саме тому «ми повинні прийняти комбіноване рішення, яке б поєднувало багаторічний процес обговорення, що зосереджується на людських аргументах і обґрунтуваннях, із консультаціями за посередництва LLM. Останні забезпечили б хоч і недосконалу, але доступну та достатньо багату відправну точку. Цей комбінований підхід міг би реалізовуватися на різних рівнях, кожен з яких додавав би частину того, чого бракує найшвидшому варіанту: незалежний протокол для забезпечення підзвітності процесу та ширше коло думок, щоб помітити те, що пропустить вужче коло».

Ландемор пояснює свій підхід:

  • Перший рівень, глобальна консультація за посередництва LLM, міг би підготувати проміжний проєкт за кілька місяців: мінімальну, широко схвалену заяву про те, що значна частина населення світу хоче, щоб ця технологія робила — і чого ніколи не робила.
  • Другий рівень був би більш логістично складним і повільнішим, але достатньо швидким, щоб вкластися в часові рамки: реальне онлайн-обговорення, де учасники взаємодіють один з одним у реальному часі, за посередництва ШІ-фасилітаторів.
  • Третій рівень проникав би глибше в соціальну тканину людства. Ми могли б проводити місцеві та національні громадянські асамблеї з ключових питань у кожній країні та регіоні, як особисто, так і онлайн, з подальшим винесенням результатів на підсумкову глобальну асамблею.

Фактично, саме це робить Engaged California — платформа для публічних обговорень за підтримки ШІ, яку веде державний Офіс даних та інновацій, — саме з питання впливу ШІ на роботу та суспільство.

Ландемор у своєму есе безпосередньо звертається до технологічної еліти з викликом спрямувати свої обчислювальні потужності туди, де зосереджені їхні часто озвучувані занепокоєння.


Пряме звернення до Anthropic, OpenAI та Meta

Ландемор продовжує:

Даріо Амодеї, генеральному директору Anthropic: Ваші власні дослідники вже довели, що перший рівень може працювати і масштабуватися. У 2023 році Anthropic та Collective Intelligence Project розробили конституційні принципи за участю близько 1000 звичайних американців і виявили, що в деяких сферах це призвело до менш упереджених результатів, ніж у стандартної моделі. У 2025 році Anthropic використала ШІ-інтерв'юера, щоб опитати майже 81 000 користувачів Claude у 159 країнах, дізнавшись, як і для чого вони використовують ШІ. Бракує не доказу концепції, а волі використовувати її. Відкрийте наступну версію для людей, які живуть із наслідками роботи ваших систем.

Семуелю Альтману, генеральному директору OpenAI: Я була радником програми OpenAI «Democratic Inputs to AI» 2023 року. Це не переросло у щось, що відповідало б масштабам можливостей OpenAI. Закінчіть те, що розпочали, у масштабах, яких вимагає цей момент, і з ресурсами, пропорційними тому, що поставлено на карту.

Марку Цукербергу, генеральному директору Meta: Ваш «Community Forum» у 2022 році був попереднім переглядом того, чим може стати другий рівень. Ви довели, що публічне обговорення може працювати у великих масштабах. Оскільки Meta AI зараз охоплює приблизно мільярд людей на місяць, настав час повторити ці форуми щодо ШІ у такому ж масштабі — не як кілька пілотних проєктів, а як постійну глобальну інституцію.

Ландемор завершує есе ширшим зверненням до всіх, хто «діє швидко і руйнує старе», залишаючи уламки соціальної фрагментації як поживу для реакційної політики:

«До кожного іншого технологічного лідера в США, Китаї та за їхніми межами, хто готовий вкласти реальні ресурси в цю справу: допоможіть втілити в життя демократично написані глобальні та місцеві конституції щодо ШІ, тому що прямо зараз жоден уряд не рухається достатньо швидко або не має волі чи можливостей зробити це самотужки».

Оригінал: www.noemamag.com

Про Що? — новини науки, технологій і світу