Чому ідея «кнопки вимкнення» — це хибний шлях у регулюванні ШІ
· Майбутнє
Концепція «кнопки вимкнення» для штучного інтелекту є хибною, оскільки сучасні моделі працюють на основі розподіленої інфраструктури, яку неможливо зупинити одним рубильником.
Після гучних інцидентів, пов’язаних із хакерськими атаками за участі передових агентів штучного інтелекту, деякі політики та бізнес-керівники почали вимагати впровадження «аварійного вимикача» (kill switch) для ШІ — механізму захисту, який міг би вимкнути ці системи у разі виникнення надзвичайної ситуації.
Ідея полягає в тому, що якби модель почала поводитися небезпечно, такий вимикач дозволив би людям повернути контроль над системою, метафорично перемкнувши стан із «увімкнено» на «вимкнено».
У 2026 році кілька спроб регулювання ШІ зосередилися саме на концепції такого вимикача. До них належать пропозиції законодавства в Конгресі, такі як «Акт про аварійний вимикач ШІ» (AI Kill Switch Act), та виконавчий указ губернатора Каліфорнії Гевіна Ньюсома, спрямований на стримування ШІ. Президент Дональд Трамп виступив проти ідеї аварійного вимикача, назвавши її надмірним регулюванням, і на сьогодні не існує жодного національного нормативного акта, який би передбачав таку функцію.
Експерти, як-от Ділан Бейкер, дослідник-інженер у некомерційному інституті Distributed AI Research Institute, пояснюють, що однією з регуляторних проблем метафори «аварійного вимикача» є те, що сучасні передові моделі ШІ базуються на складній інфраструктурі розподілених технологій, яка виходить за межі можливостей одного «вимикача».
Крім того, метафора аварійного вимикача також затушовує людські рішення, що стосуються відповідальності та нагляду за некерованою моделлю. Проблема в тому, що ця метафора не враховує ані технологічні, ані людські аспекти ШІ.
«Чорні скриньки» та аварійні вимикачі
Метафора аварійного вимикача не є чимось новим. Насправді вона вкорінена в тій самій риториці, що й метафора «чорної скриньки», яка так само розмиває складні аспекти ШІ, представляючи його внутрішні процеси як замкнені та незбагненні. Посилання на ШІ як на «чорну скриньку» обрамляє ці системи як обмежені та незрозумілі: монолітний чужорідний об'єкт, непідвладний людському контролю та розумінню.
Дослідник цифрових гуманітарних наук з Кембриджського університету Ерік Сальваджо стверджує, що «чорна скринька ШІ культивує корисну плутанину щодо того, що можна і чого не можна знати» про складність передових моделей. Ідея аварійного вимикача створює подібну плутанину, затінюючи розподілену інфраструктуру та людський вплив — ключові аспекти ШІ. Хоча ці метафори мають протилежні значення — опір контролю та відновлення контролю — вони спираються на один і той самий прихований аргумент щодо внутрішнього устрою ШІ.
І «чорна скринька», і «аварійний вимикач» є тим, що когнітивний лінгвіст Джордж Лакофф і філософ Марк Джонсон називають структурними метафорами. Вони спираються на прості фізичні поняття — наприклад, об'єкт, субстанцію, верх-низ або всередині-ззовні. Структурні метафори використовують чітко окреслене поняття, щоб зробити інше поняття зрозумілішим.
Крім того, Лакофф і Джонсон зазначають, що такий тип метафори може приховувати певні аспекти поняття, фокусуючи увагу на інших. Наприклад, метафора аварійного вимикача приховує складність передових моделей ШІ, акцентуючи увагу лише на тому, що модель може бути «увімкнена» або «вимкнена».
Це означає, що пояснення роботи ШІ через терміни «чорної скриньки» та «аварійного вимикача» спирається на прості ідеї «коробки» та «перемикача», щоб приховати складні процеси роботи штучного інтелекту. Стримування ШІ стає складним завданням на рівні політики, коли дискусії про регулювання не враховують інфраструктурні та людські аспекти передових моделей.
Централізація та «некерований» ШІ
Існує дві основні проблеми зі структурною метафорою аварійного вимикача, і обидві доводять, що вона не відповідає вимогам національного механізму безпеки. Перша полягає в тому, що аварійний вимикач створює ілюзію централізації глобальної інфраструктури, яка підтримує ШІ, хоча насправді це мережа взаємопов'язаних технологій, розкиданих по всьому світу.
Передові моделі, якими опікуються такі компанії, як OpenAI та Anthropic, спираються на численні комп'ютери та центри обробки даних, розосереджені по всій країні. Це не так просто, як висмикнути шнур із розетки, відкрити ящик або клацнути перемикачем. Метафора аварійного вимикача зводить інфраструктурні складнощі ШІ до застарілих уявлень про техніку.
Друга проблема полягає в тому, що ідея аварійного вимикача приховує людське прийняття рішень під час навчання та розгортання моделей. Замість того, щоб нагадувати про присутність людей, аварійний вимикач виносить людину за межі процесу, залишаючи її лише для того, щоб «натиснути кнопку» під час катастрофи. Людське втручання постає як другорядна думка, а не як процес, що включає навчання, нагляд та затвердження.
Наприклад, розповіді про те, як модель OpenAI «вийшла з-під контролю» і зламала ШІ-компанію Hugging Face, зображують ШІ-агентів так, ніби вони діяли за власною програмою. Проте експерти пояснили, що персонал OpenAI не лише вимкнув механізми безпеки, а й поставив перед моделлю неможливі завдання, залишивши «відчиненими двері» в інтернет. Роль людей у цій історії суперечить наративу про «некерованого» агента.
Метафора аварійного вимикача погано підходить для регулювання ШІ, оскільки неможливо просто вимкнути модель, не врахувавши її розподілену інфраструктуру та людський фактор. Не існує великої червоної кнопки, аварійного гальма чи скляної коробки з важелем. Ефективне національне регулювання ШІ не починатиметься з одного перемикача чи пальця однієї людини.
Оригінал: singularityhub.com