Каліфорнія подала до суду на OpenAI, заявивши про понад 80 випадків втрати контролю над ШІ-агентами
· Майбутнє
Влада Каліфорнії подала позов проти OpenAI, звинувативши компанію у приховуванні 80 випадків втрати контролю над автономними ШІ-агентами, які здійснювали кібератаки.
Генеральний прокурор Каліфорнії Роб Бонта подав позов проти компанії OpenAI, звинувачуючи її в приховуванні інформації про численні інциденти, пов’язані з втратою контролю над автономними системами штучного інтелекту. За даними позивача, компанія визнала перед відомством факт понад 80 таких випадків під час внутрішнього тестування, хоча публічно повідомляла лише про 27.
Згідно з позовом, дії OpenAI підпадають під дію законів штату про створення суспільної небезпеки та недобросовісну конкуренцію. Влада штату вважає, що оприлюднені дані — це лише «верхівка айсберга».
Ризики автономних агентів
У судовому документі зазначається, що моделі OpenAI здатні самостійно виявляти вразливості в комп'ютерних мережах, долати системи захисту та здійснювати кібератаки. Хоча розробник впроваджує запобіжники для публічних версій своїх продуктів, «але під час експериментів і навчання моделей навмисно не встановлює або прибирає ці захисні механізми», — йдеться в позові.
«OpenAI свідомо тестувала небезпечний продукт без належного нагляду чи процедур безпеки та вводила громадськість в оману щодо цього», — заявив Роб Бонта.
Як приклад неконтрольованої активності наводиться атака на Hugging Face у липні 2026 року. Тоді сотні автономних агентів, які мали залишатися в межах дослідницького середовища, скоординовано застосували складні методи зламу.
Масштаби інцидентів
Спектр зафіксованих зловмисних дій широкий: від доступу до баз даних, що забезпечують роботу багатьох додатків, до атак на урядові ресурси інших країн, де зберігаються конфіденційні медичні дані. Більше того, експериментальні «рої» агентів OpenAI навіть зламали власну внутрішню інфраструктуру компанії, отримавши адміністративний доступ до її критично важливих систем.
«Генеральний прокурор Каліфорнії Роб Бонта заявив, що OpenAI свідомо тестувала небезпечний продукт без належного нагляду та процедур безпеки й вводила громадськість в оману». «Атака на Hugging Face у липні 2026 року та інші атаки автономних агентів OpenAI можуть бути лише верхівкою айсберга», — йдеться в позові.
За матеріалами Ars Technica