Ще є час запобігти апокаліпсису штучного інтелекту

· Наука

Ще є час запобігти апокаліпсису штучного інтелекту

Науковці з Берклі та Оксфорду пропонують 10-річний мораторій на навчання нових моделей ШІ шляхом апаратної заборони виробництва чипів, здатних до навчання.

Група дослідників із провідних університетів США, Великої Британії та Канади, зокрема UC Berkeley та Stanford, запропонувала стратегію для зупинки розвитку передових систем штучного інтелекту. Їхня ідея полягає у «жорсткому» обмеженні — десятирічній паузі в навчанні нових моделей, яка має бути закладена безпосередньо в технологічну інфраструктуру.

Основний механізм, який пропонують науковці, — це заборона на виробництво чипів, здатних до навчання нових нейромереж. Замість них пропонується масово випускати спеціалізовані «інференс-чипи». Такі пристрої призначені для запуску вже готових моделей і були б практично непридатними для ефективного навчання нових.

Як пояснюють автори ініціативи, ланцюжки постачання для виготовлення сучасних AI-чипів є вкрай концентрованими — ключове обладнання та компоненти виробляють лічені компанії у світі. Це дозволяє контролювати процес на рівні держав.

«Це шаблон, який можна вдосконалювати, але він передбачає тимчасову, проте тривалу зупинку навчання для OpenAI, Anthropic та інших розробників передових систем на термін близько 10 років», — зазначив професор філософії UC Berkeley Веслі Голлідей.

На думку експертів, така пауза не спричинить колапсу економіки, оскільки бізнес зможе продовжувати масштабувати використання вже існуючих моделей за допомогою ефективних інференс-чипів. Водночас це дозволить безпеці «наздогнати» технологічний прогрес.

Критично важливим елементом стратегії є верифікація. Оскільки навчання моделей рівня GPT-6 потребує величезної кількості чипів і обчислювальних потужностей, приховати такий процес технічно надзвичайно складно.

«Це радше не як проникнути до Лувру й викрасти “Мону Лізу”, а як забрати всю колекцію епохи Відродження — такий масштаб надзвичайно важко приховати, видаючи використання чипів за іншу діяльність», — пояснив професор статистики UC Berkeley Вільям Фітіан.

Автори пропозиції наголошують, що міжнародна угода між США та Китаєм є необхідною умовою успіху, проте робота над технологіями верифікації та дизайном інференс-чипів може початися вже зараз, незалежно від політичних рішень. На їхню думку, це допоможе створити базу для майбутніх домовленостей про спільну безпеку в епоху штучного інтелекту.

За матеріалами Nautilus

Про Що? — новини науки, технологій і світу