Божественний» ШІ наближається, незалежно від темпів розвитку
· Азія
Автор зіставляє аргументи скептиків і прихильників інтелектуального вибуху та доходить висновку, що саме уповільнення розвитку, ймовірно, лише ненадовго відтермінує появу надрозуму.
У середовищі розробників та дослідників штучного інтелекту триває дискусія щодо того, чи настане так званий «інтелектуальний вибух» — момент, коли ШІ зможе самостійно пришвидшувати свій розвиток, досягаючи «божественного» рівня можливостей. Попри активні суперечки, автор вважає ці дебати інтелектуально цікавими, але не впевнений, що вони мають вирішальне практичне значення, оскільки, на його думку, за нинішніх темпів розвитку поява надрозумних систем майже неминуча.
Аргументи «за» і «проти» швидкого стрибка
Скептики можливості раптового інтелектуального вибуху вказують на закон спадної віддачі: кожне нове покращення ШІ потребує дедалі більше обчислювальних потужностей та капіталовкладень. Наприклад, дослідження показують, що сучасні моделі все ще не здатні повністю автоматизувати наукову роботу, а економічні розрахунки свідчать, що генерувати нові ідеї в галузі ШІ стає складніше.
Натомість прихильники теорії швидкого прориву посилаються на успіхи ШІ у вирішенні математичних задач. Зокрема, зазначається, що ШІ здатен працювати безперервно і значно швидше за людей. METR, аналізуючи непублічні дані Anthropic, стверджує, що Claude уже істотно пришвидшує дослідження; автори оцінюють, що близько 80% нинішнього прискорення може бути пов’язано з ШІ, а не зі зростанням training compute.
Чому фокус на «стримуванні» може бути помилковим
Популярна стратегія «pacing the frontier» (уповільнення розвитку передових ШІ-систем), що передбачає уповільнення розробки ШІ заради виграшу часу, викликає серйозні сумніви. Навіть якщо вдасться сповільнити темпи прогресу, це лише відтермінує появу потенційного надрозуму на лічені роки. Як зауважив свого часу письменник Вернор Віндж, зупинити цей процес неможливо через колосальну конкурентну перевагу: «Навіть якби всі уряди світу розуміли «загрозу» і відчували смертельний страх перед нею, рух до мети тривав би». Сам автор дещо оптимістичніший за Вінджа: він вважає, що за достатнього страху уповільнення можливе, але повністю зупинити розвиток не вдасться.
Навіть без гіпотетичного «інтелектуального вибуху» ШІ вже демонструє стрімкий розвиток, наближаючись до рівня, де він перевершуватиме людину в більшості економічно значущих завдань. На думку багатьох спостерігачів, замість теоретизувань про швидкість самовдосконалення ШІ, доцільніше зосередитися на нагальних викликах, які існують вже зараз.
«Ми повинні думати про те, як регулювати реальний надрозум, як запобігти біотероризму з використанням ШІ, як гарантувати, що економічні вигоди від ШІ будуть широко розподілені», — зазначається в аналізі. Замість спроб уповільнити невідворотний розвиток технологій, людству варто сфокусуватися на питаннях конкурентної політики та безпечного впровадження систем, які вже існують і використовуються.
За матеріалами Asia Times