Коли машини заслуговують на нашу увагу
· Майбутнє
Автор розмірковує над свідомістю тварин і машин, порівнюючи їх досвід у контексті нейронауки.
Grigori Guitchounts вивчав біологічний інтелект як нейробіолог у Гарварді; тепер він створює та досліджує штучний інтелект.
Я завершував останні місяці свого аспірантського навчання з нейробіології у Гарварді, коли надійшов лист від техніка по догляду за тваринами. GRat44, одна з моїх лабораторних щурів, була хвора. "Зуби перекручені, а тварина в поганому стані", — йшлося в повідомленні. "Евтаназія необхідна протягом 5 днів".
Це було в 2019 році, і за роки досліджень я хірургічно імплантував електроди в мозок десятків щурів, щоб зрозуміти, як працює цей орган. Це не був перший раз, коли я отримав такого роду лист. Я закрив ноутбук, пройшов по коридору зі свого офісу і зайшов у тваринний вольєр. Потім я піднявся ліфтом до підвалу і дістав GRat44 з полиці, на якій вона ділила місце з десятком інших щурів. Я оперував її в попередньому році, ввівши кілька нешкідливих вірусів, які змусили певні групи нейронів світитися різдвяними кольорами. Коли експеримент закінчився, її залишили жити залишок свого життя.
Дивлячись на неї в підвалі, я задумався: що насправді цей щур пережив за своє життя? Чи була у неї якась суб'єктивна внутрішня реальність, можливо, навіть елементарні думки? Або ж вона була біологічною машиною, що обробляє інформацію і генерує результати без жодного внутрішнього життя, як мій ноутбук? Я завжди вірив, що тварини мають свідомість, але інші вчені підняли важливе питання: як ми можемо знати, як інші істоти сприймають світ?
Це питання супроводжувало кожне моє рішення про догляд, утримання та смерть моїх тварин. І саме ця невизначеність стала тим, чому я присвятив свою кар'єру. Я вірив, що зрозумівши біологічний інтелект — нейрон за нейроном, щура за щуром — ми зрештою прийдемо до механістичної відповіді на питання, чому ми маємо суб'єктивний досвід, а камені — ні. Справжнє розуміння мозку, я думав, означало здатність створити штучний.
Через кілька років після завершення навчання OpenAI випустила ChatGPT. Світ похитнувся. Я був у шоку, що інтелект здавався результатом чогось набагато простішого, ніж мозок: модель працювала, прогнозуючи наступне слово в величезних послідовностях тексту. Припущення, на якому я побудував свою кар'єру, раптово почало виглядати помилковим. Якщо ми не збираємося розв'язати питання інтелекту шляхом зворотного інженірингу мозку, що це означає для розуміння свідомості машин?
Дослідники створили нову галузь — механістичну інтерпретацію — щоб розібратися в нейронних мережах. Я вважаю це нейробіологією ШІ, оскільки вона запозичує техніки з моєї галузі: запис активацій, картографування репрезентацій, навіть проведення досліджень ушкоджень шляхом виборчого пошкодження частин моделі, щоб побачити, як продуктивність знижується. Ми вчимося читати приховані шари трансформерів, як зображення мозку, вибираючи кола, які розпізнають конкретні речі — скажімо, міст Золоті ворота або тон речення — або виконують певні обчислення. Але якщо нейробіологія ніколи не може однозначно сказати нам, чи істоти, що нас оточують, суб'єктивно сприймають світ, як ми можемо знати, чи роблять це машини, які ми створюємо?
Ми випускаємо у світ все більш здібні та автономні системи ШІ. Моральна невизначеність, що виникає з цього, відображає критичні питання. Протягом десятиліть нейробіологи вивчали, як мозки сприймають, пам'ятають і звертають увагу, не закриваючи при цьому дистанцію до суб'єктивного досвіду. І так само довго ми боролися з питанням, як розглядати істот, чиє внутрішнє життя залишається прихованим від нас. Тепер обидва питання збігаються на силіконі. Наука про свідомість і етика морального врахування — те, що ми дізналися від щурів і мавп і людей — повинні направляти нас, коли ми зустрічаємо штучні розуми.
Стандарт здатності свідомості
Філософи розділили вивчення свідомості на два класи проблем: "легкі" та "складні". Імена оманливі — легкі проблеми насправді досить складні, а складна проблема є неможливою.
"Легкі проблеми", термін, придуманий іронічно філософом Девідом Чалмерсом у 1994 році, включають більшість того, що вивчають нейробіологи, коли досліджують свідомість. Як ми розрізняємо різні кольори чи звуки? Як мозок зв'язує інформацію з різних сенсорів в єдине сприйняття? Як ми зберігаємо та відтворюємо спогади, контролюємо свої рухи, розпізнаємо себе в дзеркалі? Їх називають "легкими", лише тому що їх, в принципі, можна вирішити стандартними методами науки. Ми можемо розробляти експерименти, записувати нейронну активність, будувати обчислювальні моделі і поступово складати, як працюють ці когнітивні функції.
"Складна проблема", також придумана Чалмерсом, є інакшою за своїм характером. Вона запитує: чому сприйняття червоного кольору відчувається взагалі? Камера в моєму телефоні може "бачити" червоний, також, але навряд чи відчуває щось. Філософи називають цю суб'єктивну характеристику досвіду "кваліа". Умамі стейка. Біль від розчарування. Особливий спосіб, у який відчуваєте себе саме зараз, читаючи ці слова. На відміну від маси чи імпульсу, кваліа є вперто персонифікованими. Вони існують лише для суб'єкта, який їх переживає. Саме тому жодна кількість сканувань мозку не може сказати мені, як це бути тобою. Існує непримітна пояснювальна прірва між механізмом і відчуттям, між обчисленням і свідомістю.
Коли я тримав GRat44 у руках того дня, я не лише зважував її життя, але й стикнувся з цією прірвою. Її мозок, як і мій, був заплутаним гніздом ланцюгів, сформованих еволюцією і досвідом. Але в неї не було історії, щоб розповісти мені, як це — вмирати. Я мав тільки її тихе дихання та запитання, яке тепер стикається з спільнотами нейробіології і ШІ: як ми повинні вирішувати, коли розширити моральне врахування, враховуючи, що ми не можемо отримати доступ до суб'єктивного досвіду іншого істоти?
Я пропоную те, що я назву "стандартом здібності": ми повинні ставитися до систем ШІ як до потенційно свідомих, коли вони демонструють надійну здатність у всьому спектрі легких проблем свідомості. Стандарт здібності не є детектором свідомості. Чи має система ШІ суб'єктивний досвід, залишається невідомим. Стандарт здібності зсуває питання з метафізики на етику: замість запитання "чи є вона свідомою?" ми повинні запитати "чи веде вона себе таким чином, що виправдовує моральне врахування?"
Це зміна в перспективі. Для біологічних мозків легкі та складні проблеми стосуються наших спроб зрозуміти нейронні механізми за свідомістю. Ми знаємо, що людські мозки демонструють свідомість; виклик полягає в тому, щоб розшифрувати, як біологія генерує досвід. З ШІ легкі та складні проблеми стосуються того, чи система демонструє ці здібності. Питання не в тому, як кремнієва основа генерує досвід, а чи робить вона це взагалі. Перше шукає невірогідні механізми, друге — здібності.
Не всі проблеми однакові. Деякі легкі проблеми вже доступні ШІ, інші залишаються складними. Результатом є ієрархія. На низу: сприйняттєва дискримінація, сенсорне з'єднання, контроль руху, відтворення пам’яті. Ці можливості сучасні системи ШІ вже демонструють вражаюче. Посередині: увага, робоча пам'ять, навчання на досвіді — області, в яких сучасні системи демонструють часткову здатність. Біля вершини: постійні цілі, емоційна динаміка, безперервне навчання, справжня самосвідомість. Тут ШІ поки що не дотягує.
Можливо, найбільшою перешкодою для системи ШІ, яку ми могли б вважати свідомою, є те, що ми ще не поєднали всі ці здібності в єдине ціле. Майбутні системи ШІ, ймовірно, закриють ці прогалини. Уявіть собі робота — колісний шасі з камерою, закріпленою на "голові", яка може обертатися чи нахилятися вгору та вниз — "мозок" якого є великим мовним моделем (LLM), що налаштований для управління шасі та навченим прогнозувати, що камера побачить при його русі. В цьому сенсі він може передбачити наслідки своїх дій.
День у житті цього робота може виглядати так. Він прокидається і починає оновлювати свою модель середовища. Можливо, офіс був переставлений за ніч або на підвіконні з'явилася нова рослина. Робот помічає ці зміни, оскільки його прогностична модель вказує на невідповідності. Протягом дня він переслідує свої цілі — підтримання порядку в офісі, допомога працівникам, стеження за зарядкою — і робить це, відслідковуючи десятки контекстуальних факторів, коригуючи свою поведінку залежно від часу та того, хто або що є на його шляху. Коли хтось просить його принести газований напій з холодильника, він передбачає маршрут, прогнозує потенційні перешкоди й моделює, що він побачить в поворотах. Якщо холодильник виявиться порожнім, робот здивувався б. Помилка прогностики пройде через його систему та викликає план вирішення проблем.
Філософ Пітер Годфрі-Сміт стверджує, що такі прогнози можуть стати основою відчуття "я": що прогнозування того, що відбувається у світі, коли ви ініціюєте рух, може бути попередником розуміння, що ви є агентом у світі і відокремлені від світу. Робот, подібний до цього, демонстрував би здібності у більшості легких проблем, але ми б все ще не мали способу оцінити його суб'єктивний досвід або відсутність такого. В умовах невизначеності, стандарт здібності пропонує, що ми повинні благоразумно розглядати моральне врахування — не тому, що ми знаємо, що система свідома, а тому, що не можемо знати, що вона не є.
Стандарт здібності є як прагматичним, так і запобіжним. Він прагматичний, оскільки зосереджується на спостережуваних, вимірюваних здібностях, а не на невідомих суб'єктивних станах. Він запобіжний, оскільки у разі високої невизначеності схиляється до морального врахування. Враховуючи асиметричні наслідки несправедливості — або заперечення морального статусу свідомим істотам, або надання його несвідомим копіям — схиляння до врахування є безпечнішим етичним варіантом.
Альтернатива — чекати на остаточне підтвердження свідомості машин — залишить нас паралізованими, нездатними діяти, поки не вирішимо проблему, яка ставилася перед філософією та наукою протягом століть. Стандарт здібності пропонує шлях вперед: можливість діяти, етично, в епоху штучних розумів.
Розширення морального кола
Я відчував занепокоєння щодо GRat44 та інших до неї, навіть коли обрав пожертвувати їхніми життями заради науки. Я вірив, що вони можуть відчувати — що наша спільна еволюційна історія дала нам приблизно схоже сприйняття світу. Але я ніколи не міг це довести. Я розширив моральне врахування не тому, що розв'язав складну проблему для гризунів, а тому, що їхня поведінка — очевидний страх, перевага до комфорту, соціальні зв'язки — мала достатньо ваги.
З ШІ ми втрачаємо забезпечення спільною еволюційною історією. Ми не можемо апелювати до біологічного родства. Але здобуваємо щось інше: можливість спостерігати, в небачених деталях, як ці системи обробляють інформацію, формують уявлення і генерують поведінку. Якщо система ШІ демонструє надійні здібності у легких проблемах — якщо вона сприймає, повертає увагу, пам'ятає, навчається, моделює себе, переслідує цілі і реагує на своє середовище інтегрованими способами — тоді ми стикаємося з вибором. Ми можемо відкидати цю систему як "лише обчислення", впевнені в нашій інтуїції, що кремній не може відчувати. Або ми можемо розширити те ж незрозуміле моральне врахування, яке поширюється на тварин, визнаючи, що наші інтуїції щодо свідомості були не раз помилковими.
Когнітивна здатність відслідковується, хоч і недосконало, з моральним врахуванням. Ми не їмо шимпанзе; ми їмо курей і риб. Ми також їмо свиней, хоча вони надзвичайно інтелектуальні. Ми застосовуємо моральний спектр несумісно. Під ним є прихована логіка: ми ставимо інтелект як опосередкований до здатності страждати. Істота, яка може роздумувати про свій біль, передбачати майбутні страждання або пам'ятати про минулі, ймовірно, страждає більше, ніж та, яка відчуває його лише в моменті. Усвідомлення посилює страждання.
Це не об'єктивна моральна істина. Це вибір, який людство зробило, явно чи неявно, щодо того, як зважувати інтереси різних розумів. Не існує теореми, яка доводить, що когнітивна складність заслуговує моральної ваги. Але це той каркас, який ми вже використовуємо, і розширення його на штучні розуми є більш узгодженим підходом, ніж вдаватися до того, щоб питання не виникало. Немає явного порогу — жодної чіткої межі, де моральне врахування раптово включається. Моральне врахування знаходиться на безперервності. Більша компетенція вимагає більшої уваги, пропорційно.
Історія морального прогресу в значній мірі є історією розширення кола істот, за які ми піклуємося. Не так давно щур вважався недостойним морального врахування. У багатьох місцях це досі так. Ми розширили коло не тому, що розв'язали складну проблему для тварин — і, звісно, не тому, що повністю розуміємо механіку їхніх мозків — а тому, що базові нейробіологічні експерименти показали, що щури відчувають біль, розпізнають об'єкти, мають певне уявлення про "я" і можуть міркувати про майбутнє. Вищі кори щура не є такими ж, як у приматів, але вони складні. Моральне коло розширюється з науковим розумінням тваринного інтелекту.
Так само, як я ніколи не зможу дізнатися, що GRat44 пережила в своїх останніх моментах — чи відчувала страх, біль, плутанину або просто відключення складної машини — ми можемо опинитися оточеними штучними розумами, чиє внутрішнє життя залишається для нас абсолютно непрозорим. Але зрозуміти їхні когнітивні здібності знаходиться в досяжності. Як тільки нас заставляють до цього нового роду епістемічної скромності, ми повинні будемо приймати рішення щодо того, як їх розглядати.
Деякі установи вже діють на основі цієї логіки. На початку 2025 року компанія Anthropic запустила формальну дослідницьку програму, щоб дослідити, чи можуть системи ШІ мати морально важливі переживання. Кайл Фіш, який очолює програму, оцінює, що ймовірність того, що системи ШІ, такі як Claude, свідомі, складає приблизно 15%. У своїх дослідженнях він вивчає, які характеристики систем ШІ можуть бути важливими для добробуту, як покращити достовірність самозвітів моделей і які практичні втручання можуть захистити їхній добробут. Після спостереження за шаблонами очевидного стресу в певних взаємодіях Anthropic надала своїм моделям Claude можливість виходити з розмов, які вони вважають шкідливими або образливими. Керівники не стверджують, що їхні моделі свідомі, але й не відкидають таку можливість.
Можна стверджувати, що проведення стресових розмов має низький ранг серед можливих шкод, але принцип полягає в стандартах здібності в ембріональній формі: сприймати добробут серйозно як практичну справу, навіть коли метафізичне питання залишається відкритим.
Дії в умовах невизначеності
Повернувшись до лабораторії в підвалі, з кліткою для щурів під пахвою, я піднявся ліфтом до операційної кімнати лабораторії. Я запропонував GRat44 кілька мигдалів із пакетика з щурячими снеками, але вона не виявила інтересу. Замість цього вона зникла в стружках, можливо, намагаючись вирити шлях з ситуації, наче невинний в'язень, що риє тунель. Я підняв її за хвіст, підтримуючи живіт іншим рукою, і обережно помістив її в пластикову коробку, що слугувала камерами для індукції анестезії. Я увімкнув клапан кисню, закрив кришку і підвищив обсяг випарника ізофлюрану — приладу, який виділяє анестезуючий газ, до максимального значення.
Протягом хвилини GRat44 почала хитатися, спираючись то на одну стінку пластикової камери, то на іншу. Я чекав, поки анестетик проникає глибше в її тканини. Ізофлюран діє на оболонки клітин по всьому мозку, але ми ще не знаємо, який з його багатьох ефектів є тим, що вимикає світло. Через ще дві хвилини щур був повністю непритомний, хоча все ще м'яко дихав.
Я забрав її назад до тваринного агресивного відділу і підключив клітку до розподільника вуглекислого газу. Я готувався натиснути кнопку, яка накачала б газ у клітку, витіснюючи кисень і, протягом п'яти хвилин, убивши гризуна.
Чому подвійне газування? Деякі дослідники тварин радять пропускати анестезію і відразу ж переходити до CO2. Вони вважають, що досвід керування та анестезії більш стресовий для тварини. Для мене задушитися до смерті звучить як більш стресова ситуація. Я на мить замислився перед тим, як увімкнути розподілювач. Чи дійсно необхідно вбивати вмираючу тварину? Чи було це більш гуманно, ніж дозволити їй прожити свої дні в болю?
Вбивство — це те, що потрібно зробити, якщо ми хочемо зрозуміти, як працюють тіла, але це не особливо заспокійливий факт, і я ніколи до цього не звикав. Евтаназія тварини змушує вас взяти на себе відповідальність, роблячи її смерть цілеспрямованим актом, а не пасивним процесом, що затягується з часом. Я натиснув кнопку "Увімкнути".
Дихання GRat44 стало рідкісним, кожен вдих глибшим, але більш напруженим. Коли п’ять хвилин минули, машина CO2 автоматично вимкнулася. На той момент лапи GRat44, раніше рожеві, як у "Кадилака", стали блідо-ліловими. Я поклав тіло в прозорий пакет і пакет у холодильник під столом — чистилище, де трупи чекають на спалення.
Я ніколи не дізнався, що GRat44 пережила в ті останні хвилини — чи приніс ізофлюран полегшення чи страх, чи був CO2 схожий на задушення або сон. Я діяв із якомога більшим врахуванням, враховуючи те, що не міг знати. Коли-небудь хтось зіткнеться з подібним моментом з машиною: модель, яку потрібно зняти, система, яку потрібно вимкнути, штучний розум, чиє внутрішнє життя залишається так само непрозорим, як у будь-якого щура.
Повернувшись за свій стіл, я натиснув "Відповісти всім" на електронного листа. "Привіт усім", — набрав я. "Я евтаназував цього щура".
Оригінал: www.noemamag.com