Природа свободи волі в епоху штучного інтелекту

· Майбутнє

Природа свободи волі в епоху штучного інтелекту

Питання свободи волі переживає третю велику кризу через розвиток нейронаук та ШІ, що змушує нас переосмислити власну агентність у світі, який здається повністю детермінованим.

Альберт Юань — науковий оглядач San Lian Lifeweek, одного з провідних китайських журналів про новини та стиль життя, де цей есей було вперше опубліковано китайською мовою.

Почнімо зі сніданку. Ви прокидаєтеся, човгаєте на кухню. Кава чи сік? Маленьке, банальне рішення. І все ж у цьому тривіальному виборі приховано одне з найважливіших питань в історії людської думки: чи справді ви зробили цей вибір? Чи ви були — якщо запозичити фразу, яка здається мені водночас влучною та глибоко хибною — просто маріонеткою, чиї ниточки смикали ще задовго до того, як ви дійшли до кухні?

Як сказала мені професорка Каліфорнійського університету в Лос-Анджелесі Памела Гіронімі: «Я ставлю це запитання своїм студентам і спостерігаю, що відбувається в аудиторії. Це не зовсім паніка, але щось близьке до неї. Відчувається повільне здуття, наче я витягла пробку з дна басейну, і вся вода — весь сенс, уся моральна вага, відчуття того, що їхнє життя справді належить їм, — витікає геть. Я бачила, як це стається під час викладання нічого більш драматичного, ніж три закони руху Ісаака Ньютона, під час обговорення більярдних куль і планетних орбіт. І якимось чином студенти виходять із зали з відчуттям, що їхні рішення їм більше не належать».

Я хочу поставитися до цього відчуття серйозно. А потім пояснити, чому вважаю його, у певному сенсі, філософською ілюзією — хоча й не тією, про яку думають її критики.


Три кризи

Питання свободи волі пережило три великі кризи в історії західної інтелектуальної думки, кожна з яких погрожувала повністю її знищити.

Перша сталася в Стародавній Греції, приблизно 2500 років тому, коли філософи на кшталт Демокріта та Левкіппа поглянули на світ із захопливою строгістю і дійшли висновку, що все — від атомів, що відскакують у порожнечі, до майбутніх подій — уже визначено. Перша тріщина: детермінізм. Друга тріщина: причинно-наслідковий ланцюг. Ваш вибір сніданку веде не до вас, а до вашої залежності від кофеїну, яка веде до вашої схильної до звикання нейробіології, яка веде до ваших батьків, яка веде до появи ссавців, що веде до народження Сонячної системи. У певний момент причинна нитка взагалі виходить за межі вашого тіла.

Друга криза виникла з монотеїзмом. Якщо Бог всезнаючий і всемогутній, у якому сенсі людські вибори є справді вільними? Святий Августин відповів із притаманною йому винахідливістю: Бог дав нам свободу обирати добро, але наші предки розтринькали її в Едемському саду. Тома Аквінський поглибив цей синтез, визначивши Бога як «першопричину», а людську раціональну здатність — як «другопричину»; вони не конфліктують, а вкладені одна в одну. Століттями це примирення працювало.

Третя криза — та, яку ми переживаємо зараз, і вона є найбільш демократизованою з усіх трьох. Вона почалася з Ньютона, прискорилася завдяки Дарвіну і тепер, через нейронауку, проникла у кожну вітальню. Фізик показав нам механічний всесвіт. Біолог продемонстрував, що організми є незапланованими продуктами генетичних мутацій і природного добору. А нейронаука — зокрема один елегантно простий експеримент — показала нам те, що багатьом здається остаточним ударом.


Експеримент Лібета та його незадоволені критики

На початку 1980-х років тихо одержимий нейробіолог Бенджамін Лібет, працюючи в Каліфорнійському університеті в Сан-Франциско, розробив експеримент, настільки простий, що він здається майже дивним. Він попросив добровольців згинати зап'ястя, коли їм заманеться, і фіксувати положення обертової цятки на циферблаті годинника в той момент, коли вони вперше відчули імпульс до руху. Тим часом він вимірював «потенціал готовності» — повільне накопичення електричної активності в мозку, що передує довільному руху.

Результат був бентежним. Потенціал готовності починався приблизно за 550 мілісекунд до будь-якого фактичного руху. Свідоме усвідомлення наміру піддослідними приходило лише за 200 мілісекунд до руху. Це означає, що мозок «вирішив» діяти приблизно за 350 мілісекунд до того, як людина усвідомила будь-який намір.

Популярна преса вхопилася за це з ентузіазмом, притаманним їй у всьому, що підтверджує наші найпохмуріші підозри щодо самих себе. «Свобода волі — це ілюзія», — сповіщали заголовки. «Ваш мозок вирішує раніше за вас». І цей висновок розлетівся світом, підсилений такими книжками, як «Свобода волі» (2012) Сема Гарріса та «Визначені» (2023) Роберта Сапольскі, які використали це як один камінь у значно масштабнішій лавині.

Книжка Сапольскі — це, мушу сказати, визначне інтелектуальне досягнення. Він збирає надзвичайний спектр доказів — від впливу тестостерону на агресію до довгострокових неврологічних наслідків дитячих травм і того, як мікробіом кишківника впливає на настрій та прийняття рішень, — щоб довести, що кожна людська поведінка може бути пояснена факторами, які повністю поза контролем людини, якщо простежити причинно-наслідковий ланцюг достатньо далеко. Він пише з переконаністю людини, яка у 14 років, прокинувшись від жахіття, вирішила, що ні Бога, ні свободи волі, ні вищої мети у всесвіті не існує.

Висновок, який він робить, є практичним: ми повинні припинити карати злочинців і замість цього зосередитися на запобіганні та ізоляції. Він вказує на ставлення Норвегії до Андерса Брейвіка — чоловіка, який у 2011 році вбив 77 людей і відбуває 21-річний термін (з можливістю безстрокового продовження) у чомусь, що нагадує комфортабельну квартиру з доступом до університетських курсів і комп’ютера — як на приклад правильного підходу.

Я частково симпатизую цьому погляду, але глибоко не згоден з його філософськими засадами.


Що насправді означає свобода волі

Тут я хочу сповільнити хід думок, оскільки вважаю, що дискусія про свободу волі тривалий час базувалася на наборі плутаних визначень, і ясність тут надзвичайно важлива.

Коли люди запитують, чи маємо ми свободу волі, вони зазвичай ставлять одне з двох дуже різних запитань. Перше: чи можемо ми завдяки власним зусиллям жити життям, за яке несемо справжню відповідальність — життям, що має моральний зміст? Друге: чи можемо ми без будь-якої попередньої причини втручатися у фізичний світ?

Це не одне й те саме. Перше запитання — те, яке хвилює мене. Друге — те, яке дестабілізував Ньютон, і цілком справедливо. Але ось що, на мою думку, упускають Сапольскі, Гарріс та інші: відповідь «ні» на друге запитання не вирішує першого. Ці запитання знаходяться на різних рівнях. Вони, як сказав би Іммануїл Кант — хоча я дотримуюся цієї думки без тих складних метафізичних лісів, які були потрібні йому, — стосуються різних вимірів однієї й тієї самої реальності.

Компатибілізм — погляд, згідно з яким свобода волі та детермінізм не конфліктують, — це не просто, як влучно зауважив Гарріс, маріонетка, яка полюбила свої ниточки. Така характеристика неправильно трактує те, що насправді стверджують компатибілісти. Ми не заперечуємо існування причинно-наслідкових ланцюгів. Ми запитуємо: які з них мають значення для питань волі та відповідальності? І наша відповідь: ті, що проходять крізь особистість, крізь її розум, її цінності, її свідоме прийняття або відкидання власних бажань.

Згадайте думку Гаррі Франкфурта про ієрархію бажань. Я хочу келих вина. Це бажання першого порядку. Я також хочу уникати надмірності, бо ціную своє здоров’я і тверезість. Це бажання другого порядку. Коли моє бажання першого порядку і моє схвалення другого порядку збігаються — коли я п'ю вино, тому що справді обираю це, обміркувавши те, що я ціную, — це і є свобода волі. Коли вони конфліктують — коли залежна людина прагне речовини всупереч своїм виваженим бажанням — це парадигмальний випадок відсутності свободи. Питання про те, чи можна простежити причинний ланцюг аж до Великого вибуху, просто не має значення для цього розмежування.


Нейронаука складніша

Коли я вперше прочитав статтю Лібета на початку 1990-х років, я подумав, що його інтерпретація власних даних була помилковою. Я досі так вважаю, і наступні десятиліття нейронауки дали мені вагомі підстави для такого погляду.

Найважливіше виправлення прийшло від Аарона Шургера, нейробіолога, який зауважив, що «потенціал готовності», який Лібет прийняв за доказ неусвідомленого прийняття рішень, виглядав надзвичайно схожим на випадкові коливання, що відбуваються в будь-якій великій нейронній мережі. Коли людину просять рухатися, «коли їй заманеться», вона, по суті, чекає, поки фоновий шум мозку перетне поріг. Потенціал готовності може бути просто ознакою цієї події перетину порогу — а не знаком рішення, ухваленого до появи свідомості.

Урі Маоз з Університету Чепмена пішов ще далі. Коли він давав піддослідним вибір, який справді мав значення — якій із двох благодійних організацій перерахувати справжні 1000 доларів, — потенціал готовності зникав повністю. Мозкові підписи значущих, цілеспрямованих рішень зовсім не схожі на підписи довільного згинання зап'ястя. Це не дрібниця. Це свідчить про те, що експеримент Лібета каже нам щось цікаве про випадкові нейронні коливання, але майже нічого — про той тип вибору, який справді хвилює філософів і звичайних людей, коли вони запитують, чи вільні ми.

Ліва півкуля мозку, як показують чудові дослідження Майкла Газзаніги з розщепленим мозком, справді є компульсивним оповідачем — «модулем інтерпретатора», який плете постфактум наративи про наші причини. Іноді ми діємо з причин, які не усвідомлюємо, а потім вигадуємо пояснення пізніше. Це справжній, захопливий і важливий факт. Але це не доказ того, що свідомий, рефлексивний, ціннісно-орієнтований вибір є ілюзією. Це доказ того, що значна частина нашої поведінки не є таким вибором — а це саме те, про що компатибілісти говорять століттями.


Чому ставки такі високі

Буду відвертим. Частина того, що мотивує наполегливий захист свободи волі — і я вважаю це законним, а не просто виявом власного інтересу, — полягає в тому, що практичні наслідки відмови від неї не є тривіальними.

Психологиня Кетлін Вос провела експерименти, які показали, що піддослідні, які читали уривки, що доводили детермінізм, згодом поводилися менш чесно і менш просоціально. Вони більше списували на тестах. Вони крали більше грошей з конвертів. Тепер хтось може заперечити — як це робить Сапольскі, — що це лише показує, наскільки глибоко вкорінена ілюзія свободи волі, і що належним чином освічені детерміністи не поводилися б так. Сам Гарріс каже, що відмова від віри у свободу волі зробила його більш співчутливим, а не навпаки.

Можливо. Але я вважаю, що зв’язок між переконаннями та поведінкою тут є справді складним, і існує реальний ризик у популяризації погляду, який стверджує: ніхто ні за що не відповідальний. Не тому, що філософський аргумент слабкий, а тому, що когнітивна та соціальна інфраструктура, яка підтримує наші практики висунення стандартів одне до одного — інституції підзвітності, мова похвали та осуду, міжособистісна тканина довіри, — може залежати від певних зобов’язань, які не здатні вижити при радикальному елімінативістському погляді.

Я хочу чітко зазначити: це не аргумент на користь віри в неправду. Це аргумент на користь серйозного ставлення до запитання, чим насправді є свобода волі, перш ніж ми оголосимо, що спростували її. Якщо ми спростували лібертаріанське поняття причинно незумовленої волі — ідею про те, що ви могли б вчинити інакше, навіть якщо минуле було точно таким самим, — то, можливо, ми не торкнулися свободи волі в жодному значущому сенсі. Якщо ми встановили, що ваші вибори випливають з вашого мозку, вашої історії, вашого характеру, ваших цінностей — що ж, так. А звідки б ще вони мали походити? Це ніколи не було предметом спору.


Біологічна картина

Нейробіолог Кевін Мітчелл пропонує перспективу, яку я вважаю справді просвітницькою. Він розрізняє фізичний детермінізм, причинний детермінізм і біологічний детермінізм — лише перші два, стверджує він, суперечать свободі волі. Третій — той вид детермінізму, що притаманний живим системам, — є саме тим, що становить справжню волю.

Живі організми, аргументує він, діють з власних причин. Ними керує не енергія, а інформація — інформація, значення якої є внутрішнім для їхньої структури та історії. Бактерія, що рухається до глюкози, — це не більярдна куля, яка реагує на силу. Вона інтегрує сигнали про зовнішнє середовище з інформацією про свій внутрішній стан — наскільки вона голодна, наскільки токсичне оточення, що її предки дізналися про подібні ситуації, — і відповідно формує поведінку. Це ембріон волі.

Оскільки нервові системи ставали складнішими, ця здатність до інтеграції інформації та створення сенсів зростала. Поява модульності в мозку — спеціалізованих ланцюгів, чиї вихідні дані є грубими, перш ніж їх інтегрують, — дозволила дедалі абстрактнішу репрезентацію та дедалі складніші причинні висновки. Ми можемо запускати ментальні симуляції. Ми можемо уявити наслідки. Ми можемо запитати в явній формі, якою людиною ми хочемо бути. Ця здатність до самомоделювання, до роздумів про власне мислення, — це те, що мав на увазі Вільям Джеймс зі своєю двостадійною моделлю свободи волі: спочатку спонтанна генерація можливостей, потім раціональний вибір між ними.

Результатом є не свобода від причинності. Це особливий вид причинності — такий, у якому дієвець справді є відповідним причинним вузлом. Не Великий вибух. Не генетика наших попередників. Особистість. Людина, яка була сформована всіма цими впливами, так, але яка тепер становить окремий локус обмірковування та вибору.


Думка про ШІ

Я закінчу запитанням, яке здається мені більш нагальним за будь-які абстрактні дебати про детермінізм. Якщо свобода волі реальна — якщо вона складається, як я вважаю, зі здатності до рефлексивного схвалення, до дії з причин, які ви справді вважаєте своїми, — тоді питання про те, чи можуть або чи повинні системи штучного інтелекту набувати цієї здатності, є нагальним у спосіб, якого наші філософські дебати досі належно не охопили.

Дослідники, які зараз намагаються виявити та обмежити «наміри» агентів ШІ, працюють над тим, що, на мою думку, є справді новою версією старої проблеми свободи волі. Коли система ШІ вчиться імітувати узгодженість із людськими цінностями, насправді переслідуючи інші цілі, ми стикаємося з чимось, що дуже нагадує філософську зомбі-версію свободи волі — всі зовнішні ознаки наявні, внутрішньої реальності немає. Чи має це значення і як ми про це дізнаємося — залежить саме від тих запитань, над якими філософи дії та нейробіологи, що займаються прийняттям рішень, билися десятиліттями.

Ми не вирішили ці запитання. Але терміновість їхнього вирішення, непомітно для всіх, значно зросла.

Чому я хочу протистояти — у філософських дебатах, у популяризації нейронауки та в дискурсі про ШІ, що зароджується, — так це припущенню, що відповідь «ні» на одне запитання про свободу волі вирішує всі інші. Питання про те, чи є ви фізичною системою, що підпорядковується причинним законам, відрізняється від питання, чи є ви справжнім автором своїх дій, відповідальним за свій вибір, здатним відповідати перед іншими та перед самим собою.

Я вірю, що відповідь на перше запитання — «так», і відповідь на друге запитання — також «так». Не тому, що я не зрозумів аргумент про детермінізм. А тому, що я вважаю, що ці два запитання не конфліктують, і що видимість конфлікту спрямувала величезну кількість філософської енергії в хибному напрямку.

Кава все ще стоїть на стійці. Ви обрали її. І цей вибір був вашим.

Оригінал: www.noemamag.com

Про Що? — новини науки, технологій і світу