Ми вже постлюди

· Майбутнє

Ми вже постлюди

Ми вже стали постлюдьми, оскільки наше життя нерозривно пов'язане з обчислювальними мережами та технологіями, що створюють розподілене мислення.

Від Кремнієвої долини до Ватикану, за кухонними столами та в кабінетах можновладців світ хвилюється через питання: чи зможуть люди контролювати створений ними штучний інтелект? Але це порушує інше питання: що означає бути «людиною»?

Одним із шляхів до розв'язання цієї загадки є те, що конфуціанська філософія називає «виправленням імен» — називання речей такими, якими вони є насправді.

На думку Н. Кетрін Гейлс, авторки книги «Від бактерій до ШІ: майбутнє людини з нашими нелюдськими симбіонтами», ми вже є «постлюдьми».

Як вона пояснила Клер Вебб у нещодавньому подкасті Futurology, поняття «людини» є культурно та історично зумовленим. Сьогодні, за її словами, досі панує погляд, що виник за часів Просвітництва, де людина постає як автономна, унікальна істота з «раціональною свободою волі».

Для Гейлс це ніколи не було правдою, оскільки люди ніколи не існували як відокремлені сутності, а завжди були «вплетені в павутину» навколишнього середовища, або «Umwelt». Саме симбіотичні взаємодії в межах цієї взаємозалежності визначають знаки, які ми сприймаємо, змістовну інтерпретацію інформації, яку ми обробляємо, рішення, які ми ухвалюємо, та дії, які визначають, хто ми є.

Найочевиднішим прикладом нашої реляційної взаємозалежності з нелюдським життям є кишкові бактерії всередині нас, без біологічних функцій яких ми б загинули.

Хибна ідея про замкнену людську автономію сьогодні є ще менш правдивою, стверджує вона, оскільки «ми вже перебуваємо у глибоко симбіотичних стосунках з обчислювальними засобами — чипами, маршрутизаторами, пристроями, мікрохвильовими печами тощо. Вони стали контролерами, процесорами та розповсюджувачами потоку інформації», у який ми нерозривно вплетені — і без якого, у розвинених суспільствах, ми не змогли б вижити. Якби все це зупинилося, ми не змогли б транспортувати їжу, літати літаками чи керувати фондовим ринком. Ми б буквально опинилися в темряві.

Як описує Гейлс, цей стан рівнозначний «розподіленому пізнанню та розподіленому прийняттю рішень» між людськими та нелюдськими учасниками. Вона називає це «когнітивними ансамблями» або «мережевим інтелектом».

Коротше кажучи, ми є «постлюдьми», тому що нерозривно об'єднані в «інтегровану когнітивну структуру» з обчислювальними засобами.


Наближення до Сингулярності

Цей постлюдський стан, здавалося б, віддаляє нас на певну відстань на континуумі до Сингулярності — повної злиття людей і розумних машин. За визначенням, цей симбіоз розмиває межу того, хто або що контролює ситуацію.

У пов'язаному з цим подкасті Futurology Кевін Келлі каже Нільсу Гілману, що «ми вже в Сингулярності». Зі своєї північнокаліфорнійської «вежі» Келлі десятиліттями спостерігає за хвилями технологічних інновацій та культурних трансформацій, починаючи ще з часів, коли він був співзасновником The Whole Earth Catalog разом зі Стюартом Брендом, а потім журналу Wired.

Під словами «вже в Сингулярності» Келлі має на увазі, що злиття людини та машини — це процес, що триває прямо зараз. Він не перетинає раптово якийсь екстатичний поріг, а поступово розгортається разом із прискореним поглибленням «інтегрованої когнітивної структури», про яку говорить Гейлс.

Ми не можемо чітко побачити масштабні зміни, що відбуваються зараз, у їхньому піксельному вигляді, але зможемо розгледіти повну картину того, що сталося, лише з перспектив майбутнього. Наша точка зору затьмарена, каже Келлі, тим фактом, що «ми живемо всередині горизонту подій».

Для Келлі Сингулярність — це не закритий процес із фіксованою кінцевою точкою, а постійно відкрита до появи нових творчих форм і несподіваних симбіотичних комбінацій система. Це те, що вчений зі сфери теорії складності Стюарт Кауфман називає «суміжним можливим», яке неможливо передбачити. «Сингулярність завжди близько», — як висловлюється Келлі, але вона назавжди залишається на невловимому горизонті.


Природний інтелект

Гейлс відходить від трансгуманістичного бачення Сингулярності, де людська свідомість одного дня завантажується на неорганічний носій, відмінний від біологічного тіла.

Вона зазначає, як і багато інших, що штучний інтелект сам по собі не може досягти свідомості.

Це пов’язано з тим, що йому бракує «природного інтелекту», який може виникнути лише з надзвичайної складності багатовікової еволюції втілених людей, що адаптуються до навколишнього середовища, щоб вижити й процвітати. Якими б потужними не були великі мовні моделі, мова, яка за своєю суттю містить той виразно людський досвід, не може бути змістовно перенесена на неорганічний носій, позбавлений відповідного контексту.

ШІ не може знати «істини на рівні землі» — втіленого інтелекту, який, у своїй основі, є гомеостатичним прагненням до виживання. Нейробіолог Антоніо Дамасіо стверджує, що саме це є коренем емоцій і самосвідомості.

ШІ може використовувати логічні ланцюжки міркувань для досягнення цілей, поєднуючи слова, на яких його навчали, але значення тут зовсім інше. Саме в цьому полягає небезпека ШІ: вони стають потужними акторами завдяки «рекурсивному самовдосконаленню», яке не має підґрунтя у живому досвіді.

Тому їм бракує вкоріненої первинної підготовки, яка формує моральне судження. За словами Папи Франциска: «Так звані штучні інтелекти не мають досвіду, не мають тіла, не відчувають радості чи болю, не дорослішають через стосунки і не знають зсередини, що означають любов, праця, дружба чи відповідальність».

Хоча моделі ШІ можуть «імітувати мову» та «симулювати емпатію та розуміння», каже він, «вони не розуміють того, що продукують».

Те, що люди безцінно привносять до «інтегрованої когнітивної структури», — це, за словами понтифіка, «цілісна» природа людини як «цілісної особистості» у всій сукупності стосунків з іншими та природою, що її становлять. «Людина, — каже він, — це не система алгоритмів: вона — створіння, стосунки, таємниця».

У цьому сенсі збереження «людського контролю» над ШІ означає цілеспрямоване й наполегливе впровадження цілісного елемента, почерпнутого з живого людського досвіду, у наше переплетення з інтелектуальними машинами.

Виклик полягає не лише в тому, щоб «роззброїти» здатність агентів ШІ діяти самостійно, до чого закликав Папа, а й у тому, щоб «озброїти» цілісну концепцію людини всередині тієї інтегрованої когнітивної структури, в якій ми вже перебуваємо.

Оригінал: www.noemamag.com

Про Що? — новини науки, технологій і світу