Енцикліка Папи піднімає питання про формування ШІ
· Навколо Світу
Папа Лев XIV опублікував енцикліку про важливість етики в ШІ, наголошуючи на загрозі концентрації влади.
On Monday, Папа Лев XIV оприлюднив свій перший енциклічний лист під назвою Magnifica Humanitas, що означає "велична людяність". Лист на 83 сторінки присвячений темі “забезпечення безпеки людської особистості в еру штучного інтелекту” і попереджає про те, що влада AI не повинна концентруватися в руках кількох приватних компаній, що робочі місця потрібно захищати, а також має бути більший нагляд і регулювання.
Крістофер Олах, співзасновник Anthropic, був присутній на брифінгу і отримав згадку від Папи. Це не дивно, адже компанія нещодавно приймала більше десятка християнських лідерів для переговорів у своєму офісі в Сан-Франциско. Представники Meta, Google та Amazon також проводили зустрічі у Ватикані.
Чому великі технологічні компанії намагаються залучити Папу? Технології змінили способи, якими ми святкуємо та шукаємо духовні вказівки, адже релігійні лідери та звичайні люди обіймають платформи соціальних медіа та AI-чат-ботів. Відсутність міжнародних нормативів і стандартів для AI, можливо, веде до того, що компанії та організації шукають відповіді в релігії. Але хто вирішує, які релігії мають право голосу, і хто встановлює правила?
Для 1,4 мільярда католиків у світі вказівки з боку Папи є критично важливими. Багато з них живуть у Південній Америці, а швидше за все зростаючі регіони знаходяться в Азії — переважно в Індії та на Філіппінах — і в Африці. Саме в цих регіонах знаходяться більшість працівників, які виконують важливу роботу з низькою зарплатою з анотації та маркування даних для AI. Тут також видобувають критично важливі мінерали для виготовлення чіпів і будують дата-центри, які споживають воду та електрику, всупереч зростаючому опору в західному світі.
Попри те, що християнство є найпоширеніша релігія у світі, іслам є найшвидше зростаючою, згідно з дослідженнями Pew Research. Індуїзм є найбільшою релігією в найбільш чисельній країні світу — Індії, тоді як лише приблизно чверть китайців практикують релігію.
За даними нових досліджень, багато популярних моделей AI демонструють упередженість на користь католицизму й проти ряду інших релігійних традицій, коли їх запитують про перехід в іншу віру. На початку цього року Єгипет заборонив використання штучного інтелекту для трактування Корану через занепокоєння, що чат-боти, такі як ChatGPT та Claude, сприяють віддаленню мусульманських користувачів від своїх спільнот і наближенню до західних цінностей.
Релігія є глибоко розділовим питанням, і як агностичний індус, я не маю відповідей, тому звернувся до експерта. Брайан Патрік Грін, директор з етики технологій у Центрі прикладної етики Марккула Університету Санта-Клари, був залучений до переговорів в Anthropic. Я запитав його: чи повинна релігія грати роль у формуванні AI? І в чому ризик переважання однієї релігії над іншими?
“Незалежно від того, чи повинна релігія відігравати роль у формуванні AI, вона вже це робить”, — сказав мені Грін. Дані, зібрані з інтернету для навчання великих мовних моделей, включають релігійні священні тексти, проповіді, гомілії, промови та інші тексти, додав він.
“AI повинен бути здатним служити всім, а це означає, що він повинен знати про релігії світу”, — сказав Грін. Але культури також можуть діяти як релігії, і культури США та Китаю вже формують системи AI, додав він.
“Імовірно, з часом системи AI стануть налаштованими на культури, які мають достатньо влади та багатства, щоб упроваджувати або оплачувати таку настройку”, — зазначив Грін. “Тож будуть конфлікти між AI, які відображають певні моральні цінності”.
Чи є альтернативи? Міжнародний альянс віри за безпечні громади, що базується в Женеві, минулого року зібрав лідерів різних релігійних груп та компаній, включаючи Anthropic і OpenAI, у Нью-Йорку, щоб обговорити, як впровадити мораль і етику в AI. Більше таких обговорень заплановано в Пекіні, Найробі та Абу-Дабі.
Можливо, вони можуть стати "багатством голосів і бачень", які згадуються в енцикліці Папи, що можуть однаково сприяти формуванню AI.
Оригінал: restofworld.org