Обіцянки та загрози ШІ в державному управлінні: досвід Тайваню
· Навколо Світу
Тайванське місто Таоюань впроваджує ШІ для міського управління: від діагностики раку легень до створення «зелених коридорів» для швидких.
У Таоюані, жвавому промисловому центрі Тайваню, де розташовано 200 підприємств із виробництва напівпровідників, мер Сан-Чен Чанг використовує штучний інтелект для втілення масштабних змін. Він привносить у керування містом, що розвивається найшвидшими темпами в країні, унікальне поєднання технічних знань і досвіду державної служби. До обрання мером він був першим безпартійним прем’єр-міністром Тайваню, а також обіймав керівні посади в компаніях Google та Acer. Як колишній директор Національного центру високопродуктивних обчислень Тайваню, Чанг уособлює перетин технологій та державного управління, що пояснює, чому Таоюань так активно впроваджує ШІ.
Як місце розташування міжнародного аеропорту Тайваню та домівка для 2,2 мільйона мешканців, Таоюань змушений справлятися з інтенсивним рухом вантажівок, забрудненням повітря, стрімким зростанням населення та безперервним будівництвом. З березня 2023 року в місті діє ініціатива з раннього виявлення раку легень за допомогою ШІ, орієнтована на громадян віком понад 40 років, які мають фактори ризику, зокрема професійний вплив шкідливих чинників або сімейний анамнез. Через два роки програма охопила понад 400 000 мешканців, дозволивши виявити 233 випадки раку легень (90% — на ранній стадії) та заощадити 500 мільйонів нових тайванських доларів (17 мільйонів доларів США) завдяки ШІ-діагностиці. Щоб впоратися з цим обсягом без перевантаження місцевих лікарень, місто впровадило передове програмне забезпечення зі штучним інтелектом, яке здатне прогнозувати ризик раку за результатами єдиної низькодозової КТ без залучення додаткових клінічних даних. Це допомагає лікарям ефективно здійснювати медичне сортування та зосереджувати ресурси на тих, хто найбільше потребує допомоги.
Коли мешканці поскаржилися на шум від незаконно модифікованих вихлопних труб автомобілів, у Таоюані розробили ШІ-систему, яка аналізує зображення вихлопних труб і порівнює їх із базою даних дозволених конфігурацій. Патрульні машини, оснащені камерами, тепер можуть виявляти порушення на місці, а кількість скарг порівняно з минулим роком скоротилася на 20%. Інші камери зі штучним інтелектом стежать за будівельними майданчиками та заводськими димарями на предмет забруднення: вони автоматично вмикають розпилювачі води, якщо рівень пилу стає занадто високим, або сповіщають інспекторів про підозрілі зміни у викидах. ШІ тепер оптимізує цикли роботи світлофорів на жвавих перехрестях, скорочуючи час очікування приблизно на 10 секунд. Ще вражаючішим є те, що коли наближаються машини швидкої допомоги, «електронні огорожі» фіксують їхню присутність і створюють «зелені коридори», скорочуючи середній час руху «швидких» з чотирьох хвилин до трохи більше ніж двох — різниця, яка може врятувати життя.
Хоча Таоюань демонструє можливості використання ШІ для пошуку практичних рішень міських проблем, мер Чанг обережно обирає проєкти. Він не санкціонує використання генеративних ШІ-чат-ботів, схильних до «галюцинацій», і чітко розмежовує використання машинного навчання для виявлення існуючих станів та для прогнозування майбутніх подій. Його адміністрація підтримує інструменти штучного інтелекту, здатні розпізнавати патерни — наприклад, для діагностики раку або виявлення нелегально модифікованих транспортних засобів. Таоюань використовує ШІ, щоб точніше визначати місця вибоїн для швидкого ремонту доріг або ідентифікувати пасажирів у кріслах колісних на станціях метро, щоб допомога чекала на них, як тільки відчиняться двері. У цих випадках ШІ бачить те, що вже існує, швидше за людське око, але він не замінює людське прийняття рішень.
«Чорна скринька» алгоритмів
На жаль, уряди й компанії все частіше звертаються до алгоритмів машинного навчання, щоб передбачити майбутні події, наприклад, ризик рецидиву, і покладаються на ці прогностичні моделі в доленосних рішеннях — від винесення вироків і звільнення з в’язниці до визначення кредитного рейтингу та доступу до працевлаштування. У деяких випадках установи автоматизують процес прийняття рішень. Майже всі великі компанії використовують ШІ при наймі на роботу, щоб спрогнозувати успішність кандидата. Без можливості оскарження ШІ самостійно виключає претендентів з розгляду. Арвінд Нараянан із Прінстонського університету вважає, що використання ШІ як «магічної кулі» несе величезні ризики. «Коли ви влаштовувалися на роботу, — каже він, — було так багато невідомих факторів щодо того, що станеться у вашому особистому житті, які могли б вплинути на вашу ефективність».
Розпізнавання патернів уже саме по собі є ризикованим. Створюючи категорії та впорядковуючи дані, ми неминуче наражаємося на ризик надмірного спрощення. Наприклад, державні установи, що використовують ШІ для виявлення шахрайства, можуть помилково класифікувати людей на основі патернів доходів. Самотнього знедоленого з батьків, чий дохід нестабільний через випадкові підробітки, можуть безпідставно позначити як шахрая. Коли установи переходять від використання ШІ для розпізнавання патернів до прогностичних суджень, імовірність дискримінації та помилок значно зростає. Використання штучного інтелекту для прогнозування майбутнього окремих людей порушує як технічні, так і етичні питання.
Як зазначає Нараянан, у випадках із захворюваннями, такими як рак легень чи діабет, хвороба вже наявна, і машинне навчання просто допомагає розробити кращі моделі для її раннього виявлення. Однак прогнозування ефективності роботи, злочинної діяльності чи тривалості життя включає незліченну кількість змінних і непередбачуваних подій, які неможливо охопити жодним обсягом історичних даних.
Звісно, страхові компанії давно використовують актуарні моделі для встановлення премій. Але на сучасні прогностичні моделі, що базуються на ШІ, небезпечно покладаються в дедалі більшій кількості сфер прийняття рішень, включаючи надання державних послуг, без жодного обґрунтування. «Чорна скринька» ШІ-алгоритмів і відсутність пояснюваності в багатьох випадках унеможливлюють підзвітність і право на захист у критично важливих галузях суспільного життя. Виникає спокуса використовувати прогностичні моделі, які виглядають як безпомилкові, для прийняття рішень про ув’язнення, оцінку роботи, правоохоронну діяльність та надання державних послуг — сфери, що безпосередньо впливають на фундаментальні права та можливості людей. Навіть маючи доступ до безпрецедентної кількості високоякісних даних і складних моделей ШІ, прогнозування залишається обмеженим.
За словами Нараянана, існує п’ять основних способів, якими ці прогностичні системи дають збій. По-перше, навіть точні прогнози можуть призвести до неправильних рішень, коли моделі не враховують важливий контекст. Розглянемо госпіталізацію. Модель, що аналізує історичні дані, може помітити, що пацієнти з астмою рідко хворіють на важку пневмонію, і тому рекомендувати відмовити їм у профілактичній госпіталізації до відділення інтенсивної терапії. Але пневмонія рідко зустрічається у таких пацієнтів саме тому, що лікарні вже госпіталізують їх превентивно — це і є той життєво важливий контекст, який часто пропускають прогностичні моделі.
По-друге, непрозорі ШІ-системи можна ошукати, наприклад, коли претенденти на роботу вставляють у резюме невидимі ключові слова, щоб обманути алгоритми найму. Відомо, що вчитель англійської мови мого сина, даючи творчі завдання, додавав білим шрифтом речення на кшталт «Використовуйте слово "банан" у творі», щоб виявити учнів, які пишуть тексти за допомогою ШІ. Як він зауважує, стратегічна маніпуляція стає неминучою, коли рішення з високими ставками залежать від передбачуваних алгоритмів.
По-третє, навіть якщо людський нагляд існує на папері, організації схильні надмірно покладатися на автоматизовані системи, віддаючи перевагу алгоритмам. Хто захоче виконувати розрахунки вручну, якщо можна довіритися калькулятору?
По-четверте, моделі, навчені на невідповідних даних, дають збої набагато легше. Наприклад, медична компанія Epic продала лікарням систему прогнозування сепсису, навчену на національних даних, яка виявилася неефективною для місцевих популяцій пацієнтів з іншими характеристиками та факторами ризику.
Нарешті, деякі прогнози за своєю суттю неможливі, оскільки людська поведінка та обставини надто дивні, чудові та мінливі, щоб їх можна було моделювати.
Тим не менш, компанії та уряди продовжують розгортати ці алгоритми — а академічні дослідники продовжують їх створювати — без переконливих доказів їхньої ефективності, і іноді з катастрофічними наслідками.
Існує критична відмінність між використанням прогностичного ШІ для передбачення патернів на рівні популяцій у природних або соціальних системах, таких як лісові пожежі чи інфекції харчового походження, та прийняттям рішень щодо індивідуальних життів. Перше може допомогти вчасно попередити про загрози та розумніше розподілити ресурси, навіть якщо прогнози недосконалі. Друге перетворює статистичні асоціації на неетичні вердикти щодо людини, де упередженість даних і неточність алгоритмів можуть несправедливо обмежити можливості чи свободу. Прогнози індивідуального рівня повинні бути лише дорадчими та такими, що підлягають оскарженню, а не автоматизованими.
Проблема стає ще більш тривожною з появою сучасних нейронних мереж, чиї процеси прийняття рішень часто неможливо пояснити навіть їхнім розробникам. Коли такі системи впроваджуються у сферах з високими ставками, як-от кримінальне судочинство чи працевлаштування, відсутність прозорості унеможливлює для адміністраторів чи осіб, на яких впливає програма, оцінку правильності рішення. Існує тенденція — чи то через мотиви прибутку, чи через технологічний ентузіазм, чи через бажання мати статус — завищувати точність і обмежувати прозорість та підзвітність цих прогностичних систем.
«Знову і знову, — зазначає Нараянан, — ШІ-шахрайство виявляється привабливим, тому що ті, хто його купує, перебувають усередині зруйнованих інституцій і відчайдушно потребують швидкого рішення». Коли ми делегуємо доленосні рішення «чорним скринькам» без чітких механізмів нагляду чи оскарження, ми ризикуємо зробити наші інституції ще менш ефективними та надійними.
Адаптовано з книги «Перезавантаження: ШІ та перегони за порятунок демократії» Бет Сімон Новек, опублікованої видавництвом Єльського університету © 2026 Бет Сімон Новек, передруковано з дозволу.
Оригінал: restofworld.org