Дослідник впровадив 2 мільйони «цифрових пасток» у ланцюг постачання ШІ та виявив катастрофу з приватністю
· Майбутнє
Масштабний експеримент показав, що сучасні AI-сервіси та посередники безконтрольно зливають конфіденційні дані користувачів, ігноруючи налаштування приватності.
Дослідник безпеки Ейч-Ді Мур виявив масові витоки конфіденційних даних через мережу сервісів штучного інтелекту. У межах експерименту він відправив близько 2 мільйонів запитів, що містили унікальні «цифрові пастки» — спеціально створені AWS-ключі та інші секрети — паролі, унікальні посилання, DNS-імена й посилання на приватні git-репозиторії, які раніше ніде не використовувалися. Результати показали, що екосистема ШІ-посередників, таких як «маршрутизатори» запитів, працює з даними користувачів вкрай ненадійно.
За словами Мура, який обіймає посаду директора з досліджень у фірмі Dragos, аналіз виявив не лише випадкові витоки, а й цілеспрямовані зловживання. Як мінімум три ШІ-провайдери були зламані хакерами, які перехоплювали вхідні запити ще на етапі їх надходження до системи. У деяких випадках ключі викрадали навіть із запитів, які провайдер відхилив до запуску моделі, що вказує на злам на «вході» до інфраструктури провайдера. Зловмисники використовували отримані дані для спроб доступу до хмарних ресурсів AWS, зокрема до S3-бакетів та систем управління секретами.
Проблеми конфіденційності та «невидимі» витоки
Окрім зламаних провайдерів, дослідник зафіксував витоки, спричинені самими посередниками, які реєстрували вміст запитів у своїх логах. Також виявилися випадки ігнорування налаштувань конфіденційності. Навіть якщо користувач вибирав опцію «без збереження даних» (Zero Data Retention), ці дані все одно могли потрапляти до третіх сторін.
«Що ми виявили — це свідчення порушень безпеки, крадіжок промптів і повсюдних невдач у захисті даних клієнтів», — зазначив Ейч-Ді Мур.
Одним із найбільш показових прикладів стала практика китайської ШІ-лабораторії, чиї системи отримували секретні URL більш ніж із половини всіх запитів, а серед запитів із позначкою «без збору даних» або ZDR — приблизно з двох третин. Цікаво, що запити, відправлені через американських посередників, також пересилалися до цієї лабораторії, тому користувачі, які сподівалися залишити свої дані в межах США, фактично втрачали цей контроль.
Експерт наголошує, що наразі архітектура AI-маршрутизаторів передбачає розшифрування запитів на кожному етапі шляху, що створює багато «точок ризику». На думку Мура, найефективнішим способом зменшити ризик витоків Мур називає розміщення моделей на власних серверах, а за неможливості такого рішення — отримувати послуги безпосередньо від провайдера першого рівня, де є один чіткий контракт та політика конфіденційності.
«Найбільш ефективний засіб запобігання витокам — хостинг моделей на власних серверах», — підсумував Мур. Проте він визнає, що для багатьох користувачів такий підхід залишається занадто дорогим та складним.
За матеріалами Ars Technica