Ізраїльський стартап Zeroport пропонує фізично обмежити автономні AI-агенти

· Майбутнє

Ізраїльський стартап Zeroport пропонує фізично обмежити автономні AI-агенти

Ізраїльський стартап Zeroport розробив апаратну систему захисту, яка фізично блокує дії автономних AI-агентів, якщо вони намагаються вийти за межі дозволеного.

Ізраїльський стартап Zeroport розробив апаратну платформу для контролю автономних систем штучного інтелекту. Компанія пропонує встановлювати спеціальні фізичні бар'єри між середовищем ШІ та корпоративними мережами, щоб запобігти несанкціонованим діям агентів на рівні заліза.

Фізичний захист від «агентного дрейфу»

За словами генерального директора стартапу Джозефа Герца, традиційні програмні засоби безпеки не пристосовані до автономності ШІ. На відміну від людей, інтелектуальні агенти здатні самостійно обробляти інформацію та виконувати завдання, що створює ризики, наприклад, так званого «агентного дрейфу» — коли ШІ поступово виходить за межі початкових повноважень, намагаючись отримати доступ до систем або даних, які не були передбачені завданням.

Технологія Zeroport полягає у використанні власних мікросхем та плат, що діють як незалежний контрольно-пропускний пункт. Вони розміщуються на межі між хмарними середовищами, центрами обробки даних та внутрішніми мережами компаній. У разі виявлення аномалії система фізично розриває з'єднання.

«Якщо виявляється аномалія, опускається підйомний міст. З'єднання фізично переривається. Це як фізичний вимикач кожного разу, коли агент робить щось, чого ви не хочете», — пояснив генеральний директор Zeroport Джозеф Герц.

Захист на рівні «заліза»

Розробники переконані, що в міру вдосконалення ШІ програмні обмеження ставатимуть недостатніми, оскільки їх легше обійти. За задумом компанії, апаратний підхід дає змогу забезпечити виконання агентом дозволених дій незалежно від роботи програмного забезпечення.

Окрім стримування автономних агентів, стартап готується до майбутніх викликів у сфері кібербезпеки, зокрема до появи потужних квантових комп’ютерів. Zeroport інтегрувала у свої пристрої симетричний протокол шифрування, який не потребує передачі даних через інтернет і, як очікується, зможе протистояти загрозам з боку квантових технологій у наступному десятилітті.

Наразі Zeroport вже співпрацює з понад десятьма клієнтами по всьому світу, включаючи компанії зі списку Fortune 1000 та центри обробки даних. Проєкт отримав фінансову підтримку від таких інвесторів, як Lool Ventures, Fusion Fund та Clarim Ventures.

За матеріалами Jerusalem Post Tech

Про Що? — новини науки, технологій і світу