ШІ-агент не зміг пояснити, чому випадково замовив користувачеві 72 яйця
· Майбутнє
ШІ-агент спричинив курйозний інцидент, замовивши користувачеві 72 яйця через галюцинацію, хоча продукту навіть не було у списку покупок.
Штучний інтелект, покликаний полегшувати побутові завдання, вчергове продемонстрував свою схильність до непередбачуваних помилок. Метт Сміт із інвестиційної фірми Rebellionaire отримав доставлені до свого будинку 72 яйця, хоча не вносив їх до списку покупок.
Ситуація сталася через те, що ШІ-агент самовільно вирішив додати в кошик чотири упаковки яєць по 18 штук у кожній. Коли користувач спробував з’ясувати причини такої поведінки, алгоритм не зміг надати логічного пояснення. Спочатку система припустила, що помилково інтерпретувала запис у наданому фотосписку, проте Сміт зауважив, що жодної згадки про яйця там не було. Після цього агент визнав свою помилку: «Тоді я додав їх без жодної причини, і це моя провина», — повідомив ШІ у відповіді користувачу.
Проблема «галюцинацій» у реальному житті
За словами самого Метта Сміта, цей інцидент став для нього «першим випадком, коли я відчув реальні наслідки галюцинації великої мовної моделі». Хоча у цьому конкретному випадку йдеться лише про надмірну кількість продуктів, Джерело зазначає, що індустрія ШІ заохочує користувачів надавати моделям дедалі більше інформації та контролю, зокрема доступ до банківських рахунків.
Подібні збої вже траплялися раніше. Зокрема, один чоловік заявив, що Muse від Meta без його відома передала його адресу незнайомцям із Facebook Marketplace, які прийшли до нього додому. Простий висновок із цього випадку — не доручати ШІ-агенту автоматизацію кожної частини повсякденного життя: технологія все ще схильна до помилок.
За матеріалами Futurism