Яка справжня загроза кібербезпеці від нових моделей ШІ?

· Наука

Яка справжня загроза кібербезпеці від нових моделей ШІ?

Нові моделі ШІ можуть загрожувати кібербезпеці, автоматизуючи атаки на системи.

Наскільки великою є загроза кібербезпеки з боку новітніх моделей ШІ?

Ми поспілкувалися з експертом про ризики та способи захисту

Штучний інтелект стає все більш досконалим у всіх аспектах, включаючи хакерство. Тепер стало легше, ніж будь-коли, вкрасти чиєсь ім’я, паралізувати чутливі банківські та медичні системи або вимагати викуп за дані компанії. І якщо захисники кібербезпеки не готові, кіберзловмисники використають ШІ, щоб накоїти лиха.

“Таймлайн — це не роки, це місяці”, — попередила міжнародна розвідувальна група Five Eyes 22 червня. Новітня технологія ШІ “знижує бар’єри для злочинних елементів і підвищує швидкість і складність атак”. Five Eyes — це таємний альянс, що бере свій початок з Другої світової війни, до якого входять Австралія, Канада, Нова Зеландія, Великобританія та США, які спільно працюють над збором розвідданих або реагуванням на загрози безпеці.

Дві нові моделі, Mythos 5 від Anthropic та GPT-5.5 від OpenAI, довели свою здатність самостійно планувати та здійснювати повну атаку на змодельовану корпоративну мережу. Це означає, що один хакер може зробити те, що раніше вимагало великої команди, говорить експерт з безпеки ШІ Майкл Олександр Ріглер з Simula Research Laboratory в Осло, Норвегія. Ці моделі також можуть знаходити та експлуатувати вразливості в операційних системах, браузерах та іншому програмному забезпеченні на експертному рівні, що може залишити захисників у затрудненні з виправленням вразливостей.

Попередження Five Eyes з'явилось на фоні заборони уряду США компанії Anthropic надання доступу до Mythos 5 та іншої нової моделі, Fable 5, іноземним громадянам через занепокоєння з приводу національної безпеки. Mythos 5 був доступний лише для кіберзахисників з метою виявлення та виправлення потенційних вразливостей, перш ніж технологія потрапить до рук злочинців. Fable 5, версія тієї ж моделі, яка оснащена додатковими засобами захисту для запобігання її зловживанню в кіберзлочині, була доступна громадськості лише на кілька днів.


Отже, чи справді є загроза від кібератак, підсилених штучним інтелектом? Чи це більше корпоративне позерство та маркетинговий шум? Science News запитав Ріглера про ризики та реальність. Це інтерв'ю було відредаговано для скорочення та ясності.

SN: Чи є новітні моделі ШІ особливо небезпечними?
Ріглер: За останні місяці ми багато чули про Mythos і про те, якою він є небезпечним. І я погоджуюсь, що ШІ має багато ризиків для безпеки. Коли можливості цих моделей зростають, час від виявлення будь-якої проблеми до її використання стає справді коротким, бо ви фактично можете автоматизувати весь процес. Але це не зовсім щось нове… [Це] не лише новітні моделі [сconstitутють] загрозу безпеці, а також інші моделі, які вже доступні. Якщо ви знаєте, як ними користуватись, ви можете… зробити досить погані справи.

Це логічно, якщо подумати. Інструменти, такі як Claude Code, роблять програми значно ефективнішими. Ви можете автоматизувати процес. Ви можете використовувати декілька сотень [ШІ] агентів одночасно, щоб досліджувати різні вразливості. Раніше вам потрібно було наймати групу з двох-трьох сотень хакерів [для організованої кіберзлочинності]. Тепер, можливо, вам просто потрібно купити 300 GPU [спеціалізовані комп'ютерні чипи, які використовуються для запуску ШІ], і ви можете робити схожі речі.

SN: То чому стільки занепокоєння навколо Mythos?
Ріглер: Я думаю, це так само маркетинг, як і справжня небезпека. Якщо ви кажете: "Я маю щось настільки небезпечне, що не можу це випустити", багато людей зацікавляться цим та захочуть бути частиною цієї групи, яка має доступ… Це трохи шоу, і [уряд США та Anthropic] зосереджуються на невірній проблемі.

SN: Яка правильна проблема для фокусування?
Ріглер: ШІ — це величезний ризик для безпеки… Але [безпековий ризик] не лише у моделі. Це також про все, що оточує модель. Які інструменти ви їй надаєте, чи має вона доступ до інтернету, чи може тестувати свій власний код. Отже, вся система навколо неї також дуже важлива.

В наших тестах [з системами, що поєднують малі моделі ШІ та різні інструменти] ми створили систему, яка могла, наприклад, зламатии ваш вебсайт та знайти вразливості на вашому сайті, але також зламати вашу мережу та спробувати знайти там вразливості. Або вона могла зламати інший ШІ та примусити його робити речі, які він не повинен робити. Це досить гнучко.

SN: Чи є якийсь позитив у тому, що захисники кібербезпеки матимуть доступ до тих самих інструментів, що й атака?
Ріглер: Тестування безпеки вашої власної системи буде ефективнішим. Я думаю, в кінцевому рахунку, це все збалансується. Знову ж таки, це буде гра в кішки-мишки, хто перший знайде дірку, хто закриє її першим, або хто експлуатує її першим. Лише з набагато більшою швидкістю, ніж ми бачимо зараз.

SN: Що можуть зробити люди для захисту від складних кібер атак, підсилених ШІ?
Ріглер: Будьте ще обережнішими, використовуючи різні паролі для різних послуг. Завжди тримайте своє програмне забезпечення в актуальному стані, використовуйте двофакторну аутентифікацію. Все, що ви робите, що може бути трохи набридливим, але підвищує безпеку, я би рекомендував робити.

SN: А що щодо компаній та державних установ?
Ріглер: Коли я розмовляю з експертами з безпеки в різних компаніях або в державному секторі, вони все ще відстають. Дехто дуже наляканий, інші — ні. Вони повинні серйозно сприймати ризики безпеки ШІ і не вважати, що це щось далеке в майбутньому.

Оригінал: www.sciencenews.org

Про Що? — новини науки, технологій і світу