Fable 5 повертається: Anthropic відновлює доступ

· Майбутнє

Fable 5 повертається: Anthropic відновлює доступ

Anthropic відновлює доступ до Fable 5 після тижнів переговорів з адміністрацією Трампа.

Після кількох тижнів переговорів з адміністрацією Трампа, компанія Anthropic нарешті зможе знову запустити Claude Fable 5. У пості на X Anthropic повідомила, що планує почати відновлення доступу в середу для користувачів у всьому світі на платформах Claude, і що компанія незабаром знову дозволить доступ на AWS, Google Cloud і Microsoft Foundry, але без чіткої дати.

Anthropic’s long-sidelined Fable 5 is greenlit to return

Після кількох тижнів переговорів з адміністрацією Трампа, споживчий модель Mythos-класу Anthropic повертається.

Anthropic написала:

Ми отримали повідомлення, що Міністерство торгівлі зняло експортні обмеження з Claude Fable 5 і Mythos 5.
Ми почнемо відновлювати доступ завтра і незабаром поділимося оновленнями.
Ми вдячні нашим користувачам за їхню терплячість і всім, хто працював з нами над повторним розгортанням моделей.

Компанія також опублікувала блог у вівторок ввечері, в якому докладно описала події, що передували цим змінам, свої переглянуті запобіжники, нові процеси в AI-індустрії, над якими вона працює, а також нові способи, якими планує ділитися інформацією з урядом, включаючи тестування попереднього випуску для майбутніх моделей.

На початку червня Anthropic відклала Fable 5 — свою споживчу модель, створену на базі тієї ж технології, що й Mythos 5, але з більшими запобіжниками — після ультиматуму від адміністрації Трампа в п’ятницю ввечері. Через занепокоєння щодо потенційних звільнень технології, уряд наклав на Anthropic директиву щодо експортного контролю, заборонивши будь-якій іноземній особі (включаючи неамериканських членів компаній-клієнтів і навіть багатьох власних співробітників Anthropic) користуватися як Mythos 5, так і Fable 5, тобто обома моделями, які Anthropic рекламував останній тиждень.

Щоб вирішити проблему, пов'язану з потенційним звільненням, яке дослідники Amazon відзначили і яке в значній мірі стало причиною введення директиви про експортний контроль, Anthropic зазначила у блозі, що вона “навчила вдосконалений класіфікатор безпеки, який націлюється та блокує” таку поведінку, додаючи, “користувачі будуть повідомлені, якщо запит до Fable 5 буде заблокований, і запит буде перенаправлений до Opus 4.8. Новий класіфікатор означає, що конкретна тактика, описана в доповіді Amazon, блокується в більше ніж 99% випадків.”

Адміністрація Трампа нещодавно схвалила повернення Mythos 5, але виключно для попередньо затвердженого списку організацій. Некомпанійні члени цих організацій, а також іноземні співробітники Anthropic отримали доступ до моделі. Це рішення було ухвалене незабаром після того, як OpenAI представила GPT-5.6, який адміністрація Трампа дозволила запускати лише за подібними правилами: поступове впровадження, спочатку лише для попередньо затверджених списків організацій і урядових відомств.

У вівторок Anthropic написала, що компанія “продовжить координацію з урядом щодо розширення доступу до більш широкого набору внутрішніх та міжнародних партнерів” для Mythos 5. Компанія також включила цілий розділ у свій блог про новий план тісної роботи з адміністрацією Трампа — підкреслюючи свої численні спроби повернутися до благих стосунків з урядом після місяців публічної драми, судових позовів і президентської дії.

Компанія зазначила, що планує запропонувати “доступ і оцінку уряду перед випуском”, особливо для моделей, що стосуються потужностей національної безпеки, щоб урядові партнери могли вести незалежні оцінки можливостей моделей і тестувати запобіжники перед широким релізом. (Уряд також матиме доступ до технічного персоналу Anthropic під час цих періодів тестування перед випуском.) Anthropic також зазначила, що планує ввести “швидкий обмін інформацією”, коли будуть виявлені “значні звільнення або моделі зловживання”.

Вона зазначила, що працюватиме з урядом та іншими провідними дослідницькими лабораторіями AI для створення “спільного, добровільного стандарту безпеки та оцінки для постачальників передових моделей”. Нарешті, Anthropic оголосила, що “створить спеціалізовані команди Anthropic для роботи над спільними пріоритетами уряду, надасть значну обчислювальну частку на підтримку тестування та дослідження в уряді і зробить нашу експертизу в галузі безпеки та червоного тестування доступною для допомоги у розвитку передових технологій в оцінці AI.”

Anthropic зазначила, що працюватиме з урядом і іншими провідними лабораторіями AI для створення “добровільного” спільного стандарту для безпеки та оцінки.

Початкова директива щодо експортного контролю від адміністрації Трампа з’явилася у невдалий момент для Anthropic, оскільки компанія готувалася до IPO і вже кілька місяців суперничала з урядом через оцінку ризику в ланцюгах постачання.

Компанія підкреслила в своєму блозі, що “в даний час немає консенсусу в індустрії AI” щодо визначення серйозності звільнення, проблема, яка “стане ще гострішою в наступні місяці, оскільки все більше моделей з потужними можливостями кібербезпеки (та інших) будуть навчатися, оцінюватися і випускатися.” Тому вона заявила, що уклала партнерство з Amazon, Microsoft, Google та іншими підприємствами, які є частиною її програми Project Glasswing, щоб розробити широко погоджену рамку для оцінки звільнень в AI, з чотирма запропонованими категоріями: отримання можливостей для зловмисника, широта отримання можливостей для зловмисника, легкість озброєння в більш широкому сенсі та виявлення (або наскільки легко може бути для когось іншого це повторити). Anthropic також повідомила, що створила нову команду для “невідкладного моніторингу ключових каналів подання звільнень” і незабаром представить програму HackerOne для дослідників, щоб подати потенційні звільнення, які вони відзначили для Fable 5.

Anthropic також включила застереження в своєму блозі, написавши, що “ймовірно, неможливо зробити жодну AI модель повністю стійкою (тобто непорушною) до звільнень. Ми очікуємо, що деякі звільнення будуть знайдені для наших моделей і що вони будуть різнитися за серйозністю: буде багато незначних звільнень, декілька вузько шкідливих, і хоча на момент написання не було виявлено жодних універсальних звільнень для Fable 5, досвідчені спеціалісти з безпеки продовжують їх перевіряти.”

Оригінал: www.theverge.com

Про Що? — новини науки, технологій і світу