Компанія Anthropic призупинила розробку своєї нової потужної моделі штучного інтелекту після того, як влада США висловила занепокоєння щодо безпеки лише через кілька днів після її публічного випуску.

У заяві, опублікованій на вебсайті Anthropic, йдеться про наказ призупинити використання іноземними громадянами програми Claude Fable 5, яку компанія сама назвала «занадто потужною».

«Кінцевим наслідком цього розпорядження є те, що ми повинні раптово вимкнути Fable 5 та Mythos 5 для всіх наших клієнтів, щоб забезпечити дотримання вимог», – написала компанія.

Anthropic та адміністрація Трампа ведуть окремий судовий процес щодо наказу заборонити урядовим установам використовувати інструменти штучного інтелекту компанії. BBC звернулася за коментарем до Міністерства торгівлі США.

Claude Fable 5 — це версія Claude Mythos від Anthropic, програми штучного інтелекту, що конкурує з ChatGPT від OpenAI та Gemini від Google.

Anthropic заявила, що органи національної безпеки США не виявили конкретних проблем.

«Наскільки нам зрозуміло, уряд вважає, що йому стало відомо про метод обходу або «джейлбрейка» Fable 5», – заявили в компанії.

Джейлбрейк — це процес обходу програмних обмежень, призначених для захисту кібермережі, що дозволяє хакерам отримати доступ до конфіденційної інформації або розблокувати функції.

«Ми розглянули демонстрацію використання цієї конкретної методики для виявлення невеликої кількості раніше відомих, незначних вразливостей», – сказав Anthropic.

«Усі ці вразливості здаються відносно простими, і ми виявили, що інші загальнодоступні моделі також здатні виявляти їх без необхідності обходу».

Напередодні виходу Claude Fable 5 компанія рекламувала різні «захисні заходи», які вона впровадила для запобігання кіберзлому.

Лідери фінансової, технологічної та урядової сфер висловили стурбованість щодо публічного розгортання програми після закритого релізу в квітні для попереднього перегляду та тестування вразливостей у власній системі.

Anthropic заявила, що це дозволило кільком організаціям отримати доступ до попередньої версії, оскільки інструмент був настільки інтелектуальним, що міг бути небезпечним через свою здатність використовувати або зламувати комп’ютерні системи.

Компанія сама проголосила, що гра «занадто потужна для випуску», ще до публічного релізу Claude Fable 5, що деякі критики поставили під сумнів як перебільшений ажіотаж та маркетинговий хід.

«Можливості Fable перевищують можливості будь-якої моделі, яку ми коли-небудь робили загальнодоступною», – заявили в компанії.

Європейський Союз, який отримав доступ до Mythos на початку червня після тижнів переговорів, заявив, що останні події ще раз підкреслюють «потребу Європи в технологічному суверенітеті».

«Ми беремо до уваги заяву Anthropic і проводимо оцінку», – сказав Томас Реньє, речник Європейської комісії, яка цього місяця оприлюднила заходи щодо скорочення залежності блоку з 27 країн від Америки та Азії щодо ключових технологій, включаючи штучний інтелект.

Джина Нефф, професорка відповідального штучного інтелекту в Лондонському університеті королеви Марії, розповіла BBC, що рішення обмежити доступ до моделі може обмежити розробку та безпечне тестування цих систем штучного інтелекту.

Вона попередила, що це також може обмежити співпрацю з урядами по всьому світу.

«На даний момент ми перебуваємо на незвіданій території», – сказала вона.

«Люди з індустрії штучного інтелекту попереджають нас, що ці інструменти дуже швидко вдосконалюються, і що ми повинні мати змогу нарощувати можливості для захисту наших компаній від кібератак».

Вона сказала, що Інститут безпеки штучного інтелекту уряду Великої Британії виявив у своїх тестах, що модель може використовувати захисні механізми та системи у 73% випадків.

«Це кардинальна зміна можливостей у сфері кібербезпеки», – додала вона.

Anthropic нещодавно опинилася під прицілом адміністрації Трампа.

Дональд Трамп публічно розкритикував компанію, а тодішній міністр оборони США Піт Хегсет назвав її «ризиком для ланцюга поставок» – вперше американська компанія публічно отримала таке позначення.

Це позначення означає, що інструмент або послуга недостатньо безпечні для використання урядом і історично зарезервовані для компаній, що базуються у країнах-ворожках.

Anthropic подає до суду на Пентагон після цього позначення. Суддя США постановив, що директива Пентагону не може бути виконана, а це означає, що урядові установи та організації, що співпрацюють з американськими військовими, все ще можуть використовувати Anthropic, поки триває судовий процес.