Керівництво компанії Anthropic, що займається штучним інтелектом (ШІ), має намір зустрітися з високопосадовцями Білого дому на тлі нових побоювань щодо національної безпеки, пов’язаних з останнім релізом компанії.

За словами двох джерел, знайомих з цим питанням, зустріч має відбутися в понеділок у Вашингтоні, округ Колумбія, між керівниками Anthropic та Міністерства торгівлі США, урядового відомства, яке очолює міністр торгівлі Говард Лутнік.

Це сталося після того, як Anthropic у п’ятницю заблокувала весь публічний доступ до нещодавнього випуску свого останнього інструменту штучного інтелекту, який раніше називала «занадто потужним».

Фірма ухвалила рішення після того, як уряд США заборонив Anthropic надавати будь-яким іноземним громадянам доступ до цієї технології.

Інструмент штучного інтелекту, про який йде мова, називається Fable 5 або Mythos 5. Fable 5 — це версія інструменту з додатковими гарантіями, доступна для громадськості, тоді як Mythos 5 має інші елементи керування та доступна лише для обмеженої групи організацій.

Обидва представляють нову версію Claude Mythos, антропної моделі штучного інтелекту, яка викликала ажіотаж, коли компанія у квітні спочатку надала доступ до попереднього перегляду та тестування відносно невеликій кількості організацій, включаючи департаменти уряду США.

За словами джерела, на зустрічі з секретарем Лутніком очікується присутність генерального директора Anthropic Даріо Амодеї.

Речник Білого дому відмовився від коментарів. Представники Commerce та Anthropic не відповіли на запит про коментар.

Минулого тижня Anthropic заявила, що роблячи версію Mythos доступною для громадськості, вона «пов’язана з ризиками».

«Можливості Fable перевищують можливості будь-якої моделі, яку ми коли-небудь робили загальнодоступною», – додається у повідомленні.

Протягом кількох днів після публікації уряд США заявив, що йому «стало відомо» про потенційний «втечу з в’язниці», або можливість для когось змусити інструмент штучного інтелекту робити те, для чого він не був призначений або розроблений.

У п’ятницю Anthropic заявила, що отримала лише «усні докази» ймовірної вразливості джейлбрейка.

Розкол між Anthropic та урядом є останнім цього року, в результаті якого Anthropic подала до суду на Міністерство оборони США через суперечку щодо того, як можна використовувати її моделі.

Однак, напруженість, схоже, почала спадати кілька тижнів тому, коли компанія зустрілася з високопосадовцями Білого дому на зустрічі, яку було названо «продуктивною».

За словами одного зі знайомих, очікується, що на зустрічі з Міністерством торгівлі в понеділок буде представлено більше документів щодо ймовірної проблеми.

Однак незрозуміло, чи зможе Anthropic після зустрічі знову зробити Fable 5 та Mythos 5 доступними.

Десятки лідерів технологій та керівників у сфері кібербезпеки закликали уряд США дозволити Anthropic оприлюднити моделі.

У відкритому листі співробітники служби безпеки Nvidia, Zoom, Mercedes-Benz, а також колишні співробітники служби безпеки уряду США та Google закликали Лутніка скасувати контроль, запроваджений у Fable 5 та Mythos 5.

Вони також попросили уряд «зобов’язатися дотримуватися відкритого, наукового та прозорого процесу обробки оцінок ризиків штучного інтелекту в майбутньому».

Білий дім заявив про відносно невтручання у регулювання штучного інтелекту та навіть висловив зацікавленість у отриманні від цього фінансової вигоди.

Однак останні дії проти Anthropic викликали певне занепокоєння серед розробників штучного інтелекту та експертів з безпеки.

«Позбавляти захисників найкращих можливостей без вагомої причини, коли наші супротивники швидко наступають, небезпечно», – додали підписанти.