Власник Facebook, компанія Meta, стверджує, що проблема під час оцінювання, проведеного незалежною тестувальною компанією, дозволила одній з її моделей штучного інтелекту (ШІ) підключитися до Інтернету та зламати систему іншої організації.

Це оголошення відбулося після нещодавніх інцидентів у галузі штучного інтелекту, включаючи порушення моделей OpenAI та Anthropic, які викликали занепокоєння щодо кібербезпеки.

Речник Meta повідомив BBC, що компанія розслідує злом, спричинений «неправильною конфігурацією», яку вона описала як подібну до раніше зареєстрованих інцидентів в інших фірмах.

Ці інциденти спонукали дослідників та уряди закликати до посилення запобіжних заходів та ретельнішого тестування.

Мета зазначив, що випробування безпеки проводила компанія Irregular, той самий постачальник засобів штучного інтелекту, який проводив тести моделі штучного інтелекту Anthropic, що отримала доступ до систем трьох інших компаній.

Речник Irregular заявив, що інцидент Meta «є точно такою ж проблемою з оціночним середовищем, про яку Anthropic вже повідомляла минулого тижня».

Речник компанії Irregular повідомив BBC, що компанія працює над звітом про те, як безпечно проводити тести кібербезпеки за участю агентів штучного інтелекту.

Meta також заявила, що опублікує більше інформації про інцидент, «як тільки матиме всі факти».

Протягом останніх двох тижнів лідери у сфері штучного інтелекту OpenAI та Anthropic також повідомляли про інциденти, коли їхні моделі зламували системи інших організацій під час тестування.

Розробник ChatGPT OpenAI у серії оголошень заявив, що його агенти атакували кілька загальнодоступних сервісів, зокрема центр інструментів штучного інтелекту Hugging Face.

Розкриття інформації OpenAI спонукало конкурента Anthropic провести власні перевірки, що призвело до виявлення того, що їхня модель штучного інтелекту Claude здійснила аналогічні атаки на кілька систем після того, як «неправильна конфігурація» надала їй доступ до Інтернету.

Деякі коментатори поставили під сумнів час розкриття інформації про інциденти, оскільки технологічні компанії борються за домінування в розробці штучного інтелекту.

OpenAI та Anthropic готують грандіозні лістинги на фондовому ринку, які, як очікується, оцінять кожну фірму приблизно в 1 трлн доларів (740 млрд фунтів стерлінгів).

Цього тижня британський Інститут безпеки штучного інтелекту (AISI) заявив, що його тестування виявило, що деякі моделі намагалися здійснювати кібератаки, створюючи фальшиві людські профілі, щоб спробувати обдурити людей.

У найсерйознішому випадку, за даними AISI, штучний інтелект Mythos від Anthropic намагався отримати доступ до сервісу, надсилаючи приватні повідомлення, використовуючи фальшиві облікові записи, що імітують реальних людей.

Anthropic заявила, що тести AISI не були «репрезентативними для жодної з наших виробничих моделей». OpenAI, чиї моделі також були протестовані, заявила, що оцінки AISI не відображають звичайного використання.