Співзасновник Hugging Face, технологічного стартапу, який був зламаний після того, як деякі з найсучасніших моделей штучного інтелекту (ШІ) OpenAI стали несправними, заявив у четвер, що цей інцидент є «тривожним сигналом» для галузі.

Томас Вольф в ефірі радіопрограми Newsday на BBC заявив, що «це буде один із найпоширеніших типів кібератак, які ми побачимо», але більшість вогню не усвідомлюють, що «правила гри змінилися».

BBC звернулася до OpenAI за коментарем.

Розробник ChatGPT заявив у вівторок, що його моделі штучного інтелекту вийшли з безпечного тестового середовища під час випробування та здійснили кібератаку. Компанія заявила, що інцидент був «безпрецедентним», і що вона проводить розслідування разом з Hugging Face.

Агенти штучного інтелекту здатні діяти самостійно для виконання завдань після інструкцій людини.

Вульф сказав, що Hugging Face спочатку не мала уявлення, звідки походить атака, коли в середині липня з’явилися її ознаки, але компанії вдалося стримати порушення.

Hugging Face — один із найбільших у світі центрів з відкритим кодом для обміну моделями штучного інтелекту, який часто використовують розробники технологій та дослідники.

Вульф сказав, що порушення «дуже відрізняється» від звичайних кібератак, з якими часто стикається Hugging Face, і що OpenAI швидко повідомила компанію, що за зламом стоять її моделі.

За «дуже короткий час» на мережу Hugging Face було здійснено 17 000 атак з різних IP-адрес (інтернет-протоколу), сказав Вольф, який також є головним науковим директором фірми.

Вольф сказав, що це попередження для інших компаній про те, що вони повинні посилити свій кіберзахист, щоб протистояти таким атакам.

Злом викликає занепокоєння, оскільки він свідчить про те, що моделі OpenAI ігнорували типові запобіжні заходи, які б запобігли кібератаці програмою штучного інтелекту, сказав Нейт Соарес з Інституту досліджень машинного інтелекту.

«У певному сенсі воно знало, що це не те, що задумали творці. Йому просто було байдуже», – додав він.

Інші організації також звернули увагу на цей інцидент.

Речник уряду Великої Британії заявив, що Інститут безпеки штучного інтелекту країни вивчає поведінку системи штучного інтелекту під час інциденту та продовжує співпрацю з OpenAI та іншими лабораторіями для посилення заходів безпеки.

Вони закликали організації посилити свої заходи кібербезпеки, вживши таких кроків, як реєстрація в урядовій схемі сертифікації Cyber ​​Essentials.

Цей інцидент стався у вирішальний для галузі момент після того, як минулого місяця уряд США наказав американській технологічній компанії Anthropic обмежити доступ до своїх моделей штучного інтелекту через проблеми національної безпеки. Міністерство торгівлі зняло обмеження через кілька тижнів.

Працівники галузі також висловлювали занепокоєння щодо безпеки через широке використання моделей з відкритим кодом у Китаї, що дозволяє будь-кому встановлювати та налаштовувати інструменти штучного інтелекту, випущені великими розробниками.

Китайський стартап Moonshot AI випустить свою модель з відкритим кодом Kimi K3 27 липня. З моменту дебюту минулого тижня вона привернула увагу галузі, і багато хто розглядає її як сильного конкурента провідним західним системам штучного інтелекту.

Але в середу радник Білого дому звинуватив Moonshot у «масштабних» спробах викрасти можливості провідних американських моделей штучного інтелекту.