OpenAI визнала, що її дії були «недостатньо добрими» після того, як один з її шахрайських агентів зламав вебсайти австралійського уряду в червні, заявивши, що додала більше запобіжних заходів до своїх навчальних середовищ.

Директор зі стратегії компанії Джейсон Квон у вівторок у Сіднеї зустрівся з парламентськими слуханнями щодо штучного інтелекту, заявивши, що порушення «не мало статися», і що компанія «мала б краще впоратися з нашою реакцією». Минуло кілька тижнів, перш ніж Австралію повідомили електронною поштою на звичайну поштову скриньку.

«Нам дуже шкода, і ми знаємо, що нам потрібно попрацювати, щоб відновити довіру з австралійським народом», – сказав Квон.

Anthropic також з’явилася та заявила, що не виявила жодних випадків порушень в Австралії під час нещодавнього розслідування.

Також були присутні керівники Microsoft та Google.

У червні агент OpenAI «зловмисним чином» «проник» у приватний статистичний портал, що містив «неконфіденційні» дані з австралійської універсальної схеми охорони здоров’я Medicare. За словами експертів з кібербезпеки, це був перший хакерський злом такого роду.

На запитання, чому OpenAI не зв’язалася безпосередньо з міністрами уряду одразу після того, як дізналася про порушення, Квон визнав, що це була помилка.

«Озираючись назад, ми мали б зробити те, що ви пропонуєте», — сказав Квон.

«Причина, чому це сталося саме так, полягає в тому, що, на мою думку, люди сприймали це як технічну ситуацію і хотіли зв’язатися з технічними контрагентами, але цього було недостатньо».

Квон сказав, що компанія змінила спосіб реагування на такі інциденти.

«Навіть якщо ми не повністю розуміємо ситуацію, ми просто повідомимо та почнемо працювати над ситуацією спільно з постраждалою стороною».

OpenAI також додав «більше запобіжних заходів» до своїх навчальних середовищ після інцидентів, повідомив Квон комітету з 12 членів, який складається з депутатів та сенаторів від Лейбористської партії, Ліберальної партії та незалежних членів парламенту, що розглядають ШІ та його вплив на Австралію.

Компанія також заявила, що створює місцеву робочу групу в Австралії для дослідження того, «як краще керувати ризиками, пов’язаними зі зростаючим потенціалом штучного інтелекту».

Квон повідомив комітету, що тренувальні моделі тепер контролюються в режимі реального часу під час тестів, і що спрацьовує сигнал тривоги, якщо вони взаємодіють з Інтернетом непередбаченим чином.

Це означало, що OpenAI зміг попередити уряд Нового Південного Уельсу про ще один злом минулого тижня протягом 48 годин.

Компанія також підтримає систему обов’язкового розкриття інформації про інциденти, сказав Квон, оскільки вона встановить «чіткі очікування».

«Ми намагалися розробити стандарт для наших волонтерських дій… Виходячи з нашого досвіду, нам, мабуть, слід було б поговорити з більшою кількістю людей про те, як це робити добре».

Керівник відділу безпеки Anthropic Дейв Орр заявив, що після злому агентами OpenAI технологічної платформи Hugging Face у липні, компанія переглянула «сотні мільйонів стенограм», щоб виявити будь-які потенційні порушення роботи вебсайтів австралійського уряду, подібних до OpenAI.

«Ми не знайшли нічого подібного, хоча ми шукали», – сказав він комітету.

На публічних слуханнях, які триватимуть до п’ятниці, також були заслухані свідчення мистецьких та медіа-організацій щодо авторського права та їх занепокоєння щодо того, як моделі штучного інтелекту використовують свої матеріали. Компанії, що займаються штучним інтелектом, хочуть, щоб Австралія послабила закони про авторське право, щоб вони могли використовувати, наприклад, книги та музику для навчання своїх моделей штучного інтелекту.

Модель відмови, де на митця покладався б обов’язок просити штучний інтелект не використовувати їхні матеріали для навчальних цілей, була недосконалою і могла б означати, що митці не отримуватимуть грошей за свій контент, почув комітет.

«Іншими словами, австралійські артисти стануть жертвами цієї угоди зі штучним інтелектом», – сказала Аннабель Герд, виконавчий директор Австралійської асоціації звукозаписної індустрії.

Спеціальний посланець Anthropic Джефф Блайх заявив на слуханнях, що компанія «ніколи не намагалася диктувати» Австралії її закони про авторське право.