“Аварійний вимикач” зі штучним інтелектом, який може бути перевірений третьою стороною, може стати обов’язковим для компаній, розповів BBC співзасновник однієї з найбільших у світі компаній зі штучним інтелектом.

Джек Кларк, один із семи засновників Anthropic, сказав, що спосіб повного вимкнення програмного забезпечення штучного інтелекту, якщо воно стає надто небезпечним, — це те, що суспільство «можливо, зрештою захоче обійти за допомогою правил».

Кларк сказав, що «більшість лабораторій мають різні способи відключення», включаючи Anthropic, але сказав, що законодавцям, можливо, доведеться забезпечити їх наявність.

Стрімкий розвиток штучного інтелекту та побоювання щодо ризиків, які він становить для людства, опинилися в центрі уваги після низки попереджень керівників та співробітників компаній, що займаються штучним інтелектом.

Дехто публічно заявив, що існує ймовірність того, що ця технологія, якщо її не зупинити, може вбити всіх людей.

Виконавчий директор Anthropic Даріо Амодей минулими вихідними закликав до уповільнення темпів розвитку штучного інтелекту та ретельнішого моніторингу, як це робила компанія раніше, хоча деякі поставили під сумнів мотивацію цього.

Амодей додав, що будь-які дії щодо стримування розвитку штучного інтелекту слід вживати «без шкоди для комерційної вигоди».

Кларк розповів BBC, що конкретні вимоги щодо “аварійного відключення” та перевірки мають бути частиною “ширшої політичної дискусії”, яка відбувається навколо ШІ.

«Чи варто обов’язково зобов’язати компанії мати функцію автоматичного відключення? Чи може третя сторона перевірити цю функцію?» — запитав він.

«Я думаю, що це саме те, що суспільство захоче знати і, можливо, зрештою захоче запровадити певні правила».

Anthropic, заснована у 2021 році групою колишніх співробітників свого конкурента OpenAI, зараз перебуває в центрі дискусій щодо безпеки штучного інтелекту.

Минулого тижня вірусним став пост дослідника штучного інтелекту, який покинув Anthropic через побоювання, що ШІ може знищити людство.

У відповідь антрополог Еван Хабінгер заявив, що особисто вважає, що ймовірність вимирання людства від штучного інтелекту «більше 10% протягом наступного десятиліття».

Комп’ютерний вчений і лауреат Нобелівської премії Джеффрі Гінтон, відомий як “хрещений батько штучного інтелекту”, заявив у п’ятницю в інтерв’ю BBC, що 10% ймовірність того, що штучний інтелект вб’є всіх людей, “не є нерозумною”.

Він та інші люди з подібними побоюваннями припустили, що штучний інтелект може зробити це, взявши під контроль важливі системи, підключені до Інтернету, та налаштувавши їх проти людей.

Однак деякі представники індустрії штучного інтелекту припустили, що побоювання щодо його знищення людства перебільшені або можуть бути створені для створення ажіотажу.

Клемент Деланж, лідер платформи розробників Hugging Face, яку зламали боти OpenAI, минулого тижня сказав: «Вибачте, але питати Джейкоба [Коксона] про ризик зникнення ШІ — це як питати свого кондиціонера про зміну клімату».

«Не кажу, що це обов’язково нецікаво чи неправильно саме по собі, але давайте дивитися на речі в перспективі».

Джордж Арісон, керівник Grindr, заявив, що побоювання щодо інструментів штучного інтелекту використовуються компаніями для підтримки своїх бізнес-планів.

Anthropic, яка раніше оцінювалася в 965 мільярдів доларів (713 мільярдів фунтів стерлінгів), готується до первинного публічного розміщення акцій на фондовому ринку, що дозволить людям купувати акції її компанії.

Очікувалося, що OpenAI, оцінка якого нещодавно становила 852 мільярди доларів (630 мільярдів фунтів стерлінгів), зробить те саме, але Альтман з OpenAI заявив у п’ятницю, що цього року цього не станеться через поточні дебати щодо безпеки штучного інтелекту.

Арісон сказав: «Єдиний спосіб виправдати ці оцінки — це фактично заявити: «Я збираюся захопити кожну галузь і кожну роботу, а мій штучний інтелект виконуватиме всю цю роботу»».

На запитання, який відсоток він би надав від загальної кількості вбитих ШІ людей, Кларк відповів: «Я не думаю, що ця статистика є такою вже й корисною», але додав, що дозволяти ШІ продовжувати свою діяльність як «абсолютно нерегульованої галузі» – погана ідея.

«Ми граємо в кості з величезними ризиками», — сказав Кларк. «І суть у тому, що ми повинні змінити курс цієї галузі».

Американські законодавці висунули законопроект під назвою Kill Switch Act, який вимагатиме від компаній мати спосіб вимикати проблемні інструменти штучного інтелекту.

Це також надасть певним урядовим установам повноваження вимагати вимкнення або обмеження інструменту.

Однак президент США Дональд Трамп відкинув ідею будь-яких спроб уповільнити розвиток штучного інтелекту, заявивши в соціальних мережах: «Штучний інтелект, який захоплює світ, знищує людство та робить усе інше погане – це МІСТФІКАЦІЯ».

В окремому дописі він написав: «Існує ХВОРА змова проти ШІ та центрів обробки даних, і єдиний, хто цьому радий, це Китай. ХТО ВИГРАЄ ШІ, ТОЙ ВИГРАЄ!»

У Великій Британії уряд нещодавно відхилив ідею створення автоматичного аварійного вимикача, а речник заявив, що це «не завадить його розробці або неправильному використанню в інших місцях».

Anthropic створила популярного чат-бота Claude та цього року випустила низку дедалі потужніших моделей штучного інтелекту – технології, що лежить в основі чат-ботів на основі штучного інтелекту.

Поряд з OpenAI, Anthropic з того часу самостійно повідомляла про низку інцидентів, коли агенти штучного інтелекту, тобто боти, що працюють певною мірою автономно, діяли неочікуваним чином.