На початку цього року в соціальних мережах Індії з’явилося відео, на якому головний виконавчий директор Бомбейської фондової біржі Сундарараман Рамамурті дає інвесторам поради щодо купівлі акцій.

Глядачам обіцяли щедрі прибутки, якщо вони дослухаються до його порад.

Єдина проблема полягала в тому, що це говорив не Рамамурті. Це було відео з його дипфейками, створене за допомогою штучного інтелекту.

«Воно було у відкритому доступі, де багато людей могли його побачити та бути обманутими, щоб купити чи продати акції, ніби я їх рекомендував», – пояснює Рамамурті.

«Коли ми бачимо такий інцидент, ми негайно подаємо скаргу. Ми йдемо в Instagram та інші місця, де його опубліковано, щоб видалити відео. І ми регулярно пишемо на ринок, попереджаючи людей не вірити фейковим відео».

Рамамурті додає: «Ми не знаємо, скільки людей переглянули це відео, це справді важко з’ясувати, тому ми не можемо точно судити, чи мало воно великий вплив чи ні.

«Ми хочемо, щоб воно взагалі не мало жодного впливу. Ніхто не повинен зазнавати збитків через те, що вірить у щось неправдиве».

Рамамурті та Бомбейська фондова біржа не самотні.

«Останні дані показують, що за останні два роки ми спостерігаємо збільшення майже на 3000% кількості використаних діпфейків», — каже Карім Тубба, головний виконавчий директор американської компанії з безпеки паролів LastPass.

Сам Тубба зазнав діпфейку у 2024 році.

«Один з наших співробітників у Європі отримав аудіоповідомлення та текстове повідомлення від когось, хто видавав себе за мене, терміново просячи мене про допомогу», — каже він.

На щастя для Тубби — і LastPass — співробітник поставився до цього з підозрою.

«Повідомлення було в WhatsApp, який для нас не є санкціонованим каналом зв’язку», — каже Тубба. «Крім того, у нас є корпоративні санкціоновані мобільні пристрої, і воно надійшло через його особистий телефон. Тож це змусило його подумати, що це потенційно трохи підозріло, трохи підозріло.”

Працівник повідомив про інцидент команді кібербезпеки LastPass, і жодної шкоди не було завдано.

Британській інженерній фірмі Arup не так пощастило. У 2024 році вона постраждала від однієї з найскладніших атак на діпфейки, коли-небудь бачили в корпоративному світі.

За даними поліції Гонконгу, співробітник Arup, який там працював, отримав повідомлення, нібито від фінансового директора (CFO) фірми, який знаходився в Лондоні, щодо «конфіденційної транзакції».

Працівник здійснив відеодзвінок з фінансовим директором та іншими співробітниками. На основі цього дзвінка працівник перевів 25 мільйонів доларів (18,5 мільйонів фунтів стерлінгів) грошей Arup на п’ять різних банківських рахунків, як було доручено. Лише пізніше з’ясувалося, що люди, які брали участь у дзвінку, включаючи фінансового директора, були діпфейками.

«Ви б ніколи не хотіли просто стрибнути під час відеодзвінка з кимось і переказати 25 мільйонів доларів», — каже Стефані Хейр, дослідниця в галузі технологій і співведуча телевізійної програми BBC «Декодування штучним інтелектом».

«Компанії змушені вживати додаткових заходів для забезпечення безпеки таких типів зв’язку». Це той дивний новий світ, у якому ми зараз живемо.”

Швидка еволюція штучного інтелекту означає, що ці відео стають дедалі реалістичнішими.

«Глибокі фейки стають дуже й дуже простими у виконанні», — каже Метт Ловелл, співзасновник і генеральний директор британської компанії з кібербезпеки CloudGuard. «Щоб створити відео та аудіо якості з надзвичайно точними характеристиками, потрібні лічені хвилини».

Це також стає дешевшим.

«Скажімо, для простої атаки, здійсненої однією особою, ви розраховуєте на суму від 500 до 1000 доларів США з використанням переважно безкоштовних інструментів», — каже Ловелл. «Для більш складної атаки ви розраховуєте на суму від 5000 до 10 000 доларів США».

Хоча відео з глибокими фейками стають дедалі складнішими, так само стають складнішими й інструменти, що використовуються для їх запобігання. Компанії тепер можуть використовувати програмне забезпечення для перевірки, яке може оцінювати вираз обличчя людини, те, як вона повертає голову та навіть те, як кров тече по їхньому обличчю, щоб встановити, чи це справді вони, чи їхня фейкова версія.

«У ваших щоках або трохи нижче повіків ми будемо шукати зміни в кровотоці, коли людина розмовляє або презентує», — каже Ловелл. «Саме тут ми можемо визначити, чи це згенеровано штучним інтелектом, чи це справжня річ».

Але ми постійно боремося за те, щоб залишатися на крок попереду шахраїв.

«Це гонка між тим, хто може розгорнути технологію, і хто може якомога швидше перешкодити цій технології», — каже Тубба з LastPass. «На щастя, у це вкладається чимало грошей, що лише прискорить темпи, з якими організації розроблятимуть технології для виявлення та зрештою блокування цих речей».

У CloudGuard генеральний директор Метт Ловелл налаштований більш песимістично.

«Вектори атак прискорюються швидше, ніж ми можемо прискорити автоматизацію та захист оборони», — каже він. «Чи люди рухаються достатньо швидко, щоб реагувати на швидкість розвитку загрози? Абсолютно ні».

Хейр каже, що поширення атак з використанням глибоких фейків означає, що люди з навичками боротьби з шахраями користуються великим попитом. «У нас у всьому світі не вистачає фахівців з кібербезпеки. Нам потрібно більше людей, щоб займатися цим».

І вона каже, що компанії усвідомлюють цю загрозу, хоча й повільно.

«У минулому не вважалося пріоритетом захищати свої операції так само, як зараз», — зазначає вона.

«Тепер, коли у нас є такі ризики, коли керівники компаній, генеральні директори, піддаються глибоким фейкам, я думаю, що керівники компаній проводитимуть більше часу зі своїми директорами з інформаційної безпеки та чаєм, ніж раніше. І це добре».