Сеть магазинів Sainsbury’s призупинила використання технології розпізнавання облич у реальному часі в одному зі своїх лондонських відділень після того, як клієнта помилково визнали крадіжкою в магазині та попросили піти.

46-річний Метт Арнольд купував товари в магазині в Іст-Далвічі, коли його зупинило керівництво біля каси самообслуговування.

Описуючи цей досвід як «жахливий погляд у майбутнє», він попередив, що технології спостереження в роздрібній торгівлі ризикують принизити клієнтів і створити систему, де персонал буде змушений слідувати автоматичним сповіщенням, не застосовуючи людську логіку.

Супермаркет заявив, що вибачився перед Арнольдом, і стверджував, що помилка була «викликана людським фактором», але критики закликали до скасування цієї технології.

Інцидент стався 6 серпня, коли Арнольд, комедійний промоутер, який купував матеріали для стендап-заходу, що проходив у сусідньому футбольному клубі «Далвіч Гамлет», чекав на схвалення співробітником купівлі алкоголю.

Вже відсканувавши свій товар разом із карткою лояльності Nectar, він сказав, що запросив працівника підійти.

Натомість, за його словами, до нього підійшли двоє співробітників керівництва та сказали, що його не можуть обслужити через інцидент, що стався «раніше цього тижня».

«Люди просто слухають машину»

«Вони підійшли і сказали, що я маю піти. Співробітник сказав, що мене ідентифікував штучний інтелект, і камери мене помітили», – розповів він BBC London.

«Крадій у магазині не ходить з такою кількістю покупок, не переглядає їх скануванням, не використовує свою картку Nectar.»

«Але мене засмутила думка про те, яким може бути майбутнє — люди просто слухають, що їм каже машина, не думаючи про наслідки».

Після того, як його вивели з приміщення, Арнольд сказав, що озирнувся від входу та побачив сповіщення з монітора відеоспостереження над головою з червоним колом навколо його обличчя.

Головний офіс Sainsbury’s наступного дня зв’язався з Арнольдом, щоб вибачитися, стверджуючи, що інцидент стався через «людську помилку», а не збій програмного забезпечення.

Це не перший випадок, коли система розпізнавання облич Sainsbury’s, розроблена технологічною компанією Facewatch, призвела до зловмисних дій з невинним покупцем.

У вересні Воррена Раджу наказали залишити відділення в Елефант-енд-Касл після того, як його помилково позначило те саме програмне забезпечення Facewatch, а пізніше охоронна фірма підтвердила, що його навіть не було в їхній системі.

Sainsbury’s та технологічна фірма також пояснили цей інцидент «людською помилкою».

Facewatch також був залучений до аналогічних справ з іншими роздрібними торговцями, з якими він співпрацює, зокрема з магазином Home Bargains у 2024 році та магазином B&M у Кардіффі минулого року.

Арнольд сказав, що його досвід змусив його повірити, що персоналу важко керувати системою в умовах жвавого середовища магазину.

«Хоча те, що зі мною сталося, було жахливим, мені шкода персоналу», – сказав він.

«Помилки траплятимуться. Вони не оснащені для належного впровадження штучного інтелекту».

Арнольд стверджував, що навіть якби технологія була такою ж точною, як стверджує Sainsbury’s, рівень помилок 0,2% – це «багато людей, враховуючи, що мільйони відвідують магазин Sainsbury’s щотижня».

«Є більше людей, ніж я, які постраждали від цього», – додав він.

Речник Sainsbury’s підтвердив, що роботу технології в магазині Dulwich на південному сході Лондона призупинено на час розслідування, але виправдав ідею ширшого впровадження системи, яку розробила компанія Facewatch з розпізнавання облич, посилаючись на ескалацію насильства щодо працівників роздрібної торгівлі.

Вони сказали: «Ми зв’язалися з Арнольдом, щоб вибачитися за його досвід у нашому супермаркеті в Далвічі. Інцидент стався через людську помилку, а не через технологію розпізнавання облич».

«Клієнти можуть бути впевнені, що система Facewatch має точність 99,98%, і кожен матч перевіряється кваліфікованим менеджером».

Речник Facewatch також заявив, що їхня технологія в цьому випадку «не винна».

«Роздрібному продавцю було надіслано правильне сповіщення, але згодом воно стало оброблятися в магазині через людський фактор», – сказали вони.

Компанія додала, що призупинення роботи магазину є «запобіжним заходом» для запобігання подальшим сповіщенням, поки персонал проходить додаткове навчання.

Відповідаючи на занепокоєння щодо точності системи, Facewatch заявила, що її показник 99,98% базується на тестуванні в роздрібній торгівлі з використанням перевірки за двома алгоритмами та аналізу аналітиками-людьми.

У повідомленні додається, що решта 0,02% – це не «реальний рівень неправильної ідентифікації», а межа, за якої додаткові перевірки людиною відфільтровують потенційні помилки перед надсиланням сповіщень.

Facewatch повідомив, що сповіщення залишаються видимими на пристроях співробітників до години, і що система реєструє всі помилкові ідентифікації.

«Помилки неминучі»

Sainsbury’s навела нещодавні дані Британського консорціуму роздрібної торгівлі, які свідчать про 1600 щоденних випадків насильства та жорстокого поводження з працівниками магазинів по всій країні, що значно більше, ніж 455 на день у 2019-2020 роках.

Роздрібний продавець додав, що початкові випробування системи розпізнавання облич у двох магазинах призвели до скорочення кількості зареєстрованих випадків крадіжок та антисоціальної поведінки на 46%, причому понад 90% правопорушників не повернулися.

Сілкі Карло, директорка групи захисту громадянських свобод Big Brother Watch, закликала Sainsbury’s відмовитися від цієї технології, стверджуючи, що вона «ставиться до клієнтів як до злочинців».

«Такі серйозні помилки неминучі, коли національний роздрібний продавець проводить сотні тисяч перевірок документів без розбору за допомогою цієї зловісної технології спостереження», – сказала вона.

Арнольд, який пожертвував ваучер доброї волі на 150 фунтів стерлінгів від Sainsbury’s місцевому продовольчому банку, поставив під сумнів, чому система залишається активною в інших місцях.

«Якщо вони призупиняють його продаж у цьому магазині в Іст-Далвічі, вони визнають, що з ним є проблема. Чому вони не призупиняють його продаж у кожному магазині?»

Слухайте найкраще з BBC Radio London на Sounds та слідкуйте за BBC London у Facebook, X та Instagram. Надсилайте свої ідеї для сюжетів на адресу hello.bbc london@bbc.co.uk