Чорношкірий водій Uber Eats отримав виплату після того, як «расово-дискримінаційні» перевірки розпізнавання обличчя завадили йому отримати доступ до програми для захисту роботи.

Коли Па Едрісса Манджанг почав працювати в Uber Eats у листопаді 2019 року, його додаток не просив регулярно надсилати селфі, щоб зареєструватися на роботу.

Але програма Uber Eats на базі Microsoft посилила ці перевірки підтвердження.

А в 2021 році було сказано, що після «ретельного розгляду» його обліковий запис буде видалено через «триваючі невідповідності».

«Расові переслідування»

Представник Uber сказав: «Наша перевірка посвідчення особи в режимі реального часу розроблена, щоб убезпечити всіх, хто користується нашим додатком, і включає в себе ретельний людський аналіз, щоб переконатися, що ми не приймаємо рішення щодо чиїхось засобів до існування на порожньому місці, без нагляду. .”

Комісія з питань рівності та прав людини та Союз водіїв додатків і кур’єрів фінансували справу Манджанга.

EHRC був стурбований тим, що штучний інтелект у перевірках розпізнавання обличчя позбавив його доходу.

ADCU заявив, що кількість селфі, яку попросили Манджанг, дорівнює расовому переслідуванню.

Профспілка повідомила BBC News, що «наполегливо працює», щоб забезпечити захист прав працівників, оскільки «темп розвитку ШІ та інструментів машинного навчання на робочому місці прискорюється».

«Непрозорі процеси»

Манджанг, який був поновлений на роботі та продовжує працювати в Uber Eats в Оксфордширі, сказав, що позасудове врегулювання ознаменувало для нього кінець «довгого та важкого» періоду.

Його випадок «просвітлює» потенційну проблему зі штучним інтелектом, особливо для «низькооплачуваних працівників в економіці концертів».

І він сподівався, що це рішення допоможе зміцнити «права та захист працівників по відношенню до ШІ, особливо етнічних меншин».

Баронеса Фолкнер, яка очолює EHRC, сказала, що Манджангу ніколи не слід було подавати до суду на Uber Eats, щоб зрозуміти, які непрозорі процеси впливають на його роботу.

«Ми особливо стурбовані тим, що Манджанг не був поінформований про те, що його обліковий запис перебуває в процесі дезактивації, і не надав жодного чіткого та ефективного способу кинути виклик технології», — сказала вона.

Корпорація Майкрософт раніше визнавала, що її програмне забезпечення для розпізнавання облич працює гірше для людей, які належать до етнічних меншин.

А попередні випадки, пов’язані з поліцією, міністерством внутрішніх справ та університетами, показали, що етнічна приналежність може вплинути на технологію.