Google намагається виправити свій новий інструмент для створення зображень на базі штучного інтелекту після того, як claiit надто виправляв його, щоб не бути расистським.

Користувачі сказали, що фірмовий бот Gemini надав зображення, що зображують різні статі та етнічні групи, навіть якщо це було історично неточно.

Наприклад, пошук зображень батьків-засновників Америки виявив жінок і кольорових людей.

Компанія заявила, що її інструмент «промахнувся».

«Генерація зображень зі штучним інтелектом Gemini справді генерує широке коло людей. І це загалом добре, тому що люди в усьому світі користуються нею. Але тут це не так», — сказав Джек Кравчик, старший директор Gemini Experiences.

«Ми негайно працюємо над покращенням таких зображень», — додав він.

Це не перший випадок, коли штучний інтелект натикається на реальні питання про різноманітність.

Наприклад, майже десять років тому Google довелося вибачитися за те, що його програма для фотографій позначила фотографію темношкірої пари “горилами”.

Конкуруючу компанію зі штучного інтелекту, OpenAI, також звинуватили в увічненні шкідливих стереотипів, після того як користувачі виявили, що її генератор зображень Dall-E відповідає на запити про виконавчого директора, наприклад, у результатах, де переважають зображення білих чоловіків.

Google, яка перебуває під тиском, щоб довести, що вона не відстає в розробках ШІ, випустила останню версію Gemini минулого тижня.

Бот надає зображення у відповідь на письмові запити,

Це швидко викликало критиків, які звинуватили компанію в тому, що вона навчила бота прокидатися до сміху.

«Надзвичайно важко змусити Google Gemini визнати, що білі люди існують», — написав комп’ютерний науковець Дебарг’я Дас.

«Давай», — Френк Дж. Флемінг, автор і гуморист, який пише для засобів масової інформації, зокрема для правого PJ Media, у відповідь на результати, які він отримав із проханням надати зображення вікінга.

У правих колах США, де багато великих технологічних платформ уже стикаються з негативною реакцією через нібито ліберальні упередження, набирає обертів.

Кравчик сказав, що компанія серйозно ставиться до репрезентації та упередженості та хоче, щоб її результати відображали її глобальну базу користувачів.

«Історичні контексти мають більше нюансів, і ми будемо далі налаштовуватися, щоб це врахувати», — написав він на X, який раніше називався Twitter, де користувачі ділилися сумнівними результатами, які вони отримали.

«Це частина процесу узгодження — повторення відгуків. Дякую і продовжуй!»