Искуственный интеллект от Microsoft оказался в центре скандала на почве расизма

Прошло совсем немного времени с момента замены редакторов портала MSN искусственным интеллектом, как алгоритм от Microsoft оказался в центре скандала на почве расизма. Система перепутала фотографии девушек из группы Little Mix.

Искусственный интеллект выложил главную страницу MSN новость о Джейд Фёрволл с фотографией её коллеги по группе Ли-Энн Пиннок. По иронии судьбы, в заметке рассказывалось о проявлениях расизма к участнице Little Mix в школе.

Реакция Джейд не заставила себя долго ждать:

MSN, если вы хотите копировать и публиковать у себя статьи из других источников, то вам стоит сначала убедиться, что вы берёте фото правильного участника группы смешанной расы.

Это дерьмо происходит со мной и Ли-Энн Пиннок постоянно. Меня оскорбляет то, что вы не можете различить двух «цветных» женщин в группе из четырёх человек. Старайтесь лучше!!

Вероятно, Джейд Фёрволл не знала, что вместо редакторов новость писал искусственный интеллект. Microsoft уже сменила фотографию на верную, а оставшимся «живым» редакторам сайта было поручено удалить негативную публикацию о роботе-редакторе, если алгоритм опубликует её в MSN. Один из сотрудников Microsoft сообщил, что компания глубоко обеспокоена ситуацией:

Учитывая все протесты против расизма, сейчас не время совершать ошибки.