Искуственный интеллект от Microsoft оказался в центре скандала на почве расизма
Прошло совсем немного времени с момента замены редакторов портала MSN искусственным интеллектом, как алгоритм от Microsoft оказался в центре скандала на почве расизма. Система перепутала фотографии девушек из группы Little Mix.
Искусственный интеллект выложил главную страницу MSN новость о Джейд Фёрволл с фотографией её коллеги по группе Ли-Энн Пиннок. По иронии судьбы, в заметке рассказывалось о проявлениях расизма к участнице Little Mix в школе.
Реакция Джейд не заставила себя долго ждать:
MSN, если вы хотите копировать и публиковать у себя статьи из других источников, то вам стоит сначала убедиться, что вы берёте фото правильного участника группы смешанной расы.
Это дерьмо происходит со мной и Ли-Энн Пиннок постоянно. Меня оскорбляет то, что вы не можете различить двух «цветных» женщин в группе из четырёх человек. Старайтесь лучше!!
Вероятно, Джейд Фёрволл не знала, что вместо редакторов новость писал искусственный интеллект. Microsoft уже сменила фотографию на верную, а оставшимся «живым» редакторам сайта было поручено удалить негативную публикацию о роботе-редакторе, если алгоритм опубликует её в MSN. Один из сотрудников Microsoft сообщил, что компания глубоко обеспокоена ситуацией:
Учитывая все протесты против расизма, сейчас не время совершать ошибки.
