Twitter заплатил украинцу $3,5 тыс. за доказательство расизма алгоритмов соцсети

Социальная сеть выплатила 3,5 тысячи долларов украинскому студенту Богдану Кулынычу, доказавшему необъективность, с которой выполнялась совокупность команд в Twitter. Об этом сообщила газета The Guardian.

Студент победил в конкурсе, который Twitter объявил ещё в прошлом году: участники должны были найти несовершенства в работе алгоритмов и доказать, что они действительно есть. Таким образом соцсеть устраняет неполадки.

Алгоритм Twitter, который автоматически подгоняет большие изображения под размер окна превью, работает в соцсети с 2018 года. Впервые его обвинили в неосознанном расизме ещё в сентябре 2020 года. На фоне разразившегося спора Twitter анонсировал премию с наградой в 3,5 тысячи долларов для способного доказать предвзятость алгоритмов. Этим человеком и оказался украинский аспирант швейцарского университета EFPL. Молодой человек обнаружил, что программа чаще фокусируется на лицах стройных людей со светлой кожей. Изображения темнокожих женщин и мужчин вовсе могут быть обрезаны.

Для проверки предвзятости алгоритма программист искусственно создал почти идентичные лица, и сделал их различными по возрасту и цвету кожи, после чего прогнал изображения через алгоритм Twitter для обрезки фото.

Алгоритмы в соцсети отвечают за составление персонализированной ленты, рекомендации аккаунтов, а также обрезку опубликованных пользователями изображений — задача состоит в том, чтобы автоматически показать в ленте наиболее релевантную часть фото или картинки, которая целиком не умещается в стандартную рамку.

Ещё один участник конкурса доказал, что алгоритм Twitter скорее обрежет часть изображения с арабским текстом, чем с английским. Другой доказал, что алгоритм благосклоннее относится к более светлым эмодзи.