Искусственный интеллект, разработанный обманным способом, заставят уничтожить

Федеральная торговая комиссия США постановила уничтожить разработанный компанией Paravision искусственный интеллект, способный распознавать лица людей на фотографиях. Расследование NBC News в 2019 году показало, что для его обучения использовались снимки людей, которые не давали на это согласия.

Paravision через приложение для хранения изображений Ever незаметно для пользователей перекачало их личные фотографии для обучения алгоритмов распознавания лиц. Технология затем была продана правоохранительным органам и вооруженным силам США.

В решении федеральной торговой комиссии, опубликованном 11 января, Paravision будет обязана удалить все тайно полученные фотографии пользователей, а также любые алгоритмы, созданные с использованием этих данных. По данным Wired, искусственный интеллект были критически важен для будущего Paravision, которая выиграла контракт ВВС на поставку технологии распознавания лиц.

Данные являются критически важной составляющей для построения функциональных алгоритмов искусственного интеллекта. Многие технологические компании собирают огромное количество данных для разработки собственного ИИ, но далеко не все из них делают это честным способом.

Решение федеральной торговой комиссии США может стать предупреждением для более крупных компаний. Например, Facebook и Google не раз уже подозревались в незаконном сборе информации о пользователях:

Если выяснится, что компании обманом получали данные, то все разработанные ими алгоритмы технологии искусственного интеллекта тоже могут уничтожить.

_{Заглавное изображение: Alex Castro / Th}