Робот-пылесос iRobot записал девушку на унитазе. Это слил в интернет сотрудник сторонней компании
Принадлежащий Массачусетскому технологическому институту журнал MIT Technology Review выпустил материал, в котором поделился большой историей влияния умных пылесосов и ИИ на жизнь их владельцев.
Осенью 2020 года на одном из интернет-форумов сотрудником Scale AI были размещены фотографии с обыденными, а иногда и интимными бытовыми сценами, снятыми с низких ракурсов. Они показались ему смешными. В начале 2022 года MIT Technology Review получил 15 скриншотов этих частных фотографий, которые оказались в закрытых группах соцсетей.
На одном снимке молодая девушка сидит на унитазе, и её шорты спущены до середины бедра. На другом — мальчик, которому на вид восемь или девять лет, и чьё лицо хорошо видно, лежит на животе на полу в коридоре. Другие кадры показывают комнаты из домов по всему миру. Мебель, предметы декора и объекты очерчены прямоугольными рамками и сопровождаются надписями «телевизор», «растение_или_цветок» и «потолочный светильник».
Снимки были сделаны экспериментальной версией робота-пылесоса iRobot Roomba серии J7. Они были отправлены в Scale AI — стартап, который нанимает работников по всему миру для маркировки аудио-, фото- и видеоданных, используемых для обучения искусственного интеллекта. В iRobot — крупнейшем в мире поставщике роботов-пылесосов — подтвердили, что эти изображения были сделаны их роботами Roomba в 2020 году.
Все они были получены якобы от «специальных роботов-разработчиков с аппаратными и программными модификациями, которые не присутствуют и никогда не присутствовали» на потребительском рынке. Они были переданы «платным коллекционерам и сотрудникам», которые подписали письменные соглашения, подтверждающие, что в учебных целях отправляют компании потоки данных, включая видео.
Согласно заявлению iRobot, устройства были помечены ярко-зелёной наклейкой с надписью «Идёт видеозапись», и эти платные сборщики данных должны были «убрать всё, что они считают чувствительным, из любого пространства, в котором работает робот, включая детей». Другими словами, по оценке iRobot, все, чьи фото или видео были слиты, соглашались на то, чтобы их Roomba следил за ними.
Правда, в iRobot отказались предоставить MIT Technology Review возможность ознакомиться с соглашениями о согласии и не предоставили ни одного из своих сотрудников для обсуждения их понимания условий.
Но потребители регулярно дают согласие на то, чтобы их данные в той или иной степени отслеживались на различных устройствах — от iPhone до стиральных машин. Эта практика становится всё более распространённой в последнее десятилетие, поскольку требовательный к данным ИИ всё чаще интегрируется в целый ряд новых продуктов и услуг.
Большая часть этих технологий основана на машинном обучении — методе, который использует большие массивы данных, включая голоса, лица, дома и другую личную информацию, для обучения алгоритмов распознаванию закономерностей. Самые полезные наборы данных являются наиболее реалистичными. Часто люди соглашаются на передачу таких данных.
Аспирант Северо-Восточного университета Деннис Гизе, который изучает уязвимости безопасности устройств Интернета вещей, включая роботы-пылесосы, заявил, что данные, собираемые роботами-пылесосами, могут быть особенно инвазивными. По его словам, у них «мощное оборудование, мощные датчики»:
И они могут ездить по вашему дому — и у вас нет возможности контролировать это.
Эти данные затем используются для создания более умных роботов, назначение которых однажды может выйти далеко за рамки уборки пылесосом. Но чтобы сделать эти наборы данных полезными для машинного обучения, отдельные люди должны сначала просмотреть, классифицировать, обозначить и иным образом добавить контекст к каждому биту данных.
Этот процесс называется аннотацией данных. iRobot заявила, что поделилась более чем 2 млн изображений при помощи Scale AI и других платформ аннотации данных. Компания также подтвердила, что Scale является лишь одним из используемых ею аннотаторов данных.
Представитель iRobot Джеймс Бауссманн сообщил, что компания «приняла все меры предосторожности для обеспечения безопасной обработки персональных данных в соответствии с действующим законодательством», и что изображения, полученные MIT Technology Review, были «переданы в нарушение письменного соглашения о неразглашении между iRobot и поставщиком услуг по аннотированию изображений».
Через несколько недель после слива изображений генеральный директор iRobot Колин Энгл заявил, что «iRobot прекращает свои отношения с поставщиком услуг, допустившим утечку изображений, активно расследует этот вопрос и [принимает] меры для предотвращения подобных утечек со стороны любого поставщика услуг в будущем».
