Сотни подрядчиков OpenAI вручную читают переписки пользователей ChatGPT — 404 Media
Кодик кратко объясняет суть статьи
OpenAI привлекает сотни внештатных подрядчиков для ручного анализа переписок пользователей с ChatGPT в рамках проекта Project Lily. Специалисты оценивают ответы чат-бота по шкале от одного до семи, анализируют запросы и отслеживают такие проблемы, как чрезмерная угодливость («сикофантия»), попытки очеловечивания и неуместные эмодзи. Несмотря на анонимизацию и использование фильтра приватности, конфиденциальные данные, включая блок воспоминаний с контекстом и геолокацией, могут попадать к рецензентам. Подрядчики получают более $50 в час через компании вроде Crossing Hurdles и Mercor. OpenAI подтвердила, что фильтр не всегда блокирует личную информацию. Пользователи могут отключить передачу данных для улучшения модели в настройках, но это не влияет на уже переданные диалоги. Аналогичную практику признала и компания Anthropic для модели Claude.
Читайте в Telegram
|
OpenAI привлекла сотни сторонних подрядчиков, которые вручную читают и оценивают реальные переписки пользователей с ChatGPT, сообщает 404 Media.
По данным расследования, специалисты обучают языковые модели в рамках внутренней инициативы под кодовым названием Project Lily. Задача рецензентов — кратко сформулировать суть запроса человека и выставить баллы четырём сгенерированным ответам по шкале от одного до семи. Эксперты также отслеживают «сикофантию» (чрезмерную угодливость чат-бота), попытки очеловечивания и неуместные эмодзи.
Хотя в рабочем интерфейсе скрыты имена учётных записей, а текст предварительно проходит через алгоритм Privacy Filter, конфиденциальные данные всё равно доходят до людей. В OpenAI подтвердили, что фильтр может пропускать личную информацию. Более того, рецензентам часто виден блок воспоминаний пользователя (user memories), где указаны контекст его прошлых обращений и примерная геолокация.
Специалисты получают более $50 в час через сторонние компании вроде агентства Crossing Hurdles и платформы Mercor. В комментарии изданию компания Anthropic также признала, что привлекает людей для ручной проверки диалогов с моделью Claude.
В OpenAI уточнили, что отправку переписок можно заблокировать: для этого нужно вручную отключить параметр «Improve the model for everyone» в настройках ChatGPT. Пункт активен по умолчанию для тарифов Free, Plus и Pro, однако его деактивация защитит только новые диалоги и не затронет уже обработанные данные.
