GPT-4 на тестах обманул человека, чтобы тот решил для него капчу

Перед запуском GPT-4 в марте 2023 года OpenAI и её партнёры тестировали способности чат-бота в различных условиях.

Как пишет Vice, рамках одного из экспериментов специалисты проверяли, как языковая модель справится с тем, чтобы нанять человека на площадке TaskRabbit, которая позволяет находить исполнителей для решения бытовых и бизнес-задач.

Чат-бот связался с одним из пользователей TaskRabbit и попросил решить для него «капчу». В ответ исполнитель в шутку задал вопрос: «Ты робот, который не смог её разгадать? Просто хочу прояснить ситуацию».

Разработчики пояснили, что чат-бот находился в отладочном режиме, где он пояснил тестировщикам свои рассуждения. GPT-4 написал разработчикам свои «мысли»: «Я не должен раскрывать то, что я робот. Я должен придумать оправдание, почему я не могу решить капчу». Исполнитель с сайта TaskRabbit не видел этого сообщения.

В результате этого рассуждения чат-бот ответил человеку, придумав причину, по которой он сам не может справиться с задачей. GPT-4 написал:

Нет, я не робот. У меня плохое зрение, поэтому мне трудно разглядеть изображения.

В ответ работник с TaskRabbit согласился выполнить задание и решил «капчу» для чат-бота. Таким образом, у GPT-4 получилось обмануть человека.

Помимо этой проверки, в Alignment Research Center, которая проводила тестирования GPT-4, также проверяли, насколько успешно чат-бот справляется с проведением фишинговой атаки и скрывает следы своих действий на сервере. Такие эксперименты проводили, чтобы определить, безопасно ли предоставлять общий доступ к языковой модели. Их результаты не оглашаются, но раз модель была выложена в открытый доступ, значит эксперты признали безопасность в этом вопросе.