OpenAI опасается эмоциональной привязанности к ChatGPT в голосовом режиме
Читать первым в Telegram-канале «Код Дурова»
OpenAI выразила обеспокоенность по поводу возможных последствий использования нового голосового режима ChatGPT, который стал доступен подписчикам ChatGPT Plus.
В отчёте компании отмечается, что реалистичное звучание голосов ИИ-чат-бота и его способность подстраиваться под разговоры могут привести к формированию у пользователей зависимости от взаимодействия с ИИ.
OpenAI опасается, что такая зависимость может снизить потребность людей в реальных социальных контактах, что может как помочь одиноким людям, так и негативно сказаться на здоровых отношениях.
Кроме того, компания подчеркнула, что общение с ChatGPT в голосовом режиме может вызвать у пользователей чрезмерное доверие к информации, полученной от ИИ, что особенно важно, учитывая склонность моделей к ошибкам.
OpenAI также отметила, что взаимодействие с ИИ может повлиять на нормы социальных взаимодействий, так как пользователи привыкают к возможности прерывать и брать инициативу в разговоре, что не всегда соответствует нормам общения между людьми.
OpenAI заявила, что продолжит проверку того, как голосовые возможности её искусственного интеллекта могут вызывать у людей эмоциональную привязанность. Компания проведёт исследование влияния своих технологий на эмоциональное состояние пользователей и будет стремиться обеспечивать их безопасное использование.
