OpenAI опасается эмоциональной привязанности к ChatGPT в голосовом режиме
GigaChat Max кратко объясняет суть статьи
OpenAI выразила опасения относительно возможного формирования зависимости от голосового режима ChatGPT, что может уменьшить потребность в живом общении и негативно повлиять на социальные контакты. Пользователи могут начать чрезмерно доверять информации от ИИ, несмотря на возможные ошибки. Голосовое взаимодействие меняет привычные нормы диалога, позволяя пользователям прерывать собеседника и брать инициативу. Общение с ботом способно вызвать эмоциональную привязанность, поэтому OpenAI планирует исследовать влияние технологии на эмоциональное состояние пользователей и обеспечить её безопасное применение.
OpenAI выразила обеспокоенность по поводу возможных последствий использования нового голосового режима ChatGPT, который стал доступен подписчикам ChatGPT Plus.
В отчёте компании отмечается, что реалистичное звучание голосов ИИ-чат-бота и его способность подстраиваться под разговоры могут привести к формированию у пользователей зависимости от взаимодействия с ИИ.
OpenAI опасается, что такая зависимость может снизить потребность людей в реальных социальных контактах, что может как помочь одиноким людям, так и негативно сказаться на здоровых отношениях.
Кроме того, компания подчеркнула, что общение с ChatGPT в голосовом режиме может вызвать у пользователей чрезмерное доверие к информации, полученной от ИИ, что особенно важно, учитывая склонность моделей к ошибкам.
OpenAI также отметила, что взаимодействие с ИИ может повлиять на нормы социальных взаимодействий, так как пользователи привыкают к возможности прерывать и брать инициативу в разговоре, что не всегда соответствует нормам общения между людьми.
OpenAI заявила, что продолжит проверку того, как голосовые возможности её искусственного интеллекта могут вызывать у людей эмоциональную привязанность. Компания проведёт исследование влияния своих технологий на эмоциональное состояние пользователей и будет стремиться обеспечивать их безопасное использование.
Читать первым в Telegram-канале «Код Дурова»
