11 июля 2025

eur = 91.50 0.08 (0.09 %)

btc = 118 313.00$ 7 278.39 (6.56 %)

eth = 3 006.71$ 231.45 (8.34 %)

ton = 2.97$ 0.10 (3.31 %)

usd = 77.90 -0.27 (-0.35 %)

eur = 91.50 0.08 (0.09 %)

btc = 118 313.00$ 7 278.39 (6.56 %)

OpenAI предложила способ бороться с «галлюцинациями» ChatGPT

1 минута на чтение
OpenAI предложила способ бороться с «галлюцинациями» ChatGPT

Компания предложила способ борьбы с так называемыми «галлюцинациями» искусственного интеллекта, когда чат-боты полностью фабрикуют информацию. Однако эксперты сомневаются в успешности такого подхода.

Для заведомо ложной информации даже был создан отдельный термин — «галлюцинации». По словам OpenAI, это возникает в том случае, когда ИИ начинает верить, будто он оперирует реальными фактами. Похоже, что руководство компании нашло решение проблемы.

По словам компании, одной логической ошибки достаточно, чтобы поставить бота в неопределённость и превратить всю последующую информацию в ложную цепочку.

Даже самые современные ИИ-модели склонны выдавать ложные сведения. Они демонстрируют тенденцию выдумывать факты в моменте неопределенности. Эти галлюцинации вызывают много проблем в областях, требующих многоступенчатых рассуждений, поскольку одной логической ошибки достаточно, чтобы сорвать гораздо более масштабное решение, — говорится в отчете OpenAI.

OpenAI разработала новую стратегию, согласно которой ИИ будет вознаграждать себя за правильные рассуждения. Исследователи назвали этот подход «контроль процесса». По их мнению, он может привести к созданию более логичного ИИ, поскольку эта стратегия побуждает модели следовать «цепочке мыслей», подобной человеческой.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
Хакеры взломали бота McDonald’s паролём «123456» и получили доступ к данным 64 млн соискателей работы

GigaChat Max: коротко о главном

Хакеры взломали бота McDonald’s паролём «123456» и получили доступ к данным 64 млн соискателей работы

Полная версия 
Telegram подвёл итоги первого конкурса на создание антирекламы WhatsApp

GigaChat Max: коротко о главном

Telegram подвёл итоги первого конкурса на создание антирекламы WhatsApp

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 375
Газпромбанк
Сбер
OTP Bank
Т-Банк
X5 Tech
билайн
МТС
Яндекс Практикум
Ozon Tech
Циан

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы