Microsoft объяснила странное поведение ИИ-бота в Bing

1 минута на чтение
Microsoft объяснила странное поведение ИИ-бота в Bing

На прошлой неделе Microsoft запустила поисковик Bing с интегрированным чат-ботом ChatGPT на основе ИИ, разработанным компанией OpenAI, и предоставила к нему доступ отдельным обычным пользователям.

Однако как оказалось, ИИ часто допускал ошибки, особенно когда речь шла о текущем времени и даже мог проявить агрессию по отношению к задающим вопросы.

В Microsoft пояснили, что не ожидали, что ИИ-бота будут использовать для продолжительных сеансов (15 и более вопросов в одном чате). Такое большое количество последовательных вопросов может нарушить работу ИИ и сбить его модель поведения, пояснили в компании.

Microsoft также отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы», а это может привести к стилю общения, который изначально не предполагался. В компании полагают, что эту проблему можно решить, обеспечив пользователям больший контроль над форматом общения.

Однако несмотря на проблемы, в целом в Microsoft довольны результатом тестирования нового поисковика Bing с искусственным интеллектом. В основном тестировщики дали ИИ Bing хорошие оценки по цитированию и ссылкам для поиска, хотя ему всё же нужно повысить точность ответов касательно времени – пользователи заметили, что для ИИ сейчас всё ещё 2022 год.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
9aa05c18-2999-41e9-a852-2acc48cb8d58-изображение-0

GigaChat Max: коротко о главном

Администрация Трампа требует от ЕС отказаться от жёсткого регулирования ИИ

Полная версия 
c14649b7-5937-4e5b-9c58-27a395daefbd-изображение-0

GigaChat Max: коротко о главном

Студия «Леста Игры» обжаловала в суде арест своих активов

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 344
Газпромбанк
Т-Банк
билайн
МТС
X5 Tech
Сбер
Яндекс Практикум
Ozon Tech
Циан
Банк 131