14 декабря 2024

eur = 109.01 -1.47 (-1.33 %)

btc = 101 511.00$ 1 216.44 (1.21 %)

eth = 3 921.17$ 28.25 (0.73 %)

ton = 6.36$ -0.02 (-0.34 %)

usd = 103.43 -0.52 (-0.50 %)

eur = 109.01 -1.47 (-1.33 %)

btc = 101 511.00$ 1 216.44 (1.21 %)

Форум

Google заявила, что в странных ответах поискового ИИ виноваты сами пользователи

1 минута на чтение
Google заявила, что в странных ответах поискового ИИ виноваты сами пользователи

Компания Google объяснила причины странных ответов своей нейросети Gemini, которая порой предлагала пользователям вредные рекомендации, такие как использование клея для пиццы или поедание камней.

В официальном блоге компании уточняется, что нейросеть AI Overview не генерирует собственные ответы и не «галлюцинирует», а лишь ошибочно интерпретирует информацию в сети. Это происходит из-за недостатка качественных обучающих данных и сложностей с пониманием контекста и иронии.

AI Overview, построенная на основе языковой модели, задействована в системах веб-рейтинга Google и должна была помогать в нахождении релевантных ответов на запросы. Однако иногда нейросеть считала наиболее подходящими решениями абсурдные идеи, такие как склеивание пиццы.

Google также обвинила пользователей в искажении результатов выдачи Gemini, утверждая, что распространённые скриншоты с советами оставлять собак в машинах или курить во время беременности были сфабрикованы. При этом компания признала, что некоторые ответы действительно были абсурдны и бесполезны, так как основывались на данных с пародийных сайтов.

В ответ на возникшие проблемы Google обновила свои алгоритмы, чтобы улучшить фильтрацию информации и ограничить использование потенциально вводящего в заблуждение контента. Также был разработан механизм для распознавания сатиры и иронии и фильтрации «бессмысленных запросов». Теперь компания стремится предотвратить повторение подобных инцидентов и улучшить качество ответов своего поискового ИИ.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
d6aa19b2-a354-4c11-8308-4693887bcd66-изображение-0

GigaChat Max: коротко о главном

Сбер: каждый желающий сможет принять участие в «Народном датасете» для обучения нейросетей

Полная версия 
8a7c3ead-b8a5-4994-afef-87012a828dc0-изображение-0d26c6819-9910-4e41-90c2-704794c9ea65-изображение-15a31345f-8b61-47bc-81ed-4343f42ec726-изображение-2

GigaChat Max: коротко о главном

ИИ-технологии Сбера и база научных публикаций теперь доступны всем пользователям

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 301
Газпромбанк
МТС
Т-Банк
X5 Tech
Сбер
билайн
Яндекс Практикум
Ozon Tech
Циан
Банк 131