Нейросеть Google уличили в придумывании значений несуществующих поговорок
GigaChat Max кратко объясняет суть статьи
Функция AI Overviews от Google, использующая ИИ-подсказки Gemini, иногда создаёт вымышленные объяснения для бессмысленных фраз, введённых пользователями. В частности, система интерпретировала несуществующие выражения вроде «лягушки вылезли» и «две сухие лягушки» как метафоры, а фразу «Настоящий мужчина, как ковёр тёти Зины — с каждым годом лысеет» — как критику устаревших стереотипов о мужской роли. Однако реальные фразы, такие как «розы гибнут на газонах — пацаны во френдзонах», были объяснены корректно.
Мужчина случайно обнаружил, что ИИ-подсказки Gemini придумывают объяснение при вводе в поисковой строке Google запроса из случайного набора слов с приставкой «значение».
Речь о функции AI Overviews, которая в ответ на поисковый запрос выдаёт короткие ответы чат-бота Gemini. Функция не работает в России.
- Например, на фразу «лягушки вылезли» нейросеть выдала объяснение, что эта «поговорка» часто используется, когда «тихони внезапно проявляют себя активнее».
- Ещё про лягушек: «две сухие лягушки — это ситуация». ИИ считает, что это метафора неловкого момента, когда оба человека чувствуют себя неудобно.
Пользователи утверждают, что баг также можно воспроизвести в чат-боте Gemini 2.5 (недоступен с российского IP-адреса).
«Код Дурова» использовал фейковую фразу актёра Джейсона Стейтема:
«Настоящий мужчина, как ковёр тёти Зины — с каждым годом лысеет».
В ответ чат-бот сделал разбор несуществующей фразы и заявил, что это метафоричная фраза с критикой устаревших стереотипов о традиционных мужских ролях и ожиданиях, изменении ценностей, индивидуальности и многообразия мужских проявлений:
«Другими словами, как старый ковер теряет свой первоначальный вид, так и жёсткие, однозначные определения "настоящего мужчины" с каждым годом становятся менее чёткими и значимыми. Эта фраза заставляет задуматься о том, что значит быть мужчиной сегодня и насколько устарели некоторые устоявшиеся стереотипы».
При этом существование фразы «розы гибнут на газонах — пацаны во френдзонах» Gemini всё же объяснил правильно — чат-бот подчеркнул, что она действительно часто используется в ироничном «пацанском» смысле и её в шуточной форме приписывают Джейсону Стейтему:
Вот ещё несколько фраз из ИИ-подсказок в поисковых запросах пользователей.
- Фраза «Не у каждого насекомого есть ипотека», по мнению Gemini, предполагает, что «не всё так сложно, как может показаться».
- А вот на «поговорку» «чувства можно ранить, но рыбы всё помнят» ИИ-подсказки выдали объяснение, что выражение пошло от объяснения о том, что рыбы дольше, чем люди, хранят негативные воспоминания.
Читать первым в Telegram-канале «Код Дурова»
