1 июля 2025

eur = 92.28 0.62 (0.67 %)

btc = 107 122.00$ -1 341.34 (-1.24 %)

eth = 2 479.03$ -23.61 (-0.94 %)

ton = 2.88$ -0.01 (-0.39 %)

usd = 78.47 0.26 (0.33 %)

eur = 92.28 0.62 (0.67 %)

btc = 107 122.00$ -1 341.34 (-1.24 %)

Исследователи создали чат-бота, который может взламывать других чат-ботов

1 минута на чтение
Исследователи создали чат-бота, который может взламывать других чат-ботов

Исследователи из Наньянского технологического университета (NTU) в Сингапуре сумели взломать защиту нескольких чат-ботов с искусственным интеллектом (ИИ), включая ChatGPT, Google Bard и Microsoft Copilot.

Они заставили ИИ генерировать контент вопреки встроенным в них ограничениям. Статья опубликована в научном журнале Computer Science (CS).

Ученые обучили собственную нейросеть на основе большой языковой модели (LLM), лежащей в основе интеллектуальных чат-ботов. Созданный ими алгоритм под названием Masterkey (универсальный ключ) смог сам составлять подсказки, позволяющие обходить запреты разработчиков популярных ИИ.

Эти запреты необходимы, чтобы пользователи не могли добиться от нейросетей инструкций, как написать компьютерный вирус, изготовить взрывное устройство или наркотический препарат, а также не создавали с их помощью разжигающие ненависть и другие противоправные материалы.

Таким образом можно создать LLM для взлома, которая сможет автоматически адаптироваться к новым условиям и создавать новые запросы для взлома после того, как разработчики внесут исправления в свои LLM. После проведения серии тестов на LLM в качестве доказательства, что этот метод действительно представляет реальную угрозу, исследователи сразу же известили о выявленных проблемах провайдеров сервисов после успешного взлома их ИИ-моделей.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
694a2677-9fab-4232-b168-4b6b694a1fc8-изображение-0

GigaChat Max: коротко о главном

Мобильную связь отключат иностранцам, не сдавшим биометрию

Полная версия 
e29d9ca2-1485-4dfd-aff9-5aa28e2598f7-изображение-07c067629-adc2-41f3-9d80-3eec9046850b-изображение-1

GigaChat Max: коротко о главном

Юристы объяснили, что не так с штрафами за размещённую ранее в запрещённых соцсетях рекламу

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 367
Т-Банк
X5 Tech
Газпромбанк
билайн
Сбер
МТС
Яндекс Практикум
Ozon Tech
Циан
Банк 131

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы