21 июня 2025

eur = 89.84 -0.47 (-0.52 %)

btc = 103 293.00$ 543.00 (0.53 %)

eth = 2 404.66$ 2.94 (0.12 %)

ton = 2.88$ -0.03 (-0.99 %)

usd = 78.48 -0.23 (-0.30 %)

eur = 89.84 -0.47 (-0.52 %)

btc = 103 293.00$ 543.00 (0.53 %)

Нейросети можно взломать и перепрограммировать

2 минуты на чтение
Нейросети можно взломать и перепрограммировать

Исследователи из Google Brain обнаружили метод атак для перепрограммирования нейронных сетей, который позволит взламывать виртуальные помощники в телефонах пользователей с доступом к аккаунтам соцсетей, электронной почты, а также к банковским картам владельца.

DAzGY1FWAAAhc8-

Злоумышленник может получить доступ к параметрам генеративно-состязательной нейросети и ввести помехи или данные, которые меняют исходные изображения. Попадая в сеть, они приспосабливают имеющиеся навыки для решения любых новых задач.

image_2018-07-13_19-17-28

Вторичное перепрограммирование включает в себя добавление небольшого изображения в другое изображение, что позволяет обмануть нейронную сеть.

Система успешно протестирована исследователями на шести алгоритмах. Например, они взяли набор картинок и разделили каждую из них на квадраты, после чего добились того, что нейросети начали подсчитывать номера квадратов вместо того, чтобы они делали то, что должны были, а именно: подсчёта акул и страусов.

Специалисты решили подменить базу данных, после чего нейросеть начала распознавать изображения по набору CIFAR-10, а не ImageNet, по которому была обучена.

image_2018-07-13_19-18-13

(a) Представляет сопоставление числа квадратов в состязательном изображении (левый столбец) с классификатором ImageNet (правый столбец). (б) Показывает, что эти состязательные квадраты добавляются к статическому изображению, чтобы создать два разных изображения: один представляет собой акулу (четыре квадрата), другой — страуса (10 квадратов). (c) Показывает то, что, когда эти состязательные изображения подаются в алгоритм ImageNet, он возвращает значения для акулы и страуса, которые сообщают злоумышленнику, что он подсчитал 4 и 10 квадратов соответственно, хотя алгоритм ImageNet был запрограммирован только на распознавание животных в изображениях.

Подобная модель атак предполагает за собой возможность воровства данных для перепрограммирования систем компьютерного зрения в облачных сервисах. Хакеры в итоге с помощью метода могут даже майнить криптовалюту.

При этом в случае успеха атак можно добиться взлома виртуальных помощников с доступом к учётным записям электронной почты, соцсетей и банковским картам владельца.

Несмотря на то, что сфера машинного обучения ещё имеет достаточно много нераскрытых вопросов и возможных уязвимостей, нейросети с каждым днём внедряются в быт человека, становясь его преданными помощниками. Ранее «Код Дурова» сообщал, что Google разработала технологию, раскрашивающую чёрно-белые видео по одной фотографии. Позже стало известно, что искусственный интеллект обошёл ведущих китайских врачей-неврологов.

Подписывайтесь на «Код Дурова» в Telegram и во «ВКонтакте», чтобы всегда быть в курсе интересных новостей!

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
d54f324e-db0f-469a-b2ea-78686a7b653c-изображение-0be4da673-6a20-4d4c-9d01-7d51fc1de613-изображение-1

GigaChat Max: коротко о главном

Rutube могут запустить в странах Африки

Полная версия 
a2783bd0-a48a-4533-8ecc-4f54023b770f-изображение-0

GigaChat Max: коротко о главном

В билайне заявили о возможности реализовать доступ к сервисам при отключении интернета

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 365
Газпромбанк
билайн
Сбер
Т-Банк
X5 Tech
МТС
Яндекс Практикум
Ozon Tech
Циан
Банк 131