1 июля 2025

eur = 92.27 -0.01 (-0.01 %)

btc = 107 359.00$ - 191.28 (-0.18 %)

eth = 2 467.04$ 32.09 (1.32 %)

ton = 2.95$ 0.08 (2.75 %)

usd = 78.53 0.06 (0.08 %)

eur = 92.27 -0.01 (-0.01 %)

btc = 107 359.00$ - 191.28 (-0.18 %)

Нейросети можно взломать и перепрограммировать

2 минуты на чтение
Нейросети можно взломать и перепрограммировать

Исследователи из Google Brain обнаружили метод атак для перепрограммирования нейронных сетей, который позволит взламывать виртуальные помощники в телефонах пользователей с доступом к аккаунтам соцсетей, электронной почты, а также к банковским картам владельца.

DAzGY1FWAAAhc8-

Злоумышленник может получить доступ к параметрам генеративно-состязательной нейросети и ввести помехи или данные, которые меняют исходные изображения. Попадая в сеть, они приспосабливают имеющиеся навыки для решения любых новых задач.

image_2018-07-13_19-17-28

Вторичное перепрограммирование включает в себя добавление небольшого изображения в другое изображение, что позволяет обмануть нейронную сеть.

Система успешно протестирована исследователями на шести алгоритмах. Например, они взяли набор картинок и разделили каждую из них на квадраты, после чего добились того, что нейросети начали подсчитывать номера квадратов вместо того, чтобы они делали то, что должны были, а именно: подсчёта акул и страусов.

Специалисты решили подменить базу данных, после чего нейросеть начала распознавать изображения по набору CIFAR-10, а не ImageNet, по которому была обучена.

image_2018-07-13_19-18-13

(a) Представляет сопоставление числа квадратов в состязательном изображении (левый столбец) с классификатором ImageNet (правый столбец). (б) Показывает, что эти состязательные квадраты добавляются к статическому изображению, чтобы создать два разных изображения: один представляет собой акулу (четыре квадрата), другой — страуса (10 квадратов). (c) Показывает то, что, когда эти состязательные изображения подаются в алгоритм ImageNet, он возвращает значения для акулы и страуса, которые сообщают злоумышленнику, что он подсчитал 4 и 10 квадратов соответственно, хотя алгоритм ImageNet был запрограммирован только на распознавание животных в изображениях.

Подобная модель атак предполагает за собой возможность воровства данных для перепрограммирования систем компьютерного зрения в облачных сервисах. Хакеры в итоге с помощью метода могут даже майнить криптовалюту.

При этом в случае успеха атак можно добиться взлома виртуальных помощников с доступом к учётным записям электронной почты, соцсетей и банковским картам владельца.

Несмотря на то, что сфера машинного обучения ещё имеет достаточно много нераскрытых вопросов и возможных уязвимостей, нейросети с каждым днём внедряются в быт человека, становясь его преданными помощниками. Ранее «Код Дурова» сообщал, что Google разработала технологию, раскрашивающую чёрно-белые видео по одной фотографии. Позже стало известно, что искусственный интеллект обошёл ведущих китайских врачей-неврологов.

Подписывайтесь на «Код Дурова» в Telegram и во «ВКонтакте», чтобы всегда быть в курсе интересных новостей!

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
2737c621-d628-4a44-9350-431fc416c777-изображение-0648c944a-47e1-4190-a7e4-00141e05901a-изображение-1

GigaChat Max: коротко о главном

Инсайдер: Apple разрабатывает 7 AR- и VR-устройств, которые выйдут в ближайшие четыре года

Полная версия 
a96a0e6a-3fe9-4b49-b564-965013b85900-изображение-0da98c41b-6488-405f-bad3-8e0963b48652-изображение-1

GigaChat Max: коротко о главном

В Китае провели футбольный матч между гуманоидными роботами

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 366
X5 Tech
Газпромбанк
билайн
Сбер
Т-Банк
МТС
Яндекс Практикум
Ozon Tech
Циан
Банк 131

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы