ГК Softline советует бизнесу актуализировать политику безопасности на фоне демократизации технологий

Демократизация генеративных моделей искусственного интеллекта позволила злоумышленникам автоматизировать рутинные процессы, повышать качество атак и масштабировать их.

Преступники постоянно тестируют новые технологии, снижая затраты и повышая эффективность своих операций, что неизбежно ведет к увеличению количества инцидентов. Чтобы минимизировать риски, компаниям нужно актуализировать обучение сотрудников навыкам цифровой грамотности и кибергигиены.

Мы в Softline видим два вида угроз, которые представляют все большую опасность — дипфейки и рост фишинговой активности. Во-первых, ИИ упрощает разработку фишинговых интерфейсов. Ранее злоумышленникам приходилось вручную копировать элементы сайтов, но теперь генеративные модели автоматически воспроизводят не только дизайн сайтов, но и формы ввода данных и другие элементы. Некоторые группировки пошли еще дальше и уже внедрили автоматизированные сервисы, которые создают фишинговые страницы за считанные минуты. Для этого достаточно указать целевой сайт. В ответ система сформирует готовый шаблон с необходимыми элементами. Не стоит ожидать, что сотрудники заметят минимальные визуальные расхождения.

Во-вторых, злоумышленники начали активно применять ИИ-модели для создания фото- и видеоконтента. Ведь бизнес уже активно использует цифровые аватары для публичных выступлений и записей, что позволяет экономить ресурсы и получить больший охват аудитории. Но эта же технология стала инструментом мошенников. Они создают подделки и используют методы социальной инженерии, чтобы обмануть людей.

Чтобы снизить риски обмана с помощью дипфейков, мы в Softline советуем обращать внимание на следующие особенности. Поддельные записи чаще всего ограничиваются изображением лица, шеи и плеч, так как злоумышленники не всегда располагают полными данными о внешности человека. Кроме того, речевые обороты и произношение в дипфейках могут быть неестественными из-за недостаточной обработки звука.

Реализуя проекты в сфере информационной безопасности для заказчиков, в Softline мы часто замечаем, что человеческий фактор остается наиболее уязвимым звеном на фоне развития технологий. Особенно высоки риски для бизнеса, если на уловки мошенников попадутся сотрудники, которые обладают чувствительными данными и доступом к финансовым ресурсам организации.

Компаниям стоит помнить, что обучение персонала правилам кибергигиены важно для обеспечения безопасности деятельности. Наряду с техническими средствами защиты необходима политика корпоративной безопасности в вопросах внешних коммуникаций и распространения данных. Управленческое решение заключается не в поиске новых технологий, а в формировании и строгом соблюдении сотрудниками инструкций и регламентов.