ИИ на службе кибербезопасности: как «Лаборатория Касперского» преодолевает вызовы автоматизации

В эпоху стремительного развития технологий искусственный интеллект (ИИ) становится неотъемлемой частью корпоративной стратегии. «Лаборатория Касперского», один из мировых лидеров в области кибербезопасности, активно внедряет ИИ в свои процессы.

Но как компания справляется с вызовами, связанными с автоматизацией рабочих мест, и какие меры предпринимает для обеспечения безопасности и этичности использования ИИ? Технический директор компании Антон Иванов рассказывает о текущих проектах, управлении ожиданиями сотрудников и будущем профессий в условиях интеграции передовых технологий.

Искусственный интеллект — одно из приоритетных направлений развития в «Лаборатории Касперского». Он имеет потенциал не только повышать эффективность, но и автоматизировать человеческий труд. Это вызывает вопросы: как в компании справляются с этим переходом и что это значит для сотрудников.

— «Лаборатория Касперского» активно внедряет ИИ в свои процессы. Как вы объясняете сотрудникам, что они работают над технологиями, которые могут автоматизировать их собственные функции? Возникает ли у сотрудников ощущение, что их труд становится менее востребованным?

Расскажу, как мы внедряем искусственный интеллект на примере RnD-команды — для нужд разработчиков, тестировщиков и других ИТ-специалистов. Делаем это постепенно. В самом начале провели внутреннее тестирование: более 100 разработчиков «Лаборатории Касперского» приняли участие в пилотировании моделей для автоматизации работы. Мы увидели, что в результате эффективность и скорость разработки по всем департаментам повышается в среднем на 15%. Конечно, у людей может появиться опасение, что из-за этого кто-то из сотрудников может оказаться невостребованным, но это не так. Мы объясняем — это значит, что мы будем делать на 15% больше и быстрее.

При внедрении таких технологий важно, чтобы работодатель рассказывал, зачем это нужно — чтобы удовлетворять потребности бизнеса и в итоге увеличивать прибыль. Мы доносим до разработчиков, каких результатов хотим достичь и для чего, делаем это в рамках онлайн-сессий с вопросами и ответами от топ-менеджмента. Показываем результаты внедрения — какие цифры получаем во время пилотных внедрений. В таком деле важна открытость руководства, которое занимается внедрением систем искусственного интеллекта, — это успокаивает значительную часть коллег.

— Как вы управляете ожиданиями сотрудников в свете внедрения ИИ? Как поддерживается их мотивация, особенно с учетом того, что автоматизация может влиять на их рабочие функции?

Первое — это открытость, выставление чётких KPI по внедрению искусственного интеллекта. У нас нет задачи автоматизировать с помощью ИИ вообще всё. Наоборот, мы показываем, что команда может «переварить» определённый бэклог задач, подготовить некоторое количество фич для релиза. Но если используем искусственный интеллект, то можем этот бэклог увеличить, распределить ресурсы иначе.

В «Лаборатории Касперского» разработчики и руководители заинтересованы в том, чтобы как можно быстрее выводить релизы на рынок. От этого в том числе зависят бизнес-показатели компании. Тут прямая взаимосвязь: больше и оперативнее (но от этого не менее качественно) делаем — хорошо всем: и компании, и сотрудникам.

— На ваш взгляд, есть ли конкретные профессии или роли, которые уже сейчас можно заменить ИИ? Насколько глубоко ИИ уже интегрирован в процессы «Лаборатории Касперского»?

Полноценно заменить — нет. Наше видение и представление использования ИИ в целом совпадает с рынком. Заменить разработчика, тестировщика искусственным интеллектом невозможно. Есть определённые риски, связанные с использованием генеративного искусственного интеллекта (и не только), которые требуют валидации со стороны эксперта, его дополнительного времени. Речь идёт о проверке кода, который предоставляет модель, оценке рисков, составлении модели угроз. Это невозможно полностью автоматизировать.

Есть определённая часть рабочего функционала, который можно «отдать» ИИ. Например, у нас есть коммерческий сервис по киберразведке, мы делимся информацией о большом количестве атакующих кибергрупп. Эти данные представлены в том числе в виде больших отчётов, которые пишут наши эксперты по информационной безопасности. Составление осмысленного текста без ошибок с понятной линией истории требует редакторской работы. Поэтому мы используем ИИ для автоматизации и создания определённых видов документов.

Это разгружает технических специалистов и редакторов, даёт возможность увеличить метрики, делать быстрее. Но о полноценной замене со стороны ИИ говорить рано. Это при том, что сегодня ещё не покрыто большое количество рисков использования и внедрения искусственного интеллекта в разработку и другие сферы.

В целом в «Лаборатории Касперского» технологии машинного обучения используются уже почти 20 лет. Например, они помогают обрабатывать огромное количество потенциально опасных объектов и событий. В прошлом году наши решения обнаруживали в среднем почти полмиллиона новых вредоносных файлов ежедневно — большинство из них детектируются различными технологиями, в том числе с применением алгоритмов машинного обучения. Таким образом технологии не заменяют специалистов, а освобождают их от рутинных задач и позволяют сконцентрироваться на изучении более сложных киберугроз.

Уникальность наших AI-технологий подтверждается множеством патентов, полученных в разных странах мира. В первую очередь это патенты на непосредственно детектирующие технологии, например технологии обнаружения вредоносного ПО на основе поведенческих логов программ, детектирование вредоносных серверов в телеметрии, мошеннических страниц и спама с помощью машинного обучения. Всего у «Лаборатории Касперского» более 100 патентов в области ИИ.

— Какие риски или этические вопросы возникают при массовом внедрении ИИ? Что удерживает «Лабораторию Касперского» от полной автоматизации определенных процессов — это этические аспекты или же ещё существуют технологические ограничения?

Ограничений и потенциальных рисков много. Например, есть облачные поставки LLM-моделей от известных производителей, в том числе иностранных. Ими могут пользоваться, например, разработчики. А это значит, что конфиденциальная информация компании (исходный код, коммерческая тайна и т.д.) отправляется в облако и там обрабатывается. Некоторые сервисы недоступны из России напрямую, и те же разработчики могут пользоваться услугами сервисов-посредников. Но кто может иметь в результате доступ ко всем этим данным, помимо их владельцев, — вопрос остаётся открытым.

Есть векторы атак на генеративный ИИ, которые позволяют злоумышленникам, не имеющим доступ к инфраструктуре компании, получить конфиденциальные корпоративные данные от других пользователей того или иного сервиса. К тому же многие наверняка читали новости об утечке данных из сервиса одного крупного ИИ-разработчика. Нет никаких гарантий, что этого не произойдет с конфиденциальными данными компаний, которые пользуются подобными LLM-решениями.

Другая проблема — учётные данные от AI-сервисов сегодня могут продаваться в даркнете. Так, эксперты Kaspersky Digital Footprint Intelligence обнаружили, что с 2021 по 2023 годы были скомпрометированы и выложены на теневых и других специализированных площадках 688 тысяч связок логинов и паролей от аккаунтов в сервисах OpenAI. Если злоумышленники получат доступ к аккаунту, который принадлежит, например, разработчику в той или иной компании, и смогут изучить историю запросов, то они, вероятно, увидят исходный код коммерческого продукта, узнают, какие ошибки нейросеть просили поправить. К тому же атакующие могут использовать данные из украденных аккаунтов сотрудников, чтобы разработать план кибератаки на организацию.

Если же компания не использует облачные сервисы, она может перейти к on-prem поставкам LLM. То есть модель развёртывается в контуре организации. Тут возникает вопрос — какие бенчмарки будут использоваться для проверки модели. Конечно, если попросить нейросеть сгенерировать исходный код, который должен решать ту или иную задачу, то она его выдаст. Но есть ли в этом сгенерированном коде ошибки, всё ли в нём поправлено? Из-за невнимательности разработчиков, которые не проверяют итог работы нейросети, в программных продуктах компании потенциально могут появиться уязвимости.

Если мы посмотрим на мировой опыт, то увидим, что наши зарубежные коллеги озаботились этим вопросом. Там разработан целый банк бенчмарков — наборов задач для тестирования моделей перед их внедрением. В России сейчас такого нет, и это большая проблема в области безопасности ИИ. Да, компания «отгородилась» от облачных сервисов и развернула модель у себя в контуре. Но кто проверил нейросеть, какие данные она выдает, и не получите ли вы, например, закладки в исходном коде? Это важный вопрос, который ИИ-сообщество в России начало прорабатывать, в том числе этими вопросами задаёмся и мы в «Лаборатории Касперского». Надеемся, что наши наработки и методы проверки скоро станут общедоступными. Чтобы все, кто хочет внедрять ИИ для повышения качества и скорости, проходили через метрики, которые мы уже внедрили внутри компании.

Вообще вопросы этики и безопасности ИИ — тема крайне важная. В прошлом году на Форуме по управлению интернетом под эгидой ООН мы представили свои принципы этичного использования ИИ в кибербезопасности. В нашем документе мы описали, как обеспечиваем надёжность систем, основанных на ML-алгоритмах, и призываем других участников отрасли присоединиться к диалогу и выработать общие этические принципы.

— В свете роста роли ИИ в бизнесе многие задаются вопросом, какие навыки становятся необходимыми для того, чтобы быть востребованным в современных компаниях. Сегодня всё больше внимания уделяется цифровым инструментам, но насколько важно знание ИИ для успешного трудоустройства?

В первую очередь, работодателям нужно показывать, что ты ответственно относишься к использованию нейросетей — не будешь всю свою работу «сгружать» помощникам-ассистентам. В том числе потому, что сотрудник, который абсолютно все свои задачи решает с помощью ИИ-сервисов, — это потенциальный вектор утечки данных в компании.

Второе — необходимо быть в тренде. Понимать, какие существуют инструменты, и уметь решать с их помощью некоторые вопросы быстрее и эффективнее. Например, если у человека работа связана с подбором изображений, то в некоторых случаях это можно быстрее сделать с помощью ИИ, а не искать картинки в банках фотографий. В целом, это нормально — не тратить много времени на поиск какой-либо информации, а проверить, что нейросеть всё правильно подсказала, и использовать полученные данные. Проверять ответы LLM важно потому, что они могут галлюцинировать, то есть генерировать текст, в котором есть фактологические ошибки (порой очень опасные).

Конечно, некоторые сегодня перебарщивают с использованием ИИ. Даже пытаются целиком наши тестовые задания решить с помощью известных сервисов. Мы сразу это видим и отсеиваем таких кандидатов. Нам ведь важно понять, как человек мыслит, какие у него есть знания и навыки.

— Насколько важно наличие опыта работы с ИИ при приеме на работу в «Лабораторию Касперского»? Как изменились требования к кандидатам в связи с активным внедрением ИИ?

Если мы говорим об RnD, то в нашей компании есть отдельный центр экспертизы, который занимается разработкой и вопросами безопасности ИИ. Конечно, коллегам, которые здесь работают, в первую очередь нужны определённые знания в области математики, знания по используемым фреймворкам, алгоритмам. К рядовому разработчику, вирусному аналитику, архитектору мы такие требования не предъявляем — всё зависит от специальности.

При этом важно даже не знание о разных сервисах (например, какие есть LLM-модели и т.д.), а именно понимание алгоритма — как это работает. Потому что в дальнейшем благодаря такому человеку в наших продуктах может появиться новая технология с применением искусственного интеллекта — это очень ценно.

— Как компания поддерживает развитие навыков сотрудников в области ИИ? Есть ли внутрикорпоративные программы или инициативы, направленные на обучение и адаптацию сотрудников к новым технологиям?

У нас есть внутренние программы: это митапы, встречи с другими компаниями. Наши коллеги активно участвуют во внешних конференциях. Мы сотрудничаем, например, с лидерами финтех-области, большими производствами, которые активно внедряют ИИ, обмениваемся опытом, знаниями по искусственному интеллекту. Кроме того, в рамках нашей security awareness-платформы есть модуль по безопасному использованию ИИ для не-специалистов в этой сфере.

— Как вы видите будущее навыков на рынке труда? Какие навыки или профессии могут стать менее важными в ближайшие годы из-за внедрения ИИ, а какие, наоборот, окажутся на пике востребованности?

Здесь можно отметить два момента. Первый — всегда будут востребованы специалисты с хорошей математической базой. Технологии, средства и способы разработки меняются, но одно остается неизменным — это уровень математической подготовки и подготовки в области алгоритмов соискателей. Физико-математическое образование всегда будет в тренде. Как правило, такие кандидаты готовы осваивать любые новые технологии и решать сложные задачи.

Второе — ИИ может помочь справиться с рутинными задачами, но не заменит человека. Поэтому нельзя сказать, что те или иные профессии окажутся совсем невостребованными. Например, ИИ может помочь написать грамотную статью, более точно изложить мысль. Но то, какой смысл в неё закладывается, в чём основные месседжи — это всё-таки решает человек. Искусственный интеллект позволяет только ускорить процесс. Во многих областях — медицине, разработке, дизайне или в нашей ИБ-сфере всегда нужны «вторые глаза», которые проверят, что всё сделано правильно.

Кадровый дефицит – миф или правда?

Сегодня часто можно услышать, что Россия испытывает кадровый голод, особенно в сфере ИТ. Эксперты говорят о том, что на фоне сложной экономической и политической ситуации многие компании сталкиваются с трудностями в поиске специалистов. Наша команда обратилась к данным hh.ru, и результаты показались нам неожиданными. На 2024 год рынок вакансий в ИТ находится под контролем работодателей — спрос на специалистов выше, чем предложение.

Как одна из крупнейших компаний в сфере кибербезопасности, «Лаборатория Касперского» видит рынок труда изнутри.

— Вы согласны с тем, что Россия сейчас испытывает кадровый голод в ИТ? Или вы наблюдаете другие тенденции?

Абсолютно согласны — такая ситуация складывается и в ИТ- и в ИБ-сфере. Причём эта проблема ощущается не только в России. Недавно наши коллеги провели глобальный опрос и выяснили, что 41% компаний сталкиваются с нехваткой квалифицированных кадров в сфере ИБ. Позицию, которая требует топовых экспертов, закрывают кварталами. Сейчас, чтобы найти хорошего разработчика, нужны не дни и даже не недели. Воронка кандидатов достаточно широкая, и в конечном результате у работодателей остаётся небольшая доля по-настоящему подходящих кандидатов.

Почему так происходит? На мой взгляд, темпы роста разработки отечественного ПО, который мы наблюдаем в рамках импортозамещения, как раз дополнительно разогрел рынок. Сейчас активно ищут разработчиков, архитекторов, тестировщиков, системных аналитиков, DevOps-инженеров и т.д. Кандидат может месяц выбирать, в какую компанию он хочет устроиться. Работодатели борются за толковых специалистов.

—  На ваш взгляд, что стало основной причиной такой ситуации на рынке труда? Это нехватка специалистов, ужесточение требований со стороны работодателей или что-то другое?

Нельзя сказать, что требования сильно ужесточились. Например, сегодня многие готовы брать сотрудников «на вырост», обучать их. Мы тоже активно вкладываемся в обучение молодых специалистов: например, реализуем программу оплачиваемых стажировок для студентов SafeBoard, нанимаем стажёров и за рамками этой программы. Когда видим, что у человека есть определённые нужные нам знания, а самое главное — у него горят глаза, он готов работать — мы берём его на обучение и постепенно выводим на уровень джуниор-специалиста, мидла и даже сеньора. К тому же мы сотрудничаем со многими вузами, в том числе по направлению ИИ. Например, в мае подписали соглашение с МФТИ, ключевая цель которого — развитие направления подготовки в сферах кибербезопасности и технологий искусственного интеллекта.

Ситуация на рынке обусловлена, на мой взгляд, в первую очередь взрывным ростом объёмов импортозамещения, создания отечественного софта. Большое количество компаний сейчас начинает разработку своих СУБД, почтовых сервисов, офисных программ, ОС — для этого всего нужны люди. И нужно помнить, что технические специалисты нужны всем, не только ИТ-компаниям. Таких специалистов, конечно, много, но на всех не хватает. К тому же играет свою роль и демографическая составляющая.

—  Насколько трудно сейчас найти квалифицированных специалистов в ИТ-сфере? Какие направления в ИТ наиболее страдают от нехватки кадров?

Сейчас остро не хватает, например, специалистов в области сетевой разработки, сетевой информационной безопасности, да и в целом в области ИБ. Наблюдается сильный спрос на отдельных специалистов в ИТ — хорошего разработчика, который понимает во всех аспектах низкоуровневой разработки для железа, высокопроизводительных межсетевых экранов —искать можно очень долго.

К тому же рынок находится в постоянном поиске разработчиков под Linux — это тоже связано с активным импортозамещением. Многие вендоры портируют свой софт и затачивают его для отечественных операционных систем, которые в большинстве своём работают на базе Linux. Здесь сложно найти экспертов с хорошей квалификацией.

Отдельно отметил бы ещё сервисную составляющую в ИБ: специалисты в области анализа защищённости, архитекторы в сфере информационной безопасности — таких специалистов тоже мало. Можно даже сказать, что все они известны рынку.

— Стал ли кадровый дефицит одним из факторов, который ускоряет автоматизацию процессов и функций в «Лаборатории Касперского»? Насколько этично автоматизировать рабочие места, особенно в условиях, когда многие люди ищут работу?

Можно сказать, что в ИТ скорее работа ищет людей. Если человек готов трудиться и обучаться, даже если у него минимальный объём знаний и навыков, то работодатель готов брать такого кандидата.

В современных условиях автоматизировать некоторые задачи не только удобно, а даже правильно. Например, в ИТ в целом проекты становятся комплексными, сложными. Создание сложных систем воспроизводительных межсетевых экранов, систем защиты искусственного интеллекта — эксперты должны сфокусироваться на решении сложных, комплексных задач, а не заниматься большим количеством однотипных побочных дел. Важно понимать — сегодня речь не идёт о полной автоматизации рабочих мест, скорее об оптимизации рутинных процессов, и это вполне этично и даже полезно. Например, у нас есть сервисы мониторинга и реагирования на киберугрозы. Порядка 70% инцидентов обрабатывает искусственный интеллект. Потом результаты, конечно, перепроверяются человеком, но это высвобождает время для специалистов, они могут заниматься исследованием сложных атак. Такая система работает у нас с 2018 года, в результате наши коллеги разгружены и занимаются интересными задачами.

ESG как инструмент привлечения и удержания кадров

— В последние годы компании всё чаще используют социальные и экологические инициативы (ESG) для привлечения и удержания талантов. Как вы ощущаете этот тренд в «Лаборатории Касперского»?

В компании социальные программы существуют уже давно. Более 200 сотрудников «Лаборатории Касперского» ежегодно участвуют в программе корпоративного волонтёрства, которая включает несколько направлений: донорство крови, благотворительные спортивные мероприятия, патронаж детского дома и оказание бесплатной профессиональной помощи. Мы организуем различные благотворительные сборы, ярмарки — собранные средства перечисляем в пользу различных НКО. Коллеги сдают кровь. Людям это нравится, они чувствуют, что участвуют в важных делах, которые выходят за рамки их обычной деятельности.

Мы активно участвуем в поддержке молодых студентов, детей, школьников с ограниченными возможностями здоровья. Встречаемся с ними, читаем лекции в области ИТ и ИБ. Ребят это очень мотивирует, а у нас много желающих поделиться своими знаниями и опытом: люди в свободное от работы созваниваются и проводят менторские работы, например, введение в специальность.

—  Компания «Лаборатория Касперского» активно поддерживает ESG-инициативы. Чувствуете ли вы, что это располагает кадры к вам? Насколько эти программы помогают привлекать и удерживать талантливых специалистов, особенно среди молодых сотрудников?

Мне кажется, это не зависит от возраста, скорее от мироощущения сотрудника. Вместе с тем в некоторых случаях политика компании в области социальных проектов может оказывать влияние на соискателя с точки зрения окончательного выбора будущего работодателя. К тому же участие в волонтёрских проектах может стать хорошим мотивационным элементом для сотрудников.