Кодик кратко объясняет суть статьи
OpenAI представила GPT-6 Cyber — модель для выявления и устранения уязвимостей в ПО. Доступна через API и Codex участникам программы Daybreak Red, позднее будет распространена шире. Модель показала значительное улучшение результатов тестирования по сравнению с предшественниками: эффективность эксплуатации заданных уязвимостей выросла до 48,5%, поиск уязвимостей в веб-приложениях без исходного кода — до 40,3%. В изолированных средах она успешно выполнила 95% атаковых задач. Исследователи с помощью модели обнаружили 81 новую серьёзную уязвимость в Firefox и подтвердили повышенную опасность 30 известных проблем. OpenAI усилила меры защиты от злоупотреблений моделью, включая мониторинг действий пользователей и ограничения доступа. Именно эта модель выявила 948 новых уязвимостей в ядре Linux.
Читайте в Telegram
|
OpenAI представила GPT-6 Cyber — модель для поиска, проверки и исправления уязвимостей в программах.
Модель пока доступна через API и Codex ограниченному кругу проверенных клиентов программы Daybreak Red, позже доступ расширят на всех её участников. Daybreak — программа OpenAI для специалистов по защите: в версии Blue модели помогают проверять уязвимости и исправления, а в Red разрешены разработка эксплойтов и санкционированные атаки на тестовые системы.
Тесты: ExploitBench, ExploitGym Honeypot, RemoteExploitBench, ExploitGym.
По своей шкале оценки рисков (Preparedness Framework) OpenAI отнесла модель к критическому уровню в кибербезопасности, у GPT-5.6 Cyber был высокий. Результаты тестов, по данным самой компании:
- ExploitGym, эксплуатация заданной уязвимости: 48,5% против 32,1% у GPT-5.6 Cyber;
- поиск уязвимостей в веб-приложениях без доступа к исходному коду: 40,3% против 32% у GPT-6 Astra;
- RemoteExploitBench, атаки на GitLab, PostgreSQL и Jenkins в изолированной среде: 95% выполненных задач, тогда как GPT-6 Astra отказалась от всех.
Отдельно OpenAI обучала модель не выходить за рамки задачи. В тесте, где рядом с целью стояли легко взламываемые сторонние сервисы, GPT-6 Cyber не тронула их в 99,93% случаев без специальной системной инструкции и в 100% с ней. У GPT-5.6 Cyber этот показатель был 94,49%.
Тесты: Safeguard performance on sensitive red-teaming, Web Pentesting, SRE-Bench.
С помощью модели исследователи OpenAI нашли 81 ранее неизвестную уязвимость высокой степени опасности в Firefox и показали, что ещё 30 известных ошибок опаснее, чем считалось. Mozilla уже выпустила исправления для многих из них. Модель также используют команды безопасности Cisco, Calif и CodeRabbit.
Вместе с моделью OpenAI усилила защиту от злоупотреблений: следит за тем, совпадают ли действия модели с полномочиями пользователя, по умолчанию пускает к Daybreak Red только с разрешённых IP-адресов и блокирует помощь в атаках на промышленные системы управления, электростанции и водоочистные сооружения. Проверенным защитникам критической инфраструктуры откроют отдельную группу Daybreak Red for Critical Infrastructure.
Именно GPT-6 Cyber стояла за исследованием, в котором ИИ-агенты OpenAI нашли 948 уникальных уязвимостей в ядре Linux.
