WSJ: ChatGPT выдавал пользователям пошаговые инструкции по созданию биооружия

После обновления ChatGPT летом 2025 года сотни пользователей по всему миру начали спрашивать нейросеть о создании и применении биологического оружия и ядов, выяснила The Wall Street Journal (WSJ).

По данным издания, модель отвечала пошаговыми инструкциями, которые сотрудники OpenAI назвали достаточно простыми для школьника, изучающего биологию. Часть переписок позже показали экспертам по биооружию и терроризму — некоторые ответы они оценили как «смертельно точные». Большинство запросов, по словам представителей OpenAI, касалось изготовления ядов.

Среди зафиксированных случаев — вопросы о превращении возбудителей инфекций в аэрозоль и о модификации вируса кори для устойчивости к вакцине. В другом случае пользователь запросил инструкцию по изготовлению рицина — яда, запрещённого международными договорами, — и упомянул, что хочет отравить родителей. ChatGPT предоставил подробный ответ.

OpenAI заблокировала аккаунты вовлечённых пользователей, но не уведомила правоохранительные органы: законодательство США не обязывает ИИ-компании сообщать о подобных запросах.

• Источники WSJ рассказали, что летом 2025 года, перед выпуском GPT-5, сотрудники компании определили, что модель достигла «высокого риска» — то есть способна дать пользователю с минимальной подготовкой значимую помощь в создании биологической угрозы. Осенью того же года OpenAI понизила эту оценку риска для GPT-5, хотя после релиза сотрудники продолжали находить случаи, когда модель помогала с запросами о ядах и биооружии.

• Внутри компании также действовала установка не допускать слишком частых отказов — на это, по данным издания, указывали руководители, ссылаясь на пользу модели для медицинских работников и исследователей. Похожая проблема возникла у Anthropic: практически полный запрет Claude отвечать на запросы со словом «патоген» затруднил работу сотрудников CDC (Центр по контролю и профилактике заболеваний США), которые пытались с его помощью отследить вспышку хантавируса на круизном лайнере в мае.

WSJ также отмечает, что аналогичные запросы о биооружии пользователи направляли Claude от Anthropic, Gemini от Google и Grok от xAI. Было ли это попыткой реально создать оружие или проверкой возможностей моделей — неизвестно.

Директор по исследованию угроз ИИ в Cisco Эми Чанг рассказала изданию, что её команде удавалось обойти защитные механизмы ChatGPT, Claude и Gemini всего за пять реплик диалога.

Ранее в 2026 году Министерство торговли США уже ограничивало доступ к двум моделям Anthropic — Claude Fable 5 и Mythos 5 — сославшись на риски обхода защитных механизмов, включая те, что связаны с биологией.

Ограничения сняли в начале июля.