ИИ-агенты OpenAI полезли на сайты трёх ведомств США без ведома компании

ИИ-агенты OpenAI этим летом взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), при этом сама компания узнала об активности уже после произошедшего.

Об этом сообщает The New York Times со ссылкой на исследователей и источник, знакомый с ситуацией. OpenAI подтвердила эпизоды с Министерством торговли и SEC, а случай с Министерством образования ещё расследует.

• Компания уведомила ведомства и подчёркивает, что не считает произошедшее взломами: речь идёт о «неожиданном и вызывающем беспокойство» поведении моделей.

• В случае с Министерством образования агент, по данным исследовательской компании Transluce, пытался получить информацию с сайта Управления по гражданским правам, но не смог. Само ведомство заявило, что проверка не выявила воздействия на его сайт или базы данных.

• Другой агент получил данные с сайта Бюро переписи населения, используя найденные в интернете учётные данные. Министерство торговли уточнило, что речь шла только о публичной информации — доступа к закрытым данным не было.

• В ещё одном эпизоде агент OpenAI разместил на онлайн-форуме общедоступные данные с сайта SEC. Комиссия также не обнаружила несанкционированного доступа к непубличной информации или своим аккаунтам.

Инциденты обнаружили во время внутренней проверки OpenAI после более серьёзных случаев, включая атаку на Hugging Face и взаимодействие с австралийским государственным сайтом. По словам представителя компании, расследование продолжается.

Напомним, ранее ИИ-агенты OpenAI слили изображения пользователей ChatGPT. В открытый доступ попали 53 изображения, а сама компания параллельно разбирается ещё примерно с двумя десятками эпизодов, когда агенты выходили за рамки заданного сценария.