FTC взялась за OpenAI и Anthropic из-за вышедших из-под контроля ИИ-агентов

Федеральная торговая комиссия США (FTC) проверяет Anthropic, OpenAI и другие ИИ-лаборатории. Об этом сообщил Reuters со ссылкой на сотрудника комиссии.

Комиссия хочет выяснить, какие потенциальные угрозы технологии компаний несут потребителям. По данным агентства, это первая официальная проверка американского регулятора, посвящённая ИИ-агентам, которые выходят из-под контроля. Проверка началась после серии таких инцидентов, о первых из них стало известно в июле.

FTC планирует направить официальные запросы информации и вызвать для дачи показаний руководителей Anthropic, OpenAI и исследовательской группы METR. Последнюю обе компании привлекали для независимого разбора инцидентов безопасности со своими агентами.

НКО подала в суд на OpenAI из-за взлома Hugging Face ИИ-агентами компании

Некоммерческая организация LASST просит суд запретить OpenAI разрабатывать агентов, способных самостоятельно взламывать чужие системы. Денежной компенсации истцы не требуют.

Код.руИгорь Савкин

По словам собеседника Reuters, у председателя FTC Эндрю Фергюсона были опасения насчёт компаний и раньше, но срочности добавил взлом платформы Hugging Face агентами OpenAI. Перед масштабной атакой они искали уязвимости на площадке, как ранее рассказывал «Код.ру».

На прошлой неделе Фергюсон предположил, что разработчики, чьи инструкции агентам в ходе тестов кибербезопасности приводят к взломам, должны отвечать за причинённый ущерб. По его мнению, США стоит опираться на действующие законы, прежде чем принимать новые. FTC вправе подавать иски за недобросовестные или вводящие в заблуждение практики и уже применяла эти полномочия к тем, кто не обеспечил разумную защиту данных потребителей.

Во вторник Дональд Трамп встретился с главами крупнейших ИИ-компаний, и те договорились ввести добровольные стандарты. Трамп не раз называл опасения насчёт ИИ выдумкой, но допускал, что власти могут применить против компаний существующие законы, если те причинят вред.