Трамп и крупнейшие ИИ-компании подписали соглашение о контроле за ИИ

Президент США Дональд Трамп и руководители шести крупнейших ИИ-компаний подписали добровольное соглашение о мерах контроля за передовыми моделями искусственного интеллекта.

Соглашение подписали глава Google Сундар Пичаи, глава Anthropic Дарио Амодеи, руководитель Meta* Марк Цукерберг, президент OpenAI Грег Брокман, Илон Маск от SpaceXAI и глава Nvidia Дженсен Хуанг.

Документ предусматривает четыре уровня контроля. Компании должны внедрить внутренние механизмы для отслеживания возможностей и поведения моделей во время обучения и эксплуатации — в частности, в областях кибербезопасности, биобезопасности и химических угроз. Системы также должны контролироваться таким образом, чтобы модели не получали непредусмотренный доступ к технической инфраструктуре.

За работой этих механизмов должна следить отдельная внутренняя команда. Кроме того, компании обязались привлекать независимых внешних аудиторов для проверки эффективности мер безопасности.

Четвёртым уровнем станет независимый комитет при совете директоров компании. Он должен получать отчёты от внутренних подразделений и внешних аудиторов и контролировать устранение обнаруженных проблем.

Соглашение носит добровольный характер. Участники также договорились регулярно встречаться для выработки общих стандартов и практик. В документе говорится, что в будущем некоторые из этих требований могут быть закреплены в законодательстве или нормативных актах.

Трамп назвал соглашение «морально обязывающим» и выступил за значительную роль саморегулирования ИИ-компаний. Юридически обязательных требований и санкций за нарушение документа в нём не предусмотрено.

В тот же день Трамп подписал указ, согласно которому федеральные органы исполнительной власти США должны использовать выражения Super Intelligence и SI вместо Artificial Intelligence и AI в официальных сообщениях, на сайтах, в отчётах и других документах, не имеющих статуса закона. При этом действующее законодательное определение искусственного интеллекта пока сохраняется.

_{*Meta признана экстремистской в РФ и запрещена}