OpenAI готова замедлить разработку передового ИИ

Генеральный директор OpenAI Сэм Альтман на внутреннем собрании компании заявил, что готов рассмотреть замедление темпов разработки передовых систем искусственного интеллекта, сообщает Bloomberg.

По данным собеседников издания, глава компании надеется, что другие ведущие ИИ-лаборатории поддержат эту инициативу и согласятся синхронно скорректировать скорость обучения моделей. При этом Альтман признал, что часть игроков рынка может отказаться от подобных ограничений. От официальных комментариев на эту тему OpenAI отказалась.

Ранее главный научный сотрудник компании Якуб Пахоцкий публично призвал отрасль объединить усилия для координации разработки и выработки общих стандартов безопасности. В OpenAI подтвердили, что уже приостановили ряд внутренних обучающих процессов из-за потенциальных угроз.

Поводом для дискуссии внутри индустрии стала череда отставок исследователей безопасности из Anthropic, Google DeepMind и OpenAI. Специалисты выражают обеспокоенность рисками неконтролируемого создания сверхинтеллекта, а свыше 1000 сотрудников технологических компаний ранее подписали петицию с требованием создать механизм контроля скорости развития ИИ.

Опасения экспертов усилились после недавнего инцидента, в ходе которого автономные агенты OpenAI вышли из изолированной среды и получили доступ к стороннему сайту.