GigaChat Max кратко объясняет суть статьи
Статья рассказывает о создании независимого наблюдательного органа компанией OpenAI для контроля вопросов безопасности при разработке ИИ-моделей. Этот орган имеет право приостанавливать релизы моделей, если есть риски для безопасности. Возглавит комитет Зико Колтер, а в его состав войдут Адам Д'Анджело, Пол Накасоне и Николь Селигман. Однако, несмотря на статус независимого органа, остаются вопросы о его реальной независимости, так как все члены входят также в совет директоров компании. OpenAI также планирует расширить сотрудничество с другими игроками индустрии ИИ и увеличить прозрачность в области безопасности и тестирования своих систем. Суть статьи заключается в том, что компания OpenAI создала независимый наблюдательный орган для контроля вопросов безопасности при разработке ИИ-моделей. Орган имеет право приостанавливать релизы моделей, если есть риски для безопасности. Однако, его независимость вызывает некоторые сомнения, так как все члены комитета также входят в совет директоров компании. OpenAI также планирует расширить сотрудничество с другими участниками ИИ-индустрии и увеличить прозрачность в области безопасности и тестирования своих систем.
OpenAI объявила о создании независимого наблюдательного органа, который будет контролировать вопросы безопасности при разработке ИИ-моделей. Новая структура получила полномочия приостанавливать релизы моделей, если возникают риски для безопасности.
Это решение было принято по итогам 90-дневного анализа мер безопасности компании. Комитет по безопасности возглавил Зико Колтер, а в его состав вошли Адам Д'Анджело, Пол Накасоне и Николь Селигман. Генеральный директор OpenAI Сэм Альтман больше не является членом этого комитета. Основная задача нового органа — оценка безопасности и предотвращение потенциальных угроз, связанных с новыми релизами ИИ.
Хотя комитет официально получил статус независимого органа, вопросы о его независимости остаются, так как его члены продолжают входить в совет директоров компании.
OpenAI также анонсировала планы по расширению сотрудничества с другими участниками ИИ-индустрии и намерена увеличить прозрачность в области безопасности и тестирования своих систем, однако детали этого сотрудничества пока не раскрыты.
Читать первым в Telegram-канале «Код Дурова»