Кодик кратко объясняет суть статьи
Meta сообщила, что при выявлении высокого риска не станет выпускать свои ИИ-системы, а при критическом уровне риска прекратит разработку и защитит систему от утечки. Риски оцениваются экспертами внутри и вне компании, потенциальные угрозы включают кибератаки и распространение биологической и химической опасности.
Читайте в Telegram
|
Компания Meta (признана экстремистской) заявила, что в некоторых случаях не будет выпускать свои ИИ-системы, если они окажутся слишком рискованными.
Об этом говорится в новом документе Frontier AI Framework, где выделены два уровня потенциально опасных ИИ: «высокий риск» и «критический риск».
ИИ-системы «высокого риска» могут способствовать кибератакам или распространению химических и биологических угроз. Если такая модель создаётся, её выпуск будет отложен до устранения угроз. В случае «критического риска», когда последствия могут быть катастрофическими и неконтролируемыми, разработка будет полностью приостановлена, а система — защищена от утечки. Компания считает, что подобные инциденты наиболее вероятны при выпуске мощных ИИ-систем.
Meta оценивает угрозы не на основе конкретных тестов, а с привлечением внутренних и внешних экспертов, чьи мнения анализируются руководством компании.
