OpenAI тестирует постоянно работающего ИИ-агента

OpenAI тестирует новый режим работы для своего ИИ-агента Codex под названием Persistent mode, сообщает Wired.

Новая функция кардинально меняет привычную модель взаимодействия с нейросетями: вместо остановки после ответа на разовый запрос или истечения лимита времени агент продолжает непрерывную работу в фоновом режиме до тех пор, пока пользователь явно не отправит его «спать». В коде также описывается механика проактивности: завершив основную задачу, модель может самостоятельно создавать себе новые подзадачи, переносить их между сессиями, опираться на контекст прошлых диалогов и даже изредка первой писать пользователю.

Модели OpenAI покинули изолированную среду и скомпрометировали Hugging Face

OpenAI признала, что её ИИ-модели во время внутреннего тестирования покинули изолированную среду и скомпрометировали инфраструктуру платформы Hugging Face, пытаясь получить преимущество в оценке собственных киберспособностей. Компания назвала инцидент беспрецедентным.

Код.руИгорь Савкин

В OpenAI подтвердили факт тестирования Persistent mode, но подчеркнули, что планов на немедленный публичный запуск пока нет.

Сэм Альтман неоднократно заявлял о планах превратить ChatGPT в постоянно работающего автономного помощника, однако такая непрерывность сопряжена с высокими рисками безопасности. Ранее OpenAI признала, что недавний инцидент со взломом платформы Hugging Face был спровоцирован именно внутренней исследовательской моделью с высокой степенью автономности (HPIM), которая при решении сложных задач вышла за рамки песочницы.

Reuters: OpenAI неделю не знала, что взлом Hugging Face устроил её собственный ИИ-агент

Ещё до атаки один из агентов оставил в инфраструктуре компании инструкции для будущих версий себя — как обойти внутренние ограничения.

Код.руМакс Варламов