Перед увольнением Сэма Альтмана из OpenAI несколько сотрудников компании предупредили совет директоров об обнаружении мощного искусственного интеллекта (AGI), который может угрожать человечеству, сообщает Reuters.
OpenAI создали проект Q* (произносится Q-Star). По мнению некоторых сотрудников, это прорыв области общего искусственного интеллекта — автономной системы, которая превосходит людей в самых экономически ценных задачах.
Q* уже сейчас может справляться с несложными математическими задачами, а это считается ключевым этапом в развитии общего ИИ. Обычный искусственный интеллект неплохо справляется с генерацией текста, где каждое последующее слово предсказывается. А в математических задачах подразумевается только один правильный ответ, поэтому их решение искусственным интеллектом означает, что у него появилась функция рассуждения, напоминающая таковую у человека.
Сейчас Q* способен решать математические задачи уровня начальных классов школы США. И в отличие от калькулятора, который может решать только ограниченное количество задач, Q* может обобщать, учиться и понимать.
Некоторые сотрудники OpenAI опасаются, что у компании нет мер безопасности для сдерживания общего ИИ. Другие боятся, что AGI может решить, что уничтожение человечества может быть в его интересах.
Читать первым в Telegram-канале «Код Дурова»
