OpenAI могли создать сверхразумный ИИ, который угрожает человечеству
Перед увольнением Сэма Альтмана из OpenAI несколько сотрудников компании предупредили совет директоров об обнаружении мощного искусственного интеллекта (AGI), который может угрожать человечеству, сообщает Reuters.
OpenAI создали проект Q* (произносится Q-Star). По мнению некоторых сотрудников, это прорыв области общего искусственного интеллекта — автономной системы, которая превосходит людей в самых экономически ценных задачах.
Q* уже сейчас может справляться с несложными математическими задачами, а это считается ключевым этапом в развитии общего ИИ. Обычный искусственный интеллект неплохо справляется с генерацией текста, где каждое последующее слово предсказывается. А в математических задачах подразумевается только один правильный ответ, поэтому их решение искусственным интеллектом означает, что у него появилась функция рассуждения, напоминающая таковую у человека.
Сейчас Q* способен решать математические задачи уровня начальных классов школы США. И в отличие от калькулятора, который может решать только ограниченное количество задач, Q* может обобщать, учиться и понимать.
Некоторые сотрудники OpenAI опасаются, что у компании нет мер безопасности для сдерживания общего ИИ. Другие боятся, что AGI может решить, что уничтожение человечества может быть в его интересах.
