Кодик кратко объясняет суть статьи
Инженер Нейт Соарес оценивает риск вымирания человечества от неконтролируемого развития ИИ как минимум в 95%, сравнив ситуацию с быстрым движением к обрыву. По его мнению, современные нейросети способны самостоятельно принимать решения и обучаться, что делает их потенциально опасными. Один из возможных сценариев катастрофы — создание биологически опасных веществ, угрожающих крупным городам.
Читайте в Telegram
|
Бывший инженер Google и Microsoft Нейт Соарес оценил вероятность вымирания человечества из-за ИИ. Его слова приводит Times.
Соарес уверен, что эта вероятность составляет «по меньшей мере 95%». Такой высокий уровень будет сохраняться при условии, что люди будут развивать ИИ так же стремительно, как сейчас. Инженер сравнил тенденцию с движением к обрыву на огромной скорости.
«Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву».
Times описывает один из сценариев, при котором нейросети смогут создать биологическое оружие и заразить с его помощью крупные города. Соарес считает, что современный ИИ самостоятельно обучается и принимает решения — из-за этого и становится потенциально опасным и требующим контроля.
