IBM Watson давал небезопасные рекомендации по лечению больных раком
Суперкомпьютер предоставлял небезопасные рекомендации по лечению больных в одном из онкологических центров. Всё из-за того, что Watson получал некорректные исходные данные.
В 2012 году специалисты Мемориального онкологического центра имени Слоуна-Кеттеринга начали совместную работу с компанией IBM, обучая суперкомпьютер Watson диагностике и лечению пациентов.
Оказалось, что суперкомпьютер оправдал далеко не все ожидания специалистов, так как, согласно документам, датированным прошлым годом, он часто давал плохие и, более того, опасные для жизни человека рекомендации.
Примером такой проблемы является ситуация, когда Watson назначил 65-летнему онкобольному с сильным кровотечением медицинский препарат «Бевакизумаб», который наоборот может привести к «мощному или смертельному кровотечению». Представитель медицинского учреждения уверил, что тогда рекомендация суперкомпьютера не причинила вреда пациенту.
Специально разработанная система Watson for Oncology должна была синтезировать большие объёмы данных и генерировать новые идеи, однако в систему попадали лишь гипотетические данные, а не реальная информация о состоянии пациентов.
Методологические проблемы использования IBM Watson были выявлены после того, как доктора начали негативно отзываться о пользе суперкомпьютера, утверждая, что в большинстве случаев его невозможно использовать.
Этот продукт — дерьмо собачье! Мы купили его (под влиянием маркетинга) и с надеждой, что вам удастся добиться своего. Мы не можем использовать его в большинстве случаев, — жалоба врача из Jupiter Hospital во Флориде.
Получается, что предложения Watson о лечении были основаны на предпочтениях нескольких врачей, которые предоставляли информацию, а не на фактических данных, полученных при рассмотрении реальных случаев из медицинской практики.
Представители IBM рассказали, что система Watson for Oncology продолжает обучаться и обеспечивать поддержку более чем 84 тысяч онкобольных пациентов. Но пока неизвестно, что будет с IBM Watson в этом спецпроекте далее.
Подписывайтесь на «Код Дурова» в Telegram и во «ВКонтакте», чтобы всегда быть в курсе интересных новостей!
