ChatGPT начнёт выявлять пользователей, склонных к экстремизму

Искусственный интеллект ChatGPT начнёт определять пользователей с признаками радикальных взглядов и перенаправлять их к специализированным чат-ботам для корректировки мировоззрения, сообщает Reuters.

Агентство отмечает, что инициатива связана с необходимостью решения вопросов безопасности на фоне увеличения количества судебных разбирательств. За создание системы отвечает новозеландская компания ThroughLine, которая взаимодействует с OpenAI, Anthropic и Google.

Сейчас стартап специализируется на переключении пользователей к службам экстренной психологической помощи при обнаружении в запросах признаков суицидальных мыслей, семейного насилия или проблем с питанием. Теперь функционал расширят для противодействия радикализации.

Партнёром ThroughLine выступит The Christchurch Call — организация, занимающаяся противодействием распространению ненависти в сети. Её основали после масштабного террористического нападения в Новой Зеландии в 2019 году.

The Christchurch Call обеспечит консультации экспертов при обнаружении радикальных запросов, а ThroughLine создаст чат-бота для немедленного реагирования.