Как научить ИИ эмпатии — и почему дело не в эмоциях

Ирина Рожкова, директор сервиса бронирования туров «Слетать.ру», делится опытом настройки ИИ для клиентского сервиса и рассказывает, почему эмпатия системы начинается не с эмоций, а с правил и контекста.

ИИ не испытывает эмоций. Его «эмпатия» — это набор правил, по которым система понимает, как отвечать человеку в разных ситуациях.

Если эти правила не задать, даже технически правильный ответ может прозвучать холодно или неуместно. Поэтому важно заранее описать тон общения, границы допустимого, правила эскалации и ситуации, когда ИИ не должен отвечать самостоятельно.

Нужно учить систему не только что говорить, но и как именно говорить. Где-то достаточно короткой фразы, где-то нужно объяснить подробнее, а в некоторых случаях лучше сразу передать диалог специалисту.

В «Слетать.ру», например, ИИ используется в сценарии выдачи документов для агентов. Система анализирует запрос, проверяет, какие документы уже доступны, и выдаёт их. Если часть документов пока не готова, объясняет, что можно получить сейчас и когда будут доступны остальные.

Так агент сразу понимает, что происходит и что делать дальше, без ожидания ответа сотрудника.

При этом это — не универсальный чат-бот, который пытается ответить на всё. Система работает в конкретном сценарии, который мы изучали на практике последние два года на ежедневных запросах.

Даже простые ситуации приходится настраивать отдельно. Например, мы учим ИИ отвечать на благодарности, но только там, где это уместно. Иногда достаточно короткой реакции, а иногда лучше сразу перейти к следующему действию.

Сейчас ИИ помогает быстрее обрабатывать запросы, учитывает экспертизу более 50 специалистов и анализирует более 100 000 реальных диалогов. Это помогает системе точнее понимать контекст и давать более понятные ответы.

При этом нетипичные ситуации, сложные конфликты и вопросы, где требуется ответственность и человеческое участие, по-прежнему должен разбирать специалист.

Для меня эмпатичный ИИ — это не система, которая изображает эмоции. Это система, которая умеет учитывать контекст, не говорить лишнего, понятно объяснять ситуацию и вовремя передавать разговор человеку.