Актуально о чат-ботах

Вы вряд ли удивитесь, если мы скажем, что рынок разговорного ИИ стремительно развивается.

Его объём достиг $8,2 млрд к 2023 году, а к 2028-му может вырасти до $32,5 млрд. Сегодняшний российский рынок оценивается в десятки миллионов долларов.

MTS AI тоже участвует в развитии технологий: компания уже реализовала десятки ботов для организаций из разных сфер.

Руководители проектов лингвистической разработки MTS AI Наталья Степанова и Елена Деликанова знают всё про технологии создания ИИ-помощников, потребности бизнеса и ожидания пользователей — и делятся этой информацией.

Что нужно бизнесу

В первую очередь клиент должен определиться с числом сценариев для бота, требованиями к его текущей производительности и потребностью в будущем масштабировании.

Одним компаниям нужно автоматизировать всего один сценарий обслуживания их клиентов, а другим — сразу десятки.

• Чат-боты могут решать узкопрофильные задачи. Например, выдавать информацию о смене тарифа или состоянии баланса. Они ведут диалог в одной области и называются тематически ограниченными (closed domain).
• Диалоговые системы общего назначения (open domain) очевидно требуют гораздо больших затрат. Они не ограничиваются одной тематикой и имеют широкий набор навыков.

Многим компаниям важна масштабируемость ИИ-помощника: они планируют активно расти, а вместе с ними должен эволюционировать расти и виртуальный ассистент.

Именно так было с клиентским чат-ботом для МТС. Когда-то он отвечал только на вопросы о тарифах связи, а сегодня может рассказать и про домашний интернет, музыкальный сервис, онлайн-кинотеатр и наши премиум-услуги.

Небольшие проекты при этом не теряют актуальность: мы разработали HR-бот с информацией о командировках, больничных и отпусках для одного из клиентов и бота, собирающего заявки на поставку вычислительной инфраструктуры, — для другого.

Что нужно пользователям

Сегодня пользователей не интересуют боты, которые предлагают нажать кнопку и оказаться в определённом пункте меню. Люди не хотят запоминать номера команд и предпочитают общение на привычном языке.

При этом они чаще разговаривают по существу: мало кто спрашивает ботов клиник или банков о музыкальных вкусах или погоде. И организациям просто нет смысла тратить на это ресурсы.

На чём точно не стоит экономить, так это на качестве распознавания запросов пользователя (интентов). Бот, который не понимает, о чём идёт речь, не просто раздражает, но и снижает лояльность к бренду.

У каждой компании — своё число смысловых нюансов для виртуального помощника. Кому-то будет достаточно, если бот поймёт, что пользователь спрашивает про тарифы. Кому-то нужно понимание того, что именно клиент хочет узнать о тарифах.

А кому-то нужно считывать разницу между запросами «сменить тариф» (перейти на другой) и «изменить тариф» (настроить текущий).

Важно и понимание контекста разговора, в том числе умение учитывать все предыдущие реплики. Представим себе такой диалог:

— Я хочу узнать, почему телефон заблокирован.

— На вашем номере отсутствует блокировка.

— Да не у меня, а у мамы.

Здесь ИИ-помощник должен понять, что последняя фраза относится к начальному интенту и не является самостоятельным запросом.

Актуальные технологии создания ботов

Основных технологий три:

• правила
• машинное обучение
• генеративный ИИ

Но есть и гибриды, совмещающие в себе правила и ML-модели.

Rule-based-боты

У чат-ботов, созданных с помощью правил, сценарии определяются прописанной логикой и деревом решений.

Они анализируют запрос и отвечают по логике сценария или просто выбирают нужную из базы фраз.

+ Полный контроль над логикой и быстрые доработки.

– Боты не ответят на вопросы, которые не входят в скрипты или содержат нестандартную лексику. Они не знают, что делать, если «интернет моросит».

Боты на базе ML

Обучаются на больших наборах данных: расшифровках разговоров, переписках с клиентами и т. д.

Такие помощники анализируют вопросы клиентов и подбирают ответы, схожие с предыдущими запросами.

+ Позволяют работать с большим количеством сценариев.

– Требуют качественной разметки данных, валидации и тестирования моделей. Иначе возможно нелогичное поведение и даже ошибки.

Гибриды

Объединяют в себе правила и машинное обучение.

Такие боты используют модель для определения потребности пользователя и правила для уточнения его запроса и предсказуемого движения по сценарию.

+ Гибкость.

– Сложный контроль за моделью и большие вычислительные ресурсы.

Обычно одних ML-ботов недостаточно — в них всё равно нужно добавлять правила. Например, если у компании действует временная скидка, проще написать правило, чем дообучить ML-модель.

Боты с генеративным ИИ

Эта популярная технология включает в себя большие языковые модели (LLM).

Они помогают создавать тексты на естественном языке — например, те же ответы на вопросы. Чат-боты на основе таких моделей могут поддерживать разговор почти на любую тему!

Чтобы LLM работала на специализированных сценариях заказчика, её нужно дообучать или использовать совместно с базой знаний.

+ Лучше всех понимают естественный язык.

– Требуют мощную вычислительную инфраструктуру.

Что же выбрать

Как мы уже говорили, при выборе той или иной технологии нужно учитывать потребности конкретного бизнеса. Нет смысла создавать бот на генеративном ИИ, который автоматизирует всего три сценария обслуживания. С этим эффективно справится простой бот на правилах.