Яндекс раскрыл, как обеспечивает точность и скорость ответов «Нейроюриста» с помощью векторного поиска

Команда Яндекса поделилась с «Кодом Дурова» техническими деталями работы сервиса «Нейроюрист», который ищет юридическую информацию и формирует ответы на основе судебной практики и нормативных актов.

Сервис использует векторный поиск на базе собственной распределённой СУБД под названием YDB. По словам разработчиков, это позволяет нейросети быстро находить релевантные документы даже в базах с миллионами записей и при этом давать полный контекст для точного ответа в выборках небольшого объёма, чтобы минимизировать риск галлюцинаций.

Это решает одну из главных проблем юридических данных, которая заключается в их неравномерности. В разных категориях права объём документов может сильно отличаться: от тысяч нормативных актов до миллионов судебных решений. При этом универсального алгоритма поиска, который может одинаково хорошо работать на таких разных массивах, не существовало.

В основе работы «Нейроюриста» лежит архитектура RAG (retrieval augmented generation), при которой модель опирается на найденные источники. Когда пользователь задаёт вопрос, система переводит его в векторное представление и ищет наиболее близкие по смыслу документы. Найденные материалы передаются языковой модели, которая формирует ответ со ссылками на реальные нормы и судебные решения.

Но чтобы этот механизм стабильно работал и на тысячах, и на миллионах документов, его доработали с помощью гибкой системы индексов в YDB. В системе используются несколько типов векторных индексов для одной таблицы данных. Одни оптимизированы для поиска по небольшим массивам документов, другие — для работы с миллионами записей. При обработке запроса «Нейроюрист» автоматически выбирает наиболее подходящий индекс.

По данным Яндекса, в пилотной версии поиск занимал несколько секунд. После внедрения нового механизма время обработки запросов сократилось в десятки раз — до десятых долей секунды. При этом точность ответов сохраняется даже при расширении базы данных, потому что выбор индекса всегда адаптируется под объём выборки.

«Нейроюрист» — сервис Яндекса для работы с правовой информацией, который использует нейросети для поиска судебной практики, норм законодательства и подготовки ответов на юридические вопросы. Его позиционируют как инструмент для юристов и специалистов, которым нужно быстро ориентироваться в больших массивах правовых документов и получать достоверные ответы.