Читайте в Telegram
|
13 августа реранкер Qwen3-Reranker-8B стал доступен как хостинг-эндпоинт на OpenRouter: $0,20 за миллион токенов, контекст около 41K, один провайдер. Дёргать его теперь можно через тот же OpenAI-совместимый API, что и остальные модели, — без своего GPU.
Сразу важная оговорка: сама модель не новая. Qwen открыла серию Qwen3 Embedding & Reranker ещё в июне 2025 под лицензией Apache 2.0, веса всё это время лежали на Hugging Face. Новость — не в релизе, а в удобном облачном доступе.
Что такое реранкер
Это не чат-модель. Реранкер не пишет тексты и не отвечает на вопросы — он переупорядочивает уже найденные документы по релевантности к запросу. В типичной поисковой или RAG-системе сначала быстрый векторный поиск достаёт сотню кандидатов, а потом реранкер оценивает пары «запрос — документ» и поднимает наверх действительно подходящие. От качества этого шага напрямую зависит, насколько точные куски попадут в ответ модели.
Qwen3-Reranker-8B выдаёт оценку релевантности от 0 до 1, поддерживает 100+ языков и языков программирования и умеет instruction-aware режим: критерии релевантности можно задавать под конкретную задачу текстовой инструкцией.
Бенчмарки
Все цифры — из технического отчёта Qwen (июнь 2025), это прогоны самой команды на топ-100 кандидатов от Qwen3-Embedding-0.6B. Независимых свежих оценок под OpenRouter-эндпоинт пока нет.
Честный нюанс: 8B — не безусловный лидер даже в своей линейке. Младшая Qwen3-Reranker-4B местами её обходит — 69,76 на MTEB-R против 69,02 и заметно выше на инструкц-тесте FollowIR (14,84 против 8,05). Так что переход с 4B на 8B оправдан там, где точность ранжирования прямо влияет на бизнес-метрику, а не «просто ради большего размера».
Кому это нужно
Разработчикам, которые строят поиск по документам, базы знаний, ботов поддержки или RAG поверх своих данных. Для таких задач реранкер удобнее держать как отдельный вызов в API: подключил через SpeShu.AI единым ключом вместе с остальными моделями — без прямых договоров с зарубежными провайдерами, с оплатой в рублях. Веса открыты под Apache 2.0, так что при своём железе модель можно поднять и локально.
