РеранкерыПоиск по сканам документов

Llama Nemotron Rerank

Небольшой реранкер NVIDIA на 1B. У версии vl на вход идут и страницы документов картинками, а не только текст. Новая 8B (Nemotron-3.5-Rerank) оценена на 34 языках, включая русский, и принимает текст, страницы-картинки или оба вида сразу, в том числе диаграммы и таблицы.

Разработчик
NVIDIA, США
Первый выпуск
окт 2025
Последний выпуск
окт 2026
Размеры
1B и 8B
Лицензия
Коммерция с условиямиВерсии на 1B: собственная лицензия NVIDIA, условия смотрите в карточке модели; Nemotron-3.5-Rerank-8B: OpenMDW-1.1 (основа Ministral 3 8B под Apache 2.0)
Русский язык
Есть
Готовые сборки
FP8
Запуск
Через свой серверНужна видеокарта
Сферы
Документы и бухгалтерия, Поддержка клиентов, Разработка ПО, Производство и склад
Поставить на свой сервер Hugging Face

Какие задачи решает

  • Переупорядочивание фрагментов перед ответом ИИ-помощника
  • Сортировка найденных страниц сканов и PDF
  • Поиск по внутренним регламентам и инструкциям

Где применяется

ДокументооборотПоддержка клиентовПроизводство и логистика

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. Nemotron-3.5-Rerank-8B (34 языка, текст и страницы-картинки)
  2. fp8-сборка vl-версии
  3. llama-nemotron-rerank-vl-1b-v2 (страницы-картинки)
  4. llama-nemotron-rerank-1b-v2

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face
Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам. Квантование — сжатие модели: она занимает меньше видеопамяти и работает на более скромном железе. Отвечает при этом чуть иначе, поэтому качество проверяют на своих примерах.

Частые вопросы

Можно ли использовать Llama Nemotron Rerank в коммерческом проекте?

С условиями. Лицензия: Версии на 1B: собственная лицензия NVIDIA, условия смотрите в карточке модели; Nemotron-3.5-Rerank-8B: OpenMDW-1.1 (основа Ministral 3 8B под Apache 2.0). Ограничения бывают разными — регион, выручка компании, требование указывать авторство. Перед коммерческим запуском проверьте условия с юристом.

Какое железо нужно для Llama Nemotron Rerank?

Минимум: Ноутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии. Без видеокарты модель практически не работает. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли Llama Nemotron Rerank русский язык?

Да, русский язык заявлен в карточке модели.

Где скачать Llama Nemotron Rerank и сколько это стоит?

Веса Llama Nemotron Rerank лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

РеранкерыBGE RerankerBAAI (Пекинская академия ИИ) · КитайМожно в коммерцию

Реранкеры: берут найденные поиском фрагменты и переставляют их по реальной близости к вопросу. Версия v2-m3 многоязычная и лёгкая, её часто ставят в пару к bge-m3.

ПодробнееРеранкерыJina RerankerJina AI · ГерманияКоммерция с условиями

Сильные многоязычные реранкеры; m0 сортирует и страницы-картинки (сканы, слайды). Свежие версии открыты только для некоммерческого использования.

ПодробнееПоиск по сканам документовColPali / ColQwenIlluin Technology (команда ViDoRe) · ФранцияКоммерция с условиями

Поиск по PDF и сканам как по картинкам: страницу не нужно распознавать, модель сразу находит нужную по вопросу, включая таблицы и схемы. Обучены на английском.

Подробнее

Источник: huggingface.co/nvidia/llama-nemotron-rerank-vl-1b-v2-fp8. Данные сверены с карточкой модели 22.09.2026. Лицензию перед коммерческим запуском проверьте с юристом.