РеранкерыПоиск по сканам документов

Llama Nemotron Rerank

Небольшой реранкер NVIDIA на 1B. У версии vl на вход идут и страницы документов картинками, а не только текст. В карточке заявлена многоязычность без списка языков.

Разработчик
NVIDIA, США
Первый выпуск
окт 2025
Последний выпуск
май 2026
Размеры
1B
Лицензия
Коммерция с условиямиСобственная лицензия NVIDIA — условия смотрите в карточке модели
Русский язык
Не заявлен
Готовые сборки
FP8
Запуск
Через свой серверНужна видеокарта
Сферы
Документы и бухгалтерия, Поддержка клиентов, Разработка ПО, Производство и склад
Поставить на свой сервер Hugging Face

Какие задачи решает

  • Переупорядочивание фрагментов перед ответом ИИ-помощника
  • Сортировка найденных страниц сканов и PDF
  • Поиск по внутренним регламентам и инструкциям

Где применяется

ДокументооборотПоддержка клиентовПроизводство и логистика

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. fp8-сборка vl-версии
  2. llama-nemotron-rerank-vl-1b-v2 (страницы-картинки)
  3. llama-nemotron-rerank-1b-v2

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face
Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам. Квантование — сжатие модели: она занимает меньше видеопамяти и работает на более скромном железе. Отвечает при этом чуть иначе, поэтому качество проверяют на своих примерах.

Частые вопросы

Можно ли использовать Llama Nemotron Rerank в коммерческом проекте?

С условиями. Лицензия: Собственная лицензия NVIDIA — условия смотрите в карточке модели. Ограничения бывают разными — регион, выручка компании, требование указывать авторство. Перед коммерческим запуском проверьте условия с юристом.

Какое железо нужно для Llama Nemotron Rerank?

Минимум: Ноутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии. Без видеокарты модель практически не работает. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли Llama Nemotron Rerank русский язык?

В карточке модели языки не перечислены, поэтому поддержку русского обещать нельзя — её нужно проверять на ваших примерах.

Где скачать Llama Nemotron Rerank и сколько это стоит?

Веса Llama Nemotron Rerank лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

РеранкерыBGE RerankerBAAI (Пекинская академия ИИ) · КитайМожно в коммерцию

Реранкеры: берут найденные поиском фрагменты и переставляют их по реальной близости к вопросу. Версия v2-m3 многоязычная и лёгкая, её часто ставят в пару к bge-m3.

ПодробнееРеранкерыJina RerankerJina AI · ГерманияКоммерция с условиями

Сильные многоязычные реранкеры; m0 сортирует и страницы-картинки (сканы, слайды). Свежие версии открыты только для некоммерческого использования.

ПодробнееПоиск по сканам документовColPali / ColQwenIlluin Technology (команда ViDoRe) · ФранцияКоммерция с условиями

Поиск по PDF и сканам как по картинкам: страницу не нужно распознавать, модель сразу находит нужную по вопросу, включая таблицы и схемы. Обучены на английском.

Подробнее

Источник: huggingface.co/nvidia/llama-nemotron-rerank-vl-1b-v2-fp8. Данные сверены с карточкой модели 22.09.2026. Лицензию перед коммерческим запуском проверьте с юристом.