Nemotron 3.5 Super VL для документов: лицензия и железо

Что вышло и что я проверил

Я открыл блог NVIDIA для разработчиков, карточку модели на Hugging Face и карточку Bolt. Модель существует, дата в блоге и на карточке одна: 15 октября 2026 года.

Подтверждено карточкой: гибрид Mamba-2, экспертов и внимания, 512 экспертов в каждом слое, энкодер C-RADIO, контекст до 1 млн токенов, видео mp4 до 2 минут. Рассуждения включаются параметром enable_thinking в шаблоне чата. Файлы BF16 по данным Hub занимают около 249 ГБ, NVFP4 около 75 ГБ.

Цифры из таблицы карточки принадлежат NVIDIA: GPQA-Diamond 89,52, SWE-bench Verified 71,10, OSWorld-Verified 51,14, OCRBench v2 на английском 68,12. Qwen3.8-Flash-Next и GLM-5.3-Flash в той же таблице впереди на большинстве тестов. На английском OCRBench v2 Nemotron выше обоих (67,9 и 61,8) и почти вровень с Qwen3.5-122B-A10B (68,3). На китайском отставание заметнее: 59,15 против 67,3. Независимо: Artificial Analysis ставит индекс 26 и первое место из 67 открытых моделей класса 40-150 млрд. Замеров по документам там нет.

Что написано в лицензии

Лицензия OpenMDW-1.1 лежит на openmdw.ai, файла LICENSE в репозитории модели нет, карточка даёт ссылку. Текст я читал через инструмент, который возвращает пересказ, не дословную копию. Читайте оригинал. Что нашёл:

• Работать с моделью можно бесплатно и без ограничений, включая права по авторскому праву и патентам. NVIDIA на карточке пишет о готовности к коммерческому и некоммерческому использованию.
• При распространении модели или её части нужно приложить текст соглашения и сохранить уведомления об авторстве.
• Иск о нарушении патента или авторских прав моделью прекращает ваши права по лицензии. Исключение: встречный иск.
• Ограничений на результаты работы нет, копилефта нет, надписи вроде «Built with» не требуются.
• Модель отдаётся как есть. Права третьих лиц на данные и согласия на обработку остаются на вас.

Лицензии с порогами выручки и обязательными пометками разобраны в материале про лицензии открытых моделей.

Документы и русский язык

По карточке документ подаётся картинками страниц, к ним можно приложить текст. В данных обучения названы таблицы, графики, OCR и многостраничные документы. На графиках CharXiv у модели 80,82.

Постобучение шло на французском, немецком, итальянском, японском, испанском и китайском. Русский назван только среди пятнадцати языков текстового корпуса. Из данных для распознавания названы английский и китайский и набор «Multilingual OCR and Document Layout» без перечня языков. Качество на кириллице, печатях и мелком шрифте заранее неизвестно. Про рукописный текст в карточке ничего нет.

Сколько нужно железа и что значит «24 ГБ»

Для BF16 NVIDIA называет четыре H100 или два GB200. Для NVFP4 в списке одна DGX Spark, одна H200, две H100 или один GB200. Таблица карточки показывает, что NVFP4 на OCRBench v2 почти не теряет (68,34 против 68,12), но проседает на WebVoyager и DeepSWE. Сборщик Unsloth, вторичный источник, советует для GGUF NVFP4 весом 79 ГБ не меньше 96 ГБ памяти.

Bolt 74B-A9B: 9 млрд активных параметров, эксперты квантованы до 2 бит (IQ2-XXS, около 2,06 бита), файл 24,1 ГБ. NVIDIA целится в запас ниже 24 ГБ при одном запросе и контексте 128 тысяч. Нужна конкретная сборка vLLM и режим «один запрос за раз». Потерю качества вендор описывает словами «little to no degradation in text accuracy». Цифр сравнения с BF16 и оценок по документам я не нашёл. Это данные вендора.

Условный пример облака. Допущения: 300 страниц в день, 22 дня, на страницу 2500 входных токенов и 600 выходных. Токены на картинку покажет тест. Цены на 17 октября 2026 года по API OpenRouter: $0,15 за млн входных и $0,50 за млн выходных. Вход 16,5 млн токенов стоит около 2,5 доллара, выход около 4 млн токенов около 2 долларов, итого порядка 5 в месяц. Если рассуждения увеличат выход в пять раз, около 12. Это 150 долларов в год против цены сервера, которую назовёт поставщик. Метод расчёта описан в статье про расчёт локального ИИ и в заметке про железо.

Свой сервер, облако или обычный OCR

Обычного OCR хватает, когда формы однотипны: ваши счета, акты, анкеты. Новые модели распознавания держат таблицы и работают на своём сервере.

Облачный API разумен, когда в документах нет персональных данных и поток небольшой. Ответ модели может уверенно ошибаться, см. статью о доверии к ИИ.

Свой сервер нужен, если в бумагах паспорта, анкеты, договоры с данными клиентов. Закон 152-ФЗ посвящает передаче за границу статью 12, обязанностям оператора при сборе данных статью 18, названия статей я сверил, условия по частям нет, это вопрос юриста. Схему, где итог проверяет человек, я описывал на примере накладных в 1С.

Что не подтверждено

Доступ из России (веса, регистрация и оплата OpenRouter, NIM, ModelScope) уточняйте. Качество русского и рукописного текста не подтверждено. Независимых замеров OCR нет. Для Bolt нет цифр потери качества и скорости. Цена действует на дату проверки. У OpenRouter есть вариант :free, его условия по данным запросов я не открывал.

Что можно сделать уже сейчас

Соберите 30 документов. Накладные, счета, договоры, чеки, анкеты, как приходят на деле: фото под углом, сканы, пара рукописных. Персональные данные закройте, если тест идёт в облаке.

Задайте критерии. Реквизиты (ИНН, номер, дата), суммы и НДС, таблица построчно, рукописный текст, русский язык, секунды на страницу. Эталоны запишите заранее, как в тесте на 30 вопросов.

Сравните три варианта. Обычный OCR, Nemotron через API и ваш нынешний процесс. Ошибки в суммах и реквизитах считайте отдельно.

Решите по результату. Если API справляется и данные не чувствительны, нужна проверка человеком. Если нужна своя установка, соберу её в рамках разработки ИИ-агентов под ключ.

Частые вопросы

Можно ли использовать модель в коммерческом продукте?

По прочитанному тексту OpenMDW-1.1 ограничений нет. При распространении сохраните текст соглашения. Оценку для вашей компании даёт юрист.

Поместится ли полная версия на обычную видеокарту?

Нет. Для BF16 вендор называет четыре H100 или два GB200, для NVFP4 одну H200 или DGX Spark. Под 24 ГБ заявлена только Bolt.

Читает ли она русские накладные и рукописный текст?

Подтверждения нет, проверяйте тестом.

Коротко о главном

Nemotron 3.5 Super VL открыта по свободной лицензии, на английских документах идёт вровень с лидерами класса. Железо тяжёлое, Bolt под 24 ГБ остаётся заявлением вендора. Русский и рукописный текст не подтверждены.

Если хотите, чтобы я собрал тест на 30 ваших документов и сравнил свой сервер, облако и обычный OCR, напишите мне в Telegram кодовое слово «ТРИДЦАТЬ», пришлю шаблон таблицы для теста.