Mellum 2.1 от JetBrains: своя модель для кода или облачный API

Что вышло и что я проверил

Репозиторий обновлён 7 октября 2026 года, СМИ датируют релиз 8 октября, на страницах JetBrains даты нет. Сверил с карточкой модели, карточкой сборок GGUF и постом в блоге JetBrains.

Подтверждено. Модель называется Mellum2.1-12B-A2.5B-Thinking. По метаданным в ней 12,15 млрд параметров, на токен активны 2,5 млрд (8 экспертов из 64). Контекст 131 072 токена. Лицензия Apache 2.0 указана в шапке карточки и в тексте, отдельного файла LICENSE в репозитории я не нашёл. Веса в BF16, пять файлов safetensors, вместе около 24,3 ГБ. Репозиторий открытый. Доступность самого Hugging Face из России: уточняйте. На карточке заявлен только английский язык.

Про GGUF. В посте канала, в блоге и в карточке основной модели сказано, что сборки для llama.cpp, Ollama и LM Studio появятся «скоро». Отдельный репозиторий GGUF при этом уже есть, создан 7 октября, в нём пять файлов: BF16 24,3 ГБ, Q8_0 12,9 ГБ, Q6_K 10,9 ГБ, Q4_K_M 8,1 ГБ (рекомендован на карточке) и MXFP4_MOE 7,0 ГБ. Сам я сборку не запускал.

Чего нет: головки MTP для спекулятивного декодирования в vLLM. В списке файлов её нет, карточка тоже пишет «скоро». Значит, ускорение одиночных запросов примерно в 1,6 раза, о котором говорит блог, у себя пока не воспроизвести.

Цифры вендора и что в них видно

По словам JetBrains, дообучение с подкреплением шло в миллионах песочниц на тысячах сред, с оболочкой и тестами, архитектура от Mellum2 не менялась. Дальше данные вендора, независимых замеров нет.

Из таблицы на карточке, Mellum2.1 против Qwen3.5-9B:

• SWE-bench Verified: 47,0 против 50,0 (у прошлой Mellum2 было 2,0).
• SWE-bench Pro: 28,0 против 38,0.
• Terminal-Bench 2.1: 17,4 против 21,7.
• LiveCodeBench v6: 82,0 против 75,4.
• BFCL v4 (вызов инструментов): 62,3 против 58,5.

На коротких задачах модель сильна, а в работе по репозиторию Qwen3.5-9B впереди. Облачных моделей в таблице нет, так что сравнить с платным ассистентом по ней нельзя.

Про скорость блог пишет, что под нагрузкой на одном H200 модель отдаёт почти вдвое больше токенов, чем Qwen3.5-9B. Точные значения только на графике. H200 серверная карта, на игровой будет иначе.

Модель рассуждает: перед ответом пишет цепочку мыслей в блоке think, для агента это лишние токены и ожидание. На карточке рекомендовано до 81 920 токенов на ответ.

Какое железо нужно: оценка

JetBrains требований к железу не публикует. Ниже моя оценка по размеру файлов, замеров нет. В памяти должны лежать все 12 млрд параметров, хотя считают на токен 2,5 млрд. Объём памяти определяет общий размер, скорость определяют активные параметры.

• Q4_K_M, 8,1 ГБ: плюс память под кэш контекста. На карте с 12 ГБ должно запуститься с коротким контекстом, с 16 ГБ спокойнее.
• Q8_0, 12,9 ГБ: карта на 16-24 ГБ.
• BF16, 24,3 ГБ: карта на 32 ГБ и больше либо несколько карт.

Память под длинный контекст я не измерял. Как подбирать память, описано в статье про железо для локального ИИ, запуск разобран в материале про llama.cpp.

Своя модель или API: условный пример

Зачем держать модель у себя, я уже разбирал в статье про локальный ИИ как расчёт. Плюсы: исходники и клиентские данные не покидают контур, нет платы за токены, версия не меняется без вашего ведома. Минусы: качество, вероятно, ниже облачных топов (оценка), железо, обслуживание.

Условный пример, не прайс и не чей-то проект. Допущения: три разработчика, агент у каждого расходует 1,5 млн токенов за рабочий день, 22 рабочих дня, итого 99 млн токенов в месяц. Облачный API стоит в среднем 500 рублей за миллион токенов, это допущение: подставьте смешанную цену из прайса провайдера, вход и выход там тарифицируются по-разному. Сервер с видеокартой обходится в 60 000 рублей в месяц, аренда или амортизация с электричеством.

• API: 99 × 500 = 49 500 рублей в месяц.
• Своя модель: 60 000 рублей в месяц независимо от числа токенов.
• Точка равенства: 60 000 / 500 = 120 млн токенов в месяц.

При трёх разработчиках API дешевле. При пяти это 165 млн токенов: 82 500 рублей по API против 60 000 у своей модели. Если подходящая станция уже стоит в офисе, платите за электричество и своё время. Добавьте администрирование и повторные попытки: если свою модель приходится переспрашивать вдвое чаще, экономию съедает время разработчика.

Где своя модель не сработает

Качество на сложной работе. По таблице JetBrains на SWE-bench Pro Mellum2.1 заметно слабее Qwen3.5-9B. Крупный рефакторинг я бы ей пока не поручал, это ожидание без замера.

Язык. На карточке указан английский, русские постановки проверяйте отдельно.

Обвязка. Готового плагина здесь нет, есть только модель. Нужна агентская программа, которая подключится по OpenAI-совместимому интерфейсу, как у llama-server. Интеграции с IDE JetBrains в посте не упомянуты. Для подсказок в редакторе смотрите Tabby.

Свежесть. Сборки вышли на этой неделе, ваша версия llama.cpp, Ollama или LM Studio могла не успеть.

Доступ. Скачивание с Hugging Face бесплатное. Доступность сайта и оплата сопутствующих сервисов из России: уточняйте.

Что можно сделать уже сейчас

Соберите 20 задач. Возьмите из трекера 20 закрытых за месяц: 6 багов с воспроизведением, 5 небольших функций, 4 теста к готовому коду, 3 рефакторинга, 2 разбора чужого кода. Метод описан в статье про свой тест на реальных вопросах.

Прогоните две модели. Поднимите Q4_K_M на имеющейся карте и дайте те же задачи своей модели и той облачной, которой пользуетесь. Записывайте: прошли ли тесты, сколько правок руками, минуты до результата, токены.

Задайте порог заранее. Мой ориентир: 14 задач из 20 с принятым результатом, тогда такие задачи можно переносить, остальное оставить облаку.

Посчитайте токены. Подставьте в расчёт выше цифры из логов провайдера. Если до точки равенства далеко, ради экономии сервер держать не стоит, остаётся довод про закрытый контур. Развёртывание, обвязку и тест я делаю в рамках разработки ИИ-агентов под ключ.

Частые вопросы

Запустится ли Mellum2.1 на ноутбуке?

Q4_K_M весит 8,1 ГБ, на ноутбуке с 16 ГБ памяти запуск возможен. Скорость я не проверял.

Заменит ли она облачного ассистента?

Неизвестно: облачных моделей в таблице JetBrains нет. Проверяйте на своих 20 задачах.

Можно ли использовать в коммерческом проекте?

Apache 2.0 допускает коммерческое использование. Условия договора с заказчиком покажите юристу.

Коротко о главном

Mellum2.1 это открытая модель 12B с 2,5 млрд активных параметров под Apache 2.0, GGUF уже лежат на Hugging Face, а MTP-головка ещё нет. Цифры в таблице принадлежат JetBrains, и на репозиторных задачах Qwen3.5-9B в ней впереди.

Если хотите проверить её на 20 ваших задачах и посчитать, что выгоднее, своя модель или API, напишите мне в Telegram кодовое слово «СВОЯМОДЕЛЬ», пришлю шаблон теста и расчёта.