ТекстКартинка + текст

Ternary Bonsai

Сжатая Qwen3.8-27B: весит 5,9 ГБ вместо 54 ГБ и сохраняет около 98% качества исходной. Контекст 262 тысячи токенов, понимает картинки и вызывает инструменты. Для запуска нужен форк llama.cpp от авторов.

Разработчик
Prism ML, США
Первый выпуск
сен 2026
Последний выпуск
сен 2026
Размеры
27B (1,72 бита на вес)
Лицензия
Можно в коммерциюApache 2.0
Русский язык
Не заявлен
Запуск
Через свой серверНужна видеокарта
Сферы
Разработка ПО, Документы и бухгалтерия, Поддержка клиентов

Какие задачи решает

  • агент для работы с кодом на своём компьютере
  • разбор документов без отправки в облако
  • вызов инструментов и автоматизация процессов
  • ответы по длинным документам

Где применяется

разработка и ИТдокументооборотвнутренние ассистенты без облака

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. Ternary Bonsai 2 27B (GGUF и MLX)

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face
Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам.

Частые вопросы

Можно ли использовать Ternary Bonsai в коммерческом проекте?

Да. Лицензия: Apache 2.0. Это разрешает коммерческое использование, но перед запуском лицензию всё равно стоит показать юристу.

Какое железо нужно для Ternary Bonsai?

Минимум: Ноутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии. Без видеокарты модель практически не работает. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли Ternary Bonsai русский язык?

В карточке модели языки не перечислены, поэтому поддержку русского обещать нельзя — её нужно проверять на ваших примерах.

Где скачать Ternary Bonsai и сколько это стоит?

Веса Ternary Bonsai лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

ТекстQwenAlibaba · КитайКоммерция с условиями

Семейство языковых моделей с сильным русским языком: от маленьких версий для ноутбука до флагмана уровня коммерческих API.

Подробнее
ТекстGemmaGoogle · СШАМожно в коммерцию

Компактные модели Google: хорошо работают на одном компьютере, старшие версии понимают картинки. Есть CodeGemma для кода, FunctionGemma 270M для вызова функций и быстрая DiffusionGemma.

Подробнее
ТекстLiquid LFMLiquid AI · СШАКоммерция с условиями

Модели новой архитектуры для работы прямо на устройстве: быстрые на обычном процессоре и в телефоне. Есть версии для извлечения данных, RAG и инструментов, а также LFM2.5-VL для картинок и голосовая LFM2.5-Audio. Старшая LFM2.5-24B-A2B (2,45B активных, контекст 131 тысяча токенов, русский в списке языков) всегда рассуждает перед ответом и рассчитана на быстрых агентов на устройстве. В октябре вышло поколение LFM3 на новой трёхгибридной архитектуре: LFM3-1.7B для локальных агентов (контекст 256 тысяч токенов, около 1 ГБ памяти в 4 бита, предобучена на 22 трлн токенов), LFM3-VL-2B для картинок, LFM3-Audio-2B для речи и LFM3-Omni-2B, который понимает текст, картинки, видео и звук, а отвечает текстом и речью. Для сложного кода и многошаговых рассуждений авторы её не рекомендуют.

Подробнее

Источник: huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf. Данные сверены с карточкой модели 22.09.2026. Лицензию перед коммерческим запуском проверьте с юристом.