ТекстGGUF2024–2026
Sarvam AI · Индия
Индийские модели с упором на 22 языка Индии. Sarvam 30B и 105B 2026 года это MoE-модели с сильными навыками рассуждения и работы в агентах. В ноябре вышла Sarvam-Prism (Apache 2.0, на базе Sarvam-105B): модель решений, которая по контексту и вопросам с заданными вариантами ответа выдаёт вероятность каждого за один проход и не пишет текст. Нужна видеокарта с FP8 и около 120 ГБ памяти (B200 или H200); есть и платный API.
- Многоязычная поддержка клиентов
- Задачи с рассуждением и расчётами
- Агенты с вызовом инструментов
- Размеры
- 2B – 105B-A10B
- Железо
- от: Ноутбук
ТекстOllama2024–2026
NVIDIA · США
Модели NVIDIA для агентов и рассуждений, заточенные под быстрый запуск на её видеокартах. Nemotron 3 это гибрид Mamba и MoE от 4B до 550B; Nano Omni разбирает видео, аудио и картинки (только английский). Новая Nemotron 3.5 Super VL (120B, активны 12B, контекст до 1 млн токенов) читает текст, картинки и видео до двух минут, упор на документы и агентов; сжатая Bolt (74B, активны 9B) умещается в 24 ГБ видеопамяти. Языки Super VL: английский, испанский, французский, немецкий, итальянский, японский. Dory 1.0 (4B, контекст до 256 тысяч токенов, английский) прогоняет один и тот же блок слоёв несколько раз, и число проходов можно менять под задачу: больше проходов даёт больше точности без новой модели и без длинных рассуждений в тексте.
- Агенты с вызовом инструментов
- Задачи с рассуждением и расчётами
- Ответы по длинным документам
- Размеры
- 4B – 550B-A55B
- Железо
- от: Ноутбук
Текст2025–2026
Ant Group (inclusionAI) · Китай
Семейство Ant Group: Ling — обычные модели, Ring — рассуждающие. Есть и триллионные флагманы, и экономичная Ling-3.0-tiny, которой хватает 1,3 млрд активных параметров. Новая Ling-3.1-flash (560B, активны 25B, контекст 1 млн токенов) рассчитана на агентов, офисные задачи и разработку. Доработанная Ling-3.1-flash-1019 (MIT), по оценке авторов, подняла индекс Artificial Analysis с 41 до 44.
- Корпоративный ассистент
- Агенты для офисных процессов
- Финансовая аналитика (есть версия Fin)
- Размеры
- 7.9B-A1.3B – 1T
- Железо
- от: Ноутбук
ТекстRUOllama2025–2026
Liquid AI · США
Модели новой архитектуры для работы прямо на устройстве: быстрые на обычном процессоре и в телефоне. Есть версии для извлечения данных, RAG и инструментов, а также LFM2.5-VL для картинок и голосовая LFM2.5-Audio. Старшая LFM2.5-24B-A2B (2,45B активных, контекст 131 тысяча токенов, русский в списке языков) всегда рассуждает перед ответом и рассчитана на быстрых агентов на устройстве. В октябре вышло поколение LFM3 на новой трёхгибридной архитектуре: LFM3-1.7B для локальных агентов (контекст 256 тысяч токенов, около 1 ГБ памяти в 4 бита, предобучена на 22 трлн токенов), LFM3-VL-2B для картинок, LFM3-Audio-2B для речи и LFM3-Omni-2B, который понимает текст, картинки, видео и звук, а отвечает текстом и речью. Для сложного кода и многошаговых рассуждений авторы её не рекомендуют.
- Ассистент на ноутбуке или телефоне без интернета
- Извлечение данных из документов
- Вызов инструментов в приложениях
- Размеры
- 230M – 24B-A2B
- Железо
- от: Ноутбук
Текст2026
XHToken (проект Spark) · не указана
Компактная модель на 4B для запуска прямо на устройстве, с упором на агентов: вызов инструментов, планирование в несколько шагов, программирование, длинный контекст. Версия 2.6 вышла примерно через месяц после 2.5 с той же архитектурой, выросла только за счёт дообучения. Бюджет рассуждения настраивается: нет, низкий, высокий. Авторы заявляют, что она держится на уровне моделей около 9B. Языки в карточке: английский и китайский, русский не заявлен. Для запуска нужен собственный код модели в transformers. Цифры авторов. В конце октября добавился размер 1.7B (INT4, INT8, FP8).
- агент с вызовом инструментов на домашнем компьютере или ноутбуке
- локальный помощник программиста, которому не нужен большой сервер
- встроенный ИИ в приложение с выбором, сколько модели думать
- Размеры
- 1.7B и 4B
- Железо
- от: Ноутбук
Текст2026
jialinyyzz (sgaofen) · не указана
Модель на 12B, которая переписывает черновики, написанные ИИ, чтобы они читались как человеческие: письма, эссе, отчёты, посты на форумах. Обучена сохранять все числа, единицы, даты, имена и цитаты и ничего не добавлять. Работает на своём компьютере, есть готовое приложение для Mac и Windows, которое работает без интернета, и файлы GGUF разной степени сжатия для llama.cpp. Заявленные языки: английский и китайский, русский не заявлен. По замерам автора, детектор Originality.ai признал человеческими 95% английских переписанных текстов. Результат всё равно нужно перечитывать, особенно числа и имена.
- переписывание черновиков писем и отчётов, чтобы текст звучал естественнее
- правка текстов после ИИ без потери чисел, дат и цитат
- локальная обработка текстов, которые нельзя отправлять в облако
- Размеры
- 12B
- Железо
- от: Ноутбук
ТекстOllama2026
ConwayResearch (Underdog) · не указана
Qwen3.8-27B, сжатая до 2 бит в один файл GGUF на 7,9 ГБ вместо 54 ГБ, с упором на то, чтобы вызов инструментов не ломался. По замерам авторов (их тест Underdog Bench), вызов инструментов 88 против 84 у полной модели, параллельные вызовы 42 против 35, в среднем 96% качества полной модели на девяти тестах. Запускается обычным llama.cpp и Ollama, режим рассуждений включается и выключается, картинки понимает с отдельным файлом зрения (около 0,6–0,9 ГБ). Заявленный язык карточки: английский.
- агент с вызовом инструментов на домашней видеокарте
- локальный помощник для программирования с функциями
- разбор картинок с подключённым файлом зрения
- Размеры
- 27B (файл 7,9 ГБ)
- Железо
- от: Ноутбук
ТекстOllama2023–2026
DeepSeek · Китай
Флагманская линия DeepSeek: от первых 7B/67B до V4-Pro на 1,6 трлн параметров. Уровень закрытых моделей при открытой MIT-лицензии; картинки понимают V4-Flash-Vision-Exp и V4.1-Flash, контекст до 1 млн токенов. Свежая V4.1-Flash-1017 отвечает короче и быстрее предыдущей Flash: по замерам самой DeepSeek, на DeepSWE v1.1 77,0 против 74,2, на Terminal-Bench 4.0 42,3 против 31,2.
- Ассистент для сотрудников на своём сервере
- Разбор длинных договоров и отчётов
- Агенты, которые работают с инструментами и API
- Размеры
- 7B – 1.6T-A49B
- Железо
- от: Ноутбук
Текст2026
Ai2 (Институт Аллена) · США
Модель на 8B, которая по вопросу и поданным ей фрагментам научных статей пишет отчёт со ссылками на источники. Сама ничего не ищет: фрагменты нужно подать вместе с вопросом.
- обзор литературы по вопросу со ссылками на источники
- сводка по набору собственных PDF
- черновик аналитической записки с цитатами
- Размеры
- 8B
- Железо
- от: Ноутбук
Текст2026
Prism ML · США
Сжатая Qwen3.8-27B: весит 5,9 ГБ вместо 54 ГБ и сохраняет около 98% качества исходной. Контекст 262 тысячи токенов, понимает картинки и вызывает инструменты. Для запуска нужен форк llama.cpp от авторов.
- агент для работы с кодом на своём компьютере
- разбор документов без отправки в облако
- вызов инструментов и автоматизация процессов
- Размеры
- 27B (1,72 бита на вес)
- Железо
- от: Ноутбук
ТекстRU2025–2026
Лаборатория искусственного интеллекта Северо-Восточного федерального университета · Россия
Самый полный набор моделей для якутского языка в одном месте: языковые модели разных размеров, перевод с русского и на русский, эмбеддинги и распознавание текста с изображений. Качество у моделей разное, проверять надо на своих данных.
- Ответы и переписка на якутском языке
- Перевод документов и материалов
- Поиск по смыслу в якутских текстах
- Размеры
- 1.1B – 27B
- Железо
- от: Ноутбук
ТекстRUOllama2024–2026
Cohere Labs · Канада
Многоязычные модели исследовательского крыла Cohere, от 23 до 100+ языков. Tiny Aya 2026 года на 3.3B работает на обычном ПК, но только некоммерчески.
- Перевод и переписка на редких языках
- Многоязычный чат-ассистент
- Разбор изображений с текстом (Vision)
- Размеры
- 3.3B – 35B
- Железо
- от: Ноутбук
