ТекстGGUF2024–2026
Sarvam AI · Индия
Индийские модели с упором на 22 языка Индии. Sarvam 30B и 105B 2026 года это MoE-модели с сильными навыками рассуждения и работы в агентах. В ноябре вышла Sarvam-Prism (Apache 2.0, на базе Sarvam-105B): модель решений, которая по контексту и вопросам с заданными вариантами ответа выдаёт вероятность каждого за один проход и не пишет текст. Нужна видеокарта с FP8 и около 120 ГБ памяти (B200 или H200); есть и платный API.
- Многоязычная поддержка клиентов
- Задачи с рассуждением и расчётами
- Агенты с вызовом инструментов
- Размеры
- 2B – 105B-A10B
- Железо
- от: Ноутбук
Картинка + текст2026
Microsoft · США
Компактная модель на 4B, которая сама управляет компьютером: смотрит на скриншот и кликает, а когда выгоднее, переключается на командную строку и правит файлы кодом. Обе роли в одной модели, без внешнего оркестратора. По тесту OSWorld-Verified (50 шагов) набирает 66,0%, по словам авторов лучший результат среди моделей на 4B, на задачах операционной системы 87,5%. Обучена из промежуточной Mage-VL в пять этапов, с набором из почти 294 тысяч синтетических задач на 6915 навыков. Контекст при обучении и запуске 32 768 токенов, архитектура держит до 262 144. Подходит для офисной автоматизации и помощников на своём компьютере. Цифры авторов.
- агент, который работает в приложениях по скриншотам и командной строке
- автоматизация офисных задач на своём компьютере без облака
- прототип помощника, управляющего рабочим столом
- Размеры
- 4B
- Железо
- от: Ноутбук
Текст2026
Nanbeige · Китай
Модель на 33B, которую авторы называют старшей учительницей для будущих лёгких агентов: на ней они собираются обучать маленькие модели (например 3B). Сильна в программировании и офисных задачах: на тесте JobBench по 35 профессиям, по словам авторов, обгоняет базовую модель в большинстве. Контекст до 512 тысяч токенов, рассуждение можно включать и выключать, вызов инструментов лучше всего работает в формате XML. Авторы сравнивают её с Qwen3.8-27B, Muse-Glimmer-30B и Gemma 4 31B и говорят, что она лидирует на большинстве тестов; цифры их собственные. Выложена и базовая версия.
- агент для программирования и работы с инструментами
- офисные задачи по профессиям: отчёты, таблицы, разбор документов
- базовая модель для собственного дообучения
- Размеры
- 33B
- Железо
- от: 1 видеокарта
Речь в текстRU2023–2026
NVIDIA · США
Быстрые модели распознавания речи от NVIDIA, в том числе потоковые для работы в реальном времени. Parakeet TDT v3 и Nemotron 3.5 ASR понимают русский. Новая Nemotron 3.5 Transcribe (34B, 4.3B активных, OpenMDW 1.1) расшифровывает записи до часа на 40 языках, переводит речь, делит её по говорящим, ставит метки времени по словам и отвечает на вопросы по содержанию (вопросы только на английском); для русского доступны все задачи. Только готовые файлы, живой поток не поддерживается. Цифры авторов: 5,33% ошибок в словах на английском в открытом рейтинге Hugging Face.
- Расшифровка звонков и совещаний
- Субтитры к видео
- Голосовой ввод в реальном времени
- Размеры
- 110M – 34B-A4.3B
- Железо
- от: Ноутбук
Текст2025–2026
Ant Group (inclusionAI) · Китай
Семейство Ant Group: Ling — обычные модели, Ring — рассуждающие. Есть и триллионные флагманы, и экономичная Ling-3.0-tiny, которой хватает 1,3 млрд активных параметров. Новая Ling-3.1-flash (560B, активны 25B, контекст 1 млн токенов) рассчитана на агентов, офисные задачи и разработку. Доработанная Ling-3.1-flash-1019 (MIT), по оценке авторов, подняла индекс Artificial Analysis с 41 до 44.
- Корпоративный ассистент
- Агенты для офисных процессов
- Финансовая аналитика (есть версия Fin)
- Размеры
- 7.9B-A1.3B – 1T
- Железо
- от: Ноутбук
Разбор текстаRU2026
Liquid AI · США
Маленькие модели решений: по тексту, картинке или голосовой записи отвечают «да или нет», выбирают вариант или ставят оценку за один проход, текст не пишут. d1-3B видит картинки, d1-omni-600M ещё и слышит речь до 30 секунд. Русский заявлен. Открытые d1-2B (текст, картинки и видео, на базе LFM3-VL-2B) и d1-Omni-2B (ещё и звук) решают за миллисекунды, по замерам авторов 5,7 мс на H100; кроме выбора ответа они вытаскивают текст, числа и даты с позициями и находят объекты на картинке. Это не чат-модель.
- сортировка обращений и заявок по отделам
- проверка фото на браке или нарушении по списку вопросов
- маршрутизация голосовых команд
- Размеры
- 600M, 2B и 3B
- Железо
- от: Ноутбук
ТекстRUOllama2025–2026
Liquid AI · США
Модели новой архитектуры для работы прямо на устройстве: быстрые на обычном процессоре и в телефоне. Есть версии для извлечения данных, RAG и инструментов, а также LFM2.5-VL для картинок и голосовая LFM2.5-Audio. Старшая LFM2.5-24B-A2B (2,45B активных, контекст 131 тысяча токенов, русский в списке языков) всегда рассуждает перед ответом и рассчитана на быстрых агентов на устройстве. В октябре вышло поколение LFM3 на новой трёхгибридной архитектуре: LFM3-1.7B для локальных агентов (контекст 256 тысяч токенов, около 1 ГБ памяти в 4 бита, предобучена на 22 трлн токенов), LFM3-VL-2B для картинок, LFM3-Audio-2B для речи и LFM3-Omni-2B, который понимает текст, картинки, видео и звук, а отвечает текстом и речью. Для сложного кода и многошаговых рассуждений авторы её не рекомендуют.
- Ассистент на ноутбуке или телефоне без интернета
- Извлечение данных из документов
- Вызов инструментов в приложениях
- Размеры
- 230M – 24B-A2B
- Железо
- от: Ноутбук
Текст2026
XHToken (проект Spark) · не указана
Компактная модель на 4B для запуска прямо на устройстве, с упором на агентов: вызов инструментов, планирование в несколько шагов, программирование, длинный контекст. Версия 2.6 вышла примерно через месяц после 2.5 с той же архитектурой, выросла только за счёт дообучения. Бюджет рассуждения настраивается: нет, низкий, высокий. Авторы заявляют, что она держится на уровне моделей около 9B. Языки в карточке: английский и китайский, русский не заявлен. Для запуска нужен собственный код модели в transformers. Цифры авторов. В конце октября добавился размер 1.7B (INT4, INT8, FP8).
- агент с вызовом инструментов на домашнем компьютере или ноутбуке
- локальный помощник программиста, которому не нужен большой сервер
- встроенный ИИ в приложение с выбором, сколько модели думать
- Размеры
- 1.7B и 4B
- Железо
- от: Ноутбук
Разбор текстаRU2026
проект vLLM Semantic Router · международный проект
Открытое семейство моделей для ИИ-шлюза: на запрос отвечают вероятностями, не генерируя текст. Определяют тему и срочность, попытку взлома, вредный запрос, персональные данные, нужен ли инструмент. Малые версии работают на процессоре, Vela понимает 17 языков, включая русский. Новая d3 (27B) читает ещё и несколько картинок и видео, а d3-turbo, по оценке самих авторов, точнее её на 4 пункта в тексте. Самая новая в линейке d3-ultra вышла 24 октября.
- маршрутизация запросов между моделями и командами
- проверка запроса на попытку взлома и вредное содержание до основной модели
- поиск персональных данных с координатами в тексте
- Размеры
- 0.3B – 27B
- Железо
- от: Ноутбук
Синтез речи2026
inclusionAI (Ant Group) · Китай
Семейство открытых моделей озвучки от Ant Group: плотная 0.5B на основе Qwen2.5-0.5B и MoE-версия tiny (7.9B параметров, около 1.3B активных, на основе Ling V3). Клонируют голос по короткому образцу, создают голос по словесному описанию, управляют подачей, эмоцией, скоростью, высотой и громкостью. Есть более 100 встроенных китайских голосов, пять английских и 14 вставных меток для вдоха, кашля, смеха, вздоха и сомнения. Языки: китайский, английский, немецкий, испанский, французский, корейский, японский и диалекты сычуаньский и кантонский, русского нет. Частота 44,1 кГц. Для запуска нужен код из репозитория на GitHub, сама страница на Hugging Face только раздаёт веса. Для ComfyUI есть сборка от Comfy-Org.
- озвучка роликов и подкастов на китайском и английском с управлением эмоцией
- клонирование голоса по короткому образцу
- создание голоса по описанию для игр и приложений
- Размеры
- 0.5B и 7.9B-A1.3B (tiny)
- Железо
- от: Ноутбук
Поиск и RAGRU2025–2026
NVIDIA · США
Эмбеддинги NVIDIA для поиска и RAG. Nemotron-3-Embed 2026 года вышли под свободной лицензией OpenMDW и работают на многих языках. В октябре вышла Nemotron-3.5-Embed (1B и 8B, OpenMDW 1.1): она ищет документы по тексту и по картинке страницы с таблицами, графиками и инфографикой; для текста проверена на 34 языках, русский среди них. 8B построена на Ministral 3.
- Поиск по корпоративным документам
- RAG для чат-ботов и ассистентов
- Поиск по картинкам и страницам (VL-версии)
- Размеры
- 1B – 8B
- Железо
- от: Ноутбук
Текст2026
KRAFTON AI · Южная Корея
Модель корейской KRAFTON (издатель PUBG) на 30B параметров, 4B активных, обученная с нуля. Сильна в корейском разговоре и в агентных задачах: умеет рассуждать и вызывать инструменты, работает с Hermes Agent, Pi и OpenCode. Языки обучения: корейский, английский, японский, китайский, испанский, французский, тайский, русский среди них не назван. Есть сжатые версии MXFP8 и NVFP4 и вспомогательная модель для ускорения генерации. Это пробный выпуск (preview), характеристики до финала могут измениться. Веса выдаются после заявки на Hugging Face, цифры по тестам авторов.
- корейскоязычный ассистент и поддержка клиентов
- агент с вызовом инструментов на собственном сервере
- игровые и медиапроекты с корейской аудиторией
- Размеры
- 30B-A4B
- Железо
- от: 1 видеокарта
Разбор текста2026
Contrastive-LM (по анонсу: Стэнфорд совместно с NVIDIA) · США
Открытая модель быстрого выбора для агентов: получает описание ситуации и набор вариантов и возвращает вероятность каждого, не генерируя текст. Умеет решать «да или нет», выбирать из списка и ставить оценку по шкале. Действия и состояние кодируются отдельно, поэтому векторы действий можно посчитать заранее: по замерам авторов, при выборе из примерно тысячи вариантов она до 13 раз быстрее аналога Jev. После дообучения работает проверяющим, который выбирает лучшее из нескольких решений кодового агента (DeepSWE 81,6%, Terminal-Bench 2.1 87,6% по их замерам). Нужны Linux, видеокарта NVIDIA и Qwen3-8B в vLLM, язык карточки английский.
- быстрый выбор следующего действия агента из заданных вариантов
- проверка и ранжирование нескольких решений кодового агента
- маршрутизация обращений: отдел, срочность, оценка по шкале
- Размеры
- 8B (замороженный Qwen3-8B плюс две небольшие проекционные головы)
- Железо
- от: 1 видеокарта
Разбор текста2026
Tencent Hunyuan · Китай
Модель, которая ведёт долгую память ИИ-агента: решает, что из переписки, рабочих задач или кода стоит запомнить, в каком виде, и как новые сведения меняют уже сохранённое. Заменяет универсальную модель внутри систем памяти Mem0, MemOS и собственной Hy-Memory. Языки в карточке: английский и китайский. Цифры по тестам приведены самой Tencent.
- память ассистента о клиенте между разговорами
- запоминание хода работы над проектом и кода
- обновление сохранённых сведений при новых данных вместо дублей
- Размеры
- 30B-A3B
- Железо
- от: 1 видеокарта
ТекстOllama2026
ConwayResearch (Underdog) · не указана
Qwen3.8-27B, сжатая до 2 бит в один файл GGUF на 7,9 ГБ вместо 54 ГБ, с упором на то, чтобы вызов инструментов не ломался. По замерам авторов (их тест Underdog Bench), вызов инструментов 88 против 84 у полной модели, параллельные вызовы 42 против 35, в среднем 96% качества полной модели на девяти тестах. Запускается обычным llama.cpp и Ollama, режим рассуждений включается и выключается, картинки понимает с отдельным файлом зрения (около 0,6–0,9 ГБ). Заявленный язык карточки: английский.
- агент с вызовом инструментов на домашней видеокарте
- локальный помощник для программирования с функциями
- разбор картинок с подключённым файлом зрения
- Размеры
- 27B (файл 7,9 ГБ)
- Железо
- от: Ноутбук
ТекстOllama2023–2026
DeepSeek · Китай
Флагманская линия DeepSeek: от первых 7B/67B до V4-Pro на 1,6 трлн параметров. Уровень закрытых моделей при открытой MIT-лицензии; картинки понимают V4-Flash-Vision-Exp и V4.1-Flash, контекст до 1 млн токенов. Свежая V4.1-Flash-1017 отвечает короче и быстрее предыдущей Flash: по замерам самой DeepSeek, на DeepSWE v1.1 77,0 против 74,2, на Terminal-Bench 4.0 42,3 против 31,2.
- Ассистент для сотрудников на своём сервере
- Разбор длинных договоров и отчётов
- Агенты, которые работают с инструментами и API
- Размеры
- 7B – 1.6T-A49B
- Железо
- от: Ноутбук
Текст2026
Meta Superintelligence Labs · США
Крупнейшая открытая модель Meta: 816B параметров, на каждый токен работают 42B, контекст 1 миллион токенов. Понимает текст, картинки, видео и звук, отвечает текстом. Создана для программирования и длинных агентных задач. Обучена на данных более чем на 100 языках. Доступ к весам на Hugging Face выдаётся вручную.
- агент для работы с кодом и длинными задачами с вызовом инструментов
- разбор скриншотов, графиков, документов, видео и записей
- генерация обучающих данных для других моделей
- Размеры
- 816B-A42B
- Железо
- от: Кластер
Прогнозы2026
Mistral AI · Франция
Семейство моделей для прогноза временных рядов без обучения под задачу: по истории продаж, спроса или нагрузки выдаёт прогноз с интервалами (21 квантиль). Принимает до 32 тысяч точек истории и прогнозирует до 1024 шагов за раз. По замерам Mistral, лучшая в нулевом режиме на GIFT-Eval, TIME и fev-bench. Работает на процессоре.
- прогноз продаж и спроса по истории
- прогноз нагрузки на склад, кассу, колл-центр
- оценка риска нехватки или излишка запасов по интервалам прогноза
- Размеры
- 5M, 28M, 123M и 209M
- Железо
- от: Ноутбук
РеранкерыRU2025–2026
NVIDIA · США
Небольшой реранкер NVIDIA на 1B. У версии vl на вход идут и страницы документов картинками, а не только текст. Новая 8B (Nemotron-3.5-Rerank) оценена на 34 языках, включая русский, и принимает текст, страницы-картинки или оба вида сразу, в том числе диаграммы и таблицы.
- Переупорядочивание фрагментов перед ответом ИИ-помощника
- Сортировка найденных страниц сканов и PDF
- Поиск по внутренним регламентам и инструкциям
- Размеры
- 1B и 8B
- Железо
- от: Ноутбук
Разбор текста2026
Mistral AI · Франция
Быстро определяет язык и диалект текста в арабской графике: современный литературный арабский, все диалекты и 51 класс в целом. Различает близкие языки на той же письменности (персидский, урду, пушту и другие), чтобы текст не считался арабским только из-за букв. Работает на процессоре.
- определение диалекта в обращениях клиентов на арабском
- сортировка текстов по языкам на арабской графике
- подготовка данных для обучения и поиска
- Размеры
- модель fastText с калибровкой, число параметров не указано
- Железо
- от: Ноутбук
Разбор текста2026
Шанхайская лаборатория искусственного интеллекта · Китай
Модель решений на базе Qwen3.5-4B: по тексту и картинкам отвечает вероятностями на все вопросы о ситуации за один проход, без генерации текста. Подходит для маршрутизации заявок и оценки срочности.
- сортировка заявок по отделам
- оценка приоритета и срочности обращений
- проверка по фото, всё ли в порядке
- Размеры
- 4B
- Железо
- от: Ноутбук
Агенты для компьютера2026
Tencent · Китай
Открытый агент для управления рабочим столом: смотрит на живые скриншоты, рассуждает и выдаёт клики и ввод с клавиатуры. Можно показать рабочий процесс один раз, и агент перенесёт его на новую задачу. Нужна внешняя среда, которая исполнит действия.
- автоматизация работы в программах без API
- повторение рабочего процесса по одному показанному примеру
- тестирование интерфейсов
- Размеры
- 27B
- Железо
- от: 1 видеокарта
Поиск и RAG2026
Tencent · Китай
Универсальные эмбеддинги на базе Qwen3.5: переводят текст, картинки, видео и визуальные документы в один вектор на 4096 чисел. Звук не поддерживается. Языки в карточке: китайский и английский.
- поиск по каталогу товаров по картинке или описанию
- поиск по видео и презентациям
- RAG по смешанным материалам из текста и изображений
- Размеры
- 2B и 9B
- Железо
- от: Ноутбук
Картинка + текст2026
Interfaze · не указана
Одна модель для разработчиков: читает документы и таблицы, расшифровывает речь с разметкой спикеров, находит объекты на картинке и отвечает строго по заданной JSON-схеме. Внутри ядро для рассуждений и набор узких моделей.
- разбор документов и таблиц с координатами текста
- расшифровка записей с разметкой спикеров
- извлечение данных из документов в заданную JSON-схему
- Размеры
- модель на 80 ГБ видеопамяти (ядро на базе Qwen3.8-27B)
- Железо
- от: 1 видеокарта
Речь в текст2026
Cactus Compute · не указана
Распознавание речи в одном файле на 16,9 МБ: работает на телефоне, часах, роботе и процессоре без видеокарты. Языки: английский, немецкий, французский, испанский, итальянский, нидерландский, польский. Даёт метки времени для слов.
- голосовой ввод в мобильных приложениях без интернета
- управление устройством голосом
- подсветка слов в субтитрах по меткам времени
- Размеры
- 16,9 МБ
- Железо
- от: Ноутбук
Речь в текстRUGGUF2025–2026
Mistral AI · Франция
Речевые модели Mistral: понимают аудио, расшифровывают и отвечают на вопросы по записи. Realtime-версия распознаёт в реальном времени и поддерживает русский; есть синтез речи и отдельная версия для арабских диалектов.
- Расшифровка и краткое содержание записей
- Вопросы к аудио
- Распознавание в реальном времени
- Размеры
- 3B – 24B
- Железо
- от: Ноутбук
Разбор текста2026
AutoTrust AI · Сингапур
Открытые модели решений: на вопросы «да или нет», «выбери вариант», «оцени от 0 до 5» отвечают вероятностями за один проход, а при нужде ещё и рассуждают. Не связаны с закрытой Jev от TypeSafe.
- сортировка заявок и обращений по отделам
- проверка действия агента перед выполнением
- оценка срочности и тональности сообщений
- Размеры
- 9B – 35B
- Железо
- от: 1 видеокарта
Разбор текста2026
Perplexity · США
Модель решений на базе Qwen3.8-27B: выбирает вариант, отвечает «да или нет» или ставит оценку и возвращает калиброванные вероятности. Понимает и картинки.
- маршрутизация обращений по командам
- проверка ответов ИИ на соответствие источникам
- оценка тональности и срочности писем
- Размеры
- 27B
- Железо
- от: 1 видеокарта
Речь в текст2026
Edge0 · не указана
Потоковое распознавание китайской и английской речи с задержкой 240–560 мс. Может слушать бесконечно долго без роста памяти и сам отличает паузу на раздумье от конца реплики.
- субтитры для прямых эфиров и созвонов
- голосовые ассистенты с быстрой реакцией
- круглосуточная расшифровка потока речи
- Размеры
- 4B
- Железо
- от: 1 видеокарта
Разбор текста2026
Supersonic Labs · не указана
Совсем маленькая модель решений: по тексту, вопросу и вариантам ответа выбирает один вариант, ставит оценку или отвечает «да или нет». Работает на обычном процессоре и в браузере.
- маршрутизация обращений по темам
- определение тональности отзывов
- быстрая классификация заявок
- Размеры
- 144M
- Железо
- от: Ноутбук
Речь в текст2026
Fermion Research · не указана
Очень компактная модель распознавания английской речи: 164 МБ, по точности близка к своей большой основе Parakeet. Час записи расшифровывает примерно за 20 секунд на ноутбуке.
- расшифровка встреч и звонков на английском
- диктовка текста на ноутбуке без интернета
- субтитры к английским роликам
- Размеры
- 164 МБ (около 2,1 бита на вес)
- Железо
- от: Ноутбук
Разбор текстаOllama2026
Cloudflare · США
Модели решений: не пишут текст, а читают ситуацию (текст, JSON, картинку, кадры видео, а у Clef-Omni ещё и звук) и за один проход возвращают вероятность каждого варианта ответа на типизированные вопросы «да или нет», «выбери один» и «оцени по шкале». Вместо разбора свободного текста агент получает готовые числа.
- сортировка обращений и заявок по категориям с вероятностью
- проверка документа или фото по списку вопросов (всё ли указано, есть ли нарушение)
- выбор следующего шага агентом без разбора текстового ответа
- Размеры
- 27B, 9B (Clef-flash) и 30B-A3B (Clef-Omni)
- Железо
- от: Ноутбук
Поиск и RAGOllama2025–2026
Google · США
Маленькие многоязычные эмбеддинги от Google, работают на телефоне и ноутбуке без интернета. Вторая версия понимает ещё и картинки, видео и аудио в одном векторном пространстве.
- Поиск по документам на устройстве
- RAG без отправки данных наружу
- Поиск по фото, видео и аудио по текстовому запросу
- Размеры
- 300M и 740M (EmbeddingGemma 2)
- Железо
- от: Ноутбук
Картинка + текстOllama2024–2026
OpenBMB (ModelBest и Университет Цинхуа) · Китай
Компактные модели зрения, которые работают даже на телефоне и ноутбуке. Хорошо читают текст на фото, понимают видео; версия 4.6 весит всего 1.3B. Свежая 4.7 вышла в двух размерах: 1B и 35B-A3B, первая MoE-модель в семействе. По словам авторов, 35B-A3B с помощью их способа подгрузки экспертов идёт на iPhone 17 Pro Max со скоростью 13+ токенов в секунду при 3 ГБ памяти. Цифры авторов.
- Распознавание текста на фото прямо на устройстве
- Разбор чеков и документов без отправки в облако
- Описание фото и видео
- Размеры
- 1B – 35B-A3B
- Железо
- от: Ноутбук
ТекстGGUF2025–2026
StepFun · Китай
MoE-модели StepFun, рассчитанные на быструю и дешёвую работу: при 196 млрд параметров Step-3.5/3.7-Flash задействуют около 11 млрд на токен. Есть компактные Step3-VL-10B для картинок и голосовая Step-Audio 2 mini. Флагман Step 5 Preview (600B, активны 27B, контекст до 1 млн токенов, текст и картинки на входе) создан для агентов, программирования и финансовых задач.
- Агенты с высокой нагрузкой
- Разбор документов со схемами и скриншотами
- Помощь программистам
- Размеры
- 8B – 600B
- Железо
- от: 1 видеокарта
Текст2026
Prism ML · США
Сжатая Qwen3.8-27B: весит 5,9 ГБ вместо 54 ГБ и сохраняет около 98% качества исходной. Контекст 262 тысячи токенов, понимает картинки и вызывает инструменты. Для запуска нужен форк llama.cpp от авторов.
- агент для работы с кодом на своём компьютере
- разбор документов без отправки в облако
- вызов инструментов и автоматизация процессов
- Размеры
- 27B (1,72 бита на вес)
- Железо
- от: Ноутбук
Модерация и безопасность2026
Perplexity · США
Маленькая открытая модель, которая находит в тексте персональные данные (имена, телефоны, адреса, почту, номера счетов, секреты) и позволяет замаскировать их до отправки в облако. Контекст 4096 токенов.
- маскирование персональных данных в диалогах
- проверка текста перед отправкой во внешнюю нейросеть
- поиск утечек секретов и ключей
- Размеры
- 0,6B
- Железо
- от: Ноутбук
ТекстRUOllama2024–2026
Cohere Labs · Канада
Многоязычные модели исследовательского крыла Cohere, от 23 до 100+ языков. Tiny Aya 2026 года на 3.3B работает на обычном ПК, но только некоммерчески.
- Перевод и переписка на редких языках
- Многоязычный чат-ассистент
- Разбор изображений с текстом (Vision)
- Размеры
- 3.3B – 35B
- Железо
- от: Ноутбук
Разбор текстаGGUF2026
FlowX.AI · США и Румыния
Небольшие модели банковской компании, которые разбирают текст сообщения в SMS, письме или чате и объясняют, какой приём мошенника в нём использован. Решение по спорной операции принимает человек, автоматическая блокировка без проверки недопустима.
- Разметка входящих сообщений с признаками обмана
- Объяснение, по какой фразе сработала подсветка
- Фильтрация писем и сообщений до передачи оператору
- Размеры
- 0.6B – 1.7B
- Железо
- от: Ноутбук
ТекстRU2024–2026
Сбер · Россия
Открытые модели Сбера, обученные с упором на русский язык: хорошо пишут и понимают по-русски, знают местные реалии. Есть лёгкая 10B-A1.8B и флагманы до 702B, всё под MIT. GigaChat3.1-Audio понимает звук и записи до двух часов, GFusion — быстрая диффузионная версия для текста.
- Русскоязычный ассистент для сотрудников на своём сервере
- Ответы клиентам и разбор обращений на русском
- Работа с договорами и внутренними регламентами
- Размеры
- 10B-A1.8B – 702B-A36B
- Железо
- от: Ноутбук
Текст2024–2026
OpenBMB (ModelBest и Университет Цинхуа) · Китай
Компактные текстовые модели для работы прямо на устройстве: ноутбуке, телефоне, мини-ПК. MiniCPM5 на 1B и 2B ориентированы на вызов инструментов и длинный контекст.
- Локальный чат-ассистент без облака
- Извлечение данных и классификация текстов
- Вызов инструментов и простые агенты на слабом железе
- Размеры
- 0.5B – 8B
- Железо
- от: Ноутбук
Голос: спикеры и звукGGUF2026
NVIDIA · США
Размечает запись по говорящим: кто и когда говорил, до восьми участников, в записи и в прямом эфире. Модель маленькая, есть сборка GGUF и запуск без видеокарты. Записи разговоров это персональные данные, порядок хранения согласуется с юристом.
- Разбор записи звонка или совещания по участникам
- Подстановка имён говорящих в расшифровку
- Потоковая разметка во время разговора
- Размеры
- 100M
- Железо
- от: Ноутбук
Речь в текстRUGGUF2025–2026
Microsoft · США
Речевые модели Microsoft: синтез длинных диалогов на несколько голосов, быстрый синтез для живого общения и распознавание длинных записей с разделением по говорящим, в том числе на русском.
- Расшифровка длинных встреч с разметкой говорящих
- Озвучка подкастов и диалогов
- Голос для ассистентов в реальном времени
- Размеры
- 0.5B – 9B
- Железо
- от: Ноутбук
ТекстRU2022–2026
Яндекс · Россия
Модели Яндекса, обученные с нуля с упором на русский язык и российские реалии. Новая AliceAI-Foundation 80B-A3B (Apache 2.0) — только базовая модель, инструкт-версии нет: её дообучают под свои задачи. Рядом экономичная AliceAI-T5 35B-A0.6B.
- Русскоязычный ассистент и чат-бот
- Ответы на вопросы по базе знаний компании
- Основа для дообучения под свою отрасль
- Размеры
- 8B – 100B
- Железо
- от: Ноутбук
ТекстRUOllama2024–2026
Cohere · Канада
Модели для бизнеса: поиск по документам со ссылками на источники, вызов инструментов, много языков. Command A+ 2026 года впервые вышла под Apache 2.0, за ней — линейка North: код, перевод и компактное зрение.
- Ответы по базе знаний со ссылками на источники
- Агенты, работающие с внутренними системами
- Перевод и переписка на разных языках
- Размеры
- 2.5B – 218B-A25B
- Железо
- от: Ноутбук
Поиск и RAGRU2024–2026
Сбер (SberDevices) · Россия
Эмбеддинги Сбера, заточенные под русский язык: по данным разработчиков, в числе лучших на русскоязычных тестах поиска. FRIDA компактная, Giga-Embeddings мощнее.
- Поиск по русскоязычным документам
- RAG для чат-ботов на русском
- Классификация обращений и отзывов
- Размеры
- 480M – 10B-A1.8B
- Железо
- от: Ноутбук
ТекстOllama2023–2026
Zhipu AI (Z.ai) · Китай
Одна из старейших китайских открытых линий: от ChatGLM-6B до GLM-5.3. Сильна в агентных задачах и программировании; GLM-5.3-Flash понимает картинки и выходит под MIT.
- Корпоративный чат-ассистент
- Агенты для рутинных офисных задач
- Помощь программистам
- Размеры
- 1.5B – 744B-A40B
- Железо
- от: Ноутбук
Речь в текстGGUF2025–2026
IBM · США
Речевые модели IBM для распознавания и перевода речи на английском и нескольких европейских языках и японском. Рассчитаны на корпоративное использование.
- Расшифровка деловых встреч
- Перевод речи в текст на другом языке
- Голосовые ассистенты
- Размеры
- 470M – 8B
- Железо
- от: Ноутбук
Текст2024–2026
Tencent · Китай
Языковые модели Tencent: от малых 0.5B–7B до Hy4-preview на 770 млрд параметров. С 2026 года линия переименована в Hy, а новые версии вышли под Apache 2.0.
- Корпоративный ассистент
- Перевод и работа с многоязычными текстами
- Агенты с инструментами
- Размеры
- 0.5B – 770B-A49B
- Железо
- от: Ноутбук
ТекстOllama2026
Meta Superintelligence Labs · США
Открытая модель Meta для агентов на доступном железе: дистиллирована из закрытой Muse Spark, понимает текст и картинки, обучена на 100+ языках.
- Агенты с вызовом инструментов
- Разбор скриншотов, графиков и документов
- Многоязычный ассистент
- Размеры
- 30B
- Железо
- от: 1 видеокарта
ТекстRUOllama2023–2026
Alibaba · Китай
Семейство языковых моделей с сильным русским языком: от маленьких версий для ноутбука до флагмана уровня коммерческих API.
- Чат-бот и ассистент по базе знаний
- Ответы на письма и обращения
- Разбор и классификация документов
- Размеры
- 0,6B – 2,4T-A95B
- Железо
- от: Ноутбук
Речь в текстRU2022–2026
Айгиз Кунафин (AigizK), участник сообщества SLONE · Россия
Многолетняя работа одного энтузиаста вокруг башкирского Common Voice: дообучения Whisper, wav2vec2, w2v-BERT и GigaAM под башкирский, татарский и марийский языки. Качество у моделей разное, проверять надо на своих записях.
- Расшифровка звонков и совещаний на башкирском и татарском
- Субтитры к видео и радиоэфирам
- Перевод архивных записей в текст
- Размеры
- от 220M до 1B в разных моделях
- Железо
- от: Ноутбук
Речь в текстRUGGUF2024–2026
Сбер · Россия
Модели Сбера для распознавания русской речи, одни из самых точных для русского языка. Есть распознавание эмоций, версия v3 с пунктуацией и многоязычная версия (русский, казахский, киргизский, узбекский).
- Расшифровка звонков на русском
- Протоколы совещаний
- Голосовое управление сервисами
- Размеры
- 220M – 600M
- Железо
- от: Ноутбук
РеранкерыGGUF2024–2026
Jina AI · Германия
Сильные многоязычные реранкеры; m0 сортирует и страницы-картинки (сканы, слайды). Свежие версии открыты только для некоммерческого использования.
- Уточнение выдачи перед ответом чат-бота
- Сортировка найденных страниц PDF и слайдов
- Поиск по каталогу и базе знаний
- Размеры
- 33M – 2.4B
- Железо
- от: Ноутбук
ТекстGGUF2025–2026
Kakao · Южная Корея
Компактные корейско-английские модели Kakao. Kanana 2 30B-A3B работает быстро за счёт MoE, малые версии на 1–3B подходят для обычного ПК.
- Чат-бот поддержки
- Классификация обращений
- Лёгкий ассистент на своём ПК
- Размеры
- 1.3B – 30B-A3B
- Железо
- от: Ноутбук
ТекстGGUF2025–2026
Meituan · Китай
Модели Meituan (крупнейший сервис доставки Китая). LongCat-Flash динамически меняет объём вычислений под сложность запроса; LongCat-2.0 — 1,6 трлн параметров под MIT. Есть омни-модели (Flash-Omni, Next) и синтез речи AudioDiT.
- Агенты для заказов и сервисных процессов
- Корпоративный ассистент
- Разбор длинных документов
- Размеры
- 1B – 1.6T-A48B
- Железо
- от: Ноутбук
ТекстRUOllama2023–2026
Mistral AI · Франция
Европейские модели с упором на скорость. Mixtral — одна из первых открытых моделей на архитектуре «смесь экспертов»; есть версии с картинками (Pixtral, Medium 3.5), для доказательств в Lean и модерации (Shieldstral).
- Быстрые ответы в чате
- Извлечение данных из текста
- Перевод и работа с несколькими языками
- Размеры
- 3B – 675B
- Железо
- от: Ноутбук
ТекстRU2024–2026
Т-Банк · Россия
Модели Т-Банка, дообученные на основе Qwen специально для русского языка: заметно лучше исходной модели пишут и рассуждают по-русски. T-Lite — 8B, T-Pro — 32B на одну видеокарту; T-Search — агент для многошагового поиска на русском и английском.
- Русскоязычный чат-бот поддержки
- Разбор обращений и документов на русском
- Ответы по базе знаний компании
- Размеры
- 7B – 36B-A3B
- Железо
- от: Ноутбук
Голос: спикеры и звукGGUF2022–2026
Сообщество WeNet · Китай
Набор готовых моделей «голосового отпечатка»: сравнивает, один ли человек говорит в двух записях, и помогает делить запись по спикерам. Одна из моделей встроена в pyannote 3.x.
- Голосовая проверка клиента при звонке
- Поиск повторных звонков одного человека
- Разметка записи по спикерам
- Размеры
- от единиц до десятков миллионов параметров
- Железо
- от: Ноутбук
Речь в текстGGUF2026
Cohere · Канада
Модель распознавания речи от Cohere на 14 языков (русского в списке нет), отдельная версия для арабского. Рассчитана на точную расшифровку деловых записей.
- Расшифровка встреч и интервью
- Субтитры
- Поиск по аудиоархиву
- Размеры
- 2B
- Железо
- от: Ноутбук
ТекстOllama2024–2026
Google · США
Компактные модели Google: хорошо работают на одном компьютере, старшие версии понимают картинки. Есть CodeGemma для кода, FunctionGemma 270M для вызова функций и быстрая DiffusionGemma.
- Ассистент на ноутбуке без интернета
- Разбор фото документов и чеков
- Классификация обращений
- Размеры
- 270M – 31B
- Железо
- от: Ноутбук
Речь в текстRUGGUF2026
Alibaba (Qwen) · Китай
Модели распознавания речи от команды Qwen на 50+ языков, включая русский. Хорошо справляются с шумом, пением и акцентами.
- Расшифровка звонков и встреч
- Субтитры к видео
- Распознавание на нескольких языках
- Размеры
- 0.6B – 1.7B
- Железо
- от: Ноутбук
Модерация и безопасность2024–2026
NVIDIA · США
Фильтры контента NVIDIA для ботов, с отдельными моделями для контроля темы разговора и поиска взлома. Safety Guard v3 обучена на 9 языках, русский проверяли только без дообучения.
- Проверка запросов и ответов бота
- Удержание бота в рамках своей темы
- Поиск попыток обойти правила
- Размеры
- 4B – 8B
- Железо
- от: Ноутбук
Синтез речиRUGGUF2025–2026
Resemble AI · США
Синтез речи с клонированием голоса и настройкой эмоциональности. Многоязычная версия поддерживает 23 языка, включая русский; Turbo и Flash ускорены для живого диалога.
- Голос для бота и ассистента
- Клонирование фирменного голоса
- Озвучка роликов
- Размеры
- около 350M – 500M
- Железо
- от: Ноутбук
ТекстRUOllama2023–2026
Cognitive Computations (Эрик Хартфорд) · США
Дообучения без встроенной цензуры поверх Llama, Mistral, Qwen и других: модель выполняет почти любые запросы. Ответственность за фильтрацию и модерацию полностью на том, кто её внедряет, — без своего фильтра клиентам её не показывать.
- Ассистент, который не отказывает в законных, но «острых» темах
- Внутренние инструменты под жёстким системным промптом
- Ролевые и творческие сценарии
- Размеры
- 0.5B – 405B
- Железо
- от: Ноутбук
ПереводRU2025–2026
Tencent · Китай
Переводчики Tencent на 33 языка, первая версия победила на соревновании WMT25. Русский есть. Малая версия 1.8B работает на ноутбуке, свежая Hy-MT2 под Apache 2.0.
- Перевод документов с сохранением форматирования
- Перевод с заданным глоссарием терминов
- Перевод переписки с китайскими партнёрами
- Размеры
- 1.8B – 30B-A3B
- Железо
- от: Ноутбук
Поиск и RAGRUGGUF2023–2026
Jina AI · Германия
Сильные многоязычные эмбеддинги с длинным контекстом, v5-omni понимает текст, картинки и аудио. Свежие версии открыты только для некоммерческого использования.
- Поиск по документам на многих языках
- Поиск по картинкам и сканам
- Классификация и кластеризация
- Размеры
- 33M – 3.8B
- Железо
- от: Ноутбук
Синтез речиRU2025–2026
OpenMOSS (Фуданьский университет) · Китай
Семейство синтеза речи: озвучка диалогов на несколько голосов (TTSD), быстрый синтез для живого общения и крошечная Nano. Версия 1.5 поддерживает 30+ языков, включая русский.
- Озвучка подкастов и диалогов
- Голос для ассистента
- Клонирование голоса
- Размеры
- 100M – 8.5B
- Железо
- от: Ноутбук
Синтез речиRU2025–2026
Supertone · Южная Корея
Очень быстрый лёгкий синтез речи для работы прямо на устройстве, без видеокарты и облака. Supertonic 3 говорит на 31 языке, включая русский.
- Озвучка ответов голосового бота на обычном сервере
- Озвучка в офлайн- и мобильных приложениях
- Чтение текстов и уведомлений вслух
- Размеры
- около 99M
- Железо
- от: Ноутбук
ТекстGGUF2025–2026
ServiceNow · США
Модели ServiceNow на 15B с пошаговыми рассуждениями, которые помещаются на одну видеокарту. С версии 1.5 понимают и картинки, хорошо вызывают инструменты.
- Ассистент с рассуждениями для внутренних сервисов
- Вызов инструментов и корпоративные агенты
- Разбор скриншотов и документов с картинками
- Размеры
- 5B – 15B
- Железо
- от: Ноутбук
ТекстGGUF2025–2026
Baidu · Китай
Первая открытая линия Baidu: от крошечной 0.3B до MoE на 424 млрд параметров, есть версии с пониманием картинок. Средняя 21B-A3B помещается на одну видеокарту; ERNIE-Image 8B рисует картинки с текстом.
- Корпоративный ассистент
- Разбор документов и изображений
- Классификация обращений
- Размеры
- 0.3B – 424B-A47B
- Железо
- от: Ноутбук
Поиск и RAGRUOllama2024–2026
IBM · США
Лёгкие эмбеддинги IBM для корпоративного поиска, обученные на данных с понятными правами. R2 2026 года стали многоязычными.
- Поиск по корпоративным документам
- RAG на обычном сервере без видеокарты
- Переранжирование результатов
- Размеры
- 30M – 311M
- Железо
- от: Ноутбук
Синтез речи2025–2026
Kyutai · Франция
Потоковые модели распознавания и синтеза речи от авторов Moshi: начинают говорить и расшифровывать, не дожидаясь конца фразы. Pocket TTS (100M) работает на процессоре. Английский, французский и ещё несколько европейских языков, русского нет.
- Потоковая расшифровка речи для голосовых ботов
- Озвучка ответов с минимальной задержкой
- Синтез речи на сервере без видеокарты (Pocket TTS)
- Размеры
- 100M (Pocket TTS) – 2.6B
- Железо
- от: Ноутбук
ПереводRU2020–2026
Helsinki-NLP, Хельсинкский университет · Финляндия
Более тысячи маленьких переводчиков, каждый под свою пару языков. Есть русский-английский и обратно. Работают быстро даже на обычном процессоре.
- Массовый перевод коротких текстов
- Перевод прямо на сервере без видеокарты
- Перевод отзывов и заявок перед анализом
- Размеры
- 25M – 240M
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовRU2025–2026
SberDevices (ai-forever) · Россия
Модели-судьи для оценки ответов других нейросетей на русском языке: ставят балл по заданному критерию и объясняют оценку текстом.
- Автоматическая проверка качества ответов чат-бота на русском
- Сравнение нескольких моделей перед выбором
- Контроль ответов после дообучения
- Размеры
- 4B – 32B
- Железо
- от: Ноутбук
Синтез речиRUGGUF2025–2026
OpenBMB (ModelBest, Университет Цинхуа) · Китай
Синтез речи с клонированием голоса и естественной интонацией. VoxCPM2 поддерживает 30 языков, включая русский.
- Клонирование голоса
- Озвучка роликов и аудиокниг
- Голос для ассистента
- Размеры
- 0.5B – 2.3B
- Железо
- от: Ноутбук
Голос: спикеры и звукRU2026
FireRedTeam (Xiaohongshu) · Китай
Детектор речи и звуковых событий: отличает речь, пение и музыку. В тесте на 102 языках (набор FLEURS, русский входит) обошёл Silero VAD и TEN VAD. Есть потоковый режим.
- Нарезка записей перед распознаванием речи
- Отделение речи от музыки и пения в эфирах и роликах
- Определение речи в голосовых ботах
- Размеры
- компактная, точный размер не указан
- Железо
- от: Ноутбук
Поиск и RAGRU2026
Microsoft · США
Многоязычные эмбеддинги Microsoft 2026 года с контекстом до 32 тыс. токенов, русский в списке языков. Версии 270M и 0.6B идут на обычном сервере, 27B — самая точная.
- Поиск по базе знаний на разных языках
- Подбор фрагментов для RAG
- Поиск по длинным документам
- Размеры
- 270M – 27B
- Железо
- от: Ноутбук
Голосовые ассистенты2024–2026
Kyutai · Франция
Голосовой ассистент, который слушает и говорит одновременно, без задержки на распознавание и синтез. Hibiki — синхронный перевод речи в речь между несколькими европейскими языками.
- Голосовой собеседник в реальном времени
- Синхронный перевод речи
- Голосовые интерфейсы без задержки
- Размеры
- 2B – 7B
- Железо
- от: Ноутбук
Аватары2024–2026
Ant Group · Китай
Говорящие аватары от Ant Group: лицо, а с V2 и жесты рук. V3-Flash выдаёт видео за 8 шагов и укладывается в 12 ГБ видеопамяти.
- Видео с ведущим по фото и голосу
- Аватар с жестами для презентаций
- Озвученные персонажи
- Размеры
- до 1.3B
- Железо
- от: 1 видеокарта
ТекстRUGGUF2024–2026
Консорциум UTTER (Unbabel, университеты Лиссабона, Эдинбурга, Амстердама и др.) · Евросоюз
Европейские языковые модели, обученные на всех языках ЕС и ряде других, с упором на перевод. Русский есть. Свободная лицензия.
- Перевод и локализация текстов
- Ответы на вопросы на разных языках
- Черновики писем для зарубежных партнёров
- Размеры
- 1.7B – 22B
- Железо
- от: Ноутбук
ТекстRUOllama2023–2026
Technology Innovation Institute (TII) · ОАЭ
Семейство из Абу-Даби: от ранних Falcon 40B и 180B до гибридных Falcon-H1 и сверхмалых Falcon-H1-Tiny на 90–600M параметров для устройств.
- Ассистент и ответы по документам
- Работа на слабом железе и в устройствах
- Вызов инструментов в простых агентах
- Размеры
- 90M – 180B
- Железо
- от: Ноутбук
ТекстGGUF2024–2026
AI21 Labs · Израиль
Гибрид трансформера и Mamba с окном до 256K токенов: держит длинные документы быстрее обычных моделей. Jamba2 ориентирована на точные ответы по источникам.
- Ответы по длинным регламентам и договорам
- Поиск по базе знаний (RAG)
- Пересказ больших документов
- Размеры
- 3B – 398B-A94B
- Железо
- от: Ноутбук
АватарыGGUF2025–2026
Alibaba (Quark) · Китай
Потоковый аватар в реальном времени неограниченной длины. Подходит для живых эфиров и диалога, но требует мощного серверного железа.
- Живой аватар для диалога с клиентом
- Бесконечные трансляции с ведущим
- Интерактивные персонажи
- Размеры
- 14B
- Железо
- от: 1 видеокарта
Голосовые ассистентыGGUF2026
NVIDIA · США
Голосовой собеседник на основе Moshi, который слушает и говорит одновременно, позволяет себя перебивать. Роль задаётся текстом, голос — образцом записи. Только английский.
- Голосовой ассистент с заданной ролью
- Тренажёр разговоров для обучения персонала
- Голосовые интерфейсы без задержки
- Размеры
- 7B
- Железо
- от: 1 видеокарта
Поиск и RAGRUOllama2025–2026
Alibaba (Qwen) · Китай
Эмбеддинги и реранкеры на базе Qwen3, в числе лучших открытых для многоязычного поиска, включая русский. VL-версии ищут по картинкам, скриншотам и видео.
- Поиск по базе знаний для RAG
- Переранжирование найденного перед ответом
- Поиск по сканам, слайдам и скриншотам
- Размеры
- 0.6B – 8B
- Железо
- от: Ноутбук
Синтез речиRUGGUF2026
Alibaba (Qwen) · Китай
Синтез речи на 10 языках, включая русский: клонирование голоса по 3 секундам, готовые голоса и создание голоса по текстовому описанию.
- Голос для бота и ассистента
- Клонирование фирменного голоса
- Подбор голоса по описанию
- Размеры
- 0.6B – 1.7B
- Железо
- от: Ноутбук
Голос: спикеры и звукRU2025–2026
Daily (Pipecat) · США
Определяет по интонации, закончил ли человек мысль или просто сделал паузу, чтобы голосовой бот не перебивал. Версия 3 весит 8 МБ, работает на процессоре и понимает 23 языка, включая русский.
- Голосовой бот не перебивает клиента на паузах
- Быстрый ответ, когда клиент действительно договорил
- Дополнение к обычному детектору речи в голосовых ассистентах
- Размеры
- 8M (v3) – 580M (v1)
- Железо
- от: Ноутбук
ПереводRUOllama2026
Google · США
Переводчики на базе Gemma 3 на 55 языков, умеют переводить и текст на картинках. Русский есть. Версия 4B помещается на ноутбук.
- Перевод документов и переписки
- Перевод текста со скриншотов и фото
- Локализация сайтов и приложений
- Размеры
- 4B – 27B
- Железо
- от: Ноутбук
Поиск и RAG2026
Voyage AI (MongoDB) · США
Единственная открытая модель линейки Voyage 4: её векторы совместимы с платными старшими версиями, можно начать локально и позже перейти на API.
- Поиск по документам на своём сервере
- RAG для небольших баз знаний
- Поиск похожих текстов
- Размеры
- около 340M
- Железо
- от: Ноутбук
Модерация и безопасность2025
ServiceNow · США
Guard-модель, которая ловит и опасный контент, и атаки на ИИ (prompt injection, джейлбрейки), в том числе в работе агентов с инструментами.
- Проверка запросов к чат-боту на атаки и взлом
- Фильтр опасных ответов модели
- Контроль действий ИИ-агента с инструментами
- Размеры
- 8B
- Железо
- от: Ноутбук
Синтез речиRU2024–2025
Alibaba (Tongyi, FunAudioLLM) · Китай
Синтез речи с клонированием голоса по короткому образцу и потоковой выдачей для живого диалога. Третья версия поддерживает 9 языков, включая русский.
- Голос для бота и ассистента
- Клонирование фирменного голоса
- Озвучка роликов
- Размеры
- 300M – 0.5B
- Железо
- от: Ноутбук
Текст2025
Naver · Южная Корея
Открытые младшие модели корейского Naver: от 0.5B до 32B, включая рассуждающие Think и мультимодальные версии с пониманием картинок.
- Лёгкий корейско-английский ассистент
- Разбор картинок и документов
- Классификация текстов
- Размеры
- 0.5B – 32B
- Железо
- от: Ноутбук
ТекстGGUF2023–2025
Inception (G42), MBZUAI и Cerebras · ОАЭ
Семейство моделей для арабского и английского языков, включая диалекты Персидского залива. Подходит компаниям, работающим с арабоязычными клиентами и госструктурами региона.
- Чат-бот на арабском и английском
- Перевод и пересказ документов на арабском
- Классификация обращений клиентов
- Размеры
- 256M – 70B
- Железо
- от: Ноутбук
Речь в текст2024–2025
Alibaba (Tongyi, FunAudioLLM) · Китай
Набор моделей Alibaba для быстрого распознавания речи, в первую очередь китайской и азиатских языков. SenseVoice дополнительно определяет эмоции и звуковые события.
- Расшифровка звонков
- Определение эмоций в голосе
- Распознавание смеха, музыки и других звуков
- Размеры
- около 230M – 800M
- Железо
- от: Ноутбук
ТекстRUGGUF2024–2025
Vikhr Models · Россия
Русскоязычные дообучения открытых моделей (Mistral, Qwen, Llama) от независимой команды Vikhr: улучшают русский язык, есть компактные версии для обычного ПК. Borealis — аудио-модель для распознавания и понимания русской речи.
- Русскоязычный ассистент на своём ПК или сервере
- Ответы по базе знаний (RAG)
- Тексты и письма на русском
- Размеры
- 0.5B – 24B
- Железо
- от: Ноутбук
ТекстOllama2025
Deep Cogito · США
Дообученные Llama, Qwen и DeepSeek с гибридным режимом: модель отвечает сразу или сначала рассуждает. Флагман v2.1 на 671B тратит на рассуждения заметно меньше токенов, чем DeepSeek R1.
- Чат-ассистент с режимом рассуждений
- Написание кода и вызов инструментов
- Ответы на сложные вопросы по документам
- Размеры
- 3B – 671B
- Железо
- от: Ноутбук
ТекстOllama2023–2025
Nous Research · США
Дообучения Nous Research поверх Llama, Mistral, Qwen и Seed-OSS. Ценятся за точное следование инструкциям, вызов функций и ответы в строгом JSON; реже отказывают, чем исходные модели, у Hermes 4 есть режим рассуждений.
- Агенты, вызывающие функции и API
- Извлечение данных в строгом формате JSON
- Ассистент с гибкой настройкой роли и тона
- Размеры
- 3B – 405B
- Железо
- от: Ноутбук
Синтез речиRU2022–2025
Silero · Россия
Лёгкий синтез русской речи, работает на обычном процессоре. Версия v5 добавила языки СНГ и народов России: татарский, башкирский, якутский, казахский и другие.
- Озвучка ответов голосового бота
- Чтение текстов на русском
- Голоса на языках народов России
- Размеры
- десятки мегабайт
- Железо
- от: Ноутбук
Голос: спикеры и звукRU2020–2025
Silero · Россия
Самый популярный открытый детектор речи: отличает голос от тишины и шума. Обрабатывает фрагмент звука меньше чем за миллисекунду на одном ядре процессора, обучен на записях более чем 6000 языков.
- Нарезка звонков и записей перед распознаванием речи
- Определение, когда клиент говорит, в голосовом боте
- Отсев тишины и шума, экономия на расшифровке
- Размеры
- около 2 МБ
- Железо
- от: Ноутбук
ТекстRU2025
Авито Тех · Россия
Модель Авито на базе Qwen3-8B, переученная под русский язык: свой токенизатор, который экономнее кодирует русский текст. Умеет вызывать функции.
- Описания товаров и объявлений на русском
- Чат-бот с вызовом внутренних сервисов
- Разбор и классификация обращений
- Размеры
- 7.9B
- Железо
- от: Ноутбук
Модерация и безопасностьOllama2025
OpenAI · США
Модерация по вашим правилам: политику пишете обычным текстом, модель рассуждает и выносит решение с объяснением. Построена на gpt-oss.
- Модерация по внутренним правилам компании
- Разметка спорных сообщений с объяснением
- Проверка отзывов и объявлений перед публикацией
- Размеры
- 20B – 120B
- Железо
- от: 1 видеокарта
Поиск и RAGRUOllama2024–2025
Mixedbread · Германия
Эмбеддинги и реранкеры немецкой Mixedbread. mxbai-embed-large — одна из самых скачиваемых английских моделей для поиска, реранкеры v2 работают на 100+ языках, включая русский.
- Поиск по базе знаний
- Переранжирование результатов перед ответом бота
- Поиск по каталогу товаров
- Размеры
- 17M – 1.5B
- Железо
- от: Ноутбук
Голос: спикеры и звук2022–2025
NVIDIA · США
Модели NVIDIA для задачи «кто говорит»: TitaNet узнаёт голос конкретного человека, Sortformer размечает запись до 4 спикеров, в том числе потоково во время звонка.
- Разметка разговоров по спикерам в реальном времени
- Проверка, что звонит тот же человек (голосовой отпечаток)
- Подготовка расшифровок совещаний
- Размеры
- 23M (TitaNet) – 117M (Sortformer)
- Железо
- от: Ноутбук
Картинка + текстRUOllama2023–2025
Alibaba (команда Qwen) · Китай
Одна из сильнейших открытых моделей зрения: читает документы, таблицы, графики, видео, работает с интерфейсами. С Qwen3.5 зрение встроено прямо в основную модель Qwen.
- Извлечение данных из сканов счетов и накладных
- Разбор фотографий товаров и витрин
- Анализ видео и записей с камер
- Размеры
- 2B – 235B-A22B
- Железо
- от: Ноутбук
Поиск и RAGOllama2023–2025
BAAI (Пекинская академия ИИ) · Китай
Одни из самых популярных эмбеддингов для поиска и RAG. Основные версии v1.5 рассчитаны на английский и китайский; для русского у BAAI есть отдельная bge-m3.
- Поиск по документам на английском
- Подбор фрагментов для ответа чат-бота (RAG)
- Поиск по коду (bge-code)
- Размеры
- 24M – 9B
- Железо
- от: Ноутбук
Голос: спикеры и звук2022–2025
pyannoteAI (Эрве Бредин) · Франция
Самый распространённый открытый инструмент, который размечает запись по спикерам: кто и когда говорил. Обычно ставится в связку с распознаванием речи. Веса выдаются после короткой анкеты на HF.
- Разметка звонков: где оператор, где клиент
- Протоколы совещаний с подписью спикеров
- Подготовка записей к расшифровке и анализу
- Размеры
- несколько миллионов параметров
- Железо
- от: Ноутбук
Голосовые ассистентыRUGGUF2025
Alibaba (Qwen) · Китай
Модели, которые понимают текст, картинки, аудио и видео и отвечают голосом в реальном времени. Qwen3-Omni говорит на 10 языках, включая русский.
- Голосовой ассистент для клиентов
- Разбор звонков и видео
- Ответы голосом по документам и картинкам
- Размеры
- 3B – 30B-A3B
- Железо
- от: Ноутбук
Модерация и безопасностьRUGGUF2025
Alibaba (Qwen) · Китай
Фильтры безопасности на 119 языков, русский в их числе. Версия Stream проверяет ответ бота прямо во время его генерации и может оборвать его на лету.
- Фильтр запросов к боту на русском
- Остановка опасного ответа во время генерации
- Разметка сообщений по категориям риска
- Размеры
- 0.6B – 8B
- Железо
- от: Ноутбук
Речь в текстRU2023–2025
Alpha Cephei · Россия
Офлайн-распознавание русской речи, которое работает даже на Raspberry Pi и телефоне, без интернета. Есть потоковые модели для живого звука и простой русский синтез речи Vosk TTS.
- Расшифровка звонков и записей на русском без облака
- Голосовое управление в приложениях и киосках
- Распознавание речи в потоке с малой задержкой
- Размеры
- около 45 МБ – 1,8 ГБ
- Железо
- от: Ноутбук
Голос: спикеры и звук2024–2025
Alibaba (Tongyi Lab) · Китай
Набор моделей Alibaba для чистки речи: шумоподавление, разделение наложенных голосов, повышение качества звука до 48 кГц и выделение голоса по видео с лицом говорящего.
- Шумоподавление записей разговоров
- Разделение двух голосов, говорящих одновременно
- Улучшение старых и телефонных записей
- Размеры
- менее 1B
- Железо
- от: Ноутбук
Синтез речиRU2025
ESpeech (независимая группа русскоязычных разработчиков) · Россия
Русский синтез речи с клонированием голоса на архитектуре F5-TTS, обучен на собранных авторами наборах русской речи. Ударения расставляются автоматически. Несколько вариантов, в том числе «подкастер».
- Озвучка роликов и аудиокниг на русском
- Клонирование голоса диктора по образцу
- Голос для бота или ассистента на русском
- Размеры
- около 340M
- Железо
- от: Ноутбук
ТекстOllama2025
OpenAI · США
Первые открытые модели OpenAI со времён GPT-2. Рассуждения, вызов инструментов, младшая версия помещается на одну видеокарту.
- ИИ-агент с вызовом внутренних систем
- Ответы по регламентам
- Черновики писем и отчётов
- Размеры
- 20B, 120B
- Железо
- от: 1 видеокарта
Разбор текстаRUGGUF2025
Университет Джонса Хопкинса (JHU CLSP) · США
Многоязычный энкодер, обученный более чем на 1800 языках. В список входят татарский, башкирский, чувашский, удмуртский, бурятский, коми, ингушский и другие языки народов России. Основа для классификаторов и поиска по таким текстам.
- Классификация обращений и документов на национальных языках
- Поиск по смыслу в текстах на редких языках
- Извлечение имён, дат и названий из текста
- Размеры
- 140M и 307M
- Железо
- от: Ноутбук
ТекстRU2024–2025
НИВЦ МГУ, лаборатория LAIR (RefalMachine) · Россия
Модели Qwen, переделанные под русский язык: заменён токенизатор и проведено дообучение на русских текстах. За счёт этого русский текст генерируется до двух раз быстрее, чем у исходной модели того же размера.
- Русскоязычный ассистент на своём сервере
- Ответы по документам компании (RAG) на русском
- Разбор и пересказ длинных русских текстов
- Размеры
- 1.5B – 32B
- Железо
- от: Ноутбук
Голос: спикеры и звукRU2023–2025
Сообщество (xbgoose и др.), датасет Dusha от SberDevices · Россия
Модели, определяющие эмоцию по голосу в русской речи: нейтрально, злость, позитив, грусть. Обучены на открытом датасете Dusha от SberDevices.
- Поиск звонков с раздражённым клиентом
- Оценка тона разговоров операторов
- Приоритизация жалоб в колл-центре
- Размеры
- 21M – 316M
- Железо
- от: Ноутбук
ТекстRUOllama2024–2025
Hugging Face · США
Крошечные открытые модели Hugging Face для телефонов и ноутбуков. SmolLM3 на 3B умеет рассуждать и держит длинный контекст, весь рецепт обучения открыт.
- Простой ассистент прямо на устройстве
- Классификация и маршрутизация обращений
- Основа для дообучения под узкую задачу
- Размеры
- 135M – 3B
- Железо
- от: Ноутбук
Речь в текстRU2025
Т-Банк · Россия
Компактная потоковая модель Т-Банка для распознавания русской речи в телефонных разговорах. Работает в реальном времени даже без видеокарты.
- Расшифровка телефонных звонков
- Голосовые роботы на линии
- Контроль качества разговоров
- Размеры
- 72M
- Железо
- от: Ноутбук
Голос: спикеры и звук2025
Agora (проект TEN) · США / Китай
Лёгкий детектор речи для голосовых ассистентов в реальном времени: быстрее замечает начало и конец фразы, чем Silero VAD. Работает на сервере, телефоне и в браузере.
- Определение речи в голосовом боте без задержек
- Быстрая реакция ассистента на конец фразы
- Работа в мобильных приложениях и браузере
- Размеры
- очень малая, библиотека меньше Silero VAD
- Железо
- от: Ноутбук
Проверка фактов и оценка ответов2024–2025
Skywork (Kunlun Tech) · Китай
Модели-оценщики: ставят балл ответу языковой модели, насколько он хорош для пользователя. Нужны для дообучения своих моделей и отбора лучшего из нескольких ответов.
- Выбор лучшего из нескольких ответов бота
- Оценка качества ответов при дообучении модели
- Сравнение моделей перед внедрением
- Размеры
- 0.6B – 27B
- Железо
- от: Ноутбук
ПереводRUGGUF2024–2025
Unbabel · Португалия
Языковые модели, заточенные под перевод и работу с многоязычными текстами: перевод, правка, оценка качества перевода. Русский есть. Некоммерческая лицензия.
- Перевод с учётом контекста и терминов
- Редактура машинного перевода
- Оценка качества готового перевода
- Размеры
- 2B – 72B
- Железо
- от: Ноутбук
Реранкеры2023–2025
Stanford NLP, затем Answer.AI и LightOn · США и Франция
Другой принцип поиска: каждое слово вопроса сравнивается с каждым словом документа, а не два текста целиком. Индекс получается тяжелее обычных эмбеддингов. В карточках заявлен английский язык.
- Поиск по базе знаний с длинными документами
- Переупорядочивание найденных фрагментов
- Поиск по регламентам и технической документации
- Размеры
- около 33M – 150M
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовRU2024–2025
NVIDIA · США
Крупные оценщики NVIDIA для отбора и дообучения ответов. У мультиязычной версии GenRM в списке языков есть русский. Оценщик сам ошибается и ручную проверку на важных задачах не заменяет.
- Отбор лучшего ответа из нескольких вариантов
- Подготовка данных для дообучения своей модели
- Оценка ответов помощника на русском и других языках
- Размеры
- 49B, 70B и 340B
- Железо
- от: Кластер
Разбор текстаRU2023–2025
deepvk (VK) · Россия
Русские энкодеры от команды VK: RuModernBERT читает длинные тексты, USER даёт векторы для поиска, GeRaCl классифицирует тексты по темам без обучения.
- Классификация обращений без размеченных данных
- Поиск по базе знаний на русском
- Разбор длинных договоров
- Размеры
- 35M – 360M
- Железо
- от: Ноутбук
Голосовые ассистенты2025
Moonshot AI · Китай
Универсальная аудиомодель: распознаёт речь, отвечает на вопросы о звуке, определяет эмоции и ведёт голосовой диалог. Обучена на 13 млн часов аудио, языки — английский и китайский.
- Распознавание речи
- Определение эмоций и звуковых событий
- Голосовой диалог речь-в-речь
- Размеры
- 7B
- Железо
- от: 1 видеокарта
ТекстOllama2023–2025
Meta · США
Модели, с которых начался массовый open source в ИИ. Огромная экосистема дообученных версий и инструментов.
- Ассистент для сотрудников
- Суммаризация встреч и документов
- Основа для дообучения под отрасль
- Размеры
- 1B – 405B
- Железо
- от: Ноутбук
Модерация и безопасностьOllama2023–2025
Meta · США
Модели-фильтры, которые проверяют запросы к чат-боту и его ответы на опасные темы по списку категорий. Версия 4 проверяет и картинки. Русский официально не заявлен.
- Проверка вопросов пользователей к боту
- Проверка ответов бота перед отправкой
- Отчёт, какая категория правил нарушена
- Размеры
- 1B – 12B
- Железо
- от: Ноутбук
ТекстRUGGUF2023–2025
Илья Гусев (IlyaGusev) · Россия
Самая известная русскоязычная доучка сообщества: чужие открытые модели (Llama, Mistral, Gemma, YandexGPT) дообучены отвечать на русском как ассистент. Удобная отправная точка для русского чат-бота на своём сервере.
- Чат-ассистент на русском языке
- Ответы на вопросы по базе знаний компании
- Черновики писем, описаний и постов на русском
- Размеры
- 7B – 70B
- Железо
- от: Ноутбук
Аватары2024–2025
Tencent Music (Lyra Lab) · Китай
Синхронизация губ в реальном времени: подгоняет рот на видео под новое аудио. Подходит для перевода видео и живых аватаров.
- Дубляж видео на другой язык
- Живой аватар в видеочате
- Правка речи в готовом ролике
- Размеры
- меньше 1B
- Железо
- от: Ноутбук
Поиск и RAGRUOllama2024–2025
Nomic AI · США
Полностью открытые эмбеддинги — с весами, данными и кодом обучения. v2 многоязычная на MoE, есть версии для кода и для поиска по PDF-страницам.
- Поиск по документам и базе знаний
- Поиск по коду
- Поиск по сканам и PDF без распознавания
- Размеры
- 137M – 7B
- Железо
- от: Ноутбук
Синтез речиGGUF2025
Canopy Labs · США
Синтез речи на основе языковой модели с живыми интонациями и эмоциональными вставками. Быстро отвечает, подходит для голосовых ассистентов. В основном английский.
- Голос для ассистента в реальном времени
- Эмоциональная озвучка
- Клонирование голоса
- Размеры
- 3B
- Железо
- от: Ноутбук
Синтез речиRUGGUF2023–2025
Rhasspy / Open Home Foundation · США
Очень быстрый синтез речи, который работает даже на Raspberry Pi. Готовые голоса на 35+ языках, есть несколько русских.
- Озвучка уведомлений и ответов бота
- Голос для устройств без интернета
- Голосовые меню
- Размеры
- около 5M – 30M
- Железо
- от: Ноутбук
Синтез речиGGUF2025
Sesame · США
Модель разговорной речи, которая учитывает контекст беседы и звучит как живой собеседник. Только английский.
- Голос для разговорного ассистента
- Озвучка диалогов
- Прототипы голосовых продуктов
- Размеры
- 1B
- Железо
- от: Ноутбук
Модерация и безопасностьOllama2024–2025
Google · США
Фильтры на базе Gemma: проверяют текст на опасный и оскорбительный контент, а ShieldGemma 2 проверяет картинки. Ориентированы на английский.
- Модерация сообщений пользователей
- Проверка ответов бота
- Проверка сгенерированных картинок перед публикацией
- Размеры
- 2B – 27B
- Железо
- от: Ноутбук
Речь в текстRUGGUF2022–2025
OpenAI · США
Распознавание речи на 99 языках, включая русский. Стандарт де-факто для расшифровки звонков и встреч. Ускоренные Distil-Whisper от Hugging Face — только для английского.
- Расшифровка звонков и созвонов
- Субтитры к видео
- Голосовые сообщения в текст
- Размеры
- 39M – 1,5B
- Железо
- от: Ноутбук
Агенты для компьютера2024–2025
Salesforce · США
Модели Salesforce для вызова функций и работы агентов: выбирают нужный инструмент и заполняют его параметры. Сильны в тестах, но лицензия некоммерческая.
- Вызов API и внутренних сервисов по запросу пользователя
- Агенты с несколькими шагами и инструментами
- Сравнение подходов перед выбором коммерческой модели
- Размеры
- 1B – 8x22B
- Железо
- от: Ноутбук
ТекстGGUF2025
HUMAIN (ранее SDAIA) · Саудовская Аравия
Саудовская модель для арабского и английского языков, обученная с нуля. В открытом доступе одна версия на 7B.
- Ассистент на арабском языке
- Ответы на вопросы по документам
- Генерация и редактирование текстов на арабском
- Размеры
- 7B
- Железо
- от: Ноутбук
ТекстOllama2023–2025
Ai2 · США
Дообучения Llama от Ai2 с полностью открытым рецептом: данные, код и все промежуточные этапы. Tulu 3 на 405B — одна из самых крупных открыто дообученных моделей; по этому же рецепту делают чат-версии OLMo.
- Ассистент для сотрудников на своём сервере
- Математика и точное следование инструкциям
- Образец рецепта для собственного дообучения
- Размеры
- 7B – 405B
- Железо
- от: Ноутбук
Проверка фактов и оценка ответов2025
Atla · Великобритания
Модель-судья на 8B: оценивает ответ другой модели по вашим критериям и пишет обоснование. Судья сам ошибается, на важных задачах ручную проверку он не заменяет.
- Оценка ответов чат-бота по своим критериям
- Сравнение двух версий подсказки или модели
- Отбраковка слабых ответов перед отправкой человеку
- Размеры
- 8B
- Железо
- от: 1 видеокарта
Поиск и RAGRU2023–2025
Alibaba · Китай
Эмбеддинги и реранкеры Alibaba для поиска: от крошечных до 7B на базе Qwen2. Есть многоязычная версия mGTE с длинным контекстом.
- Смысловой поиск по документам
- Переранжирование результатов поиска
- Кластеризация и классификация текстов
- Размеры
- 33M – 7B
- Железо
- от: Ноутбук
Поиск по сканам документов2025
LlamaIndex · США
Небольшая модель для поиска по страницам-картинкам от команды популярного фреймворка RAG. Языки в карточке: английский, итальянский, французский, немецкий, испанский.
- Поиск по сканам и PDF без распознавания текста
- Поиск по счетам, актам и договорам
- Подбор страниц для ответа ИИ-помощника
- Размеры
- 2B (на базе Qwen2-VL)
- Железо
- от: 1 видеокарта
Поиск и RAGRUOllama2019–2025
UKP Lab (ТУ Дармштадт), затем Hugging Face · Германия
Классика смыслового поиска: маленькие быстрые модели, которые работают даже на слабом сервере без видеокарты. Многоязычные версии понимают русский.
- Поиск по базе знаний и FAQ
- Поиск похожих обращений и дублей
- Группировка отзывов и заявок по темам
- Размеры
- около 20M – 470M
- Железо
- от: Ноутбук
Детекция подделок2024
Meta · США
Незаметная метка в синтезированной речи и быстрый детектор, который находит её даже в куске длинной записи. Детектор ошибается в обе стороны: срабатывание — повод для проверки человеком, а не доказательство.
- Пометка речи, синтезированной вашим сервисом
- Поиск своей метки в чужих публикациях
- Проверка, не подмешан ли синтез в запись разговора
- Размеры
- генератор и детектор водяного знака, 16 бит сообщения
- Железо
- от: Ноутбук
Проверка фактов и оценка ответов2024
Patronus AI · США
Небольшой судья: ставит оценку по вашим критериям и показывает, какой кусок ответа к ней привёл. Лицензия некоммерческая. Судья сам ошибается и ручную проверку не заменяет.
- Оценка ответов по своим критериям с пояснением
- Разбор, за что снижена оценка
- Массовая проверка диалогов помощника
- Размеры
- 3.8B (на базе Phi-3.5-mini)
- Железо
- от: Ноутбук
Поиск и RAGRUOllama2024
Snowflake · США
Эмбеддинги от Snowflake, заточенные именно под поиск. Версия 2.0 многоязычная (русский в списке языков), держит длинные тексты до 8 тыс. токенов и умеет сжимать векторы.
- Поиск по документам и базе знаний
- Подбор фрагментов для RAG
- Поиск по отчётам и внутренним данным
- Размеры
- 22M – 568M
- Железо
- от: Ноутбук
Финансы2023–2024
Du Xiaoman (Duxiaoman-DI) · Китай
Крупное китайское семейство моделей для финансовой отрасли: консультации, разбор документов и длинные тексты до 8k–16k. Не инвестиционная рекомендация: решения принимает специалист.
- Ответы на вопросы клиентов по банковским продуктам
- Разбор длинных финансовых документов
- Внутренний помощник по регламентам финансовой компании
- Размеры
- 6B – 176B
- Железо
- от: 1 видеокарта
ТекстRU2024
МТС AI (MWS AI) · Россия
Лёгкая русскоязычная модель от МТС AI для текстов на русском: ответы, пересказ, черновики. Есть готовая версия для процессора без видеокарты. Старшая Cotype Pro открыто не выложена.
- Черновики писем и описаний на русском
- Краткий пересказ документов
- Ответы на типовые вопросы клиентов
- Размеры
- 1.5B
- Железо
- от: Ноутбук
ПереводRU2024
deepvk (VK) · Россия
Компактные переводчики между казахским и русским от VK. При размере 197M переводят не хуже NLLB на 600M, работают на обычном процессоре.
- Перевод обращений с казахского на русский
- Перевод документов и инструкций на казахский
- Двуязычная поддержка клиентов
- Размеры
- 197M
- Железо
- от: Ноутбук
Кибербезопасность2024
cybersectony · не раскрыта
Очень лёгкий классификатор писем и ссылок на признаки фишинга. Ошибается в обе стороны, поэтому спорные письма всё равно смотрит человек.
- Отметка подозрительных входящих писем
- Проверка ссылок из переписки перед переходом
- Фильтр первого уровня в почтовом шлюзе
- Размеры
- около 66M
- Железо
- от: Ноутбук
Проверка фактов и оценка ответов2024
Flow AI · не раскрыта
Маленькая модель-судья: проверяет ответ по вашей инструкции и ставит оценку с пояснением. Помещается на скромный сервер. Судья сам ошибается и ручную проверку не заменяет.
- Проверка ответов ИИ-помощника на соответствие инструкции
- Массовая оценка выгрузки диалогов
- Контроль качества перед выкаткой изменений
- Размеры
- 3.8B (на базе Phi-3.5-mini)
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовOllamaНе развивается2024
UT Austin и Bespoke Labs · США
Проверяет, подтверждается ли каждое утверждение в ответе ИИ исходными документами. Малые версии свободные, старшая 7B есть в Ollama, но некоммерческая.
- Проверка ответов RAG-бота по документам
- Поиск неподтверждённых утверждений в отчётах и пересказах
- Автоматический контроль качества ИИ-ответов
- Размеры
- 0.4B – 7B
- Железо
- от: Ноутбук
ТекстOllamaНе развивается2023–2024
Stability AI · Великобритания
Малые модели Stability AI: StableLM 2 на 1.6B знает 7 европейских языков, Stable Code на 3B дописывает код. Обновлений с 2024 года нет.
- Лёгкий чат-бот на обычном ПК
- Автодополнение кода в редакторе
- Основа для дообучения под свою задачу
- Размеры
- 1.6B – 12B
- Железо
- от: Ноутбук
РеранкерыGGUFНе развивается2023–2024
BAAI (Пекинская академия ИИ) · Китай
Реранкеры: берут найденные поиском фрагменты и переставляют их по реальной близости к вопросу. Версия v2-m3 многоязычная и лёгкая, её часто ставят в пару к bge-m3.
- Уточнение выдачи перед ответом чат-бота
- Сортировка результатов поиска по базе знаний
- Отбор самых подходящих пунктов договоров и регламентов
- Размеры
- 278M – 9B
- Железо
- от: Ноутбук
РекомендацииGGUFНе развивается2024
Ohio State University (NingLab) · США
Три языковые модели, дообученные на большом наборе торговых инструкций: подбор товара, ответы по карточке, сопоставление позиций, разбор отзывов. Под свой ассортимент всё равно нужно дообучение.
- Подбор товара по запросу покупателя
- Ответы на вопросы по карточке товара
- Сопоставление одинаковых позиций в каталогах
- Размеры
- 2.7B – 13B
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовНе развивается2023–2024
Vectara · США
Маленькая модель, которая проверяет, опирается ли ответ ИИ на исходный текст или выдуман. Работает на процессоре, удобна как фильтр в RAG-системах.
- Проверка ответов чат-бота по базе знаний на выдумки
- Контроль качества пересказов документов
- Сравнение языковых моделей по склонности к ошибкам
- Размеры
- 110M
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовНе развивается2024
Patronus AI · США
Проверяет, не придумал ли чат-бот факт, которого нет в исходных документах. Лицензия некоммерческая. Проверяющая модель сама ошибается и ручную проверку на важных задачах не заменяет.
- Поиск выдуманных фактов в ответах ИИ-помощника
- Проверка ответов на опору в приложенных документах
- Отбраковка ответов перед отправкой клиенту
- Размеры
- 8B и 70B
- Железо
- от: 1 видеокарта
Разбор текстаRUНе развивается2020–2024
SberDevices (ai-forever) · Россия
Русскоязычные энкодеры Сбера, обученные на больших русских корпусах. Основа для классификаторов, NER и поиска по смыслу на русском.
- Классификация обращений на русском
- Извлечение имён, сумм и дат после дообучения
- Определение тональности отзывов
- Размеры
- около 30M – 430M
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовНе развивается2024
RLHFlow · США
Оценщик ответов, который выдаёт не один общий балл, а разбор сразу по нескольким признакам. Оценщик сам ошибается и ручную проверку на важных задачах не заменяет.
- Отбор лучшего из нескольких вариантов ответа
- Подготовка данных для дообучения модели
- Оценка ответов помощника по нескольким признакам
- Размеры
- 8B
- Железо
- от: 1 видеокарта
ТекстOllamaНе развивается2023–2024
OpenChat (Университет Цинхуа) · Китай
Дообучения Mistral 7B и Llama 3 8B по методу C-RLFT, которые в 2023–2024 годах догоняли ChatGPT-3.5 при размере 7–8B. Лёгкий универсальный ассистент для слабого сервера.
- Чат-ассистент на недорогом сервере
- Черновики писем и ответов
- Помощь с простым кодом
- Размеры
- 7B – 13B
- Железо
- от: Ноутбук
ТекстOllamaНе развивается2023–2024
01.AI · Китай
Двуязычные (английский и китайский) модели 01.AI на 6–34B с версиями на контекст до 200 тыс. токенов. Новых открытых выпусков с 2024 года нет.
- Чат-ассистент на одной видеокарте
- Разбор длинных документов
- Классификация и извлечение данных из текста
- Размеры
- 6B – 34B
- Железо
- от: Ноутбук
Разбор текстаRUНе развивается2023–2024
CIS, Университет Людвига-Максимилиана в Мюнхене · Германия
Определяет, на каком языке написан текст: в третьей версии более двух тысяч меток, включая татарский, башкирский, чувашский, удмуртский, марийский, эрзянский, коми и другие языки народов России.
- Разбор смешанных архивов текстов по языкам
- Отсев мусора и чужих языков перед обучением моделей
- Маршрутизация обращений на нужного оператора или модель
- Размеры
- модель FastText, число параметров на карточке не указано
- Железо
- от: Ноутбук
Синтез речиНе развивается2024
MyShell и MIT · США
Лёгкий многоязычный синтез речи, который успевает в реальном времени на обычном процессоре. Английский с акцентами, испанский, французский, китайский, японский и корейский; русского нет.
- Озвучка ответов ботов на иностранных языках
- Озвучка обучающих материалов
- Чтение текстов вслух на сервере без видеокарты
- Размеры
- небольшая, работает в реальном времени на процессоре
- Железо
- от: Ноутбук
Голос: спикеры и звукНе развивается2024
MyShell и MIT · США
Мгновенное клонирование голоса по короткому образцу с управлением эмоцией и акцентом, V2 говорит на нескольких языках. Использовать только с согласия владельца голоса.
- Озвучка роликов голосом диктора компании
- Голосовой бот с узнаваемым голосом бренда
- Перенос тембра на готовый синтез речи
- Размеры
- менее 1B
- Железо
- от: Ноутбук
Проверка фактов и оценка ответовНе развивается2023–2024
KAIST и LG AI Research (prometheus-eval) · Южная Корея
Открытая модель-судья: оценивает ответы других моделей по вашим критериям и объясняет оценку. Замена платным моделям в роли проверяющего.
- Оценка ответов чат-бота по своей шкале
- Сравнение двух вариантов ответа
- Проверка качества перед запуском ИИ-сервиса
- Размеры
- 7B – 8x7B
- Железо
- от: Ноутбук
ТекстOllamaНе развивается2023–2024
Hugging Face (H4) · США
Учебные чат-модели Hugging Face на базе Mistral, Gemma и Mixtral с открытым рецептом дообучения. Zephyr 7B Beta показал, что маленькую модель можно «воспитать» до уровня крупных без ручной разметки людьми.
- Лёгкий чат-ассистент
- Образец и отправная точка для своего дообучения
- Черновики текстов и ответов
- Размеры
- 7B – 141B-A35B
- Железо
- от: Ноутбук
ТекстRUНе развивается2023–2024
Сбер (ai-forever) · Россия
Русская модель «текст в текст» от Сбера, наследница ruT5 (2021). Небольшая и быстрая: её дообучают на пересказ, перефразирование и исправление ошибок в русском тексте, есть готовые версии проверки орфографии SAGE.
- Исправление орфографии и опечаток в русском тексте
- Краткий пересказ и перефразирование
- Нормализация заявок и обращений перед обработкой
- Размеры
- 95M – 1.7B
- Железо
- от: Ноутбук
Поиск и RAGRUНе развивается2022–2024
Microsoft · США
Проверенные модели для смыслового поиска. Многоязычные версии хорошо работают с русским и до сих пор служат надёжной основой для RAG.
- Поиск по базе знаний и документам
- Подбор ответов для чат-бота (RAG)
- Поиск похожих обращений и дублей
- Размеры
- 33M – 7B
- Железо
- от: Ноутбук
Поиск и RAGRUOllamaНе развивается2024
BAAI · Китай
Модель для поиска по смыслу на сотне языков. Основа RAG: бот находит нужный кусок документа перед ответом.
- Поиск по базе документов
- RAG для чат-бота
- Поиск похожих обращений и дублей
- Размеры
- 568M
- Железо
- от: Ноутбук
РеранкерыНе развивается2023
NetEase Youdao · Китай
Пара «эмбеддинг плюс реранкер» для баз знаний. В карточке заявлены английский, китайский, японский и корейский — русского в списке языков нет.
- Поиск по базе знаний и справочным материалам
- Переупорядочивание найденных фрагментов
- Подбор ответов для чат-бота поддержки
- Размеры
- около 280M
- Железо
- от: Ноутбук
ТекстOllamaНе развивается2023
Intel · США
Дообученная Mistral 7B от Intel, показывавшая обучение и запуск на процессорах и ускорителях Intel. Устарела, интересна как пример оптимизации под железо Intel.
- Простой чат-ассистент
- Эксперименты с запуском на железе Intel
- Основа для дообучения
- Размеры
- 7B
- Железо
- от: Ноутбук
ПереводRUGGUFНе развивается2023
Google · США
Переводчик Google более чем на 400 языков под свободной лицензией. Русский есть. Хорошая замена NLLB, когда нужна коммерция.
- Перевод документов и писем
- Перевод каталогов и описаний товаров
- Перевод на языки стран СНГ и Азии
- Размеры
- 3B – 10B
- Железо
- от: Ноутбук
ФинансыНе развивается2023
Fudan-DISC, Университет Фудань · Китай
Финансовый помощник из нескольких дообученных экспертов: консультации, расчёты, разбор документов и поиск по базе знаний. Не инвестиционная рекомендация: решения принимает специалист.
- Консультации по финансовым вопросам внутри компании
- Разбор финансовых документов и новостей
- Подсказки сотрудникам фронт-офиса
- Размеры
- 13B
- Железо
- от: 1 видеокарта
Речь в текстRUНе развивается2023
Meta AI · США
Речевые модели Meta более чем на тысячу языков. В списке поддержки есть башкирский, татарский, чувашский, якутский, осетинский, чеченский, аварский, удмуртский, марийский, эрзянский, мокшанский, калмыцкий и карельский. Качество по языкам очень разное, проверять надо на своих записях.
- Расшифровка аудио и видео на редких языках
- Озвучивание текста на национальном языке
- Определение, на каком языке звучит запись
- Размеры
- 300M – 1B
- Железо
- от: Ноутбук
Детекция подделокНе развивается2022–2023
EURECOM · Франция
Развитие AASIST: вместо сырого звука берётся речевой энкодер wav2vec 2.0, из-за чего модель лучше держится на незнакомых способах синтеза. Ошибается в обе стороны — итог проверяет человек.
- Обнаружение синтезированной речи в звонках
- Проверка голосовых сообщений и записей
- Дообучение под свои данные и кодеки
- Размеры
- около 0,3B (энкодер wav2vec 2.0 XLS-R)
- Железо
- от: Ноутбук
Голос: спикеры и звукНе развивается2022–2023
Хендрик Шретер (Университет Эрлангена) · Германия
Лёгкое шумоподавление речи в реальном времени: работает даже на обычном процессоре и на слабых устройствах. Убирает гул, улицу, шум офиса, оставляя голос.
- Очистка звонков и голосовых сообщений от шума
- Подготовка записей перед распознаванием речи
- Шумодав для видеосвязи
- Размеры
- около 2M
- Железо
- от: Ноутбук
ТекстOllamaНе развивается2023
LMSYS (Беркли и партнёры) · США
Одна из первых открытых чат-моделей 2023 года: LLaMA, дообученная на диалогах пользователей ChatGPT. Историческая веха, сегодня уступает любой современной модели того же размера.
- Эксперименты и обучение команды
- Простой чат-ассистент для тестов
- Сравнение с новыми моделями
- Размеры
- 7B – 33B
- Железо
- от: Ноутбук
Разбор текстаRUНе развивается2022–2023
Давид Дале (cointegrated) и сообщество · Россия
Готовые крошечные модели на rubert-tiny для русского текста: находят грубость и оскорбления, определяют тональность и эмоции. Работают на процессоре за миллисекунды.
- Фильтр оскорблений в чатах и комментариях на русском
- Разметка отзывов на позитив, нейтрал и негатив
- Поиск раздражённых клиентов в обращениях
- Размеры
- 12M – 29M
- Железо
- от: Ноутбук
ТекстНе развивается2022–2023
Google · США
Компактные модели «вход-выход», обученные выполнять инструкции. До сих пор используются как дешёвая основа для классификации, извлечения и коротких ответов.
- Классификация обращений и документов
- Извлечение полей из текста
- Короткие ответы и пересказ
- Размеры
- 80M – 20B
- Железо
- от: Ноутбук
ПереводRUGGUFНе развивается2022–2023
Meta · США
Переводчик на 200 языков, включая редкие и малые. Русский есть. Сильна по охвату языков, но лицензия запрещает коммерческое использование.
- Перевод текстов между 200 языками
- Перевод на редкие языки, где нет других моделей
- Сравнение качества при выборе переводчика
- Размеры
- 600M – 3.3B (и 54B MoE)
- Железо
- от: Ноутбук
РеранкерыRUНе развивается2022
UKP Lab и сообщество Sentence Transformers · Германия
Самые скачиваемые открытые реранкеры: крошечная модель читает пару «вопрос — найденный фрагмент» и ставит оценку близости. Многоязычная версия mMARCO знает русский.
- Переупорядочивание результатов поиска по базе знаний
- Отбор фрагментов перед ответом чат-бота
- Поиск дублей среди обращений и карточек товаров
- Размеры
- около 4M – 120M
- Железо
- от: Ноутбук
Разбор текстаRUНе развивается2019–2022
Meta · США
Классический многоязычный энкодер на 100 языков, включая русский. Основа многих моделей тональности, NER и эмбеддингов, в том числе BGE-M3.
- Определение тональности отзывов на разных языках
- Извлечение имён и организаций после дообучения
- Классификация обращений
- Размеры
- 270M – 10.7B
- Железо
- от: Ноутбук
Детекция подделокНе развивается2021
NAVER Clova AI Research и EURECOM · Южная Корея
Базовая открытая модель против подмены голоса: слушает сырую запись и отличает живого человека от синтеза и записи. Ошибается в обе стороны — её вывод повод для проверки человеком, а не доказательство.
- Проверка голоса при телефонной аутентификации
- Отсев записей и синтеза в голосовом меню
- Базовая линия при сравнении детекторов голоса
- Размеры
- файлы весов 0,4 и 1,3 МБ
- Железо
- от: Ноутбук
Разбор текстаRUНе развивается2021
Microsoft · США
Проверенный временем энкодер, на котором построено множество классификаторов и NER-моделей (в том числе GLiNER). Многоязычная mDeBERTa-v3 понимает русский.
- Классификация отзывов по тональности
- Извлечение сущностей после дообучения
- Проверка, следует ли вывод из текста
- Размеры
- 70M – 435M
- Железо
- от: Ноутбук
Разбор текстаRUНе развивается2021
Давид Дале (cointegrated) · Россия
Очень маленький русско-английский BERT, работает быстро на обычном процессоре. Есть готовые дообученные версии для тональности, токсичности и эмоций.
- Определение тональности отзывов
- Фильтр грубых сообщений в чате
- Быстрая классификация обращений
- Размеры
- 12M – 29M
- Железо
- от: Ноутбук
ПереводRUGGUFНе развивается2020–2021
Meta · США
Ранний переводчик Meta, который переводит напрямую между 100 языками, без английского посередине. Русский есть. Старый, но лёгкий и свободный.
- Перевод между любой парой из 100 языков
- Быстрый черновой перевод на слабом железе
- Основа для дообучения под свою тематику
- Размеры
- 418M – 12B
- Железо
- от: Ноутбук
