Какой локальный LLM выбрать в 2026: Llama, Qwen, GigaChat, Saiga под русский язык

«Какая модель самая лучшая?» — вопрос, на который честно ответить нельзя, потому что «лучшая» зависит от того, что вы делаете и на чём. Локальный LLM — это нейросеть, которая работает на вашем сервере или компьютере, а не в чужом облаке. Ниже разберу, зачем вообще держать модель локально, кто сегодня в шорт-листе под русский язык, как выбрать под свою задачу и что для этого нужно по железу. Без рейтингов «топ-10» — просто логика, по которой я сам подбираю модель клиенту.

Зачем локальная модель

Главная причина держать модель у себя — данные. Когда вы отправляете запрос в облачный сервис, ваш текст уходит на чужие серверы. Для маркетинговой заметки это неважно, а вот для переписки с клиентами, медицинских или юридических документов, внутренних регламентов — уже критично. Локальная модель означает, что данные не покидают ваш контур. Для бизнеса в России это ещё и про 152-ФЗ: персональные данные клиентов не должны бесконтрольно утекать за рубеж.

Вторая причина — независимость. Локальную модель не отключат по геоблоку, не поднимут цену внезапно, не поменяют условия. Вы один раз развернули её и работаете. Минус честно назову сразу: локальная модель обычно слабее топовых облачных, требует железа и настройки. Поэтому решение всегда про баланс — где приватность и контроль важнее удобства, там локальная модель оправдана.

Кандидаты: Llama, Qwen, Saiga, GigaChat

Разложу шорт-лист, который использую на практике. Цифры по размерам даю как ориентиры, а не как точный прайс.

Qwen. Семейство открытых моделей, которое сейчас у меня в фаворитах под многоязычные задачи, включая русский. Русский держит уверенно, есть версии разного размера — от лёгких, что заводятся на ноутбуке, до крупных под сервер. Хороший баланс качества и доступности.

Llama. Самое большое комьюнити и экосистема: под неё написана масса инструментов, дообученных версий и руководств. Русский из коробки средний, но за счёт файнтюнов и правильного промпта вытягивается. Универсальный вариант, когда нужна предсказуемость и поддержка.

Saiga. Это не отдельная модель с нуля, а линейка, дообученная под русский язык на базе открытых моделей. Смысл простой: взять хорошую основу и подтянуть именно русский. Если язык критичен, а бюджета на большую модель нет, Saiga часто даёт лучший русский на скромном железе.

GigaChat и YandexGPT. Строго говоря, это не локальные модели — они живут в российском облаке. Но я включаю их в список, потому что для многих задач это разумный компромисс: данные остаются в российской юрисдикции, есть договор и техподдержка, а своё железо покупать не нужно. Когда полноценный локальный сервер не по карману, это честная золотая середина. Подробнее про то, как это укладывается в российский ИИ-стек, я разбираю отдельно.

Как выбрать под свою задачу

Я иду по четырём вопросам, а не по рейтингам.

Что за задача? Простой чат-бот по инструкциям, суммаризация, классификация обращений — с этим справляются и небольшие модели. Сложные рассуждения, работа с длинными документами, генерация кода — тут нужна модель покрупнее. Не берите большую модель под мелкую задачу: она съест железо и деньги без пользы.

Насколько важен русский? Если продукт целиком на русском и качество текста критично, смотрите в сторону Qwen или дообученных под русский версий вроде Saiga. Если язык вторичен — выбор шире.

Какая лицензия? Открытые модели различаются условиями использования, в том числе для коммерции. До внедрения это надо проверить, а не после. Я всегда сверяюсь с лицензией под конкретный коммерческий сценарий клиента.

Какое железо есть? Часто именно это ставит потолок. Нет смысла влюбляться в большую модель, если сервер её не потянет. Если вы хотите пощупать локальный ИИ на обычном ноутбуке, посмотрите разбор про локальный LLM на ноутбуке — там про реальные ограничения.

Что нужно по железу

Главный ресурс для локального LLM — память, в первую очередь видеопамять (VRAM), если считаете на видеокарте, или обычная оперативная память при расчёте на процессоре. Грубая логика: чем больше модель, тем больше памяти она требует. Небольшие модели порядка 7–8 миллиардов параметров в сжатом виде помещаются на потребительское железо, крупные требуют серьёзной видеокарты или сервера.

Спасает квантизация — сжатие модели, при котором она занимает в разы меньше памяти почти без потери качества на типовых задачах. Именно благодаря ей многие модели вообще заводятся на обычном компьютере. Сколько конкретно памяти нужно под ваш случай, зависит от модели и степени сжатия — детальнее я разбираю это в материале про объём RAM под локальный ИИ. Если же держать своё железо не хочется, разумной альтернативой остаётся российское облако — и тогда всё это упирается уже не в железо, а в грамотное внедрение под ключ.

Частые вопросы

Какая модель самая лучшая под русский? Универсального ответа нет. На практике под русский я чаще всего беру Qwen или дообученные версии вроде Saiga, а окончательный выбор делаю под конкретную задачу и железо. «Лучшая вообще» — это миф.

GigaChat — это локальная модель? Нет, это российское облако. Но данные остаются в российской юрисдикции, есть договор и поддержка. Когда своё железо не потянуть, это честный компромисс между приватностью и удобством.

Можно ли вообще без видеокарты? Да, небольшие квантизованные модели работают и на процессоре, просто медленнее. Для несрочных задач этого часто достаточно. Для потока запросов уже нужна видеокарта.

Как понять, что модель подходит? Только тестом на ваших реальных данных. Я всегда прогоняю пару кандидатов на настоящих примерах клиента, а не верю бенчмаркам — на вашей задаче расклад может оказаться иным.

Коротко о главном

Выбор локального LLM — это не поиск «самой лучшей модели», а подбор под связку из четырёх вещей: задача, качество русского, лицензия и ваше железо. Под русский язык я чаще всего смотрю на Qwen, Llama и дообученную Saiga, а когда своё железо не потянуть — на российское облако GigaChat или YandexGPT как разумный компромисс с учётом 152-ФЗ. Главное — не влюбляться в модель по бенчмаркам, а тестировать кандидатов на своих реальных данных и считаться с тем, что у вас есть по памяти. Если хотите, чтобы модель подобрали и внедрили под ключ на российском стеке, без утечки данных в чужое облако, — я помогу пройти путь от выбора до работающей системы.