ChatGPT чаще всего используют как универсального помощника: ответить клиенту, переписать текст, разобрать письмо, объяснить документ. Тот же набор задач закрывают открытые языковые модели, развёрнутые на вашем сервере или в вашем облаке: переписка и документы не уходят стороннему сервису, обращений можно делать сколько угодно без счёта за каждый запрос, а модель разрешается дообучить на своих данных и регламентах. Платите вы не за запросы, а за железо и работу по настройке — сервер с видеокартой, установку, обновления и того, кто это ведёт. На сложных многошаговых задачах открытая модель обычно отвечает слабее флагманского облачного сервиса, поэтому под ответы клиентам и работу с документами её почти всегда нужно дообучать и обвешивать проверками. Выбор начинается с трёх вещей: как модель говорит по-русски, что разрешает её лицензия и какой размер вытянет ваше железо.
Семейство языковых моделей с сильным русским языком: от маленьких версий для ноутбука до флагмана уровня коммерческих API.
Открытые модели Сбера, обученные с упором на русский язык: хорошо пишут и понимают по-русски, знают местные реалии. Есть лёгкая 10B-A1.8B и флагманы до 702B, всё под MIT. GigaChat3.1-Audio понимает звук и записи до двух часов, GFusion — быстрая диффузионная версия для текста.
Модели Т-Банка, дообученные на основе Qwen специально для русского языка: заметно лучше исходной модели пишут и рассуждают по-русски. T-Lite — 8B, T-Pro — 32B на одну видеокарту; T-Search — агент для многошагового поиска на русском и английском.
Модели, с которых начался массовый open source в ИИ. Огромная экосистема дообученных версий и инструментов.
Рассуждающая модель: думает по шагам перед ответом. Сильна в расчётах, логике и коде; есть компактные дистиллированные версии.
Лицензии здесь разные: GigaChat идёт под MIT, T-Pro и DeepSeek-R1 разрешены для коммерции, а у Qwen и Llama часть версий работает по собственным условиям разработчика. Перед коммерческим запуском конкретную версию и её лицензию стоит показать юристу.
Открытую модель можно поставить на свой сервер: данные не уходят в чужое облако, нет оплаты за каждый запрос, модель можно дообучить на ваших документах.
