Notion AI помогает с рутиной вокруг документов: сделать выжимку из длинной записки, ответить по базе знаний, вытащить нужные пункты из договора. Открытые модели закрывают ту же рутину на вашем сервере: внутренние документы не уезжают в чужое облако, ограничений на объём нет, а под свои шаблоны — карточки клиентов, поля из актов — модель дообучается или работает по вашему JSON-шаблону. Есть модели, специально рассчитанные не на болтовню, а на работу с документами на русском, и они не требуют большого железа. Чего не будет: редактора, совместной работы и прав доступа — это ваш продукт, который надо построить вокруг модели. И выжимка из документа остаётся пересказом, поэтому цифры и сроки из договора всё равно проверяют по оригиналу.
Русскоязычные модели для работы с документами, а не для болтовни: ответы по базе знаний, извлечение сущностей и фактов из текста на русском, длинный контекст.
Открытые модели Сбера, обученные с упором на русский язык: хорошо пишут и понимают по-русски, знают местные реалии. Есть лёгкая 10B-A1.8B и флагманы до 702B, всё под MIT. GigaChat3.1-Audio понимает звук и записи до двух часов, GFusion — быстрая диффузионная версия для текста.
Семейство языковых моделей с сильным русским языком: от маленьких версий для ноутбука до флагмана уровня коммерческих API.
Модели для извлечения данных по шаблону: даёте документ или скан и JSON-шаблон полей, получаете заполненный JSON. NuExtract3 (4B) заодно переводит сканы в Markdown.
Компактные модели Google: хорошо работают на одном компьютере, старшие версии понимают картинки. Есть CodeGemma для кода, FunctionGemma 270M для вызова функций и быстрая DiffusionGemma.
Meno, GigaChat и NuExtract в каталоге отмечены как коммерчески разрешённые, у Gemma часть версий работает по Gemma Terms of Use, а у старших Qwen — по собственной лицензии разработчика. Под работу с договорами лицензию выбранной версии стоит согласовать с юристом.
Открытую модель можно поставить на свой сервер: данные не уходят в чужое облако, нет оплаты за каждый запрос, модель можно дообучить на ваших документах.
