Отчёты всегда отстают от вопросов. Пока аналитик делает выгрузку, вопрос уже поменялся, а простые вещи вроде среза по неделям упираются в очередь задач. Связка моделей закрывает именно этот разрыв: вопрос на человеческом языке превращается в запрос к базе, результат объясняется словами, а отдельное звено проверяет, что ответ вообще следует из данных. Последнее звено и отличает рабочий инструмент от красивой демонстрации.
Перед переводом вопроса в запрос система должна найти нужные таблицы и поля среди сотен. Этим занимается поиск по смыслу: описания таблиц и бизнес-словарь превращаются в отпечатки, и под каждый вопрос подбирается подходящий кусок схемы. Без этого шага модель получает либо всю схему целиком, что дорого и путает её, либо случайный кусок и отвечает по не тем таблицам.
Модель для поиска по смыслу на сотне языков. Основа RAG: бот находит нужный кусок документа перед ответом.
Эмбеддинги и реранкеры Alibaba для поиска: от крошечных до 7B на базе Qwen2. Есть многоязычная версия mGTE с длинным контекстом.
Специализированная модель составляет корректный запрос к базе данных по формулировке вопроса и описанию схемы. Узкие модели под эту задачу обычно точнее и дешевле универсальных, потому что их учили именно на запросах. Важно, чтобы доступ был только на чтение и по ролям: связка должна физически не мочь ничего изменить в базе. Без звена всё упирается в очередь к аналитику.
Одна из первых открытых моделей, которые переводят вопрос на обычном языке в SQL-запрос к базе. Есть в Ollama, но свежие конкуренты уже сильнее.
Модели Alibaba для перевода вопросов в SQL на базе Qwen2.5-Coder. Работают с разными диалектами SQL, есть малая версия 3B для слабого железа.
Модели для перевода вопросов в SQL, обученные на миллионах синтетических примеров запросов к разным базам. Три размера под разное железо.
Языковая модель берёт полученную таблицу и превращает её в понятный ответ: что выросло, где сравнение с прошлым периодом, чего в данных нет. Она же переспрашивает, если вопрос допускает несколько прочтений, например когда неясно, считать выручку с налогом или без. Без этого звена руководитель получает таблицу и всё равно идёт с ней к аналитику за пересказом.
Семейство языковых моделей с сильным русским языком: от маленьких версий для ноутбука до флагмана уровня коммерческих API.
Флагманская линия DeepSeek: от первых 7B/67B до V4-Pro на 1,6 трлн параметров. Уровень закрытых моделей при открытой MIT-лицензии; картинки понимают V4-Flash-Vision-Exp и V4.1-Flash, контекст до 1 млн токенов.
Первые открытые модели OpenAI со времён GPT-2. Рассуждения, вызов инструментов, младшая версия помещается на одну видеокарту.
Отдельная проверяющая модель сверяет текст ответа с тем, что реально вернула база, и отмечает утверждения, которые из данных не следуют. Это дешевле, чем разбираться потом, почему на совещании прозвучала неверная цифра. Если звена нет, ошибки видны только тому, кто знает данные наизусть, а именно такой человек обычно и не сидит на этом отчёте.
Открытая модель-судья: оценивает ответы других моделей по вашим критериям и объясняет оценку. Замена платным моделям в роли проверяющего.
Проверяет, подтверждается ли каждое утверждение в ответе ИИ исходными документами. Малые версии свободные, старшая 7B есть в Ollama, но некоммерческая.
Маленькая модель, которая проверяет, опирается ли ответ ИИ на исходный текст или выдуман. Работает на процессоре, удобна как фильтр в RAG-системах.
Связка работает ровно настолько, насколько понятна ваша база. Если поля называются сокращениями, а одно и то же считается в трёх местах по-разному, модель унаследует эту путаницу. Начинайте с одной витрины данных и десятка согласованных метрик с письменными определениями, а не со всей базы сразу. Доступ только на чтение, разграничение по ролям и журнал запросов обязательны, иначе удобный инструмент станет каналом утечки.
Открытую модель можно поставить на свой сервер: данные не уходят в чужое облако, нет оплаты за каждый запрос, модель можно дообучить на ваших документах.
