Модель решений d1 вместо LLM: разбор заявок за один вызов

Что выпустила Liquid AI

Обычная языковая модель на вопрос «горячая ли эта заявка» пишет абзац, из которого потом надо вытащить слово «да» или «нет». Иногда она отвечает в другом формате или рассуждает вместо ответа, и приходится ставить проверку поверх проверки.

Модель решений устроена иначе. Вы описываете ситуацию (обычный текст или JSON с полями) и задаёте вопросы трёх типов. Noul, «да или нет» с вероятностью от 0 до 1. Choice, выбор из названных заранее вариантов с распределением вероятностей. Score, оценка по упорядоченной шкале. В одном запросе можно задать несколько вопросов. В ответе у каждого есть выбранный вариант, уверенность и распределение, а счётчик выходных токенов всегда равен нулю.

Описание есть в документации по моделям решений и в руководстве по их применению. Там же сказано, где модель не нужна: генерация нового текста, открытые вопросы и сложные рассуждения остаются за обычными языковыми моделями.

Открыта ли модель и что с лицензией

Я проверял это отдельно, потому что «бесплатно» и «открыто» в новостях путают. По документации, модель работает через облачный API Liquid (имя d1:free), нужен ключ из консоли. Независимые обзоры описывают d1 как закрытый сервис: нет скачиваемых весов, нет сборок для локального запуска, дообучить на своих данных нельзя. В профиле Liquid на Hugging Face такой модели нет.

Про лицензию документация молчит. Размер модели не раскрыт, платные тарифы не опубликованы, пока работает бесплатный уровень. Языки не указаны, все примеры английские. Есть и второй путь доступа, шлюз Vercel AI Gateway.

Для заказчика отсюда следует простое: d1 годится для пилота на обезличенных данных. Если заявки с персональными данными и нужен контур внутри вашей инфраструктуры, облачный API не вариант. Для такого случая есть открытые модели решений, например GLiNER2.5-Decide под Apache-2.0, которая по описанию сообщества запускается на обычном процессоре. Как она работает с русским, я не проверял и ничего не обещаю.

Как это выглядит на конвейере заявок

Возьмём наш типовой конвейер: заявки приходят с сайта, из Telegram, MAX и VK, ИИ читает их, заводит карточку в CRM и назначает ответственного. Подробно я описывал это в статье про разбор и маршрутизацию заявок. Сейчас на каждую заявку уходит запрос к языковой модели, которая пишет разбор целиком, хотя нужны из него четыре решения.

Модель решений получила бы заявку как JSON (канал, текст, город, продукт) и четыре вопроса в одном вызове:

• Горячая ли заявка. «Да или нет», на выходе число, скажем, 0,82.
• Какая категория. «Заказ», «вопрос по цене», «жалоба», «гарантия», «прочее» с распределением.
• Насколько срочно. Три деления, от «может подождать» до «звонить сейчас».
• Нужен ли человек. Ещё одно «да или нет», например для жалоб и крупных сделок.

Ответ сразу ложится в поля CRM. Менеджер видит список, отсортированный по вероятности «горячая», как в схеме из статьи о том, какой заявке звонить первой, только решение даёт модель, и с числом.

Где здесь деньги: уверенность вместо длинного ответа

Главное в такой схеме число уверенности. «Срочная, 0,95» можно отправлять в работу без проверки. «Срочная, 0,52» значит, что случай спорный. Для таких заявок строится лесенка: быстрая модель решений разбирает всё подряд, а что ниже порога уверенности, уходит большой языковой модели или человеку. Порог 0,7 здесь для иллюстрации, настоящий подбирается на ваших данных.

Экономика, по моей прикидке, а не по замерам. Пока большая модель пишет развёрнутый разбор каждой заявки, вы платите за выходные токены каждый раз. У модели решений их нет, платить пришлось бы за вход. Лесенка из дешёвого первого шага и дорогого второго та же, что в статье, где я считал, как удешевить ИИ-агента маршрутизацией моделей. Точных цифр по d1 нет: цена платного тарифа и скорость ответа не опубликованы, обещание «низкой и предсказуемой задержки» пока без замеров.

Что важно учесть

Модель решений не заменяет менеджера. Она сортирует и оценивает, а разговор с клиентом, сделка и конфликт остаются за человеком. Поле «нужен ли человек» для того и существует.

Калибровку надо проверять на ваших данных. «Откалиброванные вероятности» значат, что число должно совпадать с частотой реальных исходов, но убедиться в этом можно только на вашей истории заявок. d1 не дообучается: вы можете точнее сформулировать вопросы и критерии, а веса не поправите.

Русский язык не подтверждён. Прогоните 200 ваших реальных заявок и посчитайте долю совпадений с решением менеджера, до этого о качестве говорить рано.

И это облако другой компании: данные уходят наружу, условия могут поменяться, бесплатный тариф закончится. Для заявок с персональными данными нужны согласие клиента и оценка по 152-ФЗ.

Что можно сделать уже сейчас

Первый шаг: выпишите решения, которые принимает ваш конвейер. Горячая или нет, категория, срок, нужен ли человек. Если на каждый вопрос есть список заранее известных ответов, это задача для модели решений.

Второй шаг: соберите разметку. Двести заявок с решением менеджера хватит, чтобы сравнить любую модель, закрытую или открытую.

Третий шаг: проверьте на обезличенных данных. Уберите телефоны и имена, возьмите бесплатный ключ в консоли Liquid, посмотрите пример в репозитории Liquid4All/cookbook (там модель выбирает полосу для машины в игре) и сравните долю совпадений с менеджером.

Частые вопросы

Можно ли поставить d1 на свой сервер?

Нет. По документации и независимым обзорам модель доступна только через API Liquid, весов для скачивания нет. Для своего контура смотрят на открытые модели решений, но их качество на русском придётся проверять отдельно.

Чем это отличается от обычного классификатора?

Классификатор обучают под один набор меток. Модель решений получает вопросы и критерии вместе с запросом, поэтому те же заявки можно оценить по новым вопросам без переобучения. Платой за гибкость служит калибровка, которую надо проверять.

Нужна ли замена, если ИИ-разбор заявок уже работает?

Не сразу. Если он устраивает по цене и скорости, трогать его незачем. Подход имеет смысл, когда заявок много и вы платите за длинные ответы ради четырёх решений.

Коротко о главном

Liquid d1 показывает, что части задач ИИ в бизнесе текст на выходе не нужен: заявке нужно решение с числом уверенности, которое сразу идёт в CRM. Саму d1 пока можно только пробовать через облачный API, на русском она не проверена, веса закрыты. Схема «быстрое решение с вероятностью, спорное наверх» работает и на других моделях.

Хотите, чтобы заявки сортировались сами, а спорные уходили менеджеру? Встроим такой разбор под ключ в ваш конвейер, подробности на странице ИИ-агентов. Напишите мне в Telegram слово «РЕШЕНИЕ». Посмотрим ваши заявки и прикинем, какие решения можно отдать модели.