Модели решений вместо чат-ботов: что это даёт бизнесу

Что вышло за последние дни

Обычная языковая модель пишет ответ словами, а потом программа пытается из этих слов вытащить «класс заявки: оплата». Иногда модель придумывает категорию, которой нет в вашей CRM. Модели решений работают иначе. Вы даёте текст или JSON и список допустимых вариантов, а на выходе получаете вероятность каждого варианта. Текст при этом не генерируется вообще.

Что подтверждено первоисточниками.

Liquid AI представила модель d1. Вопросы бывают трёх типов: «да или нет», выбор одного варианта из нескольких и оценка по шкале. По сообщениям профильных изданий, релиз состоялся 29 сентября 2026 года. Доступна d1 только как облачный API, тариф d1:free бесплатный, цены на платные тарифы не опубликованы. Скачать веса и дообучить модель нельзя, размер и контекст не раскрыты.

В движке SGLang эндпоинт /v1/decisions превращает обычную чат-модель в модель решений. Изменение приняли в основную ветку 25 сентября, а в релизе v0.5.21 от 2 октября оно вышло к пользователям. Поддерживается выбор из 2-26 вариантов, оценка по шкале от 2 до 10 уровней и вопрос «да или нет».

Cloudflare 1 октября выпустила Clef и Clef-flash. Это открытые модели под лицензией Apache 2.0, построенные на Qwen3.8-27B и Qwen3.5-9B. Веса лежат на Hugging Face, обе модели доступны в Workers AI. Контекст 64 тысячи токенов.

Что это значит для бизнеса

У каждой компании есть поток входящих, который кто-то разбирает руками или дорогой языковой моделью. Модель решений подходит туда, где ответ заранее известен как список.

Маршрутизация заявок. Входящее сообщение получает вероятности по отделам: продажи, поддержка, бухгалтерия, спам. Если уверенность высокая, заявка уходит сама. Если низкая, её смотрит человек.

Оценка лидов. Вопрос «этот человек готов купить в ближайшие две недели?» возвращает число от 0 до 1, и менеджер звонит сначала тем, у кого оно выше. Подробнее про сам процесс квалификации я писал в статье про квалификацию лидов ботом.

Антифрод. Подозрительные заказы и обращения помечаются вероятностью. Решение о блокировке принимает правило или человек, а модель только показывает, на что смотреть в первую очередь.

Классификация обращений. Тема, срочность, тон. Без «болтовни» и без придуманных категорий, потому что ответ физически может быть только из вашего списка.

Моя позиция

Я считаю, что половина «ИИ-агентов», которых сейчас продают малому бизнесу, на самом деле классификаторы в красивой обёртке. Заявке не нужен диалог с нейросетью. Ей нужна метка и маршрут. Разницу между агентом и чат-ботом я разбирал в статье AI-агенты против чат-ботов, и модели решений укладываются в ту же логику: платить стоит за результат, и способность поддерживать беседу тут не в счёт.

У моделей решений есть то, чего нет у чат-бота. Ответ всегда подходит под схему, и разбирать его регулярками не надо. Вероятность сравнивается с порогом, а спорные случаи уходят к человеку или к большой модели.

При этом я бы не торопился выкидывать чат-ботов. Там, где нужно вести разговор, отвечать по документам, писать текст или рассуждать в несколько шагов, модель решений бесполезна. Это отдельный инструмент, и работать он должен рядом с чат-моделью.

Что делать сейчас

Шаг 1. Найдите задачу-классификацию. Посмотрите, что в вашем бизнесе сотрудники делают по одному и тому же признаку несколько раз в день. Раскладывают заявки по отделам, ставят приоритет, отсеивают спам. Нужна задача, у которой есть закрытый список ответов.

Шаг 2. Соберите 100-200 размеченных примеров. Возьмите реальные обращения за прошлые месяцы и пусть тот, кто знает дело, проставит правильный ответ. Это самая трудоёмкая часть, и она нужна любому подходу. Без неё вы не узнаете, работает решение или нет.

Шаг 3. Сравните с чат-ботом. Прогоните те же примеры через обычную языковую модель с промптом и через модель решений. Посчитайте, в скольких случаях ответ совпал с вашим, сколько стоило и как быстро пришло. Результат на ваших данных важнее любых таблиц с замерами, которые публикуют сами разработчики.

Шаг 4. Настройте порог. Решите, при какой уверенности заявка уходит автоматически, а при какой её проверяет человек. Для пробы подойдут Clef-flash или d1:free. Если в заявках персональные данные клиентов, важно, где крутится модель.

Где это не сработает

Нужны данные. Без размеченных примеров вы не проверите ни одну модель, и это главная причина, по которой такие проекты застревают.

Модель не объясняет решение словами. Вы увидите «срочно: 0,87», но не фразу «потому что клиент упомянул суд». Если по закону или по регламенту надо обосновать отказ, одной такой модели мало.

Метки должны быть из закрытого списка. В SGLang, например, ответ обязан укладываться в один токен, и документация предупреждает, что вероятности для первого запроса и для запроса из кэша могут немного расходиться. Решение принимается по одному входу, без истории диалога.

Cloudflare сообщает, что Clef лидирует на её наборе тестов, и сама признаёт, что на части тестов соперник выше. Проценты я не привожу: ваши заявки на эти тесты не похожи. Меряйте на своих.

Как я с этим помогаю

Я начинаю с аудита потока входящих и нахожу, где классификация реально нужна. Дальше помогаю собрать размеченную выборку и сравнить варианты на ваших данных. Если модель решений выигрывает, подключаю её к CRM или боту с порогом уверенности и передачей спорных случаев человеку. Если лучше работает обычная языковая модель, так и скажу.

Подробности по направлению лежат на странице ИИ-агенты и аналитика, ориентиры по стоимости работ есть в прайсе. Если задача про ответы по вашим документам, а не про выбор варианта, смотрите статью про RAG-системы.

Частые вопросы

Модель решений заменит чат-бота в поддержке?

Нет, она решает другую часть работы. Она определяет тему, срочность и маршрут обращения. Ответить клиенту человеческим языком по-прежнему должна чат-модель или сотрудник.

Сколько данных нужно, чтобы проверить такую модель?

Для первой проверки хватит 100-200 размеченных примеров. Это тест без обучения: вы смотрите, как часто ответ модели совпадает с вашим.

Можно ли запустить это у себя, без внешних сервисов?

Веса Clef и Clef-flash открыты под Apache 2.0, их можно поставить на свой сервер, а в SGLang уже есть готовый эндпоинт. Для модели на 27 миллиардов параметров нужна серьёзная видеокарта. Liquid d1 доступна только через облачный API.

Коротко о главном

Три релиза за неделю показывают, что рынок получил отдельный класс моделей для задач «выбрать из списка». Они дешевле и предсказуемее чат-ботов там, где нужны маршрутизация, оценка лидов, антифрод и сортировка обращений, и бесполезны там, где нужен текст или объяснение.

Есть поток заявок, который разбирают руками, и хочется понять, поможет ли тут такая модель? Напишите мне в Telegram слово «РЕШЕНИЕ». Посмотрим на ваши данные и проверим на 100-200 примерах, прежде чем что-то покупать.