Проверка фактов и оценка ответовРазбор текста

MiniCheck

Проверяет, подтверждается ли каждое утверждение в ответе ИИ исходными документами. Малые версии свободные, старшая 7B есть в Ollama, но некоммерческая.

Разработчик
UT Austin и Bespoke Labs, США
Первый выпуск
апр 2024
Последний выпуск
авг 2024
Размеры
0.4B – 7B
Лицензия
Коммерция с условиямиМалые версии (RoBERTa, DeBERTa, Flan-T5) — MIT; Bespoke-MiniCheck-7B — CC-BY-NC 4.0, коммерция по договору
Русский язык
Нет
Запуск
Есть в OllamaРаботает и без видеокарты
Сферы
Поддержка клиентов, Документы и бухгалтерия, Юристы

Какие задачи решает

  • Проверка ответов RAG-бота по документам
  • Поиск неподтверждённых утверждений в отчётах и пересказах
  • Автоматический контроль качества ИИ-ответов

Где применяется

Поддержка клиентовЮристы и комплаенсБазы знаний компаний

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. Bespoke-MiniCheck-7B
  2. MiniCheck RoBERTa-Large, DeBERTa-v3-Large, Flan-T5-Large

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели