Поиск и RAG

BGE-M3

Модель для поиска по смыслу на сотне языков. Основа RAG: бот находит нужный кусок документа перед ответом.

Разработчик
BAAI, Китай
Первый выпуск
янв 2024
Последний выпуск
янв 2024
Размеры
568M
Лицензия
Можно в коммерциюMIT
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Поиск по базе документов
  • RAG для чат-бота
  • Поиск похожих обращений и дублей

Где применяется

Базы знанийЮридические архивыПоддержка клиентов

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версий
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. BGE-M3

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.