BGE-M3 или E5: что выбрать для бизнеса

Обе модели под MIT, понимают русский, работают на процессоре и служат основой RAG: поиск по базе документов и подбор фрагментов для ответа бота. BGE-M3 — одна модель на 568M для поиска по смыслу на сотне языков, есть в Ollama, вышла в 2024-01. E5 — семейство от 33M до 7B, включая крупную e5-mistral-7b-instruct, которой может понадобиться видеокарта; в Ollama в каталоге не отмечено, последняя версия 2024-02. По свежести они почти равны, разница в выборе размеров и способе запуска.

Сравнение по данным каталога

ПараметрBGE-M3E5 / multilingual-e5
НаправлениеПоиск и RAGПоиск и RAG
РазработчикBAAI, КитайMicrosoft, США
Выпускиянв 2024 – янв 2024дек 2022 – фев 2024
Размеры568M33M – 7B
ЖелезоНоутбукНоутбук, 1 видеокарта
КоммерцияМожно в коммерциюМожно в коммерцию
ЛицензияMITMIT
Русский языкЕстьЕсть
OllamaЕстьНет
Без видеокартыДаДа
Задачи
  • Поиск по базе документов
  • RAG для чат-бота
  • Поиск похожих обращений и дублей
  • Поиск по базе знаний и документам
  • Подбор ответов для чат-бота (RAG)
  • Поиск похожих обращений и дублей

Выбирайте BGE-M3, если

  • Нужна одна модель без выбора размеров
  • Хотите запускать эмбеддинги через Ollama
  • Документы на многих языках: модель рассчитана на сотню языков
BGE-M3

Выбирайте E5 / multilingual-e5, если

  • Нужна совсем маленькая модель от 33M для слабого сервера
  • Нужна крупная модель до 7B и есть видеокарта
  • Нужна instruct-версия: multilingual-e5-large-instruct
E5 / multilingual-e5

Другие сравнения

Нужна модель под вашу задачу?

Открытую модель можно поставить на свой сервер: данные не уходят в чужое облако, нет оплаты за каждый запрос, модель можно дообучить на ваших документах.

  1. ПодберуМодель и размер под задачу и бюджет на железо
  2. ПоставлюНа ваш сервер или в закрытый контур, с API
  3. ДообучуНа ваших данных или подключу базу знаний
  4. ВстроюВ CRM, 1С, бота, сайт или рабочий чат
Обсудить внедрение