РекомендацииПоиск и RAG

beeFormer

Энкодеры описаний, дообученные так, чтобы близкими считались товары, которые люди действительно берут вместе, а не просто похожие по словам. Выложены версии, обученные на открытых каталогах.

Разработчик: Recombee, Чехия
Первый выпуск: авг 2024
Последний выпуск: сен 2024
Размеры: около 110M (на базе all-mpnet-base-v2)
Лицензия: Коммерция с условиямиLlama 3.1 Community License — обучающие тексты получены с помощью Llama 3.1; код репозитория под CC BY-SA 4.0
Русский язык: Нет
Запуск: Через свой серверРаботает и без видеокарты
Сферы: Торговля и маркетплейсы, Медиа и продакшн, Маркетинг и контент

Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

Блок «с этим часто берут»
Рекомендации для позиций без истории продаж
Перенос модели на новый каталог
Похожие товары по описанию

Где применяется

Интернет-магазиныМедиатеки и книжные каталогиМаркетинг и подборки

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии

подходит

1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии

нет версий

КластерСервер с несколькими видеокартами — флагманские версии

нет версий

Версии

сен 2024Обновление карточек моделей
авг 2024Llama-movielens-mpnet, Llama-goodbooks-mpnet, Llama-amazbooks-mpnet, Llama-goodlens-mpnet

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face

Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам.

Частые вопросы

Можно ли использовать beeFormer в коммерческом проекте?

С условиями. Лицензия: Llama 3.1 Community License — обучающие тексты получены с помощью Llama 3.1; код репозитория под CC BY-SA 4.0. Ограничения бывают разными — регион, выручка компании, требование указывать авторство. Перед коммерческим запуском проверьте условия с юристом.

Какое железо нужно для beeFormer?

Минимум: Ноутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии. Есть версии, которые работают и без видеокарты, на обычном процессоре. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли beeFormer русский язык?

Нет. В документации разработчика языки перечислены, русского среди них нет. Для русских задач лучше взять модель из подборки «Открытые ИИ-модели с русским языком».

Где скачать beeFormer и сколько это стоит?

Веса beeFormer лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.