РекомендацииПоиск и RAG

BLaIR

Лёгкие энкодеры, обученные на парах «карточка товара — живой отзыв»: дают вектора товаров для блоков «похожее» и для поиска по описанию словами покупателя. Веса маленькие, работают на обычном сервере.

Последняя открытая версия вышла в май 2024. Семейство давно не обновлялось: это не значит, что модель не работает, но свежих исправлений и новых размеров ждать не стоит.

Разработчик: UC San Diego (McAuley Lab), США
Первый выпуск: мар 2024
Последний выпуск: май 2024
Размеры: 125M и 355M
Лицензия: Можно в коммерциюMIT
Русский язык: Нет
Запуск: Через свой серверРаботает и без видеокарты
Сферы: Торговля и маркетплейсы, Маркетинг и контент, Наука

Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

Блок «похожие товары» по описанию
Поиск товара по фразе покупателя
Подбор карточек для новых позиций
Группировка ассортимента по смыслу

Где применяется

Интернет-магазины и маркетплейсыПоиск по каталогуМаркетинг и подборки

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии

подходит

1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии

нет версий

КластерСервер с несколькими видеокартами — флагманские версии

нет версий

Версии

май 2024BLaIR-games-roberta-base
мар 2024BLaIR-roberta-base и BLaIR-roberta-large

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face

Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам.

Частые вопросы

Можно ли использовать BLaIR в коммерческом проекте?

Да. Лицензия: MIT. Это разрешает коммерческое использование, но перед запуском лицензию всё равно стоит показать юристу.

Какое железо нужно для BLaIR?

Минимум: Ноутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии. Есть версии, которые работают и без видеокарты, на обычном процессоре. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли BLaIR русский язык?

Нет. В документации разработчика языки перечислены, русского среди них нет. Для русских задач лучше взять модель из подборки «Открытые ИИ-модели с русским языком».

Где скачать BLaIR и сколько это стоит?

Веса BLaIR лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.