РекомендацииТекст

RecGPT

Языковая модель на 7B, дообученная на текстах отзывов и карточек товаров под задачи рекомендаций и предсказания оценки. Лицензия запрещает коммерческое использование, для магазина нужна своя история заказов.

Последняя открытая версия вышла в апр 2024. Семейство давно не обновлялось: это не значит, что модель не работает, но свежих исправлений и новых размеров ждать не стоит.

Разработчик: VinAI Research, Вьетнам
Первый выпуск: апр 2024
Последний выпуск: апр 2024
Размеры: 7B
Лицензия: Только некоммерческоеCC BY-NC 4.0 — только некоммерческое использование
Русский язык: Нет
Запуск: Через свой серверНужна видеокарта
Сферы: Торговля и маркетплейсы, Медиа и продакшн, Наука

Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

Предсказание оценки товара пользователем
Подбор следующей покупки по истории
Исследование текстовых рекомендаций
Сравнение подходов на своих данных

Где применяется

Исследовательские командыИнтернет-магазины (некоммерческие пилоты)Медиа и контентные каталоги

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии

нет версий

1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии

подходит

КластерСервер с несколькими видеокартами — флагманские версии

нет версий

Версии

апр 2024RecGPT-7B-Instruct
апр 2024RecGPT-7B

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face

Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам.

Частые вопросы

Можно ли использовать RecGPT в коммерческом проекте?

Нет. Лицензия: CC BY-NC 4.0 — только некоммерческое использование. Для коммерческого продукта нужна другая модель или отдельное соглашение с правообладателем.

Какое железо нужно для RecGPT?

Минимум: Одна видеокарта на 16–80 ГБ — средние версии. Без видеокарты модель практически не работает. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли RecGPT русский язык?

Нет. В документации разработчика языки перечислены, русского среди них нет. Для русских задач лучше взять модель из подборки «Открытые ИИ-модели с русским языком».

Где скачать RecGPT и сколько это стоит?

Веса RecGPT лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.