Проверка фактов и оценка ответов

ArmoRM (RLHFlow)

Name: ArmoRM (RLHFlow)
Author: RLHFlow

Оценщик ответов, который выдаёт не один общий балл, а разбор сразу по нескольким признакам. Оценщик сам ошибается и ручную проверку на важных задачах не заменяет.

Последняя открытая версия вышла в май 2024. Семейство давно не обновлялось: это не значит, что модель не работает, но свежих исправлений и новых размеров ждать не стоит.

Разработчик: RLHFlow, США
Первый выпуск: май 2024
Последний выпуск: май 2024
Размеры: 8B
Лицензия: Коммерция с условиямиLlama 3 Community License — ограничения базовой модели
Русский язык: Не заявлен
Запуск: Через свой серверНужна видеокарта
Сферы: Разработка ПО, Наука, Поддержка клиентов

Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

Отбор лучшего из нескольких вариантов ответа
Подготовка данных для дообучения модели
Оценка ответов помощника по нескольким признакам

Где применяется

IT и разработкаИсследования и наукаПоддержка клиентов

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии

подходит

1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии

подходит

КластерСервер с несколькими видеокартами — флагманские версии

нет версий

Версии

май 2024ArmoRM-Llama3-8B-v0.1

Как запустить

На своём сервереВеса скачиваются с Hugging Face, запуск — через vLLM (нагрузка и API) или llama.cpp (скромное железо). Так модель работает в закрытом контуре, без оплаты за запросы.Hugging Face

Сколько нужно железаПосчитайте видеопамять под нужный размер модели, контекст и число одновременных запросов.Открыть калькулятор железа

Ставлю и настраиваю под ключ: подберу размер модели, разверну на вашем сервере, подключу к вашим системам.

Частые вопросы

Можно ли использовать ArmoRM (RLHFlow) в коммерческом проекте?

С условиями. Лицензия: Llama 3 Community License — ограничения базовой модели. Ограничения бывают разными — регион, выручка компании, требование указывать авторство. Перед коммерческим запуском проверьте условия с юристом.

Какое железо нужно для ArmoRM (RLHFlow)?

Минимум: Одна видеокарта на 16–80 ГБ — средние версии. Без видеокарты модель практически не работает. Точный объём видеопамяти под ваш размер модели и контекст можно посчитать в калькуляторе железа.

Поддерживает ли ArmoRM (RLHFlow) русский язык?

В карточке модели языки не перечислены, поэтому поддержку русского обещать нельзя — её нужно проверять на ваших примерах.

Где скачать ArmoRM (RLHFlow) и сколько это стоит?

Веса ArmoRM (RLHFlow) лежат в открытом доступе и скачиваются бесплатно. Платить нужно только за железо, на котором модель работает, и за настройку. Ссылки на первоисточник — в конце страницы.

Как внедряю у заказчика

ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.