Проверка фактов и оценка ответов
Prometheus 2
Открытая модель-судья: оценивает ответы других моделей по вашим критериям и объясняет оценку. Замена платным моделям в роли проверяющего.
- Разработчик
- KAIST и LG AI Research (prometheus-eval), Южная Корея
- Первый выпуск
- окт 2023
- Последний выпуск
- апр 2024
- Размеры
- 7B – 8x7B
- Лицензия
- Можно в коммерциюApache 2.0
- Русский язык
- Нет
- Запуск
- Через свой серверНужна видеокарта
- Сферы
- Разработка ПО, Образование, Поддержка клиентов
Какие задачи решает
- Оценка ответов чат-бота по своей шкале
- Сравнение двух вариантов ответа
- Проверка качества перед запуском ИИ-сервиса
Где применяется
Разработка ИИ-сервисовОбучение и проверка работКонтроль качества поддержки
Требования к железу
НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходитКластерСервер с несколькими видеокартами — флагманские версии
подходитВерсии
- Prometheus-BGB 8x7B
- Prometheus 2 7B и 8x7B
- Prometheus-Vision 7B и 13B
- Prometheus 7B и 13B
Как внедряю у заказчика
- ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
- УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
- ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
- ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.
Похожие модели
Проверка фактов и оценка ответовSkywork-RewardSkywork (Kunlun Tech) · КитайКоммерция с условиями
Модели-оценщики: ставят балл ответу языковой модели, насколько он хорош для пользователя. Нужны для дообучения своих моделей и отбора лучшего из нескольких ответов.
ПодробнееТекстMistralMistral AI · ФранцияКоммерция с условиямиЕвропейские модели с упором на скорость. Mixtral — одна из первых открытых моделей на архитектуре «смесь экспертов»; есть версии с картинками (Pixtral, Medium 3.5), для доказательств в Lean и модерации (Shieldstral).
Подробнее