Текст

Vicuna

Одна из первых открытых чат-моделей 2023 года: LLaMA, дообученная на диалогах пользователей ChatGPT. Историческая веха, сегодня уступает любой современной модели того же размера.

Разработчик
LMSYS (Беркли и партнёры), США
Первый выпуск
апр 2023
Последний выпуск
авг 2023
Размеры
7B – 33B
Лицензия
Коммерция с условиямиv1.5 — Llama 2 Community License; ранние версии на LLaMA 1 (v0 выпущена только как разница весов) — некоммерческие
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Эксперименты и обучение команды
  • Простой чат-ассистент для тестов
  • Сравнение с новыми моделями

Где применяется

R&DОбразование

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. Vicuna v1.5 16K
  2. Vicuna v1.5 (Llama 2)
  3. Vicuna v1.3 (7B / 13B / 33B)
  4. Vicuna v1.1
  5. Vicuna v0 (разница весов)

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

ТекстLlamaMeta · СШАКоммерция с условиями

Модели, с которых начался массовый open source в ИИ. Огромная экосистема дообученных версий и инструментов.

ПодробнееТекстOpenChatOpenChat (Университет Цинхуа) · КитайКоммерция с условиями

Дообучения Mistral 7B и Llama 3 8B по методу C-RLFT, которые в 2023–2024 годах догоняли ChatGPT-3.5 при размере 7–8B. Лёгкий универсальный ассистент для слабого сервера.

ПодробнееТекстZephyrHugging Face (H4) · СШАМожно в коммерцию

Учебные чат-модели Hugging Face на базе Mistral, Gemma и Mixtral с открытым рецептом дообучения. Zephyr 7B Beta показал, что маленькую модель можно «воспитать» до уровня крупных без ручной разметки людьми.

Подробнее