Текст

Yi

Двуязычные (английский и китайский) модели 01.AI на 6–34B с версиями на контекст до 200 тыс. токенов. Новых открытых выпусков с 2024 года нет.

Разработчик
01.AI, Китай
Первый выпуск
ноя 2023
Последний выпуск
май 2024
Размеры
6B – 34B
Лицензия
Можно в коммерциюApache 2.0

Какие задачи решает

  • Чат-ассистент на одной видеокарте
  • Разбор длинных документов
  • Классификация и извлечение данных из текста

Где применяется

Поддержка клиентовДокументооборотИсследования

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. Yi-1.5
  2. Yi-9B
  3. Yi-6B / 34B

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели