ТекстМатематика и рассуждения

Tulu

Дообучения Llama от Ai2 с полностью открытым рецептом: данные, код и все промежуточные этапы. Tulu 3 на 405B — одна из самых крупных открыто дообученных моделей; по этому же рецепту делают чат-версии OLMo.

Разработчик
Ai2, США
Первый выпуск
июн 2023
Последний выпуск
фев 2025
Размеры
7B – 405B
Лицензия
Коммерция с условиямиTulu 3 — Llama 3.1 Community License; Tulu 2 — Ai2 ImpACT Low-Risk; первая версия выпущена как разница весов к LLaMA 1

Какие задачи решает

  • Ассистент для сотрудников на своём сервере
  • Математика и точное следование инструкциям
  • Образец рецепта для собственного дообучения

Где применяется

ИТ-отдел и R&DАналитикаОбразование

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
подходит

Версии

  1. Tulu 3.1 8B
  2. Tulu 3 405B
  3. Tulu 3 (Llama 3.1 8B / 70B)
  4. Tulu 2 и Tulu 2 DPO (Llama 2, до 70B)
  5. Tulu (LLaMA, разница весов)

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели