Текст

OPT

Ранняя открытая серия Meta, повторяющая по размерам GPT-3. Устарела, полезна для исследований и сравнения.

Разработчик
Meta, США
Первый выпуск
май 2022
Последний выпуск
дек 2022
Размеры
125M – 66B (175B по запросу)
Лицензия
Только некоммерческоеOPT License: только некоммерческое и исследовательское использование
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Исследовательские эксперименты
  • Обучение специалистов
  • Сравнение с современными моделями

Где применяется

Исследовательские группыВузы

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
подходит

Версии

  1. OPT-IML
  2. OPT

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

ТекстPythia и GPT-NeoXEleutherAI · СШАМожно в коммерцию

Полностью открытые модели некоммерческой лаборатории EleutherAI: GPT-NeoX-20B и серия Pythia с опубликованными промежуточными снимками обучения.

ПодробнееТекстBLOOMBigScience (Hugging Face и сообщество) · ФранцияКоммерция с условиями

Одна из первых больших открытых моделей, обученная сообществом из сотен исследователей на 46 языках. Сегодня интересна скорее как историческая веха.

ПодробнееТекстLlamaMeta · СШАКоммерция с условиями

Модели, с которых начался массовый open source в ИИ. Огромная экосистема дообученных версий и инструментов.

Подробнее