Текст

Flan-T5 и Flan-UL2

Компактные модели «вход-выход», обученные выполнять инструкции. До сих пор используются как дешёвая основа для классификации, извлечения и коротких ответов.

Разработчик
Google, США
Первый выпуск
окт 2022
Последний выпуск
мар 2023
Размеры
80M – 20B
Лицензия
Можно в коммерциюApache 2.0

Какие задачи решает

  • Классификация обращений и документов
  • Извлечение полей из текста
  • Короткие ответы и пересказ
  • Дообучение под узкую задачу

Где применяется

Поддержка клиентовДокументооборотАналитика

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. Flan-UL2
  2. Flan-T5

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели