Компьютерное зрениеПоиск и RAG

CLIP (OpenAI)

Модель 2021 года, которая первой связала картинки и текст: поиск фото по словам и классификация без обучения. Понимает только английский, сейчас чаще берут SigLIP 2 или PE.

Разработчик
OpenAI, США
Первый выпуск
янв 2021
Последний выпуск
апр 2022
Размеры
около 0.15B – 0.6B
Лицензия
Можно в коммерциюMIT
Русский язык
Нет
Запуск
Через свой серверРаботает и без видеокарты
Сферы
Торговля и маркетплейсы, Медиа и продакшн, Безопасность
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Поиск картинок по текстовому запросу
  • Автоматические теги для каталога
  • Поиск похожих изображений

Где применяется

Онлайн-торговляФотобанки и медиаМодерация контента

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версий
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. ViT-L/14@336px
  2. ViT-L/14 и RN50x64
  3. ViT-B/16 и RN50x16
  4. RN101 и RN50x4
  5. CLIP ResNet-50 и ViT-B/32

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

Компьютерное зрениеSigLIP (наследник CLIP)Google · СШАМожно в коммерцию

Модели, которые переводят картинки и текст в общее пространство: можно искать фото по словам и классифицировать изображения без обучения. CLIP от OpenAI (2021) — предшественник.

ПодробнееКомпьютерное зрениеPerception Encoder (PE)Meta · СШАМожно в коммерцию

Семейство энкодеров Meta для картинок и видео, а с версией PE-AV — и для звука. PE-Core ищет по тексту точнее SigLIP 2 (по данным Meta), есть малые версии.

ПодробнееКомпьютерное зрениеruCLIP (ai-forever)Сбер AI и SberDevices (ai-forever) · РоссияМожно в коммерцию

Русская версия CLIP: сопоставляет картинки и подписи на русском. Позволяет искать фото по описанию и раскладывать изображения по категориям без обучения.

Подробнее