Музыка и звукПоиск и RAG

CLAP (LAION)

Аналог CLIP для звука: переводит аудио и текст в общее пространство. Можно искать звуки и музыку по описанию и классифицировать их без обучения. Текст — английский.

Разработчик
LAION, Германия
Первый выпуск
фев 2023
Последний выпуск
окт 2023
Размеры
размер на карточке не указан
Лицензия
Можно в коммерциюApache 2.0 (веса на HF); код и исходные чекпойнты — CC0
Русский язык
Нет
Запуск
Через свой серверРаботает и без видеокарты
Сферы
Медиа и продакшн, Маркетинг и контент, Безопасность
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Поиск звуков и музыки по описанию
  • Автоматические теги для аудиотеки
  • Распознавание типа звука (сирена, стекло, голос)

Где применяется

Медиа и аудиопродакшнМаркетинг и рекламаСистемы безопасности

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версий
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. larger_clap в Transformers
  2. Larger CLAP: музыка и речь
  3. LAION-CLAP (HTSAT, LAION-Audio-630K)

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

Компьютерное зрениеPerception Encoder (PE)Meta · СШАМожно в коммерцию

Семейство энкодеров Meta для картинок и видео, а с версией PE-AV — и для звука. PE-Core ищет по тексту точнее SigLIP 2 (по данным Meta), есть малые версии.

ПодробнееКомпьютерное зрениеCLIP (OpenAI)OpenAI · СШАМожно в коммерцию

Модель 2021 года, которая первой связала картинки и текст: поиск фото по словам и классификация без обучения. Понимает только английский, сейчас чаще берут SigLIP 2 или PE.

Подробнее