Музыка и звукПоиск и RAG

MERT

Энкодер музыки: превращает трек в числовое описание, по которому определяют жанр, настроение, тональность и ритм. MERT-v2 работает с целыми песнями до 6 минут.

Разработчик
m-a-p (Multimodal Art Projection), Великобритания / Китай
Первый выпуск
дек 2022
Последний выпуск
сен 2026
Размеры
95M – 632M
Лицензия
Только некоммерческоеCC-BY-NC 4.0 (некоммерческая)
Запуск
Через свой серверРаботает и без видеокарты
Сферы
Медиа и продакшн, Наука
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Автоматическая разметка музыкального каталога
  • Поиск похожих треков
  • Определение жанра, настроения и темпа

Где применяется

Музыкальные сервисы и лейблыМедиаИсследования

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версий
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. MERT-v2 (30s, FullSong)
  2. MERT-v1 (95M, 330M)
  3. MERT-v0

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

Музыка и звукMuQ / MuQ-MuLanTencent AI Lab · КитайТолько некоммерческое

Музыкальный энкодер MuQ и модель MuQ-MuLan, которая сопоставляет музыку и текст: можно искать треки по описанию на английском или китайском.

ПодробнееМузыка и звукAST (Audio Spectrogram Transformer)MIT · СШАМожно в коммерцию

Классическая модель 2021 года для распознавания звуков: определяет 527 классов событий AudioSet (сирена, лай, стекло, музыка). Лёгкая, работает без видеокарты, с 2022 года в Transformers.

ПодробнееКомпьютерное зрениеSigLIP (наследник CLIP)Google · СШАМожно в коммерцию

Модели, которые переводят картинки и текст в общее пространство: можно искать фото по словам и классифицировать изображения без обучения. CLIP от OpenAI (2021) — предшественник.

Подробнее