Музыка и звукПоиск и RAG

MuQ / MuQ-MuLan

Музыкальный энкодер MuQ и модель MuQ-MuLan, которая сопоставляет музыку и текст: можно искать треки по описанию на английском или китайском.

Разработчик
Tencent AI Lab, Китай
Первый выпуск
дек 2024
Последний выпуск
дек 2024
Размеры
300M – 700M
Лицензия
Только некоммерческоеВеса — CC-BY-NC 4.0 (некоммерческие), код — MIT
Русский язык
Нет
Запуск
Через свой серверРаботает и без видеокарты
Сферы
Медиа и продакшн, Наука
Поставить на свой сервер Hugging Face GitHub

Какие задачи решает

  • Поиск музыки по текстовому описанию
  • Разметка треков по жанру и настроению
  • Подбор похожей музыки

Где применяется

Музыкальные сервисыМедиа и продакшнИсследования

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версий
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. MuQ-MuLan-large
  2. MuQ-large-msd-iter

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели

Музыка и звукMERTm-a-p (Multimodal Art Projection) · Великобритания / КитайТолько некоммерческое

Энкодер музыки: превращает трек в числовое описание, по которому определяют жанр, настроение, тональность и ритм. MERT-v2 работает с целыми песнями до 6 минут.

ПодробнееМузыка и звукAST (Audio Spectrogram Transformer)MIT · СШАМожно в коммерцию

Классическая модель 2021 года для распознавания звуков: определяет 527 классов событий AudioSet (сирена, лай, стекло, музыка). Лёгкая, работает без видеокарты, с 2022 года в Transformers.

Подробнее