Музыка и звукВидео

MMAudio

Озвучивает немое видео: генерирует шумы и звуковые эффекты, синхронные с происходящим в кадре, по видео и текстовой подсказке. Одна из первых сильных открытых моделей фоли.

Разработчик
Иллинойсский университет и Sony AI, США / Япония
Первый выпуск
дек 2024
Последний выпуск
дек 2024
Размеры
размер на карточке не указан
Лицензия
Только некоммерческоеВеса — CC-BY-NC 4.0 (некоммерческие), код — MIT
Запуск
Через свой серверНужна видеокарта
Сферы
Медиа и продакшн

Какие задачи решает

  • Звуковые эффекты к немому видео
  • Озвучка роликов от ИИ-генераторов
  • Черновой саунд-дизайн для монтажа

Где применяется

ВидеопродакшнГеймдевИсследования

Требования к железу

НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит
1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
подходит
КластерСервер с несколькими видеокартами — флагманские версии
нет версий

Версии

  1. MMAudio large 44k v2
  2. MMAudio (small, medium, large)

Как внедряю у заказчика

  1. ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
  2. УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
  3. ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
  4. ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.

Похожие модели