Датасет бурятского языка: партнёрское предложение на 12 страниц

Это кейс про документ. Данных у меня пока нет, есть план, как их собрать, и аргументы, зачем это делать вместе. Подробнее про тему в целом я писал в статье про ИИ для сохранения бурятского языка.

Задача

Люди уже пробуют делать песни на бурятском в генераторах музыки. Результат слабый: машине не на чем учиться. Открытого набора бурятской речи и пения, готового для обучения, я не нашёл, хотя искал. Есть разрозненные тексты без указанных лицензий и научные корпуса, которые нужно отдельно согласовывать с авторами.

В PDF я привожу цифры о положении языка из переписей и работ специалистов со ссылками на источники. Они показывают, что доля детей, владеющих языком, заметно ниже, чем у взрослых. Задача документа показать, что можно сделать технически, и позвать людей, у кого есть то, чего нет у меня: носители, лингвисты, музыканты, архивы, юрист.

Что я предложил

Идея простая: одна общая языковая база и три датасета поверх неё, чтобы текст, голос и песня говорили на одном языке и с одной орфографией.

База. Единая орфография с буквами ө, ү, һ (в сети их часто заменяют на «h», «ѳ» и «y», и для машины это разные слова), словари, словарь «слово → звуки», карта говоров, схема меток для каждой записи: говор, диктор, жанр, источник, лицензия.

Датасет 1, текст. Очищенный корпус из новостей, книг, фольклора и живой речи с согласия авторов, плюс несколько тысяч пар «задание → ответ», которые пишут носители. Цель: чтобы модель писала стихи и отвечала по-бурятски, вместо того чтобы продолжать чужой текст.

Датасет 2, речь. Две задачи с разными требованиями. Для озвучки нужно мало дикторов и студийное качество. Для распознавания нужно много разных людей в обычных условиях. Для сбора я предложил бот в Telegram и MAX, где человек читает готовую фразу и отправляет голосовое: самая дорогая ручная часть в таких проектах расшифровка, а здесь текст известен заранее.

Датасет 3, пение. Самая рискованная и самая заметная часть. Мультитреки и акапеллы от артистов, новые записи под договор, тексты с таймкодами. Два пути проверки: дообучение открытой модели генерации песен и отдельный голос певца по нотам и тексту. Что из этого сработает на малом языке, я не знаю, и в документе это названо риском.

Как датасет попадёт в нейросети, зависит от типа модели. Открытые модели можно дообучать самим. Закрытые текстовые получают словарь и грамматику через базу знаний. В закрытые генераторы загрузить данные нельзя, туда идут только с готовым датасетом, замерами и лицензией, и решение остаётся за компанией. Как устроено распознавание речи, я разбирал в статье про распознавание речи.

Что было сложно

Самым спорным оказался вопрос, что говорить про Яндекс и Google. Первая идея была подать их переводчики как слабые. Живой тест 5 ноября показал другое: оба прилично переводят простые фразы. Поэтому в документе удар идёт по тому, чего действительно нет: голоса, голосового ввода, выбора говора, рифмы и ритма для песни, открытых данных. Для некоторых других языков России у Яндекса озвучка уже есть, для бурятского на кнопке написано, что её пока нет.

В проверку вошли четыре фразы. Я не носитель бурятского, поэтому сравнение сделал по выдаче самих переводчиков, а выводы о качестве считаю предварительными:

Перед отправкой партнёрам этот разбор должен сверить носитель языка, и в тексте я об этом прямо говорю. Пока сверки нет, цитировать мои выводы как оценку качества нельзя.

Вторая сложность это права. Голос человека относится к персональным данным, современные песни принадлежат нескольким правообладателям, открытый доступ к научным корпусам не равен разрешению на обучение, а часть обрядовых текстов вообще не должна уходить в открытый доступ. Поэтому в документе юрист работает с первого дня, а у каждого типа материала своя схема согласий.

Третья сложность: я не стал обещать сроки и результат там, где их нельзя подтвердить. Цифры объёмов в документе (часы записи, число песен, целевые метрики качества) обозначены как ориентиры и сметами не являются. Суммы здесь не привожу.

В каком статусе

Перед нами предложение, работающего проекта пока нет. Я проверил ещё два факта, которые вошли в документ: сбор в Common Voice для бурятского закрыт, а в открытой модели распознавания Whisper бурятского языка нет. Похожий путь с другим письмом разобран в кейсе про распознавание старомонгольского текста.

Что дальше

Сначала сверка фраз носителем и правка разбора. Потом первые разговоры с лингвистами, музыкантами и теми, у кого есть архивы. Начало пилота возможно только после партнёрского соглашения и юриста, ни одной записи до согласий я делать не буду. Условия участия студии в проекте пока не определены.

Частые вопросы

Датасет уже собирается?

Нет. Есть документ с планом. Партнёрам он пока не отправлен, записи и обучение не начинались.

Можно ли загрузить такой датасет в Suno или ElevenLabs?

Нет, это закрытые сервисы. Путь один: прийти к компании с готовым датасетом, замерами и лицензией, и решение остаётся за ней. Открытые модели я могу дообучать сам.

Кто проверяет качество бурятского?

Носители, лингвисты и поэты. Я не носитель языка, поэтому в плане они стоят на каждом этапе, а первый разбор переводчиков тоже ждёт их сверки.

Коротко о главном

Проект по малому языку стоит начинать с честного описания того, что уже есть, и с прав на материал. Технику выбрать проще, чем договориться о данных и людях.

Сейчас это готовый документ без отправки и без запуска. Если вам нужны ИИ-инструменты для речи, переводов или распознавания, посмотрите автоматизацию бизнеса и напишите в Telegram, MAX или VK.