Нейросеть научила вокодер читать по губам — Naked Science
4 минуты
Редакция

Нейросеть научила вокодер читать по губам

Французские ученые разработали технологию, которая позволяет воспроизводить речь человека по движениям его рта. Результаты исследования представлены в журнале PLOS Computational Biology.

the-kings-speech
©Wikipedia

Сочетание нейрокомпьютеров с вокодерами (синтезаторами речи) могло бы помочь людям, страдающим нарушениями речи, например афазией. Однако для реализации такой технологии необходимо создать вокодер, который способен воспроизводить голосовой сигнал по небольшому набору параметров в режиме реального времени. До сих пор таких устройств не существовало. Авторы новой работы предложили концепцию устройства, которое может синтезировать речь, опираясь только на информацию о движениях органов речи.

 

Для этого ученые Гренобльского университета и других учреждений использовали искусственную нейросеть с тремя скрытыми слоями и вокодер. Алгоритм обучался с помощью специальной базы данных, которая включала в себя информацию о звуках и соответствующих им движениях рта. Данные были получены с помощью франкоговорящего добровольца: мужчина произносил произвольный текст, в то время как к его губам, языку, мягкому небу и челюсти были присоединены девять датчиков. База состояла из почти 19 тысяч звуков.

 

После обучения система тестировалась на четырех других носителях французского языка, которые должны были беззвучно произнести семь гласных и несколько последовательностей по схеме «гласная-согласная-гласная». Затем 12 человек пытались определить по восстановленному компьютером сигналу, какой звук произносили испытуемые. Результаты показали, что алгоритм распознает гласные в 86 процентах случаев, согласные — в 49 процентах. Последовательности система распознавала в 48–52 процентах случаев.

 

По словам авторов, потенциально технология может использоваться для помощи людям с нарушениями голосового тракта. Кроме того, устройство поможет другим исследователям в разработке нейрокомпьютеров, которые будут воспроизводить речь человека только на основе сигналов мозга. Предполагается, что для этого ученые смогут использовать аналогичный подход.

 

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 10:13
3 минуты
Сергей Васильев

Астрономы сообщили об открытии OGLE-2016-BLG-1928 — самой маленькой из «планет-сирот», свободно летящих между звездами.

Вчера, 21:11
6 минут
Василий Парфенов

Британский мультимиллионер и экоактивист Дэйл Винс (Dale Vince) объявил, что его предприятие готово производить экологически чистые алмазы. Необходимая для этого энергия поступает от «зеленых» электростанций, а сырье — прямо из воздуха.

Позавчера, 20:22
3 минуты
Денис Гордеев

Эта награда вручается за деятельность в области научно-популярной и просветительской литературы.

27 октября
4 минуты
Денис Гордеев

Ученые пришли к выводу, что искусственные подсластители не могут быть здоровой заменой сладким напиткам.

26 октября
4 минуты
Денис Гордеев

Временные промежутки между посещениями дантиста могут составлять от трех месяцев до двух лет, в зависимости от индивидуальных факторов.

26 октября
8 минут
Василий Парфенов

Пусть романтика мирного атома с середины 1960-х поутихла, к идее использования ядерных реакторов в «гражданских» целях все равно возвращаются регулярно. Новый ядерный ракетный двигатель (ЯРД) позволит доставить человека на Марс гораздо быстрее, чем это возможно сейчас.

20 октября
4 минуты
Сергей Васильев

Глубоко в носоглотке ученые обнаружили новую — четвертую — пару крупных слюнных желез, о существовании которой ранее никто не подозревал.

16 октября
6 минут
Денис Гордеев

Люди со второй и четвертой группами крови с большей вероятностью переболеют Covid-19 в тяжелой форме.

1 октября
39 минут
Александр Березин

После советской эпохи атомные реакторы перестали запускать в космос, но сегодня все постепенно меняется. К атомной энергетике для марсианских колоний примеривается Илон Маск, проекты лунных АЭС прорабатываются в России — и все несмотря на то, что в космосе условия для солнечной энергетики лучше, чем на нашей планете. Что заставляет космическую отрасль все чаще думать об атомных реакторах? Как ни странно, дело в том, что и ядерная энергетика в космосе становится еще важнее, чем на Земле. Попробуем разобраться почему.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: