基于Transformer的FastSpeech模型改善端到端TTS的语音合成速度和质量

新知榜官方账号

2023-10-03 06:46:16

1. 背景

基于神经网络的端到端TTS模型存在推理速度慢、合成语音不稳健等问题。本文提出了一种基于Transformer的FastSpeech模型，可以并行生成梅尔频谱，加速合成过程，并且在语音质量方面达到了自回归模型的水平。

2. FastSpeech模型

FastSpeech模型是一种前馈Transformer网络，用于为TTS并行生成梅尔频谱。与自回归模型相比，FastSpeech模型可以将梅尔频谱生成速度提高270倍，将端到端语音合成速度提高38倍。FastSpeech模型包含前馈Transformer、长度调节器和持续时间预测器。

3. 实验结果

在LJSpeech数据集上的实验表明，FastSpeech模型在语音质量方面达到了自回归模型的水平，并且可以平滑地调整语音速度。与自回归TransformerTTS模型相比，FastSpeech模型可以将梅尔频谱生成速度提高270倍，在最终语音合成时速度提高38倍，并且几乎消除了单词跳过和重复的问题。此外，FastSpeech模型可以通过在相邻音素之间添加间隔来控制部分韵律。

4. 结论

FastSpeech模型是一种基于Transformer的前馈网络，用于并行生成梅尔频谱。实验表明，该模型可以显著提高合成速度，并且在语音质量方面达到了自回归模型的水平。该模型还具有可控性，可以通过长度调节器和间隔来控制语音速度和韵律。未来的工作将进一步探索FastSpeech模型在其他语音任务中的应用。

本页网址：https://www.xinzhibang.net/article_detail-15119.html

寻求报道，请

关键词

端到端TTS FastSpeech Transformer 梅尔频谱语音合成音素

分享至微信：

相关工具

Voicemod

AI变声工具

Play.ht

超真实在线AI语音生成

听悟

阿里推出的AI会议转录工具，万语千言，心领神悟

Notta

AI在线将语音转换成文字

Audo Studio

AI音频清洗工具（噪音消除、声音平衡、音量调节）

Boomy

AI音乐生成工具

Achronix如何降低ASR解决方案的成本

概述本篇白皮书详细介绍了自动语音识别（ASR）的应用场景，以及Achronix如何在实现ASR解决方案的同时将相关成本降低高达90%。交互式人工智能（CAI）简介什么是交互式人工智能（AI）？交互式人工智能（CAI）使用机器学习（ML）的子集深度学习（DL），通过机器实现语音识别、自然语言处理和文本

分类标签自动语音识别交互式人工智能CAINLPASRFPGA

12-07 22:33

如何做到每天进步

如何做到每天进步如果你现在没有那么厉害，不要紧，只要你努力，只要你尽力而为。首先，要明确跟自己比较的重要性。竞争是无处不在的，但是我们更应该关注的是自己的个人成长和发展。每天努力比上次做得更好，后天也是，天天比昨天好。我们要竭尽所能，不断进步，才能提高个人竞争力。其次，要制定目标和计划。明确自己的目

分类标签自我超越努力进步个人竞争力

11-30 16:12

8款AI智能软件，提高工作效率，解决日常问题

ChatGPTChatGPT是一款聊天机器人，可以写邮件、写论文、写视频脚本，翻译、敲代码等，能够帮助我们提高工作效率，解决各种日常问题。NotionAiNotion是一款强大的Al写作助手。它能根据输入的关键词，推荐相关的文章素材，可以帮助我们提高文章的质量和准确度。MidjourneyMidjo

分类标签 AI智能软件自媒体工作效率

11-28 08:47

谷歌推出适配Pixel手机的全神经元设备端语音识别器Gboard

最近华为和三星为新机像素互相掐架。神仙打架分外精彩，但智能手机，不是应该比谁更智能吗？大多数人都不知道Google有一个手机亲儿子——Pixel。近日网上有消息透露，谷歌将新推出Pixel3a和Pixel3aXL两款中端机型。比Google手机本身更惹人期待的是，可以适配所有Pixel手机的Gboa

分类标签谷歌Pixel手机语音识别器

11-20 10:16

思必驰-上海交通大学智能人机交互联合实验室10篇论文被INTERSPEECH2020收录

思必驰-上海交通大学智能人机交互联合实验室10篇论文被INTERSPEECH2020收录国际顶级的语音技术圈会议INTERSPEECH2020于10月25-30日在中国上海举办，本次会议主题为“CognitiveIntelligenceforSpeechProcessing”。对话式人工智能平台公司

分类标签思必驰语音技术INTERSPEECH2020说话人识别语音识别口语语义理解

11-20 10:15

谷歌宣布增强Google Assistant技能，新增“阅读”功能

谷歌宣布新增“阅读”功能谷歌于今日宣布了一项名叫“阅读”（Readit）的Google Assistant增强技能。顾名思义，它可以帮助用户大声朗读网页文章、博客、或者短篇小说。在浏览相关网页的时候，你可唤出谷歌智能助理来执行这项操作，比如喊一声“Hey Google，Read this page”

分类标签谷歌GoogleAssistant阅读

11-20 10:14

云听CEM：帮助企业管理客户体验的新兴企业客户管理概念

云听CEM：帮助企业管理客户体验的新兴企业客户管理概念早期的企业客户管理系统以SAP、Salesforce等为代表，通过打通企业内部的业务流，整合数据，帮助用户提升了运营效率。但随着互联网的发展以及消费市场竞争的加剧，获取全渠道、全触点消费者的体验信息并基于此改善企业产品服务逐渐成为重点，这一趋势在

分类标签 CEM客户体验管理视界信息

11-08 08:51

五款免费听歌APP推荐

五款免费听歌APP推荐现如今人们版权意识越来越高，音乐平台也开始了版权争夺战。以前每个平台都能听到喜欢的歌曲，现在却不得不在几个APP之间来回切换，实在是非常麻烦，也不知道这场版权争夺战什么时候能结束。但在此之前，我找到了5个非常不错的听歌APP分享给大家，希望各位都能在听歌的时候能够不受限制。1.

分类标签听歌APP免费下载播放器音乐平台

11-08 08:50

语音对话推荐：研究、数据集、评估与展望

引言近年来，推荐系统在工业界取得了巨大成功，甚至成为互联网发展中不可或缺的增长引擎，基于此研究者们也在积极探索推荐系统的新形态，其中对话推荐系统（Conversational Recommender System，简称CRS）作为一个备受关注的研究方向被热议。对话推荐系统主要是通过使用自然语言进行多

分类标签语音对话推荐ConversationalRecommenderSystemVCRS

10-28 08:59

SoundHound或成AI语音助手竞赛中的大黑马

SoundHound或成AI语音助手竞赛中的大黑马据台湾《中时电子报》2月2日报道，除了Google Assistant、苹果Siri以及亚马逊Alexa之外，还有哪一款AI(人工智能)语音助手即将出头天？日前获得英伟达(NVIDIA)以及三星连手投资7500万美金的SoundHound，很可能将是

分类标签 AI语音助手SoundHound自动驾驶

10-28 08:57