百度AI最新技术能克隆你的声音

新知榜官方账号

2023-09-30 17:18:20

背景介绍

百度DeepVoice项目最新get的能力,只需要听你说几句话,AI就能“克隆”出你的声音。DeepVoice推出于一年多以前,是一个能实时合成语音的神经网络系统。当时的第一代产品,一个系统只能学习一个人的声音,而且需要用几小时音频进行训练。百度一直在优化DeepVoice,随后的第二、三代模型就将所需的训练数据降到了半小时,一个系统还能模仿数千人的声音。这次的“语音克隆”研究,是这一系统的最新进步。

语音克隆效果

百度AI一分钟就能模仿你的声音,只需要10段说话人语音样本,最少只有1个,每段样本只有3秒。通过10段样本合成出来的语音,就很自然、和原说话人非常相似了。1段、5段样本训练出来的语音,无论用哪种模型,依然明显不像人类。

语音克隆技术探讨

百度探讨了解决语音克隆问题的两种基本方法:说话人适应(speaker adaptation)和说话人编码(speaker encoding)。这两种方法的主要过程如下图所示:

语音克隆方法流程图

两种方法都适用于带有说话人嵌入的多说话人语音生成模型,不会降低其质量。说话人适应基于反向传播,用少量样本对多说话人生成模型进行微调。说话人编码会单独训练一个模型,根据要克隆的音频,结合多说话人生成模型,来推理新的说话人嵌入。

语音克隆应用场景

听几句话就能模仿你,百度并不是唯一一家,加拿大AI创业公司Lyrebird去年也发布了类似的产品,能通过1分钟音频模仿说话人。这款产品模仿川普、奥巴马、希拉里的音频,可以说是广为流传。语音克隆技术的应用场景很广泛,比如可以用来制作虚拟助手、语音合成等等。

论文链接

想深入了解百度这次的语音克隆进展,可以查看他们的论文:Neural Voice Cloning with a Few Samples

本页网址:https://www.xinzhibang.net/article_detail-14541.html

寻求报道,请 点击这里 微信扫码咨询

关键词

百度AI 语音克隆 DeepVoice项目

分享至微信: 微信扫码阅读

相关工具

相关文章