新知榜官方账号
2023-11-10 16:38:15
近期,多个国内外明星被AI(人工智能)换声的视频在网络上爆火,再次引发公众对AI技术的热议。无论是AI换声还是换脸,新技术的使用边界亟待明确,其背后的侵权、诈骗等隐忧更不容忽视。
在一条播放量达百万次的短视频中,相声演员郭德纲用英文说着《济公传》,视频里的声音不仅和郭德纲本人的音色没有什么出入,嘴型和英文发音也一一对应,着实难辨真假。这段精彩的单口相声秀引得网友发出惊叹。除了本土名人说英文,外国歌星泰勒·斯威夫特、演员艾玛·沃森等在访谈节目中用中文对答如流的视频,也引来网友围观。
无论声音还是图像,都可以通过特定的数学变换分解成若干个特征向量,对每个向量赋予特定的一组参数,就可以形成特定的声音或图像。所谓AI换声,就是通过机器学习的方法,用某个人以往的声音作为样本进行学习,从而给声音的每个特征向量赋予特定的参数,之后再用这组参数读出新的内容,就可以做到语音、语气甚至情感的模仿了。不过,要想达到逼真的效果,除了换声以外,还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现。
随着巨大流量涌入AI换声视频,其背后的公司也浮出水面,其中包括海外上线的AI换声网站HeyGen。该网站已推出免费版和付费版两种版本,其中,付费版最低收费为每月24美元,免费版仅限于生成1分钟时长视频。然而,HeyGen也面临着争议与热度齐飞。由于HeyGen用户可以将任何人的视频上传并换声,这可能涉嫌著作权、肖像权、声音权三个方面的侵权。
面对炉火纯青的AI生成技术,更有网友提出,一旦相关技术被用于网络诈骗,后果将难以想象。为此,国内外均有安全机构尝试研发技术手段来识别AI换脸或AI换声。目前国家网信办等三部门已联合发布《互联网信息服务深度合成管理规定》,要求深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识。
相关工具
相关文章
相关快讯
推荐
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49
国产GLM-4.5把AI价格打到地板价,实测强到离谱!
2025-07-30 09:08
用AI批量生成治愈系漫画,月入2000+
2025-07-29 09:59
千亿市场规模背后,AI短剧商业化迎来爆发期?
2025-07-17 09:19
15个作品涨粉26万!AI历史账号又出王炸案例!
2025-07-09 09:37