新知榜官方账号
2023-06-29 20:36:27
近年来,人们对AI深度伪造技术受到越来越多的关注,主要集中在视觉和听觉欺骗上。想象下AI换脸的可怕之处,前些年的Deepfake、ZAO技术再到最近的DALL·E2技术,如果不法分子利用这些技术进行诈骗,诱拐等违法行为时,我们又该如何防范?
只需15-30秒的某人的声音,理论上你就可以模仿任何人的声音。AI换声它本身就产生了许多严重的社会问题,就像视频深度伪造行业一样,就目前为止,监管机构对这种造假行为也没有更好的办法。
像KoeRecast和Voice.ai这样的新兴人工智能工具,如果可以提供足够的声源材料进行分析的话,就可以将音频输入转换为任何人声音的能力。在某些情况下,这些程序只需要15到30秒之间的分析及训练即可生成令人信服的模仿。虽然KoeRecast还处于测试阶段,马克·扎克伯格(MarkZuckerberg)利用自己原声进行了分析模仿,效果和本人声音已经无法分辨真假。
KoeRecast的创作者AsaraNear上周在接受采访时告诉记者,他打算未来发布一款桌面应用程序,该应用程序能够在Discord和Zoom等平台上实时转换用户的声音。当被问及不法分子利用KoeRecast进行违法犯罪可能性时,Near认为,“与任何技术一样,既有积极的也有消极的,但我认为绝大多数人类都是由善良的人组成的,并将从中受益匪浅。”不过反对者对此也表示:一些公司的员工、亲朋好友成为了诈骗的受害者,这些骗子冒充领导、朋友或亲人要求汇款,甚至可以利用类似的音频模仿家长进行诱拐儿童。
相关工具
相关文章
相关快讯
推荐
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49
国产GLM-4.5把AI价格打到地板价,实测强到离谱!
2025-07-30 09:08
用AI批量生成治愈系漫画,月入2000+
2025-07-29 09:59
千亿市场规模背后,AI短剧商业化迎来爆发期?
2025-07-17 09:19
15个作品涨粉26万!AI历史账号又出王炸案例!
2025-07-09 09:37
亲测真香!这6个AI工具让工作效率翻倍,同事追着问链接
2025-06-17 16:21
FLUX.1 Kontext 一出,AI生图领域 “地震” 了!
2025-06-06 15:38
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15