新知榜官方账号
2023-06-29 20:36:27
近年来,人们对AI深度伪造技术受到越来越多的关注,主要集中在视觉和听觉欺骗上。想象下AI换脸的可怕之处,前些年的Deepfake、ZAO技术再到最近的DALL·E2技术,如果不法分子利用这些技术进行诈骗,诱拐等违法行为时,我们又该如何防范?
只需15-30秒的某人的声音,理论上你就可以模仿任何人的声音。AI换声它本身就产生了许多严重的社会问题,就像视频深度伪造行业一样,就目前为止,监管机构对这种造假行为也没有更好的办法。
像KoeRecast和Voice.ai这样的新兴人工智能工具,如果可以提供足够的声源材料进行分析的话,就可以将音频输入转换为任何人声音的能力。在某些情况下,这些程序只需要15到30秒之间的分析及训练即可生成令人信服的模仿。虽然KoeRecast还处于测试阶段,马克·扎克伯格(MarkZuckerberg)利用自己原声进行了分析模仿,效果和本人声音已经无法分辨真假。
KoeRecast的创作者AsaraNear上周在接受采访时告诉记者,他打算未来发布一款桌面应用程序,该应用程序能够在Discord和Zoom等平台上实时转换用户的声音。当被问及不法分子利用KoeRecast进行违法犯罪可能性时,Near认为,“与任何技术一样,既有积极的也有消极的,但我认为绝大多数人类都是由善良的人组成的,并将从中受益匪浅。”不过反对者对此也表示:一些公司的员工、亲朋好友成为了诈骗的受害者,这些骗子冒充领导、朋友或亲人要求汇款,甚至可以利用类似的音频模仿家长进行诱拐儿童。
相关工具
相关文章
相关快讯
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49