新知榜官方账号
2023-07-05 20:04:56
美国软件公司ElevenLabs的网站提供了一种生成性人工智能(AI)系统,只需花费1美元,就能让任何人的一段简短音频说出指定的话。这种系统的出现使得诈骗变得更容易了。根据美国联邦贸易委员会(FTC)的数据,在疫情期间,使用AI语音技术进行诈骗的案件暴涨了70%。这种现象已经引起美国立法机构的注意。
根据美国联邦调查局(FBI)的一份最新报告,美国人2022年因网上诈骗和数字欺诈损失的钱财超过100亿美元。其中,冒名顶替诈骗是美国第二大流行骗局。生成性AI与语音诈骗有着密切的关系,因为通过声音克隆技术,一旦骗子在网上找到某个人的声音片段,就能轻易将其上传到复制声音的网站上,骗子可以利用这一声音“说出”他们输入的任何内容。在AI电话诈骗的案例中,AI算法可以分析一个人的声音中独特的因素,包括年龄、性别和口音,并搜索庞大的声音数据库,找到类似的声音并预测模式。这些算法获得成本也较低,并且能够通过非常容易获得的数据库进行训练。世界经济论坛研究与分析主管布鲁内曼在一篇报告中称,现今AI算法(包括生成模型)创造出的内容与真实图像、视频或音频记录几乎难以区分。
FTC已经发出警告,一些不良人士正在利用AI语音技术伪造紧急情况,骗取关心自己的亲人交出现金或私人信息。根据FTC的数据,关于人们被冒牌朋友或家人欺骗的事件超过36000起,其中有5100多起是通过电话发生的,造成的损失超过1100万美元。骗局的成功,使得AI语音技术的使用变得更加难以分辨。为了防止老年人被骗,美国参议院老龄化特别委员会主席凯西等参议员联合致信FTC主席可汗,要求该机构提供保护美国老年人免受AI相关欺诈的计划和政策。
据全球最大的专业安全技术公司迈克菲的调查,十分之一的受访者称他们收到过来自AI语音克隆的信息,其中77%的受害者说他们因此而损失了钱。在被骗取钱财的受害者中,36%的人损失在500美元到3000美元之间,而7%的人被骗金额在5000到15000美元之间。迈克菲的调查发现,53%的成年人称每周都会在网上或在录音笔记中分享他们的语音数据,49%的人这样做的频率多达每周10次。所有这些活动产生的语音记录都可能会受到黑客攻击、盗窃或分享。因此,联邦机构开始监管行动以保护消费者免受AI的影响。
据布鲁内曼引述的数据,2022年,有66%的网络安全从业者在其组织内经历过深度伪造(Deepfake)的攻击。她称,到2026年,多达90%的网络内容都将可能是AI合成的。银行业特别关注深度伪造攻击,92%的网络从业者担心这种技术被滥用于欺诈,涉及个人银行和支付等服务时尤其令人担忧。此外,深度伪造甚至有可能破坏选举结果,威胁社会稳定和国家安全。在某些情况下,深度伪造被用来操纵舆论或传播假新闻,导致公众的不信任和混乱。
美国政府已经开始加强监管行动,例如设置一条针对老年人诈骗案件的热线,收集相关报告为立法工作提供参考等。FTC也表示,该机构将利用其权力,尽可能地保护消费者免受AI的影响。但是,追踪语音诈骗者可能“特别困难”,因为他们可能使用世界上任何地方的电话,甚至很难确定哪个机构对某个特定案件有管辖权。为了应对这些新出现的威胁,必须继续开发和改进深度伪造检测技术,并促进媒体素养的提高,培养大众的批判性思维,教育公众了解深度伪造的危险以及如何识别它们。政府和监管机构可以在制定政策方面发挥重要作用,监管深层伪造技术,促进透明、可信赖和负责任的技术开发和应用。这样,我们才可以确保AI不会造成伤害。
微信扫码咨询
相关工具
相关文章
相关快讯
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49