AI语音技术被用于骗局,美国政府加强监管

新知榜官方账号

2023-07-05 20:04:56

AI语音技术被用于骗局,美国政府加强监管

美国软件公司ElevenLabs的网站提供了一种生成性人工智能(AI)系统,只需花费1美元,就能让任何人的一段简短音频说出指定的话。这种系统的出现使得诈骗变得更容易了。根据美国联邦贸易委员会(FTC)的数据,在疫情期间,使用AI语音技术进行诈骗的案件暴涨了70%。这种现象已经引起美国立法机构的注意。

根据美国联邦调查局(FBI)的一份最新报告,美国人2022年因网上诈骗和数字欺诈损失的钱财超过100亿美元。其中,冒名顶替诈骗是美国第二大流行骗局。生成性AI与语音诈骗有着密切的关系,因为通过声音克隆技术,一旦骗子在网上找到某个人的声音片段,就能轻易将其上传到复制声音的网站上,骗子可以利用这一声音“说出”他们输入的任何内容。在AI电话诈骗的案例中,AI算法可以分析一个人的声音中独特的因素,包括年龄、性别和口音,并搜索庞大的声音数据库,找到类似的声音并预测模式。这些算法获得成本也较低,并且能够通过非常容易获得的数据库进行训练。世界经济论坛研究与分析主管布鲁内曼在一篇报告中称,现今AI算法(包括生成模型)创造出的内容与真实图像、视频或音频记录几乎难以区分。

FTC已经发出警告,一些不良人士正在利用AI语音技术伪造紧急情况,骗取关心自己的亲人交出现金或私人信息。根据FTC的数据,关于人们被冒牌朋友或家人欺骗的事件超过36000起,其中有5100多起是通过电话发生的,造成的损失超过1100万美元。骗局的成功,使得AI语音技术的使用变得更加难以分辨。为了防止老年人被骗,美国参议院老龄化特别委员会主席凯西等参议员联合致信FTC主席可汗,要求该机构提供保护美国老年人免受AI相关欺诈的计划和政策。

据全球最大的专业安全技术公司迈克菲的调查,十分之一的受访者称他们收到过来自AI语音克隆的信息,其中77%的受害者说他们因此而损失了钱。在被骗取钱财的受害者中,36%的人损失在500美元到3000美元之间,而7%的人被骗金额在5000到15000美元之间。迈克菲的调查发现,53%的成年人称每周都会在网上或在录音笔记中分享他们的语音数据,49%的人这样做的频率多达每周10次。所有这些活动产生的语音记录都可能会受到黑客攻击、盗窃或分享。因此,联邦机构开始监管行动以保护消费者免受AI的影响。

据布鲁内曼引述的数据,2022年,有66%的网络安全从业者在其组织内经历过深度伪造(Deepfake)的攻击。她称,到2026年,多达90%的网络内容都将可能是AI合成的。银行业特别关注深度伪造攻击,92%的网络从业者担心这种技术被滥用于欺诈,涉及个人银行和支付等服务时尤其令人担忧。此外,深度伪造甚至有可能破坏选举结果,威胁社会稳定和国家安全。在某些情况下,深度伪造被用来操纵舆论或传播假新闻,导致公众的不信任和混乱。

美国政府已经开始加强监管行动,例如设置一条针对老年人诈骗案件的热线,收集相关报告为立法工作提供参考等。FTC也表示,该机构将利用其权力,尽可能地保护消费者免受AI的影响。但是,追踪语音诈骗者可能“特别困难”,因为他们可能使用世界上任何地方的电话,甚至很难确定哪个机构对某个特定案件有管辖权。为了应对这些新出现的威胁,必须继续开发和改进深度伪造检测技术,并促进媒体素养的提高,培养大众的批判性思维,教育公众了解深度伪造的危险以及如何识别它们。政府和监管机构可以在制定政策方面发挥重要作用,监管深层伪造技术,促进透明、可信赖和负责任的技术开发和应用。这样,我们才可以确保AI不会造成伤害。

本页网址:https://www.xinzhibang.net/article_detail-5982.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI 语音技术 骗局

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯