AI换脸诈骗:人脸信息被滥用的危害

新知榜官方账号

2023-10-04 08:44:37

AI换脸诈骗:人脸信息被滥用的危害

视频里那张脸正对着镜头,几乎不动,脸上的表情和平常没什么不一样。7秒视频通话后,济南人方杨宥就给对方指定账户转了30万。等到报了警,他才知道,原来视频里那张熟悉的脸是“假”的,屏幕另一端根本不是自己的亲戚,而是诈骗人员利用AI技术合成的影像视频。

这桩发生在今年5月的AI诈骗事件,并非孤例。随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为日益增多。此前,已有哈尔滨、福州等多地警方通报过有关AI换脸的诈骗事件。

北京市社会科学院法治研究所副所长、副研究员王洁长期从事反电诈研究,他认为,步入人工智能时代,人脸和声音已经成为一种亟须保护的信息。然而当下随着AI技术发展,利用AI换脸技术进行诈骗、造谣、侵犯肖像权或知识产权的行为屡屡发生,这意味着技术正被滥用,人脸这一重要信息极易“丢失”。

AI实时换脸技术发展的同时,也在迅速“平民化”。AI实时换脸技术在多个平台以百元左右的价格售卖,可观的利益驱动着AI灰色市场的发展,有商家自称月收入高达20万元。

“我们的未来一定是会和AI共存共生长的”,王洁说,这意味着人类也将和AI相关的侵权事件共生共存。如何让技术向善发展,成为当下一个非常重要的问题。

(以上内容摘自新京报)

本页网址:https://www.xinzhibang.net/article_detail-15315.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI换脸 诈骗 人脸信息 隐私保护

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯