新知榜官方账号
2023-10-04 08:44:37
视频里那张脸正对着镜头,几乎不动,脸上的表情和平常没什么不一样。7秒视频通话后,济南人方杨宥就给对方指定账户转了30万。等到报了警,他才知道,原来视频里那张熟悉的脸是“假”的,屏幕另一端根本不是自己的亲戚,而是诈骗人员利用AI技术合成的影像视频。
这桩发生在今年5月的AI诈骗事件,并非孤例。随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为日益增多。此前,已有哈尔滨、福州等多地警方通报过有关AI换脸的诈骗事件。
北京市社会科学院法治研究所副所长、副研究员王洁长期从事反电诈研究,他认为,步入人工智能时代,人脸和声音已经成为一种亟须保护的信息。然而当下随着AI技术发展,利用AI换脸技术进行诈骗、造谣、侵犯肖像权或知识产权的行为屡屡发生,这意味着技术正被滥用,人脸这一重要信息极易“丢失”。
AI实时换脸技术发展的同时,也在迅速“平民化”。AI实时换脸技术在多个平台以百元左右的价格售卖,可观的利益驱动着AI灰色市场的发展,有商家自称月收入高达20万元。
“我们的未来一定是会和AI共存共生长的”,王洁说,这意味着人类也将和AI相关的侵权事件共生共存。如何让技术向善发展,成为当下一个非常重要的问题。
(以上内容摘自新京报)
相关工具
相关文章
相关快讯
推荐
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49
国产GLM-4.5把AI价格打到地板价,实测强到离谱!
2025-07-30 09:08
用AI批量生成治愈系漫画,月入2000+
2025-07-29 09:59
千亿市场规模背后,AI短剧商业化迎来爆发期?
2025-07-17 09:19
15个作品涨粉26万!AI历史账号又出王炸案例!
2025-07-09 09:37
亲测真香!这6个AI工具让工作效率翻倍,同事追着问链接
2025-06-17 16:21