新知榜官方账号
2023-11-29 08:35:16
在微信朋友圈、微博、抖音等社交媒体平台,火爆全网的AI换脸软件Avatarify通过“蚂蚁呀嘿”特效走红,许多网友都将自己的照片导入这款软件中,生成一段跟着节奏晃动的视频。
Avatarify通过AI换脸技术让图片动起来,为网友带来新奇好玩的娱乐体验。这款软件早在去年7月就已经上线,但一直不温不火,直至“蚂蚁呀嘿”特效蹿红后,才带火了这款软件。
然而,Avatarify在火爆了不到一周后,就在3月2日从Appstore下架了。虽然官方未给出具体下架原因,但业界猜测该款软件可能涉及隐私安全等问题。
据中国商报,目前的换脸技术与国外一款开源的AI换脸软件deepfake极为相似。这项技术在带来创新体验的同时,也存在被滥用甚至侵害他人权益等额外风险,这也是Avatarify和ZAO引发质疑的共同原因。因此,围绕换脸技术的安全问题不可回避。
为了规范网络音视频信息服务,国家网信办、文旅部和广电总局等三个部门发布了《网络音视频信息服务管理规定》。其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定。规定同时指出,利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。且不得利用该技术“制作、发布、传播虚假信息”。此外,规定还强调,不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。
换脸技术的安全问题牵涉到用户的个人信息安全问题,也引起了有关部门的重视。个人信息保护法草案已经提请全国人大常委会审议,对保护个人信息安全将发挥重要作用。
相关工具
相关文章
相关快讯
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49