AI换脸技术被滥用,女主播遭恶意换脸色情视频售卖,多地警方通报诈骗案件

新知榜官方账号

2023-10-02 19:34:23

女主播遭恶意换脸色情视频售卖

近期,多名女主播遭遇了恶意换脸色情视频售卖,引发社会关注。其中,拥有670余万粉丝的网红女主播陈岚和拥有400多万粉丝的网红女主播杜悦也遇到类似情况。据陈岚介绍,她的照片被人做成了色情照片和视频,并在网上公开出售。为证明自己清白,她开始搜集相关证据,想找到根源。杜悦也表示,她被恶意换脸后的色情视频在境外社交平台上售卖。

利用AI换脸技术进行电信网络诈骗的案件不断发生

利用AI换脸技术进行电信网络诈骗的案件也时有发生。有人利用“AI换脸”技术,伪装成女性,诱导受害人与其“裸聊”。随后便以双方的视频录屏内容为证据,对受害人进行敲诈勒索。还有人利用“AI换脸”等技术,通过视频、语音等方式联系投资者,骗取投资者信任,开展荐股活动。多地警方通报了有关“AI换脸”的诈骗案件。

立法机关正加强对人工智能等领域法律问题的研究

立法机关正加强对人工智能等领域法律问题的研究,建立健全相关法律制度。为遏制“AI换脸”乱象,国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》要求,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。张起淮律师认为,对AI技术的监管要加强技术上的监管和鉴别,加强对相关技术的普及。如果遭遇了类似情况的侵权,要及时报案或起诉,不能因为怕麻烦,纵容此类现象。

本页网址:https://www.xinzhibang.net/article_detail-14977.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章

相关快讯