公安部提醒注意防范人工智能新型诈骗手段

新知榜官方账号

2023-11-11 16:18:28

公安部提醒注意防范人工智能新型诈骗手段

1月31日，公安部网安局发文提醒公众，注意防范合成声音和AI换脸等人工智能新型手段诈骗,建议通过多重验证、保护信息和相互提示的方式避免上当。

合成声音诈骗

所谓合成声音，是指骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。

据公安部网安局公布的案例，2020年12月，某公司财务小王接到领导电话，要求立刻给供应商转款2万元，并将转账信息以邮件形式发送，转款理由是避免缴纳滞纳金。由于老板的口音十分逼真，小王信以为真，在1小时内转款完成，后发现被骗。类似的案件也发生在国外。2019年9月，犯罪分子使用语音克隆软件对英国一家能源公司高管的声音进行模仿。该公司的执行董事在接听诈骗电话后，将24万美元汇入了一个匈牙利账户。目前，该罪犯仍未被抓获。

2020年2月20日，互联网安全专家公司Symantec报告了三起音频诈骗案例，犯罪分子通过电话会议、YouTube、社交媒体以及TED演讲获得了公司高管的音频，然后用机器学习技术复制高管的声音，致电财务部门的高级成员要求紧急汇款。

AI换脸诈骗

比声音合成更高级的骗术是AI换脸。近年来，以“深度伪造”技术（Deepfake）为代表的AI换脸技术日益成熟。通过“深度伪造”技术，可以将图片或视频中A的脸换到B的头上。

2019年8月，一个名为“ZAO”的AI换脸APP一度爆红，后因隐私、伦理等问题备受诟病。在“ZAO”APP中，用户只需上传一张自己的照片，就能将自己的脸替换到某位明星的头上，而且脸融合效果非常棒。这款应用强大的“换脸术”就是基于“深度伪造”技术。

目前，“深度伪造”技术正在被用于诈骗。骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。

近日，南京警方接到小李报警称，被诈骗3000元。小李介绍，大学同学通过QQ跟她借钱，对方打过来一段只有四五秒的视频电话，小李看到确实是本人，便放心转账。她在第二次转账时发现异常，再次拨通对方电话才得知同学的帐号被盗。警方判断，那段视频很有可能被人换了脸。目前，警方已立案。

《科技日报》此前援引安全分析公司Sensity的调查结果称，自2018年12月以来，“深度伪造”技术在线造假视频的数量大约每6个月翻一番，而截至2020年6月，造假视频已经多达49081个，比2019年7月增长了330%。

防范方法

公安部网安局提醒，面对AI换脸诈骗，“看眼睛”是识别假脸的方法之一。多数假脸都是使用睁眼照片合成，假脸极少甚至不会眨眼，缺少眨眼是判断一个视频真假的好方法。辨识“深度伪造”换脸视频的方法还包括语音和嘴唇运动的同步状况、情绪不符合、模糊的痕迹、画面停顿或变色。然而，专家指出，通过不断的技术迭代，迟早会有人可以通过“深度伪造”技术制造出人类用肉眼无法识别的“假脸”。

公众可以采取以下防范方法：

多重验证，确认身份。目前，AI换脸难以肉眼区分。因此，在涉及钱款时，尽量通过电话询问具体信息，确认对方是否为本人。
保护信息，避免诱惑。加强个人信息保护意识，对于不明平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息，以免被骗子“精准围猎”。
相互提示，共同预防。做好家中老人的宣传防范工作。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认，不要贸然转账。

责任编辑：李跃群校对：栾梦

本页网址：https://www.xinzhibang.net/article_detail-19693.html

寻求报道，请

关键词

分享至微信：

相关工具

创作王

AI一键帮助你创作营销内容

字符狂飙

全方位AI文档生成工具，快速生成专业文档

Effidit

腾讯AI Lab开发的智能创作助手

Rytr

AI内容生成和写作助手

HeyFriday

国内团队推出的智能AI写作工具

HyperWrite

AI写作助手帮助你创作内容更自信

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16