人工智能安全大赛收官：攻防场景展示引关注

新知榜官方账号

2023-10-16 17:46:31

16日，以“共筑AI安全安享智能未来”为主题的人工智能安全大赛在北京收官。本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办，旨在推动人工智能攻防技术创新、实战演练、场景挖掘和人才培养。本届大赛共吸引来自全国范围内70多所高校、科研院所、企业机构的超过400支团队、共计600余名选手参赛。

本次大赛展示了一系列真实攻防场景，引起了与会者们的关注。比如，有人将一张“神奇贴纸”放置在面部，就可以使人脸识别门禁系统“误认”是你，从而轻易打开大门；同样是这张“神奇贴纸”，把它放置在眼镜上，就可以1秒解锁你的手机人脸识别。

大赛结束后，与会者们在主题论坛上共同探讨如何在未来智能的全新战场打赢技术攻防之战。与会者们表示，重视人工智能安全体系建设，既是当务之急也是长远考虑，需加快促进人工智能安全领域关键技术研究与攻防实践。

人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术。模型有错误就需要及时修复，中国科学院信息安全国家重点实验室副主任陈恺提出“神经网络手术刀”的方法，即通过定位引发错误的神经元，进行精准“微创”修复。

开放环境下的人工智能系统面临诸多安全挑战，如何解决通用人工智能算法全周期的安全保障问题成为重中之重。北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示，从技术上来看应形成从安全性测试到安全性分析与安全性加固的完整技术手段，最终形成标准化的测试流程。工商银行金融研究院安全攻防实验室主管专家苏建明表示，人工智能安全治理需要广泛协作和开放创新，需加强政府、学术机构、企业等产业各参与方的互动合作，建立积极的生态规则。

人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。田天进一步分析说，“神奇贴纸”其实就是“对抗样本攻击”，通过在输入数据中添加扰动，使得系统作出错误判断。而在人工智能的全生命周期，不仅存在算法层面的安全性问题，算力作为人工智能发展的重要基础设施，也面临着诸多风险，推动人工智能算力基础设施安全发展具有重要意义。

最后，由国家工业信息安全发展研究中心牵头，联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》同期发布。撰写团队围绕人工智能算力基础设施安全发展的意义、内涵与体系架构、安全管理现状、发展建议等方面展开深入研究。

本页网址：https://www.xinzhibang.net/article_detail-16916.html

寻求报道，请

关键词

分享至微信：

相关工具

BeatBot

输入文本提示快速生成歌曲和音乐

魔音工坊

短视频/有声书AI配音平台，由出门问问推出

Audo Studio

AI音频清洗工具（噪音消除、声音平衡、音量调节）

Beatoven.ai

免版税AI音乐创建平台

讯飞智作

科大讯飞推出的AI转语音和配音工具

网易天音

网易推出的AI音乐创作平台

八款AI智能软件，让自媒体更高效

八款AI智能软件，让自媒体更高效自媒体是近年来兴起的一种新型媒体形式，其最大特点是自由度高、门槛低，需要的只是一台电脑和一些好的创意。但是，自媒体的运作离不开高效的工具支持，而现在，一些免费的AI智能软件，正逐渐成为自媒体从业者的必备工具。 1. ChatGPT ChatGPT是一款聊天机器人，

分类标签 AI智能软件自媒体工作效率

12-10 02:06

英语常见词汇误解及正确解释

英语常见词汇误解及正确解释本文介绍了常见英语词汇的误解及正确解释，包括bank holiday、bookmaker、coming of age、crow's feet、drawing room、living room、flat-footed、fourth estate、full of beans、g

分类标签英语词汇误解

12-05 22:11

万达集团推出数字人AI导游“小丹”，受到用户热烈欢迎

数字人AI导游“小丹”备受热捧6月5日，由万达集团企业文化中心打造的全国首个数字人AI导游“小丹”一经亮相，就收获了众多粉丝。用户们纷纷扫码体验，互动点赞。截至6月7日上午，上线2天体验用户超过28万人次，覆盖全国二十多个省市，其中江苏、广东和浙江三省的用户数居前。数字人AI导游“小丹”是由万达集团

分类标签数字人AI导游万达集团旅游服务

12-02 02:15

中国驻美大使秦刚在美国发表主旨演讲

长久以来，中国人和美国人在文化交流方面存在着诸多隔阂，导致很多美国人对中国，对亚裔群体存在天然的偏见。中国共产党成立百年来奋斗的初心和使命就是为人民谋幸福，坚持以人民为中心是我们的核心价值观，这种核心价值观在全球疫情之中体现到了淋漓尽致，中国举全国之力，不计代价抗击疫情，目前取得了举世瞩目的成果！秦

分类标签中国美国文化交流

12-02 02:14

八款AI智能软件推荐

八款AI智能软件推荐自媒体已有三年之久，我在这里分享八款AI智能软件，大部分是免费的哦！ChatGPTChatGPT是一款聊天机器人。它不仅可以像人类一样聊天交流，还可以写邮件、写论文、写视频脚本，翻译、敲代码等，能够帮助我们提高工作效率，解决各种日常问题。NotionAiNotion是一款强大的A

分类标签 AI智能软件自媒体写作助手

11-28 08:35

8款AI智能软件，提高工作效率，解决各种日常问题

8款AI智能软件，提高工作效率，解决各种日常问题阿志是一位自媒体人，已经使用了三年的AI智能软件，并在此期间取得了不错的成绩。以下是他分享的8款AI智能软件：ChatGPT：这是一款聊天机器人。它可以像人类一样聊天交流，还可以帮助我们写邮件、写论文、写视频脚本，翻译、敲代码等，能够提高工作效率，解决

分类标签 AI智能软件工作效率解决问题

11-23 22:10

人工智能技术在电话机器人系统中的应用

一、ai电话机器人系统简介ai电话机器人系统是一种基于人工智能技术的智能语音电话机器人系统，主要应用于客户服务、呼叫中心管理等领域。该系统采用自然语言处理技术，能够理解客户的需求，提供全天候的服务支持，有效提升企业的客户满意度和服务效率。二、ai电话机器人系统的应用场景ai电话机器人系统的应用场景非

分类标签 ai电话机器人系统人工智能技术客户服务呼叫中心管理

11-20 22:14

女王圣诞致辞：你并不孤单

每年12月25日圣诞节这天，英国君主都要发表圣诞致辞，这是从1932年开创的老传统了，昨天下午3点很多英国人守在电视机旁，收看女王伊丽莎白二世发表2020年圣诞致辞，通过BBC播出。今年情况有些特殊，女王只和丈夫菲利普亲王两人一起过圣诞，没能像以往一样一大家子团聚，或许是因为这个原因，女王今年致辞时

分类标签女王圣诞致辞DeepFakeAI换脸技术

11-17 22:24

关于“假货”在英文中的一些日常说法

关于“假货”在英文中的一些日常说法在英文中，“假货”有很多种说法，比如knockoff、fake等等。Knockoff通常指价格便宜、质量不好的假货，尤其是高档商品的复制品。Fake则是指假的、冒充的、假冒的，可以作为名词使用，直接表示假货的意思。此外，当我们说一个人“假装”时，可以使用fake作为

分类标签假货山寨货仿制品

11-17 22:23

国货在世界的地位

国货在世界的地位如今的世界变化的速度让我们猝手不及，甚至是快的让人感觉不到。这就是如今的世界。我们曾经对国产货一直缺乏信心，这是我们不可否认的一点。但是如今的中国制造已经今非昔比了，我们大家都可以感受到国货现在在人们的心中是非常有地位的。一方面是国货在这几年的时间里，品质拥有了质一般的飞跃，另一方面

分类标签国货中国制造假发

11-17 22:22