对抗性示例：从二维空间到黑盒攻击

新知榜官方账号

2023-10-20 09:24:19

引言

随着人工智能的炒作越来越多，对抗性示例的讨论也越来越多。对抗性示例是一种由机器学习模型错误分类的输入，通常是高维输入，例如照片、音频样本、文本串等。理解对抗性示例的关键之一是要了解机器学习模型如何做出决策和更高维空间对抗性噪音或扰动。

构建逻辑回归模型

为了演示对抗攻击中使用的一些核心技术，我们将构建一个逻辑回归分类器，它将作为我们打算攻击或欺骗的模型，或者我们的“受害者”模型。我们将调用两个输入变量X1和X2以及类0和类1来保持简单。逻辑回归将创建属于类1的数据点的概率分布，使用sigmoid函数和一些参数θ，然后将这个概率分布拟合到我们的数据中。我们将使用二元交叉熵损失作为损失函数来确定模型的预测与基础事实的接近程度。

基于梯度的攻击

基于雅可比或梯度的攻击的目的是在受害者模型的决策边界上移动一个点。在我们的例子中，我们将采用通常被归类为0类的点，并将其“推”到受害者模型的决策边界上，将其归类为1类。改变损失函数的偏导数w.r.t.X的值本质上就是在二维空间中移动X，方向只是一个对立的扰动的一个组成部分，我们还需要考虑到一个步骤，需要多大的步长才能在这个方向上跨越决策边界。对手必须考虑使用哪些数据点或输入，以及在决策边界上成功推送点所需的最小值。使用epsilon=0.5在受害者模型的决策边界上“推”几个数据点，我们已经成功创建了一些对抗性的例子！

黑盒攻击

黑盒攻击是指当我们对模型的工作方式一无所知时，我们仍然可以攻击模型。基于雅可比的数据集增强技术旨在训练另一个模型，称为替代模型，以与受害者模型共享非常相似的决策边界。一旦替代模型被训练为具有与受害者模型几乎相同的决策边界，则创建用于在替代模型的决策边界上移动点的对抗扰动也可能跨越受害者模型的决策边界。训练替代模型需要一组对黑盒模型可能可检测的ping信号。研究人员正在寻找越来越多的方法来保护他们的模型免受对抗性攻击。无论如何，我们必须积极了解模型的漏洞。

本页网址：https://www.xinzhibang.net/article_detail-17371.html

寻求报道，请

关键词

对抗性示例机器学习攻击逻辑回归黑盒攻击数据集增强

分享至微信：

相关工具

Ghostwriter

知名在线编程IDE Replit推出的AI编程助手

Imgcook

阿里推出的免费设计稿智能生成前端代码

Sketch2Code

微软AI Lab推出的将手绘草图转换成HTML代码工具

JamGPT

AI Debug调试助手

Deco

京东推出的设计稿一键生成多端代码工具

CodeWhisperer

亚马逊最新发布的免费AI编程助手

Cursor：一款人工智能驱动的代码编辑器

什么是Cursor？Cursor是一款由人工智能驱动的代码编辑器，可以帮助您更高效地编写代码。您可以使用Cursor以自然语言编辑代码，修复运行时错误，并定位难以找到的代码。它是一款AI-first的代码编辑器，旨在为配对编程提供AI支持。它可以帮助工程师更快地构建软件，官网号称：BuildSoft

分类标签 Cursor人工智能代码编辑器

11-27 16:05

AI轻量级创业与营销

AI轻量级创业与营销在当下的经济形势下，网络上的呼声都是劝阻大家不要创业、不要投资、不要买房……不管赚多赚少，工作是否舒心，总之，先苟着，落袋为安。而且，创业在经济条件好的时候，成功者也是极少数。需要投入资金成本、时间成本，还要承担巨大的心理压力。然而，创业也不一定要重资产注入，注册公司、挑选场地、

分类标签 AI创业营销

11-18 04:23

余博士教编程：刷新编程认知的GPT-4代码编辑器Cursor

余博士教编程：刷新编程认知的GPT-4代码编辑器Cursor这个视频会刷新你对编程的认知。基于GPT4的不用梯子也能国内使用，它能提高学生的学习效率，丰富老师的教学内容，下面一起演示一下。对于学生而言，Cursor可以当做GPT4来使用，及时的获取知识，按Ctrl+L切换到聊天窗口，非常准确的解答你

分类标签余博士编程GPT-4代码编辑器CursorAI

11-07 22:38

Cursor AI代码创造工具帮我完成了一个贪吃蛇游戏

Cursor AI代码创造工具帮我完成了一个贪吃蛇游戏最近的AI模型炒得很是火热，最近Gpt-4的发布，让大家对程序员将被替代这个话题也是讨论热烈。我想说的是：能打败程序员的，只能是程序员。今天又是不想动脑的一天，今天在记录我的工作日常时，突然想到前段时间安装了Cursor，要不今天就让它帮我写一个

分类标签 AI模型Gpt-4程序员Cursor贪吃蛇游戏积分功能

11-07 22:37

AI辅助编程工具-Cursor快速入门

AI辅助编程工具-Cursor快速入门Cursor是一款AI辅助编程工具，可以帮助程序员更快速地编写代码。与其他工具不同的是，Cursor是独立的IDE，无需在其他IDE中安装插件。它提供了两种模式，可以选择创建文件或通过chat方式生成代码。两种模式第一种模式是创建文件，可以选择各种语言，支持文件

分类标签 AI辅助编程工具Cursor编程工具

11-07 22:36

使用Cursor工具自动补全代码的方法

使用Cursor工具自动补全代码的方法如果你经常编写代码，那么你一定会遇到需要频繁输入相同代码的情况。这时，使用自动补全工具可以大大提高你的编码效率。Cursor是一款优秀的自动补全工具，它可以快速帮助你补全代码。使用Cursor的方法非常简单，只需要使用快捷键Ctrl+K，就可以调出需求编辑框，然

分类标签 Cursor快捷键自动补全

11-05 22:27

PS和AI操作方法：3D立体字体设计

PS和AI操作方法：3D立体字体设计在我们日常设计当中也会经常接触3D立体字体设计。以下是启乔君做出来的最终效果图：PS操作方法新建图层，并建立圆形选区，填充渐变色，取消选区使用混合器画笔，按住「Alt」使用鼠标左键点击圆形进行取样新建图层，并绘制想要的路径，跟自己需求绘制路径即可调用路径，右键点击

分类标签 PSAI3D立体字体设计

10-25 16:15

AI教程：3D效果之“绕转”

AI教程：3D效果之“绕转”在AI“3D”效果组中，绕转是一个非常有趣的效果。通过绕转可以把一个平面图形转成一个立体的图形，从而增强图形的立体感。首先，我们来看一下“绕转”效果的样例。在这个效果中，我们可以通过绕转来得到五角星、圆形和正方形等不同形状的立体图形。接下来，我们来讲解一下如何设置“绕转”

分类标签 AI教程3D效果绕转

10-25 16:14

用AI生成的双色球手选和机选号码

用AI生成的双色球手选和机选号码双色球是一种流行的彩票游戏，每期从红色球号码1-33中随机抽取6个，再从蓝色球号码1-16中随机抽取1个，组成一注彩票。玩家可以选择手动选号或者机器随机选号。如果玩家的选号与开奖号码完全一致，就可以中得最高奖金。有些玩家喜欢用AI技术来帮助他们选号，认为这样可以提高中

分类标签双色球AI选号器

10-21 16:28

Cursor：基于GPT4的新一代辅助编程神器

Cursor：基于GPT4的新一代辅助编程神器今天看到微软推出了新一代辅助编码工具——CopilotX，它不但可以根据描述生成代码，还可以根据代码生成文档、注释以及pullrequests，极大的提升了“结对编程”的体验。只是目前体验的话需要先加入等候列表。不过在前几天的时候，我在网上看到了一款基于

分类标签 CursorGPT4编程工具

10-21 16:26

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway