人工智能语言模型被滥用的三种方式

新知榜官方账号

2023-07-03 21:44:34

人工智能语言模型是目前科技领域最耀眼、最令人兴奋的东西。但它们也会带来一个重大的新问题：它们非常容易被滥用，并被部署为强大的网络钓鱼或诈骗工具。不需要编程技能。更糟糕的是，目前还没有已知的解决办法。科技公司争先恐后地将这些模型嵌入到大量的产品中，以帮助人们做一切事情，从预订旅行到安排日程，再到在会议中做笔记。但这些产品的工作方式--接收用户的指示，然后在互联网上寻找答案--创造了大量的新风险。

越狱为ChatGPT、Bard和Bing等聊天机器人提供动力的人工智能语言模型产生的文本，读起来就像人类所写。它们遵循用户的指示或“提示”（prompt），然后根据其训练数据，预测最可能跟在前一个词后面的词，从而生成一个句子。但正是这些模型如此优秀的原因——它们可以遵循指令——也使得它们容易被误用。这可以通过“提示注入”来实现，在这种情况下，有人使用提示来指导语言模型忽略之前的指示和安全护栏。

协助诈骗和网络钓鱼有一个比越狱更大的问题摆在我们面前。3月底，OpenAI宣布，它允许人们将ChatGPT集成到浏览和与互联网交互的产品中。初创公司已经在利用这一功能开发虚拟助手，使其能够在现实世界中采取行动，比如预订机票或在人们的日历上安排会议。允许互联网成为ChatGPT的“眼睛和耳朵”使得聊天机器人极易受到攻击。

Tramèr与来自谷歌、Nvidia和创业公司RobustIntelligence的研究团队合作发现，AI语言模型在部署之前就容易受到攻击。大型人工智能模型是根据从互联网上抓取的大量数据进行训练的。目前，科技公司只是相信这些数据不会被恶意篡改，Tramèr说。但研究人员发现，有可能在训练大型人工智能模型的数据集中“投毒”。只需60美元，他们就能购买域名，并在其中填入他们选择的图像，然后将其录入大型数据集。

本页网址：https://www.xinzhibang.net/article_detail-5056.html

寻求报道，请

关键词

分享至微信：

相关工具

秘塔写作猫推出的AI对话聊天工具

360智脑

360搜索最新推出的AI对话聊天机器人

Poe

问答社区Quora推出的问答机器人工具

DeepMind联创新公司推出的AI聊天机器人

Claude

ChatGPT的最为有力的竞争对手之一

Replika

AI对话陪伴工具

ChatGPT：人工智能内容生成工具引发关注与争议

背景介绍ChatGPT是一款利用人工智能技术来生成内容的工具，其应用范围涵盖多个领域。其被认为是继UGC、PGC之后的新型内容生产方式，AI绘画、AI写作等都属于AIGC的分支。2022年被认为是其发展速度惊人的一年。去年末，微软旗下的人工智能研究实验室OpenAI又发布了全新聊天机器人模型Chat

分类标签 ChatGPT人工智能AIGC

12-09 16:10

这些插件可以提高开发效率

这些插件可以提高开发效率艾斯视觉是一家拥有10年+经验的UI设计和前端开发公司，致力于为客户提供优质的服务。在开发过程中，我们使用了许多有用的插件，可以帮助我们提高开发效率。下面介绍了6个插件，包括：StringManipulation：用于字符串操作，提供了多种字符串操作功能，例如切割、替换、大小

分类标签 UI设计前端开发字符串操作代码补全序列图RESTfulAPI

11-30 02:44

微撰的AI写作功能和文章生成功能介绍

一、ai机器人聊天入口在哪里？在微撰中，可以通过搜索功能进入聊天界面，也可以通过点击页面上的“+”号，选择想要聊的话题和领域，以及微撰提供的其他功能，进入聊天界面。二、微撰的功能介绍微撰的AI写作功能微撰的AI写作功能可以根据用户输入的关键词或主题，自动生成相应的文章，并呈现在各大平台，比如微信、微

分类标签微撰AI写作文章生成

11-24 16:18

微撰AI机器人聊天入口和在线聊天机器人网页版在哪？功能介绍及使用流程

微撰的功能介绍微撰主要功能是帮助用户进行文章的写作和批量生成，使用微撰的AI写作技术可以自动识别用户的需求，快速生成高质量的文章。同时，微撰还支持文章的情感分析，可以根据用户的情感来调整文章的方向，使得文章更加贴近用户需求。此外，微撰还支持文章的分类管理，可以根据用户的需求将文章分类，方便用户查找和

分类标签微撰AI机器人聊天入口在线聊天机器人文章批量生成自媒体文章创作

11-24 16:16

低代码编程的优劣势分析

低代码编程的优劣势分析无代码/低代码编程确实还是有问题，但过不抵功，我个人还是比较看好的。低代码平台的主要缺点在于没法提供足够的灵活性来处理复杂的、非标准化的业务需求。特别是以表单驱动型为基础的轻量化低代码平台。例如，像是高度定制化的财务报告系统，低代码平台提供的组件和模块无法满足特定的数据处理和报

分类标签低代码编程灵活性不足技术背景模型驱动集成能力自定义能力

11-20 16:26

美国网民喜欢与人工智能聊天，ChatGPT、Bing和Bard成最受欢迎的聊天机器人

最新公布的一项调查结果显示，美国网民整体已经喜欢上了与人工智能聊天这件事。美国银行全球研究（BofAGlobalResearch）周一发布的研究报告显示，该行在对1100多名18至55岁的美国网民进行调查后发现，OpenAI公司的ChatGPT、谷歌的Bard和微软的Bing都得到了较大范围的使用。

分类标签美国网民人工智能聊天ChatGPTBingBard

11-11 02:35

AI聊天室VS文心一言：哪一个更加方便？

引言我们的AI聊天室已经正式开始公测了，今天我们就来盘点一下AI聊天室与百度文心一言的区别，以及两个AI工具的对话情况对比，看看哪一个AI聊天工具使用更加方便。AI聊天室VS文心一言历史方面的对话对比百度文心一言由于拥有大规模的中文数据，我们首先来看看两个AI对中国历史方面的介绍，看看谁更胜一筹！我

分类标签 AI聊天室文心一言对话情况工作报告编程能力制作食谱解答数学题旅游线路规划

11-11 02:34

VSCode常用插件推荐

VSCode常用插件推荐VSCode是我们前端开发的一个强大的IDE，所以选择趁手好用的插件是提高开发效率，然后剩下的时间用来摸鱼是很有必要滴。以下是本文推荐的常用的VSCode插件：Indenticator：直观地突出显示当前的缩进深度。此扩展可以单独使用，但建议与内置缩进指南一起使用（设置edi

分类标签 VSCode插件前端开发

10-22 16:42

2021年最流行的10款VisualStudioCode扩展

2021年最流行的10款VisualStudioCode扩展由于扩展可以很大程度提高开发的效率，VisualStudioCode俨然成为开发者社区最流行的一款编辑器。本文就为大家介绍下2021年最流行的10款VisualStudioCode扩展。AutoRenameTagAutoRenameTag是

分类标签 VisualStudioCode扩展开发生产力代码格式化Git

10-22 16:38

Visual Studio Code中帮助提高编码速度的10种途径

1. 快捷键绑定通过快捷键绑定，开发人员可以直接通过键盘执行大多数任务，这意味着不必花太多时间对不同的菜单和文件进行搜索，就可以实现想要的目标。2. 代码格式化程序与技术债务追踪器使用代码格式化程序是一种通过将所有内容格式化为相同的格式，来加快开发过程并确保代码具有一定程度一致性的方法。而技术债务追

分类标签 VisualStudioCode编码速度快捷键代码格式化程序技术债务追踪器Git服务器集成终端实时共享代码片段调试器智能感知禅定模式符号处理

10-22 16:36

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway