为什么检测人工智能生成的文本如此困难，以及如何解决

新知榜官方账号

2023-07-08 18:12:37

为什么检测人工智能生成的文本如此困难，以及如何解决

近日，OpenAI发布了一款工具，可以检测一段文本是否是由其人工智能系统ChatGPT生产的。但是，如果你认为这样就可以高枕无忧，恐怕现实会让你失望了。一些教育工作者、记者和创作者认为，在没有任何方法来检测ChatGPT产生的文字的情况下，OpenAI仍选择将其发布是欠考虑的。因此，OpenAI发布了这款工具作为回应。然而，这仍然是一项正在进行中的工作，而且它是非常不可靠的。OpenAI表示，其人工智能文本检测器的准确识别率仅有26%。

尽管OpenAI在改进工具方面还有很多的工作要做，但它能做的其实很有限。想要做出一个能以100%准确率发现人工智能生成文本的工具，几乎是不可能的。加拿大英属哥伦比亚大学研究自然语言处理和机器学习的穆罕默德·阿卜杜勒-马吉德（MuhammadAbdul-Mageed）教授表示，检测人工智能生成的文本真的很难，因为人工智能语言模型追求的就是生成流畅和类人化的文本，模型就是在模仿人类创建的文本。阿卜杜勒-马吉德补充说，我们正在进行一场军备竞赛，以建立能够与最新、最强大的模型相抗衡的检测方法。新的人工智能语言模型更强大，更擅长生成流畅的语言，这很快就会使我们现有的检测工具过时。

OpenAI通过创建一个类似于ChatGPT的全新人工智能语言模型来构建它的检测器，该模型被训练得可以检测像它自己这样的语言模型所输出的文本。尽管披露的技术细节很少，但该公司显然会用人工智能生成的文本和人类写出来的文本来训练该模型，然后要求它分辨哪些文本是人工智能生成的。

然而，人工智能生成的文本往往难以辨别，这也是为什么检测人工智能生成的文本如此困难的原因之一。马里兰大学的研究人员开发了一种巧妙的方法，将水印应用到人工智能语言模型生成的文本中，他们已将相关技术免费开放。这些水印可以让我们几乎完全确定地指出哪些文本是人工智能生成。

ChatGPT带来的最大变化，可能是我们评估书面文本的方式的转变。人工智能初创公司LightningAI的人工智能研究员塞巴斯蒂安·拉奇卡（SebastianRaschka）表示，在未来也许学生不会再从零开始写东西，而将重点放在提出原创的想法。当人工智能系统的“想法“耗尽时，ChatGPT生成的论文和文本最终会变得极其相似，因为它受到其代码和训练集中数据的限制。拉奇卡说：“写出语法正确的文本变得更容易了，但原创性不会变得容易。”

综上所述，检测人工智能生成的文本困难重重，但是我们可以使用一系列工具来识别这些文本。同时，我们也需要继续研究新的检测方法，以适应人工智能技术的不断变化和发展。

本页网址：https://www.xinzhibang.net/article_detail-7080.html

寻求报道，请

关键词

分享至微信：

相关工具

原创度和AI内容检测

AISEO AI Content Detector

AISEO推出的AI内容检测器

CheckforAI

免费在线检测AI内容

Smodin AI Content Detector

多语种AI内容检测工具

CopyLeaks

AI内容检测和分级

Winston AI

强大的AI内容检测解决方案

Ai改写文章原创度检测

Ai改写文章原创度检测在文章润色过程中，我们通常需要进行原创度的检测。为了得到更好的润色效果，我们需要好的模型和提示词。本文介绍了使用不同的Ai模型进行文章润色和原创度检测的方法，并对比了各个模型的效果。我们首先使用讯飞星火模型进行文章润色，并进行原创度检测。然后我们尝试使用其他模型比较效果。不同的

分类标签 Ai原创度检测模型

11-22 22:36

科大讯飞翻译机3.0：专业翻译机的实用之处

科大讯飞翻译机3.0：专业翻译机的实用之处市面上各类在线翻译软件、App众多，解决旅游时简单的日常对话绰绰有余。如果你是商旅人士呢？和客户交流、谈判，在线翻译App就有些力不从心了，不仅使用效率低下，耽误沟通，而且双方对话也不能很好地识别，翻译结果不尽人意。此外，遇到大量医学、金融等专业词汇，甚至是

分类标签科大讯飞翻译机翻译机在线翻译软件

11-08 00:19

科大讯飞回应“AI同传造假”：从未讲过“AI同传”概念

科大讯飞9月21日晚间召开媒体交流会，就当天所谓“AI同传造假”一事予以正式回应。交流会上，公司董秘、高级副总裁江涛及翻译业务产品经理等回应了市场质疑。科大讯飞表示：公司从未讲过“AI同传”概念，人机耦合的“语音转写系统”被误解为“AI离线翻译系统”。据了解，科大讯飞目前翻译服务主要提供两种方案：一

分类标签科大讯飞AI同传离线翻译系统

11-08 00:18

科大讯飞回应网络消息称讯飞同传用人类翻译冒充AI

科大讯飞回应网络消息称讯飞同传用人类翻译冒充AI针对网络消息称讯飞同传用人类翻译冒充AI，科大讯飞21日下午做出了回应，称科大讯飞从没讲过AI同传的概念，始终强调是人机耦合的模式，人工智能目前还无法替代同传，人机耦合才是未来发展之道。此外，科大讯飞也对媒体解释道，科大讯飞智能会议系统提供两种解决方案

分类标签科大讯飞同传人机耦合

11-08 00:17

科大讯飞被指机器朗读真人同传作弊，公司回应称从没讲过AI同传的概念

据自媒体“量子位”报道，部分同传翻译揭发科大讯飞AI翻译涉嫌作弊，背后是机器朗读真人同传。就此，科大讯飞向有关媒体回应称，公司从没讲过AI同传的概念，始终强调是人机耦合的模式，并称人工智能目前还无法替代同传。据该自媒体报道，某王姓同传议员揭露，在2018创新与新兴产业发展国际会议（IEID）的“高端

分类标签科大讯飞机器朗读同传作弊

11-08 00:16

两个PPT必备神器，一键生成高级精致PPT，美丽艺术字、火箭搜图，附英豪工具箱一键转Word、生成GIF、生成PPT全图等功能，办公资源网提供各种场景和风格的PPT模板下载。

两个PPT必备神器做PPT没有灵感怎么办？Piti是一个智能生成PPT的神器，一键生成一套完整的PPT，包括设置封面、目录页、过渡页、内文、结尾等，只需要输入你需要的文本，选择喜欢的风格，点击确认生成即可。此外，美丽艺术字是另一个PPT必备工具，可以让你轻松找到喜欢的艺术字类型，只需要输入目标文本之

分类标签 PPT神器美丽艺术字火箭搜图英豪工具箱PPT模板下载办公资源网

11-03 10:45

如何绘制「UML类图」？附内容详解和优质实例分析！

如何绘制「UML类图」？附内容详解和优质实例分析！UML类图是一种用于描述系统中的对象、类及其关系的图形化表示方法。本文将从以下几个方面详细介绍如何绘制UML类图。1.确定类及其属性和方法在绘制UML类图之前，我们需要确定系统中存在哪些类以及它们的属性和方法。在此基础上，我们才能更加准确地绘制出UM

分类标签 UML类图绘制实例分析

10-27 14:11

微软推出全新服务AzureAIContentSafety内容安全，可跨应用程序和服务检测和过滤有害的AI和用户生成的内容

微软推出全新服务AzureAIContentSafety内容安全，可跨应用程序和服务检测和过滤有害的AI和用户生成的内容 10月19日消息，微软宣布全面推出AzureAIContentSafety内容安全，这是一项新服务，可帮助用户跨应用程序和服务检测和过滤有害的AI和用户生成的内容。该服务包括文

分类标签微软AzureAIContentSafety内容安全

10-20 03:02

本月排名前11个AI助手概述

本月排名前11个AI助手概述每个月，我们都会编制一份吸引注意力的领先人工智能助手名单。这使我们能够突出创新的人工智能，这些人工智能可以简化工作流程、生成内容、增强创造力并提高读者的效率。在本月的版本中，我们对最新的AI助手进行了彻底的研究和分析。我们跟踪了哪些工具获得了最多的用户保存，表明最受欢迎和

分类标签 AI助手人工智能创新

10-09 03:18

AI与原创性的关系

AI与原创性的关系AI无法像人类一样判断原创性的，因为AI没有自我意识和创造力。AI只是通过训练和学习已有的数据和算法，来生成新的内容或完成特定的任务。当AI生成的内容与已有的内容相似度较高时，可能会被认为是抄袭或剽窃，但这并不代表它具有原创性。目前，AI可以通过文本相似度、语义分析等技术来判断两篇

分类标签 AI原创性文本相似度

10-09 03:16

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway