OpenAI推出新的AI分类器，用于区分文本是否是由AI编写的

新知榜官方账号

2023-07-08 18:26:29

OpenAI推出新的AI分类器，用于区分文本是否是由AI编写的

过去几个月，由人工智能实验室OpenAI发布的对话式大型语言模型ChatGPT在全球范围内掀起狂热之风。为了帮助用户判断哪些内容是由ChatGPT生产的，包括OpenAI、斯坦福大学等多家机构开始研究相应的AI内容识别工具。

近日，OpenAI推出一个经过训练的分类器，用以区分文本是否是由AI编写的。据其介绍，该分类器虽然不可能可靠地检测所有AI编写的文本，但能够通过提供信息来减少AI生成式文本是由人工编写的误判：例如，执行自动虚假内容营销，利用AI工具进行学术欺诈，以及将AI聊天机器人定位为人类。

据悉，该分类器是一种语言模型，该模型对基于同一主题的人工编写文本和AI编写文本的数据集进行不断调整。OpenAI从人工编写的各种来源收集数据集，例如预训练数据以及提交到InstructionGPT的各种人工的演示，将每个文本分为提示和响应。根据提示，可以从分类器以及其他组织训练的各种不同语言模型中生成响应。OpenAI调整了WebApp的置信度阈值，可以保持较低的误报率。换句话说，只有分类器非常有把握的时候，才会将文本标记为可能是AI编写的。

目前，该分类器的准确性还很低。据悉，OpenAI对英语文本“ChallengeSet”进行了评估，分类器正确地将26%AI编写的文本（真阳性）识别为“可能是AI编写的”，而错误地将9%人工编写的文本标记为AI编写的（假阳性）。OpenAI表示，目前该分类器仍存在局限性，所以不应该将它作为主要决策工具，而应该作为确定文本来源的其他方法的补充。

具体来说：分类器在短文本（1,000个字符以下）上非常不可靠。甚至更长的文本有时也会被错误标记。有时，人工编写的文本会被错误但自信地标记为AI编写。建议仅对英语文本使用分类器。它在其他语言中的表现明显较差，代码不是很有效。无法可靠地识别已经十分确定的文本。例如，无法预测前1,000个素数的列表是AI还是人写的，因为谁来写都是一样的。编辑AI编写的文本可以避开分类器。虽然所有类似的分类器可以通过成功的检测来更新算法并重新训练，但目前还不清楚这种检测是否可以具有长期优势。众所周知，基于神经网络的分类器除了训练数据外的其它的校准效果很差。如果输入的文本与训练集中的非常不一样，分类器多半会得到错误的预测。OpenAI认为，分类器的可靠性，通常会随着输入文本长度的增加而提高。与OpenAI此前发布的分类器相比，新的分类器对来自最新AI系统编写的文本会更加有效。

参考链接：https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/

本文转载来源：https://www.infoq.cn/news/1Sb8qfMAjMivNCWtxRdV

本页网址：https://www.xinzhibang.net/article_detail-7087.html

寻求报道，请

关键词

OpenAI ChatGPT AI内容识别工具

分享至微信：

相关工具

Sapling AI Content Detector

Sapling.ai推出的免费在线AI内容检测工具

Winston AI

强大的AI内容检测解决方案

Originality.AI

原创度和AI内容检测

Writecream AI Content Detector

Writecream推出的AI内容检测工具

Smodin AI Content Detector

多语种AI内容检测工具

StudyCorgi ChatGPT Detector

StudyCorgi推出的帮助学生检测ChatGPT的工具

2023年十大杰出的开发者工具

2023年十大杰出的开发者工具在软件开发的快速演变中，为开发者和企业保持最新的工具和技术是至关重要的。在这篇综合指南中，我们将探讨在2023年推出的十大杰出的开发者工具。这些尖端的解决方案有望彻底改变开发者的工作方式，提高整个行业的生产力、效率和创造力。1. CodeFusionProCodeFus

分类标签 CodeFusionProDataGuardianAICodeAnalyzer

10-12 11:24

检测ChatGPT、GPT-10、Bard和Claude的4大工具

我们生活在一个人工智能（AI）繁荣的时代每周都会发布可以像人类一样写作的新大型语言模型（LLM）。这些模型可以生成极具创意的内容，不幸的是，一些学生和专业人士滥用它们来抄袭。因此，人工智能检测工具已成为每个教室、工作场所和研究机构的必备工具。本博客中提到的所有工具都是免费的，其中一些甚至带有Chro

分类标签人工智能语言模型抄袭检测AI检测工具

08-05 02:54

如何快速检查文章抄袭？

如何快速检查文章抄袭？文章抄袭是一件让教师和学者们非常失望和痛恨的事情。为了解决这个问题，我们可以利用一些专门的检查工具来快速检查文章是否存在抄袭的嫌疑。1. 使用Word反抄袭插件进行检查我们可以使用Word反抄袭插件Copyleaks Plagiarism Checker，快速检查文章是否存在抄

分类标签文章抄袭检查工具Word插件在线检查工具抄袭检查软件搜索引擎

07-10 09:26

如何区分AI和人类创作的内容？——AI生成内容的检测方法

背景自2022年11月推出以来，ChatGPT一直备受关注。其根据输入内容和上下文提供类似于人类的回应能力，给一些重视原创内容的领域带来了困扰，包括教育、内容营销、出版、新闻和法律等领域。他们最大的问题是“我们如何区分AI和人类创作的内容？”以及“我们如何检测AI生成的内容？”。手动检测手动检测可以

分类标签 AI人类创作内容检测

07-06 14:54

阅文集团与彩云科技合作，推出30部AI翻译网文作品

阅文集团与彩云科技合作，推出30部AI翻译网文作品近日，阅文集团与国内人工智能公司彩云科技合作的30部AI翻译网文作品，上线阅文旗下海外门户起点国际（Webnovel）。平台同步上线“用户修订翻译”功能，使用户能够在阅读过程中对AI翻译进行编辑修正，修订信息将帮助翻译模型不断优化效果。接下来，阅文的

分类标签阅文集团彩云科技AI翻译起点国际网文出海翻译模型

07-03 01:43

彩云小译：AI翻译的全新突破

彩云小译：AI翻译的全新突破在全球关注与热议中，第52届CES圆满结束，作为全球最大的科技消费展，今年可谓盛况空前：四千多家科技厂商参展，现场人数更是突破了18万人次，展会前一天还免费的停车场在展会当天竟然涨到40美金，火爆程度可见一斑。在各类产品中，彩云小译APP凭借先进的概念与务实的功能脱颖而出

分类标签彩云小译AI翻译CES

07-02 23:06

彩云科技AI翻译助力中国文化输出

起点国际(Webnovel)上线“AI翻译”版块近日，阅文集团旗下的起点国际(Webnovel)上线了“AI翻译”版块。在翻译质量与人工翻译几乎无差别的情况下，AI将网文翻译速度提升了千倍，使得译文与原作同步更新、海外读者“零时差”追文成为可能。与出海巨人阅文一起为外国读者提供“海量网文”的，是国内

分类标签彩云科技AI翻译中国文化输出

07-02 23:04

袁行远：从阿里巴巴算法工程师到彩云天气、彩云小译创始人

简介德阳是一座古蜀文明与现代工业文明交相辉映的城市，在这座城市发展的过程中，每一个人都是见证者、参与者，每一个人也都有关于与这座城市之间的故事，或精彩、或平淡、或刻骨铭心、或过眼云烟......他们中既有个人创业的平民英雄，也有在各自领域取得非凡业绩的专业人士，我们追寻这些人物，记录他们平凡而独特的

分类标签袁行远彩云天气彩云小译

07-02 18:32

国际医学大数据学术研讨会暨Datathon活动即将举行

国际医学大数据学术研讨会暨Datathon活动即将举行当今世界，信息技术发展突飞猛进、日新月异，驱动着人类的梦想和创新的脚步，从云计算、大数据、物联网，到5G通讯和人工智能技术，无一不是颠覆传统、改变规则的新领域。2018年11月30日，解放军总医院联合《中国医疗设备》杂志社、麻省理工学院（MIT）

分类标签医学大数据临床研究数据挖掘

07-02 13:22

人工智能翻译软件彩云小译的使用体验

科技改变生活今天下午，世超说要去买星巴克喝，各位差友都知道，差评君在村里办公，买星巴克是要进城的。。。结果跟他出去的同事，全翘班了一下午！请忽略群名。。。世超左右不分到b和d都能弄混，所以很讨厌英语，英语极差。甚至因为他总错打单词，差评公众号的年度热词有个错词。。。把Android打错成Andrio

分类标签彩云小译人工智能翻译同声传译

07-02 13:20

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway