大学生开发出能识别ChatGPT生成文本的应用程序

新知榜官方账号

2023-07-04 00:12:37

大学生开发出能识别ChatGPT生成文本的应用程序

一名22岁的大学生开发了一款应用程序，他声称可以用来检测出文本是否是通过ChatGPT生成的。ChatGPT这款爆炸性的聊天机器人的出现，也引起了人们对学术界剽窃行为的担心。

普林斯顿大学（Princeton University）修读计算机科学与新闻学双学位的大四学生爱德华·田（Edward Tian）利用一个寒假的时间研发出了GPTZero这款应用，在其推出后的一周内就有超三万人注册使用。田说，他开发这款应用的动机是为了解决利用人工智能来躲避反抄袭软件，并且以快速、可信的学术写作水平在考试中作弊的问题。

他最初的推文声称该应用程序可以“快速高效地”检测一篇文章是否由人工智能编写。后来，这条推文快速走红，阅读量超过了500万。由于大量用户的涌入，刚推出的GPTZero应用也因此崩溃。随后，托管这款应用的免费平台Streamlit开始介入，为其提供更多的托管和内存支持，从而解决网络流量问题。

就GPTZero的工作原理而言，为了检测文本是否由人工智能编写，这款应用主要评估的是文本的“困惑性”（perplexity）和“爆发性”（burstiness）这两个指标。前者主要指的是文本的复杂性，而后者主要强调的是句式结构的变化程度。值得一提的是，ChatGPT是在类似的数据库基础上训练出来的，而人类写作的遣词造句通常都更具有随机性。因此，如果GPTZero对测试文本的熟悉程度越高，那它是由人工智能编写出来的可能性就越大。

田还提到，其推出的较新模型也使用了相同的原则，但在检测文本的人工智能参与方面的能力却有所提高。“我将多篇BBC新闻报道和与该报道标题相同但由人工智能编写的文章整理成了一个数据集，以用来测试新的模型。结果发现，新模型的误报率不到2%。”他说。

新南威尔士大学（The University of New South Wales）人工智能首席教授托比·沃尔什（Toby Walsh）则并不相信这款应用的能力。他表示，除非有大公司开始使用GPTZero，否则即便ChatGPT被用于剽窃，它也不可能对ChatGPT的性能产生什么影响。

“对学校教授而言，这个工具既有实用性，但同时也存在一定的危险。如果过于信赖检测结果，那就会出现更多错误的标记。”那位用户补充道。

“有点厉害，不过ChatGPT的确非常强大。”另一位用户写道。

“我通过ChatGPT生成了一段法语文本，并从中挑选了约350词用于检测。检测之前，我还人为轻微修改过这段文本，让整体的风格更加自然，同时还添加了一两句上下文，并加入了一些专有名词。”这位用户补充道，“最后，通过了GPTZero的检测，它显示这段文本更有可能是人类编写的。所以，我并不是特别相信这个应用能真正检测出一定程度的半人工半人工智能编写的文本。”

本页网址：https://www.xinzhibang.net/article_detail-5105.html

寻求报道，请

关键词

分享至微信：

相关工具

Winston AI

强大的AI内容检测解决方案

AI Content Detector

Writer推出的AI内容检测工具

GPTZero

超过百万人都在用的免费AI内容检测工具

GPT Detector

在线检查文本是否由GPT-3或ChatGPT生成

Originality.AI

原创度和AI内容检测

Smodin AI Content Detector

多语种AI内容检测工具

ChatGPT：给学生带来便利，也引发学术诚信担忧

ChatGPT: 给学生带来便利，也引发学术诚信担忧自2022年末爆火以来，人工智能聊天机器人ChatGPT在各领域获得了广泛运用。具备了搜索引擎的全知全能和人工智能的灵活精巧，ChatGPT也受到了广大学生群体的青睐。让ChatGPT代写作业已不罕见，代撰写个人陈述、代参加远程考试等花样“操作”也

分类标签 ChatGPT人工智能学术诚信

12-04 22:22

聊天机器人ChatGPT引发美教育界讨论，如何应对新科技带来的挑战？

人工智能聊天机器人ChatGPT自2022年末爆火以来，在各领域获得了广泛运用。具备了搜索引擎的全知全能和人工智能的灵活精巧，ChatGPT也受到了广大学生群体的青睐。让ChatGPT代写作业已不罕见，代撰写个人陈述、代参加远程考试等花样“操作”也层出不穷。传统教育要如何应对新科技带来的挑战？美国教

分类标签 ChatGPT人工智能教育学术诚信教学新科技

12-04 22:22

AI内容检测工具推荐

AI内容检测工具推荐随着自生成式AI创作机器人的出现，各行各业都开始使用它来撰写文章甚至学术论文。为了确保内容的原创性并保持完整性，一些AI内容检测工具应运而生。以下是几个可以检测AI生成内容的工具：Copyleaks：可以区分AI生成的内容和人类编写的内容，准确性检测超过99%，支持多种语言。GP

分类标签 AI内容检测工具

12-03 02:31

田华开发的GPTZero：一款用来检测ChatGPT作业作弊的应用程序

近年来，由于ChatGPT的出现，越来越多的人开始使用它来完成工作和学习。但是，这种作弊行为却将减弱人们的创作性，因此许多公司和学校禁止员工和学生使用ChatGPT。同时，如何判断一篇文章是由机器生成的，正在成为老师们的难题。田华是普林斯顿大学的一名学生，他开发了一款应用程序GPTZero，用来检测

分类标签 GPTZeroChatGPT作业作弊

11-06 04:10

OpenAI发布AIclassifier工具用于识别人工智能生成的文本

OpenAI最近发布了一款名为AIclassifier的工具，用于识别人工智能生成的文本。这款工具可以在同一主题的人工和AI文本对数据集上进行训练，从而区分AI编写的文本。OpenAI表示，它使用各种供应商来解决自动错误信息和学术不诚实等问题。尽管OpenAI承认该检测工具对1,000个字符以下的

分类标签 OpenAIAIclassifierChatGPT人工智能文本生成器教育工作者

11-06 04:08

ChatGPT来了，教育面临范式升级

ChatGPT来了，教育面临范式升级李晓鹏刚过完年，社交媒体上就传来了人工智能应用ChatGPT火爆出圈的新闻。闻讯而来的网友纷纷与之对话，提出各种要求，结果发现，只要输入要求，它总能给出反馈，就像跟一个全知全能的网友在聊天一样。据说，这是距离通过图灵测试最近的一款人工智能，如果不是事先告知，使用者

分类标签 ChatGPT人工智能教育

11-06 04:07

未来教育中的人工智能：是挑战还是机遇？

近年来，人工智能（AI）在教育领域中的应用越来越广泛，AI工具的出现改变了学生的学习方式，同时也给教师带来了新的考验。然而，学生使用AI工具所带来的影响也引起了人们的关注。美国教师联合会与AI公司GPTZero合作，以检测学生是否在使用GPT等AI工具来完成作业。调查显示，已有48%的学生承认使用A

分类标签人工智能教育学生

11-06 04:06

人工智能深度伪造检测：领先公司榜单

背景当前，初创公司和科技巨头都在竞相开发深度伪造检测设备，试图在聊天技术时代防止人工智能产生的虚假信息激增。本周早些时候，人工智能生成的五角大楼外发生爆炸的图像在社交媒体上迅速传播，此事件竟成为了人工智能研究人员多年来一直警告的数字信息灾难的简要预演。今年早些时候，被一些人称为“人工智能教父”的计算

分类标签人工智能伪造检测深度造假

11-06 04:05

ChatGPT：AI生成文本的利与弊

ChatGPT的利与弊近日，纽约市教育官员宣布禁止学生在公立学校使用ChatGPT的事件引发了争论。语言模型自动生成的内容会「参照」现有作品，产出的速度又几乎无限，人们对其的担忧已经蔓延到了AI学界自身，全球知名机器学习会议之一的ICML最近也宣布禁止发表包含由ChatGPT和其他类似系统生成内容的

分类标签 ChatGPTAI生成文本

11-06 04:04

人工智能与教育：OpenAI的GPT模型引领大变革

人工智能与教育本文探讨了人工智能对教育的影响，特别是OpenAI的GPT模型在教育领域的应用。近年来，GPT模型在生物、语言、图像等领域都有了广泛的应用，而在教育领域，它也展现出了巨大的潜力。未来5-10年，AI将彻底改变教育比尔·盖茨在其博客中表达了GPT模型的出现对教育公平、学校教学、学习方式等

分类标签人工智能教育OpenAI

11-06 04:03

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway