人工智能检测工具的现状及使用建议

新知榜官方账号

2023-07-26 22:34:48

人工智能检测工具的现状

近日，ChatGPT创建者OpenAI悄悄关闭了一款人工智能检测工具，这款工具能帮助从业者检测人工智能生成的作品，这次下架距离上线不到半年，理由是准确率低。OpenAI表示正在努力纳入反馈，目前正在研究更有效的文本来源技术，致力于帮助“用户了解音频或视觉内容是否是人工智能生成的。”

OpenAI下架智能检测工具去年年底，ChatGPT异军突起，在引发科技浪潮的同时，也引起一些教育工作者的警惕，外界普遍担心可能会让学生比以往更容易在书面作业中作弊，这有案例可以作证，纽约市和西雅图的公立学校，明确禁止学生和教师在学区的网络和设备上使用ChatGPT。

与此同时，一些教育工作者以惊人的速度重新考虑他们的作业，以应对ChatGPT，尽管目前还不清楚该人工智能工具在学生中的使用有多广泛，以及对学习的真正危害有多大。

在这种情况下，OpenAI在二月份就发布了人工智能检测工具，允许用户检查一篇文章是由人类还是人工智能撰写的，该功能适用于人工智能生成的英语文本，由机器学习系统提供支持，该系统接受输入并将其分配给多个类别。将学校论文等文本正文，粘贴到新工具中后，能给出五种可能结果，范围从“可能由人工智能生成”到“非常不可能”。

但需要注意的是，这个检测工具的功能并不完善，OpenAI也承认该工具“不完美”，结果应该“持保留态度”，OpenAI政策研究总监曾表示，“确实不建议单独使用这个工具，因为它可能会出错，就像将人工智能用于任何类型的评估目的一样。”

时至今日，这款检测工具不到半年即被下架，这一消息可能会再次引发人们对新型生成人工智能工具背后的公司，是否有能力建立保障措施的担忧。与此同时，教育工作者正在利用ChatGPT等公开可用的工具，为第一个完整学年做准备。

人工智能检测工具的优缺点

使用人工智能内容检测工具的最大优势是能区分到底是人类创作还是由人工智能生成的，更重要的是区分出来后，完全由人工智能生成的内容，可能在一些平台上的排名，要远低于人类创作的内容。此外，人工智能生成的内容可能并不准确，与已经发布的其他内容会存在相似，企业通常希望确保有独特的观点，依靠人工智能生成的内容也可能会损害品牌并浪费资源。

然而，人工智能生成工具是全新技术，并且发展迅速，这也就造成了人工智能检测工具并不完美，也存在很多不足，使用人工智能内容检测工具的最大缺点是缺乏准确性，原因不难理解，这些工具根据接受过培训的数据，寻找内容中的相似之处，这种模式会存在不一致之处。这也就意味着，可能使用不同的AI检测工具会得到完全不同的结果。

基于检测的重要性，有时即使没有内容检测工具，也需要大致检测下人工智能生成的内容，可以使用一些提示和技巧来确定。仍有大量工具，但实用较少。

使用建议

对于人工智能生成的内容进行检测，就变得尤为必要，但需要注意的是，人工智能生成的内容，到底能不能进行检测？

使用人工智能检测工具时，需要注意其准确率和不足之处，建议多使用不同的工具，结合人工判断，以确保结果的准确性。

除了使用检测工具，还可以通过自身的知识和技能，对人工智能生成的内容进行判断和鉴别，通过多方面的手段，确保自己所使用的内容，都是真实、准确的。

此外，使用生成式智能工具应该以创造更多优质内容为目的，而绝非为了使用而使用，使用工具涉及的知识产权问题也应该得到高度重视。

本页网址：https://www.xinzhibang.net/article_detail-8694.html

寻求报道，请

关键词

分享至微信：

相关工具

StudyCorgi ChatGPT Detector

StudyCorgi推出的帮助学生检测ChatGPT的工具

CheckforAI

免费在线检测AI内容

AISEO AI Content Detector

AISEO推出的AI内容检测器

CopyLeaks

AI内容检测和分级

商汤发布“日日新”大模型，加入AI大战

一、商汤发布“日日新”大模型据华尔街见闻的报道，商汤科技董事长兼CEO徐立，在技术交流日上宣布，将推出大模型体系“商汤日日新大模型”，包括自然语言生成、文生图、感知模型标注以及模型研发功能。“日日新”取自《礼记·大学》：“汤之盘铭曰：苟日新，日日新，又日新。”商汤还宣布推出商汤自研中文语言大模型应用

分类标签商汤日日新大模型人工智能深度学习

10-26 16:28

智能网联化将对汽车产业带来更深远的影响

中国国际贸易促进委员会汽车行业分会会长王侠表示，与电动化相比，智能网联将会对汽车产业带来更加深远的影响。近几个月来，以ChatGPT为代表的人工智能在全行业掀起了一场变革。尤其是在作为下一代智能终端的智能汽车上，随着智能驾驶、智能座舱的快速普及和功能的不断提升，行业在加速推进大模型的上车应用的同时，

分类标签智能网联汽车产业人工智能

10-26 16:27

商汤生成式AI相关收入实现大增，商业化经营拐点已现

商汤生成式AI相关收入大增从生活方式到商业模式，人工智能带来的变革体现在各个方面。大模型、生成式AI，人工智能一直处在一个你追我赶的竞争圈，而要在其中脱颖而出，既要有洞察到市场机遇的敏锐，也要有承接机遇的硬实力，机遇和实力往往缺一不可。作为人工智能领域的领先者，商汤对大模型的研究一直处在行业前列。近

分类标签商汤生成式AI大模型

10-26 16:26

Google推出生成式AI支持搜索工具，出版商担心信息来源和补偿问题

新产品SGE引发出版商担心Google近日推出的生成式AI支持搜索工具引发出版商的关切，对于他们如何适应AI主导的信息获取和付费方式的世界产生了疑虑。这项名为「SearchGenerativeExperience（SGE）」的新产品在美国、印度和日本已经上线。SGE使用人工智能技术，以响应某些搜索查

分类标签 Google生成式AI搜索工具

10-23 10:06

搜狗发布旅行翻译宝和速记翻译笔，王小川：AI在语言中可以进行最大的颠覆

1月24日，搜狗在北京国贸举行2018合作伙伴大会，搜狗CEO王小川、COO茹立云、CTO杨洪涛、CMO洪涛、副总裁李刚等高管均出席了本次大会。“搜狗不再是当年简单的跟随者，赴美IPO是搜狗新的开始。”王小川在开场演讲中谈到。目前，搜狗是目前国内互联网用户规模第四大公司，仅次于腾讯、阿里、百度；搜狗

分类标签搜狗AI翻译硬件语言

10-23 02:20

搜狗CEO王小川：人工智能重在赋能人类，未来将围绕自然交互和医疗进行发展

1月19日，搜狗公司CEO王小川在极客公园创新大会上接受采访时称，今天的人工智能，与人类不是‘取代’的关系，我们叫数据智能，它只能对以前他学过的东西进行重复的一种表现。他指出，当前机器还没有掌握知识、推理的能力，尚不具有创造性。谈不上取代人类。人工智能的意义在于将人从一些低级的脑力劳动中解放出来，能

分类标签人工智能自然交互医疗

10-23 02:18

人工智能时代，网站如何与AI共生？

人工智能时代，网站如何与AI共生？最近，在对AIW全智通应用机器人的研究中，我们发现了一个令人担忧的现象。这个机器人的一个主要功能是阅读指定的互联网内容，但现在越来越多的内容无法被它阅读。尽管我们不断为AIW全智通加入更多模拟人类工作时的技能，但由于它无法访问这些网站，它在工作时所能参考的资料越来越

分类标签人工智能AIW全智通数据服务

09-22 17:12

AI识别工具：分类器难以检测机器人编写的文本

近期，随着ChatGPT的爆火，AI生成内容也引发了诸如版权、学术伦理等担忧。为此，ChatGPT背后的初创公司以彼之矛攻彼之盾，推出AI生成内容识别工具，但也坦言称这款工具“并不可靠”。周二，ChatGPT开发公司OpenAI推出了一个分类器（classifier）来区分人类写的文本和来自各类AI

分类标签 ChatGPTAI生成内容分类器

09-12 16:52

工业4.0自动化生产检测设备与AI人工智能检测系统

工业4.0自动化生产检测设备与AI人工智能检测系统工业4.0自动化生产检测设备为企业生产制造提供更高效、品质更好的检测设备，自动化检测已经有10年的历史，技术已经非常成熟。现在我们公司有AI人工智能检测系统，它具有自动学习的能力，可以自动认识以前的检测系统检测不了的不良特征，检测效率高、代替人工检测

分类标签工业4.0自动化生产检测设备AI人工智能检测系统

09-10 10:08

AI编写的蘑菇采摘指南被警告存在危险建议

AI编写的蘑菇采摘指南被警告存在危险建议近年来，随着文本生成AI的发展，许多“AI写的书”在亚马逊等电子书销售平台上销售，甚至有AI编写的“蘑菇采摘指南”。然而，英国主要报纸《卫报（TheGuardian）》报道蘑菇专家警告说，“这些书中包含的一些危险的建议，所以不要购买”。据《卫报（TheGuar

分类标签蘑菇采摘指南AI编写危险建议

09-08 22:56

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway