OpenAI下架AI文本检测器，AI监管AI路子或难走通

新知榜官方账号

2023-07-28 01:24:36

常言道，“一物降一物”，但对现在的生成式AI来说，事情也许很难如此。据TechCrunch，OpenAI于7月20日悄悄下架了其AI检测器，但因为过于低调，不少人还没有发现。OpenAI的通知显示，下架是因为检测的准确率过低。OpenAI团队“会继续研究更有效的文本技术”，希望未来能够对AI生成的音频、视频内容进行检测。

ChatGPT爆火以来，AI生成文本在各行各业得到了更广泛的应用。但比起广泛应用，AI生成内容引发了人们更大的担忧——AI或许会成为更大的假新闻源头、泄露人们数据和隐私。AI生成内容引发的现实问题也不绝于耳——典型案例是是在大学里，学生们用ChatGPT生成论文，已经扰乱了学校的教学秩序，不少学校已经明令禁止在学术场景下使用ChatGPT。

面对汹涌的舆论，OpenAI在今年2月就迅速推出应对方案，也就是这款AI文本检测器。AI文本检测器的主要功能，是用来判断文本是否由人工智能生成。此前，在检测过程中，用户无需付费，只要将所检测的文本复制到检测器上，就可以检查到内容是否为AI生成。OpenAI也没有限定可以检测的文本限定类型，用户可以检测包括邮件、文章以及论文在内的文件。

然而直到下架，这款产品寿命只有短短半年。AI文本检测器其实一开始就并不完美。据OpenAI公布的数据，AI检测器在识别AI生成文本方面的正确率为26%，同时将人类所写的内容识别为AI生成的错误率为9%。在发布检测器时，OpenAI就表明“AI文本检测器并不完全可靠”。同时，OpenAI团队也承认，检测器很容易将人类写的文本识别为AI写的，AI生成的文本性内容如果经过人类编辑，AI也无法进行准确地识别。

OpenAI已经大模型应用中的技术领头羊。如今AI检测器的下架，某种程度上也意味着，人们现在可能还没有更好的方式监管AI。“用AI监管AI”的路子，可能还不太能走通。近期的一则斯坦福研究，也得出了同样的结论。数位斯坦福的专家教授对目前主流的七款AI文本检测器进行了测试，研究结果显示，一些检测器生成的99%的准确率具有“误导性”。非英语母语的人写的文章，常被错误地标识为由AI生成，这会严重影响母语非英语的使用者如学生、学者以及求职者，也会很容易增加他们被歧视的可能性。

本页网址：https://www.xinzhibang.net/article_detail-8774.html

寻求报道，请

关键词

OpenAI AI文本检测器 AI生成内容

分享至微信：

相关工具

AI人脸头像生成工具

Wepik AI

Freepik推出的AI文本到图像的在线生成工具

Deep Dream Generator

AI创建生成梦幻般的插画图片，刻画你的梦中场景

NightCafe

AI艺术插画在线生成

Leonardo.ai

AI创建精美的游戏插画资产

PhotoRoom

免费的AI图片背景移除和添加

聊天机器人与多模态语言模型：ChatGPT和GPT-4.0

聊天机器人与多模态语言模型：ChatGPT和GPT-4.0人工智能（AI）是指能够模拟人类智能的计算机系统或软件。AI的发展已经影响了我们的生活的方方面面，从教育、娱乐、医疗、商业到社交等等。在这篇文章中，我们将介绍两个最新最热门的AI项目：ChatGPT和GPT-4.0，它们分别是OpenAI开发

分类标签人工智能聊天机器人多模态语言模型

12-08 22:03

抖音AI扩图逆天，一对恩爱情侣的照片被神操作后画风大反转

抖音AI扩图真的是太逆天了，让人看完之后会意想不到、一肚子气。例如一对恩爱情侣的照片在AI扩图前是非常有信仰感的：但在AI扩图一通神操作之下，画风简直是180度大反转：网友们在看过之后哭笑不得，打趣称“更虔诚”、“太励志”了。作为一个专业产品经理，我认为AI扩图技术的发展虽然有很多潜力，但也需要注意

分类标签抖音AI扩图恩爱情侣

12-06 06:04

大模型商业化：困境与尝试

背景虽然大模型商业化的路径较为清晰，目前国内厂商也都在积极探索，但大模型的商业化之路，不能仅限于商业模式的探索尝试，更在于解决大模型发展的底层问题。困境大模型商业化面临着一系列的困境，如资金投入、伦理道德、安全性、市场接受度等问题。资金投入：庞大的模型训练需要巨额的资金来支持，投入了巨额资金之后，企

分类标签大模型商业化困境尝试MaaS开源Agent

12-06 06:02

欧洲金融独角兽Klarna冻结招聘，CEO称未来大部分工作可由人工智能完成

自人工智能去年末大火以来，“AI会不会抢走人类的工作”就成为全世界讨论的热门话题，不少机构还为此给出了预测报告，分析哪些工作最有可能被AI“抢”走。而如今，这个打工人们的担忧已经开始变成现实：AI已经开始抢工作了。据外媒报道，“欧洲版花呗”Klarna最近已经冻结招聘，并计划缩减员工规模。其CEO认

分类标签 Klarna人工智能减少人力需求

12-06 06:01

2024年，AI行业将会进化成什么样？HuggingFace CEO的6条预测

2024年，AI行业将会进化成什么样？HuggingFace CEO的6条预测2024年，AI行业将会迎来更大的突破和进化。HuggingFace CEO Clement Delangue对未来的发展做出了6条具体的预测，包括AI公司倒闭、开源LLM能力达到闭源水平、AI在生物、化学、时间序列等领域

分类标签 AI行业预测HuggingFace开源生物领域时间序列

11-29 06:09

AI绘画：冲击还是机遇？

AI绘画：冲击还是机遇？随着AI绘画技术的发展，AI绘画已经成为了一种新生的艺术门类。AI作画可以在几秒钟内生成画面优美的高清图片，其画面之精细，想象力之超绝令人惊叹。然而，AI绘画是否能取代艺术家，以及它带来的冲击和机遇，仍然是一个备受争议的话题。AI绘画工具易于上手，效率高，也具备匠气，但灵气不

分类标签 AI绘画艺术家创作人工智能技术算法

11-29 02:13

每日必看的AI前沿

每日必看的AI前沿近日，百度文心一言推出了会员模式，提供文心大模型4.0等升级能力，而工信部则发布了《人形机器人创新发展指导意见》，提出以大模型等AI技术突破为引领，在人形机器人“大脑”和“小脑”、“肢体”关键技术、技术创新体系等领域取得突破。此外，高德云图发布了自主研发的产业大模型“云睿”，该模型

分类标签百度文心一言大模型工信部人形机器人高德云图时空信息

11-29 02:12

百度文心一言推出会员模式，开通可解锁文心大模型4.0

百度文心一言推出会员模式，开通可解锁文心大模型4.0据IT之家网友反馈，百度大模型文心一言现已推出会员模式，开通后可解锁文心大模型4.0。据介绍，文心一言会员单月购买价格为59.9元，连续包月价格为49.9元（次月以49.9元/月自动续费，可随时取消）。此外，百度还推出了文心一言+文心一格（白银）的

分类标签百度文心一言文心大模型4.0会员模式

11-29 02:11

文心一言正式上线会员服务，连续包月费用为49.9元，单月购买为59.9元

文心一言正式上线会员服务，连续包月费用为49.9元，单月购买为59.9元11月1日，文心一言官网显示，会员连续包月费用为49.9元，而单月购买为59.9元。此次会员服务对应的是文心大模型4.0，而文心大模型3.5仍可免费使用。除此之外，文心一言还上线了99元/月的联合会员，包括文心一言会员和文心一格

分类标签文心一言会员服务大模型

11-29 02:06

AI画图工具推荐

AI画图工具推荐AI画图网站虽然在功能和易用性方面也表现的相当出色了，但与绘画软件相比，兼容性上仍存在明显不足，通常需要特定的浏览器和设备才能访问，某种程度上会限制用户的使用灵活性和自由度。为了实现更好的AI画图体验，各类工具软件都需要熟练运用，软件和网站可以说是缺一不可，取长补短才能帮助更好地进行

分类标签 AI抠图AI绘画AI创作改图鸭

11-29 02:04