OpenAI关闭AIclassifier工具,准确率太低

新知榜官方账号

2023-07-30 12:20:19

OpenAI关闭AIclassifier工具,准确率太低

OpenAI公司已关闭AIclassifier工具,该工具旨在区分人类写作和AI写作的文本。该公司表示,AIclassifier在判断AI生成的文本方面向来都不是很好,并警告称,它可能会产生误报,也就是人类编写的文本被标记为AI生成的。从数据来看,识别AI生成内容的准确率仅为26%,意味着错误率高达74%,且该工具还会将9%人类撰写的文本错误标记为AI生成。

在关闭这个工具的同时,OpenAI还计划开发和部署一个新的机制,使用户能够辨别音频或视频内容是否由AI生成的。不过,目前还没有关于这一新机制的消息。

区分更加困难要轻易区分AI和人类所创作的内容,未来只会变得越来越困难。在OpenAI的ChatGPT进入市场并成为有史以来发展最快的应用程序之一后,人们争相掌握这项技术。然而一些行业对AI生成的文本和其他内容提出了警告,尤其是教育工作者,他们担心学生不再学习,只是让ChatGPT写作业。出于对准确性、安全性和作弊的担忧,美国的一些高校甚至禁止在校园内使用ChatGPT。此外,AI产生的错误信息令人担忧,研究表明,AI生成的文本可能比人类写的更有说服力。

各国政府还没有找到完全监管AI的方法,就连开启这场AI热潮的科技公司也没有头绪。各个公司和行业组织正在制定自己的规则和保护措施,以应对AI生成文本的冲击。

本页网址:https://www.xinzhibang.net/article_detail-8963.html

寻求报道,请 点击这里 微信扫码咨询

关键词

OpenAI AIclassifier 人工智能写作

分享至微信: 微信扫码阅读

相关工具

相关文章