OpenAI关闭人工智能检测工具,教育工作者面临学生作弊问题

新知榜官方账号

2023-10-16 20:02:20

OpenAI关闭人工智能检测工具,教育工作者面临学生作弊问题

在ChatGPT创建者OpenAI推出一种人工智能检测工具,该工具有可能帮助教师和其他专业人士检测人工智能生成的工作后不到六个月,该公司已经取消了该功能。OpenAI上周悄悄关闭了该工具,理由是“准确率低”,根据宣布该功能的原始公司博客文章的更新。

“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,”该公司在更新中写道。OpenAI表示,它还致力于帮助“用户了解音频或视频内容是否是AI生成的”。

这一消息可能会再次引发人们的担忧,即新一代生成式人工智能工具背后的公司是否具备建立保障措施的能力。与此同时,教育工作者也使用公开可用的ChatGPT等工具为第一个完整的学年做准备。去年年底,ChatGPT的突然崛起迅速引起了一些教育工作者的警觉,因为它可能使学生比以往任何时候都更容易在书面作业上作弊。纽约市和西雅图的公立学校禁止学生和教师在该地区的网络和设备上使用ChatGPT。一些教育工作者以惊人的速度重新思考他们的作业以响应ChatGPT,尽管目前尚不清楚该工具在学生中的广泛使用程度以及它对学习的真正危害。

在这种背景下,OpenAI在二月份宣布了AI检测工具,允许用户检查一篇文章是由人类还是AI撰写的。该功能适用于英语AI生成的文本,由机器学习系统提供支持,该系统接受输入并将其分配给几个类别。在将学校论文等文本粘贴到新工具中后,它给出了五种可能的结果之一,从“可能由人工智能生成”到“非常不可能”。但即使在发布当天,OpenAI也承认该工具“不完美”,结果应该“持保留态度”。

虽然该工具可能会提供另一个参考点,例如比较过去学生工作和写作风格的例子,但教师需要非常小心,如何将其纳入学术不诚实的决定。尽管OpenAI目前可能搁置其工具,但市场上有一些替代方案。Turnitin等其他公司也推出了人工智能抄袭检测工具,可以帮助教师识别该工具何时编写作业。与此同时,普林斯顿大学的学生EdwardTuan引入了类似的AI检测功能,称为ZeroGPT。

本页网址:https://www.xinzhibang.net/article_detail-16956.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章

相关快讯