AI写作检测器不能准确判定一段文本是否由AI生成

新知榜官方账号

2023-07-17 22:50:27

一、AI检测背后的原理——经验性与变化性

不同的AI写作检测器使用的检测方法略有不同,但它们的原理基本相似,即以大量文本训练和推测规则为检测基础。这些文本和规则决定了系统判定上传的文本是更有可能是人类编写的还是AI生成的。例如,GPTZero的文本来源是大量人类编写和AI生成的文本语料库,主要语料是英文散文。以此为基础,系统使用“经验性”(指依照既往经验,这种语言是否超出一般经验判断)和“变化性”(一般人类写作的句子会长短交替变化,这种变化是人类自然表达的结果)等属性来评估文本并进行判断。

二、部分学生成AI检测误判的受害者

部分教育工作者正在接受这种AI技术融入现实这一情况,并且积极推广使用ChatGPT等工具辅助学习。但是,使用这些高误判率的产品有可能对学生造成伤害,而唯一为此付出代价的,只有被冤枉的学生。

三、AI写作可能永远无法被监测

在实践研究中,AI写作检测也有误报和歧视非英语母语人士的问题。很明显,AI写作检测并非万无一失。人类可以像机器一样写作,机器也可以像人类一样写作。

结语:摆正AI的工具属性

如今生成式AI蓬勃发展,AI技术也逐步在各行业领域内落地扎根。在使用AI技术的过程中,也应保持实时监测,及时制止和处罚相应的滥用及侵权行为。

本页网址:https://www.xinzhibang.net/article_detail-8113.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI写作检测器 人类编写 AI生成 经验性 变化性 误判

分享至微信: 微信扫码阅读

相关工具

相关文章