AI生成的内容如何辨别?

新知榜官方账号

2023-08-06 06:28:20

AI生成的内容如何辨别?

近年来,随着AI技术的不断发展,越来越多的内容被AI生成。但是,这些内容中究竟有多少是真实的、有价值的,还是虚假、无用的呢?如何辨别这些内容的真伪,成为了一个越来越重要的问题。

目前,有一些AI辨别工具和方法可以帮助我们进行内容辨别。

利用AI指认AI

一种方法是利用AI指认AI。OpenAI做了一个分类模型(aitextclassifier)检测器(detector),在英文文本的评估中,正确识别了26%的AI生成文本,错误地将9%的人类文本标记为AI文本。但是,这种方法的准确率还不够高。

利用困惑性和突发性

另一种方法是利用困惑性和突发性。GPTZero是一款AI“杀手”,在辨别一段输入是不是由AI生成的,它借助两个文本属性,困惑性(perplexity)、突发性(burstiness)。这种方法的准确率相对较高。

利用生成痕迹

还有一种方法是利用生成痕迹。AI生成的内容与日俱增,对一份全然不同于,且从未在训练集中出现的内容,AI极有可能预测错误;短文本对于模型来说简直是灾难,因为文本越短,呈现的变化可能性越少,OpenAI要求输入的文本至少有1000个字符。而在图片方面,扩散模型留下的痕迹,普遍不如GANs明显。根据这些生成痕迹,我们可以较为准确地辨别出AI生成的内容。

总的来说,目前AI辨别工具和方法还有很大的提升空间,我们需要不断地探索和研究,才能更好地辨别AI生成的内容。

本页网址:https://www.xinzhibang.net/article_detail-9397.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI 生成 内容辨别

分享至微信: 微信扫码阅读

相关工具

相关文章