新知榜官方账号
2023-11-02 22:10:29
ChatGPT很容易与用户互动,且可以快速生成大量回答,这让网站充斥着许多第一眼看起来是正确的答案,但在仔细检查后就能发现其中的错误。随着OpenAI公司的人工智能(AI)聊天机器人ChatGPT爆火,不少网友开始在社交媒体上分享ChatGPT的回复。但近日程序员版“知乎”,以对新人不友好著称的编程问答网站StackOverflow暂时禁止用户分享ChatGPT生成的回复。StackOverflow表示,与社区协商后,将在未来一段时间内做出最终决定。该网站认为,ChatGPT很容易与用户互动,且可以快速生成大量回答,这让网站充斥着许多第一眼看起来是正确的答案,但在仔细检查后就能发现其中的错误。这就提出了一个全新的问题:如何对人工智能生成内容(AIGC)进行事实核查?
ChatGPT作为OpenAI创建的实验性聊天机器人,基于其大计算模型GPT-3.5运行,自发布后很快受到网络用户的热烈欢迎。ChatGPT鼓励人们提问,而且能提供令人印象深刻和流畅的结果:从创作诗歌、歌曲、电视剧本,到回答琐事问题和编写代码。虽然很多用户对ChatGPT的功能印象深刻,但也有人注意到它容易产生看似合理但错误的回答。例如,让机器人写一个公众人物的传记,它很可能插入错误的人物生平。让它为特定功能编写程序,它也许会生成看起来可信但最终不正确的代码。像其他生成式大型语言模型一样,ChatGPT通常在虚构事实。有些人称之为“幻觉”或“随机的鹦鹉学舌”,但这些模型的目的本来就是组织一段流利的文本,而不是一个事实。一些人注意到,ChatGPT的与众不同之处在于,它非常善于让自己的“幻觉”听起来十分合理。
大型语言模型肯定会产生错误信息,但只有当错误信息被广泛传播、阅读和相信了才会产生伤害。也有人说,这些系统大规模且廉价生成文本的能力,势必会使得虚假信息大量传播。对审核机制的挑战迄今为止,几乎没有证据表明大型语言模型有不好的影响。但StackOverflow和其他一些专家相信,这些系统的庞大体量确实会带来新的挑战。该网站的运营人员在宣布禁用ChatGPT时也表达了同样的观点,他们指出:“人工智能生成的答案有数千个,而这些答案通常需要具有专业知识的人详细阅读,才能确定答案实际上是错误的,这些错误信息已经淹没了我们以志愿者为基础的高质量问答社区。”
令人担忧的是,这种模式可能会在其他平台上重复,大量人工智能内容会用看似合理但不正确的回答淹没真实用户的声音。ChatGPT究竟如何在网络的不同领域发挥作用,将取决于平台的性质及其审核功能。大量错误回答产生的问题能否在未来通过过滤器等工具得到缓解还有待观察。
人工智能审核的问题交给ChatGPT本身,要求ChatGPT回答支持和反对它自己的论据。在一个回复中,ChatGPT自己也得出了与StackOverflow完全相同的结论:“总的来说,是否允许在StackOverflow上使用人工智能生成答案是一个复杂的决定,需要社区仔细考虑。”
人类用户会接受这些似是而非的回答吗?在这个舆论时常反转的时代,可能真的会。因为只要一个消息听起来合理,许多人就会认为这是正确的。
相关工具
相关文章
相关快讯
推荐
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49
国产GLM-4.5把AI价格打到地板价,实测强到离谱!
2025-07-30 09:08
用AI批量生成治愈系漫画,月入2000+
2025-07-29 09:59
千亿市场规模背后,AI短剧商业化迎来爆发期?
2025-07-17 09:19
15个作品涨粉26万!AI历史账号又出王炸案例!
2025-07-09 09:37
亲测真香!这6个AI工具让工作效率翻倍,同事追着问链接
2025-06-17 16:21