GPT-5可能会被GPT-4“背刺”?AI训AI或成「剧毒」,会让模型崩溃

新知榜官方账号

2023-07-05 02:56:17

本文探讨了使用生成式AI技术训练AI模型可能会导致模型崩溃的问题,以及如何避免模型崩溃。随着GPT-4、StableDiffusion和Midjourney的爆火,越来越多的人开始在工作和生活中引入生成式AI技术。甚至,有人已经开始尝试用AI生成的数据来训练AI了。然而,来自牛津、剑桥、帝国理工等机构研究人员发现,如果在训练时大量使用AI内容,会引发模型崩溃(modelcollapse),造成不可逆的缺陷。因此研究人员呼吁,如果想要继续保持大规模数据带来的模型优越性,就必须认真对待人类自己写出来的文本。

本文还讨论了人类生成的原始数据在训练AI模型中的重要性。由人类生成的原始数据可以更好地表示世界,而生成式模型往往只会过度拟合流行数据,并对概率更低的数据产生误解。因此,作者呼吁人们重视人类生成的原始数据的重要性。

本页网址:https://www.xinzhibang.net/article_detail-5604.html

寻求报道,请 点击这里 微信扫码咨询

关键词

GPT-4 GPT-5 AI训AI 模型崩溃 人类数据 语言模型

分享至微信: 微信扫码阅读

相关工具

相关文章