ChatGPT不算什么创新?看看Meta、谷歌、DeepMind、OpenAI的聊天机器人大PK

新知榜官方账号

2023-09-17 01:18:23

ChatGPT不算什么创新?看看Meta、谷歌、DeepMind、OpenAI的聊天机器人大PK

近几个月,聊天机器人成为了人工智能领域的热门话题。OpenAI的ChatGPT作为其中的佼佼者,备受关注。但是,Meta的BlenderBot、谷歌的LaMDA、DeepMind的Sparrow等聊天机器人同样也引起了人们的关注。它们之间的差别在哪里呢?

首先,这些聊天机器人都是基于语言模型的,这是目前最主要的技术路线。它们的基础模型通常是Transformer,这是谷歌的发明。其中,ChatGPT使用的是以自监督方式进行预训练的Transformer架构,这是一种数据驱动的人工智能系统。除了OpenAI,还有谷歌、Meta等公司都使用了类似的技术。

其次,这些聊天机器人的微调方法也是有所不同的。其中,人类反馈强化学习(RLHF)是常用的微调方法之一。OpenAI的InstructGPT、DeepMind的Sparrow和Anthropic的ConstitutionalAI都采用了这种方法。在RLHF中,一组模型响应根据人类反馈进行排序,接下来,研究人员在这些注释过的响应上训练一个偏好模型,为RL优化器返回一个标量奖励。最后,通过强化学习训练聊天机器人来模拟这个偏好模型。

此外,指令微调(IFT)和思维链(CoT)也是聊天机器人微调的常用方法。IFT是在非常多样化的任务上通过文字指令对基础模型进行微调。而CoT则是通过诱导聊天机器人逐步推理,以此来产生输出。CoT微调提高了模型在逐步思考任务上的表现,并使模型不会总是逃避敏感问题。

总之,这些聊天机器人都有自己的特点和差异。但是,对于ChatGPT是否算是创新,不同的人有不同的看法。Meta首席人工智能科学家YannLeCun认为,ChatGPT并不是多么了不得的创新,它就是一个组合得很好的产品,仅此而已。但是,这并不妨碍ChatGPT成为人工智能领域的佼佼者。

本页网址:https://www.xinzhibang.net/article_detail-11715.html

寻求报道,请 点击这里 微信扫码咨询

关键词

ChatGPT 人工智能 聊天机器人

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯