首页 > 行业观察 > 谷歌发布具有5400亿参数的自然语言模型PaLM

谷歌发布具有5400亿参数的自然语言模型PaLM

新知榜官方账号

2023-07-11 17:02:36

谷歌发布具有5400亿参数的自然语言模型PaLM

近年来,人工智能的技术成果层出不穷,谷歌在2022年4月5日宣布了一项新的突破:该公司的研究团队发布了一套具有5400亿参数的自然语言模型PaLM(PathwaysLanguageModel),基于该模型的人工智能可以完成解释笑话、编写代码、学习非英语语言和解答文字中的算术问题等多种任务。

什么是语言模型?

语言模型是一个模型:对于任意的词序列,它能够计算出这个序列是一句话的概率。语音识别系统通常会生成多个句子作为候选,究竟哪个句子更合理,就需要用到语言模型对候选句子进行排序。

PaLM的独到之处

Pathways人工智能架构语言模型PaLM使用了谷歌最新的Pathways人工智能架构,能同时执行多人工智能任务、具有快速学习和对真实世界更好的理解能力等众多优点。在Pathways架构的基础上,PaLM使用由网页、书籍、维基百科、GitHub代码等组成的英语和其他多语言资料集组合的数据进行训练,而训练是在6144个高性能芯片上完成,这是迄今为止用于训练的最大的基于TPU的系统配置。

PaLM的智商

基于PaLM的人工智能可以处理句子中的计算问题,智商已经达到了9至12岁的人类儿童的水平。

PaLM的性能

PaLM模型可以区分文章的因果关系,理解上下文中的概念组合,并且可以从表情符号中猜测电影的名字。PaLM可以给目前网上找不到的新笑话提供高水平的解释。

PaLM的应用

将基于PaLM的人工智能引入到人类的日常生活中目前还存在很多挑战。比如,像拥有5400亿参数的PaLM在使用时会消耗大量的电力,如果按照现在的技术水平将其普及给大众,其耗电量和背后的成本根本不是普通人能负担得起的。

随着科技的发展,人工智能或许有一天真的会像人类的大脑一样善于思考和学习!

本页网址:https://www.xinzhibang.net/article_detail-7626.html

寻求报道,请 点击这里 微信扫码咨询

关键词

人工智能 自然语言模型 PaLM

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯

ChatGPT,Midjourney,文心一言,文心一格,bing新必应,Stable diffusion,文心一格,稿定设计,墨刀AI,mastergo,Adobe Firefly

短视频知识人物影响力榜

查看更多

新知榜独家 {{faTime.effecttime}}发布

总榜

人物 领域 粉丝数 影响力指数

{{item.manIndex}}

{{item.nickname}} {{item.field}}

{{item.fs}}

{{item.effect}}