GPT-4：AI社区最激动人心的一年？

新知榜官方账号

2023-11-02 00:04:28

GPT-4：AI社区最激动人心的一年？

微软首席技术官Scott Stein在最近的一次分享中表示，2022年是人工智能最激动人心的一年，但他还自信地表示，2023年才是AI社区最激动人心的一年。微软是OpenAI的主要投资者，OpenAI最近GPT-3.5系列主力模型之一的ChatGPT爆火，Stein的这次发言也牵动了网友敏感的神经：GPT-4要来了？

生成预训练transformer（Generative Pre-trained Transformer，简称GPT）是一种可利用互联网数据进行训练的文本生成深度学习模型，在问答、文本摘要、机器翻译、分类、代码生成和对话式AI领域都有相当出色的表现。2022年7月，OpenAI发布了最先进的文本转图像模型DALLE2。就在几周之后，Stability.AI推出了DALLE-2的开源版本，名为StableDiffusion。两款模型在亮相后均大受好评，也在质量和理解文字描述的能力上展现出可喜的成果。最近，OpenAI又推出名为Whisper的自动语音识别（ASR）模型，带来了优于原有同类模型的稳健性和准确度。

市场对大语言模型有着相当迫切的需求，GPT-3的流行已经证明大家愿意接受GPT-4，同时也对它的准确性、计算优化、更低偏差和更高安全性充满了期待。GPT不出，AI万古如长夜。

GPT的演进

在GPT-1之前，大多数自然语言处理（NLP）主要针对分类和翻译等特定任务进行训练，使用的也均为监督学习方法。这类学习方法有两个问题：过度依赖注释数据，而且无法实现任务泛化。GPT-1（1.17亿参数）相关论文《Improving Language Understanding by Generative Pre-Training》发表于2018年，其中提出了一种生成语言模型，能够使用未标记数据进行训练，并在分类和情感分析等特定下游任务上进行微调。GPT-2（15亿参数）论文《Language Models are Unsupervised Multitask Learners》发表于2019年，其中使用的参数更多、训练数据集也更大，语言模型自然进一步提升。GPT-2使用任务调节、零样本学习和零样本任务转换等方式提高了模型性能。GPT-3（1750亿参数）论文《Language Models are Few-Shot Learners》发表于2020年，其模型参数达到了GPT-2的100倍，使用的训练数据集更大，因此能在下游任务上取得更好的效果。GPT-3在故事写作、SQL查询、Python脚本、语言翻译和摘要编写等能力上几乎能够与人比肩，效果惊艳全球AI界。如此出色的表现，离不开其中的上下文学习、少样本、单样本及零样本等技术设置。

GPT-4可能是什么样子

在最近的活动中，OpenAI CEO Sam Altman证实了GPT-4模型的发布传闻。GPT-4可能在接下来几个月内推出，市场迫切需求大语言模型。

下面是国外数据培训企业DataCamp对GPT-4模型大小、参数水平以及计算、多模、稀疏性及性能等方面的预测。

模型大小：预计参数大约在1750亿到2800亿之间。
计算：要想将性能损失控制在最低，GPT-4的模型训练算力将达到GPT-3的10到20倍。
多模：GPT-4不会是像DALL-E那样的多模模型，而是纯文本模型。
稀疏性：GPT-4应该不会是稀疏模型，因为OpenAI长期以来只研究密集语言模型。
性能：考虑到OpenAI一直在努力解决AI对齐问题，GPT-4的表现应该会比GPT-3更好。

以上是DataCamp的预测，我们还不清楚GPT-4的发布日期、模型架构、大小和训练数据集等信息。

大模型的可能性

随着市场对于大模型的认知逐渐理性和落地，使用大模型的价值也开始凸显，如不要求企业具备海量的数据基础、应用大模型的效果更优、降低AI开发门槛等。很多AI先行者已经在成熟度较高的场景中引入了大模型。大模型为人工智能未来发展带来了全新的可能，未来将如何迸发出新的可能，我们拭目以待。

本页网址：https://www.xinzhibang.net/article_detail-18568.html

寻求报道，请

关键词

分享至微信：

相关工具

Sapling AI Content Detector

Sapling.ai推出的免费在线AI内容检测工具

GPTZero

超过百万人都在用的免费AI内容检测工具

AISEO AI Content Detector

AISEO推出的AI内容检测器

Originality.AI

原创度和AI内容检测

AI Content Detector

Writer推出的AI内容检测工具

Winston AI

强大的AI内容检测解决方案

机器视觉检测系统的优点及应用

机器视觉检测系统的优点机器视觉检测系统是一种利用计算机视觉技术来对物体进行识别、测量、定位和检测的系统。它通常由图像获取、图像处理、图像分析、结果输出等几个部分组成。机器视觉检测系统的优点主要包括：高效性：视觉检测系统可以快速地检测大量的产品，并且可以持续稳定地工作，大大提高了检测效率。精度高：视觉

分类标签机器视觉检测系统产品质量

11-29 14:02

全新一代神经网络引擎，帮助您解决翻译难题

全新一代神经网络引擎，帮助您解决翻译难题我们提供全新一代神经网络引擎，词汇准确度远胜对手。自由选择翻译适用场景，让翻译恰当得体。最新机器学习训练集合，准确传达原说话者的意境。支持翻译前的多条上下文输入，帮助翻译理解实际对话场景，不会出现翻译错误。我们的神经网络引擎采用最新的机器学习技术，能够提供高准

分类标签翻译神经网络引擎机器学习

11-23 10:11

WPSAI开放邀请体验，助力办公更智能

WPSAI开放邀请体验，助力办公更智能WPSAI是金山办公最近推出的一项新功能，旨在为用户提供智能文档写作、阅读理解和问答、智能人机交互的能力。WPSAI是基于大语言模型的人工智能应用，与WPS其他产品无缝衔接，让用户在办公、写作、文档处理等方面实现更高效、更智能的体验。目前，WPSAI处于邀请体验

分类标签 WPSAI智能文档写作人工智能

11-21 10:11

Ai自动生成PPT

Ai自动生成PPT通过使用Ai自动生成PPT，用户可以直接输入需求和公司信息并选择模板，帮助用户省去排版和润色工作，提高制作效率。目前，WPSai是唯一提供免费注册体验的软件，同时还提供多种模板供用户选择。功能描述用户只需要输入所需文字，即可利用AI进行排版和润色。WPSai提供多种模板供用户选择，

分类标签 AiPPT自动生成

11-21 10:10

机器学习和AI的区别

机器学习和AI的区别近年来，机器学习和人工智能成为了热门话题。但是，这两个概念之间到底有什么区别呢？微软工程师MatVelloso曾发了一条段子，引发了网友的热议。他说：如果使用Python写的，那可能是机器学习，如果使用PPT写的，那可能是AI。这个段子让人捧腹，但也暴露出了机器学习和AI之间的模

分类标签机器学习AIPython

11-19 16:42

AI写作业，抄袭检测软件束手无策

AI写作业，抄袭检测软件束手无策近日，Reddit论坛上一名大学一年级学生的课程论文拿了A——这并不稀奇，但事实上这篇论文是人工智能（AI）花不到20分钟完成的，还通过了机器审查。就在几个月前，AI才作为第一作者发表了一篇学术论文。为什么AI生成的论文不能被机器识别出来？目前的抄袭检测软件一般是通

分类标签 AI写作业抄袭检测软件

11-19 16:41

商汤科技在2019人工智能峰会上发布11款产品，覆盖智慧城市、教育、医疗、零售、AR等五大领域

智慧城市领域商汤发布了四个产品，分别是：智能城市能力基础设施SenseFoundry方舟2.0，SenseNebula，SensePass和SenseStudioAI工具箱。商汤的智慧城市解决方案已经覆盖了31个省市自治区的100多座城市，接入了100000路摄像头。教育领域商汤推出了一系列人工智能

分类标签商汤科技人工智能峰会智慧城市教育医疗零售AR

11-19 16:40

华为：部分媒体所谓“华为将发射1万枚6G移动低轨卫星”纯属造谣

华为：部分媒体所谓“华为将发射1万枚6G移动低轨卫星”纯属造谣10月23日，华为集团官方账号发布声明称，部分自媒体口中所谓的“华为将发射1万枚6G移动低轨卫星”纯属造谣。华为表示，展望2030年，超高速、超可靠连接、原生AI、先进感知技术将极大地改善人类生活。6G是更先进的下一代移动通信系统，其内涵

分类标签华为6G卫星

11-19 16:39

人工智能诊断工具可预测COVID-19感染

伦敦大学国王学院、马萨诸塞州总医院和健康科学公司ZOE的研究人员开发了一种人工智能诊断工具，可以根据患者的症状来预测他们是否可能感染COVID-19。他们的研究结果于5月11日发表在《自然·医学》杂志上。 AI模型使用COVID症状研究app（COVIDSymptomStudy）的数据，通过比较人们

分类标签 COVID-19人工智能诊断工具

11-19 16:38

学好AI一些必要的进阶步骤

学好AI一些必要的进阶步骤AI（人工智能）是一门涉及多个学科的交叉学科，需要掌握一定的数学基础、编程基础、机器学习、深度学习、自然语言处理、计算机视觉、强化学习等知识。1.学习AI所需的数学基础学习AI所需的数学基础包括线性代数、概率论和统计学，掌握这些基础知识是理解AI算法的前提。2.学习AI需要

分类标签 AI机器学习深度学习

11-19 16:37

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway