OpenAI发布最新NLP模型GPT-3，引爆代码自动生成网站Debuild

新知榜官方账号

2023-08-15 02:14:35

背景

近日，OpenAI发布了最新的NLP模型GPT-3，这个模型使用的数据集容量达到45TB，参数个数1750亿，一个训练好的模型就要700G的硬盘空间来存储。

Debuild是一个能够自动生成代码的网站。用户只要用英语描述需求，前端代码会自动生成。不过目前该网站已关闭新增注册的功能。

OpenAI的历程

OpenAI在去年DOTA2的顶级赛事TI8后，与世界冠军OG战队举行了一场表演赛，当时OpenAI的强化学习模型，在英雄阵容限定17个，部分道具和功能禁用的条件下，以2：0完胜了人类冠军。

其开源的强化学习模型gym是业界较认可的游戏类模型包。除了做游戏AI，OpenAI还做这种自动玩魔方的机器人。

尽管NLP不是OpenAI最为关注的领域，但他们在自然语言处理方面成果一直引人关注。在去年底《权利的游戏》全面烂尾后，有人使用模型GPT-2来重写剧本的结局。网友普遍反应AI改写的新结局比电视剧的版本要好。

自然语言处理的发展历程

机器学习是通过找到结果与多维输入之间的关系来进行预测。自然语言处理方面的程序一直比较慢，直到WordtoVector出现。

word2vec的核心理念是一个单词是通过其周围的单词来定义。word2vec算法通过负例采样暨观察一个单词不会和哪些单词一起出现；跳字处理暨观察一个单词周围的单词都有哪些，来完成单词到向量的转化过程。将单词转化为向量也被称为词嵌入的过程，从而让自然语言处理变成一个能让计算机自动执行的过程。

GPT、BERT、XLNET等模型相继被提出，虽然他们的流派有自编码和自回归的不同，但是对传承词嵌入思想的继承还是比较一致的。

GPT-3的应对之道

GPT-3的作者在论文开头就指出，通过对大量文本进行预训练，针对特定任务进行微调，模型的性能可以在许多NLP任务以及基准测试中获得显著提升。

GPT-3最主要提升点在于其在transformer的各层上都使用了交替密集和局部带状稀疏的注意力模式。注意力一直是自然语言理解和自然语言生成模型的重要组成部分。因此交替密集和局部带状稀疏的注意力模式只关注k个贡献最大的状态，对于与查询不高度相关的值将被归0。

Debuild的未来

Debuild能够自动生成代码，只需要用英语描述需求，前端代码就会自动生成。如果能继续向前推进使得产品经理的需求描述，直接变成可执行的全套代码，其颠覆性是我们根本无法想象的。

目前已经有消息称OpenAI已经开始关注GPT-3有可能引发的道德风险了，不过大的趋势不可阻挡，也许AI会先“革了”程序员的饭碗，把程序员的工作完全替代。

本页网址：https://www.xinzhibang.net/article_detail-9851.html

寻求报道，请

关键词

OpenAI NLP GPT-3 代码自动生成 Debuild 人工智能

分享至微信：

相关工具

Locofy

AI无代码工具将Figma、Adobe XD和Sketch设计转换成前端代码

CodeGeex

国内团队开发的免费AI编程助手

HeyCLI

自然语言转义为CLI命令

aiXcoder

自然语言到代码的方法级代码生成，以及多行智能代码补全

BLACKBOX AI

黑箱AI编程助理，快速代码生成

Hocoos

无代码AI智能在线快速创建网站

AI研习社整理的600+款AI实用工具列表

AI研习社整理的600+款AI实用工具列表如今，人工智能AI已经渗透到了各行各业，无论是生活中的日常用品还是工作中的专业工具，都有可能运用到AI技术。AI研习社整理了一份600+款AI实用工具列表，包括编程助手、写作、图片处理、表格处理、视频生成、虚拟形象、音频处理、摘要生成器、文字处理、邮件助手、

分类标签 AI工具编程助手图片处理表格处理虚拟形象音频处理

11-14 22:26

你一定会喜欢的终端自动补全工具Fig

Fig是一个可以在你的终端中添加自动补全命令的提示工具，当你在操作终端的时候，Fig可以在你的终端中弹出子命令、选项和上下文相关的参数。Fig并不是一个独立的终端，而是与你现有的终端工具进行集成。现在已经支持近300多种CLI工具的补全提示，比如cd、git、docker、npm、yarn、kube

分类标签终端自动补全工具FigCLI工具

11-14 22:24

微软推出Designer，将人工智能艺术生成功能添加到Office软件中

微软推出Designer，将人工智能艺术生成功能添加到Office软件中微软推出了一款名为Designer（设计师）的新应用，将人工智能艺术生成功能添加到其Office软件套件中。该应用程序的功能与DALL-E和StableDiffusion等文本到图像的人工智能模型相同，用户输入文本提示，就能够立

分类标签微软Designer人工智能艺术生成Office软件DALL-E

11-10 10:09

Copilot：一个基于AI的编程辅助工具

Copilot是一个基于AI的编程辅助工具。目前已经集成在了vscode中，后续可能集成到更多平台和工具，目前还是测试阶段。官网地址：https://copilot.github.com/。Copilot是利用网络中现有的公开数据，尤其是开源在Github上的代码，然后基于机器学习算法训练出来的。因

分类标签 CopilotAI编程辅助工具

10-08 02:54

DeepTabNine：一个新的深度学习模型提高了代码补全质量

DeepTabNine：一个新的深度学习模型提高了代码补全质量TabNine背后的开发人员推出了一种新的深度学习模型“DeepTabNine”，显著提高了代码补全质量。TabNine是一个代码自动完成工具，可以预测代码程序员正在键入的其他代码-就像百度搜索窗口中的单词或短语自动完成一样。TabNin

分类标签 DeepTabNine代码自动完成GPT-2

10-08 02:52

昆仑万维发布“昆仑天工”AIGC全系列算法与模型并宣布模型开源

昆仑万维发布“昆仑天工”AIGC全系列算法与模型并宣布模型开源12月15日，昆仑万维在北京举行AIGC技术发布会，会上昆仑万维CEO方汉正式发布了“昆仑天工”AIGC全系列算法与模型，并宣布模型开源。据方汉介绍，“昆仑天工”旗下模型包括天工巧绘SkyPaint、天工乐府SkyMusic、天工妙笔Sk

分类标签昆仑万维AIGC算法

10-04 23:50

昆仑万维与阿里云合作，共同打造中国版ChatGPT

昆仑万维与阿里云合作，共同打造中国版ChatGPT随着ChatGPT问世，人工智能领域再起波澜。当前，包括阿里巴巴、昆仑万维等国内企业相继围绕AI大模型发布产品，试图打造中国版ChatGPT。《中国经营报》记者从昆仑万维方面获悉，4月11日，在2023阿里云峰会上，昆仑万维与阿里云共同发布战略合作，

分类标签 ChatGPT人工智能大模型

10-04 23:47

游戏板块持续走强：AI赋能带来新机遇

游戏板块持续走强，4月3日富春股份（300299.SZ）完成20cm的涨停，9.76元的收盘价，一举超过了2022年4月12日的前高。接下来是三六零（601360.SH）、姚记科技（002605.SZ）、奥飞娱乐（002292.SZ）、名臣健康（002919.SZ）等涨停，神州泰岳（300002.S

分类标签游戏板块AI赋能增长

10-02 00:04

Ubisoft利用人工智能工具Ghostwriter自动生成游戏角色对白

Ubisoft近日宣布将会利用人工智能工具Ghostwriter，自动产生游戏角色的对白内容。Ghostwriter是一款机器学习工具，创作对白的人员只需将游戏角色、期望达到的互动形式等参数输入，就会自动产生对白内容初稿供审核和修改。Ghostwriter会负责与游戏故事无关的角色对白，一方面丰富游

分类标签 UbisoftGhostwriter人工智能游戏角色对白

10-02 00:02

游戏+AI是产业趋势，AI技术在游戏开发中的应用场景

游戏+AI是产业趋势，AI技术在游戏开发中的应用场景据报道，史玉柱在谈及“游戏+AI”话题时表示，游戏+AI是大势所趋，未来公司须重点布局在游戏研发阶段的美术和程序上，AI可以提高效率，让一个人能干几个人的活；在运营阶段，能把对玩家的分类分得更为精细，让每一类玩家有不同的玩法，甚至匹配不同的数值；更

分类标签游戏+AI美术程序

10-02 00:00

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway