如何使用GPT2框架实现代码自动补全的功能

新知榜官方账号

2023-10-19 02:16:20

如何使用GPT2框架实现代码自动补全的功能

近年来，NLP领域的生成式任务有明显的提升，那通过AI我们可以让代码自动完成后续补全吗？本文主要介绍了如何使用GPT2框架实现代码自动补全的功能。

如果AI真的可以自己写代码了，程序员将何去何从？我去年做过一个代码补全的小功能，打包为androidStudio插件，使用效果如下：

代码补全模型预测出的结果有时的确会惊吓到我，这也能学到~?那如果给它见识了全世界的优秀代码，再给足够量级参数和优秀的模型框架，真的可以实现需求作为输入，直接输出代码吗?"我的需求讲完了，你的代码呢?"希望可以看到这一天。代码补齐功能有其他优秀插件也已实现，比如tabnine，Kite和国产的aixcoder。

主要包括数据，算法和工程。数据众所周知，算法工程师大部分时间都在处理数据。深度学习是使用大数据训练模型的一个过程，数据是很重要的一个模块。所以我们先尽可能多的准备好训练数据。

数据采集：本文的目的是代码补全，训练数据就是代码段。考虑到每种语言风格和语法都不一致，所以单个模型只针对一种代码语言。我使用的训练数据主要来源于GitHub，编写了一个简单的爬虫代码，指定语言后根据stars的排序下载工程。

数据清理：直接下载的数据肯定是不能直接用的，我们还需要对数据进行清理。首先，我们的训练数据只需要工程中的代码文件，以java工程为例，我们只保留.java结尾的文件，其他文件可剔除。其次，我的代码补全目标是代码段，不针对注释功能。而且对于代码补全训练时，我们是会给定一定范围的上文，如果存在注释段会占用有效代码信息。另外注释除英文外其他字符不在我的训练vocab范围内，所以需要对代码中注释和日志进行清理。

数据编码：得到了训练数据后还需要把代码文本进行编码。本文使用的是bpe（bytepairencoder）字节对编码，主要为了数据压缩。数据编码后，代码的每个token被编码为1~N个id。模型预测到的id反编码为token即可。回车符认为是预测的终止符。

模型算法：代码补全功能就是基于GPT2框架，OPenAI官方提供了多套GPT2预训练模型。对于GPT算法，我们使用超参：12个层，768个隐藏节点，12个heads。infer阶段采用beam-search会导致整个预测过程特别耗时，所以参考了论文，采用top-ksampling，每次预测top3的结果再通过概率阈值过滤后作为最终候选输出。

工程：代码补全功能，最合适的应用场景就是上IDE。nlp模型不太适合在本机部署，最终选择了在GPU机器上部署模型，然后终端通过http请求获取预测文本显示的方案。最后一步就是如何在IDE上使用功能了。我们要开发AS的插件，需要使用IntelliJ，首先需要在本机安装配置IntelliJIDEA。好用的插件可以节省程序员很多时间，在插件实现时，我还添加了一个小的git-blame功能，实时查看指定行的git提交人。

AI能否自己写代码，达到疑犯追踪里TM那种水平，我不敢说一定不可能，但以我目前的认知是实现不了，毕竟写代码的是程序员，给算法喂数据的是程序员，算法设计还是程序员，AI连帮人类解bug的功能都还不出现！

本页网址：https://www.xinzhibang.net/article_detail-17215.html

寻求报道，请

关键词

分享至微信：

相关工具

AIGC原创内容创作和营销文案生成

讯飞智检

讯飞推出的智能写作SaaS工具，支持智能写作后的校对与合规审核

ContentBot

AI快速写作工具

有道写作

网易有道出品的智能英文写作修改和润色工具

奇妙文

出门问问推出的AI写作助理

秘塔写作猫

AI写作，文章生成

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16