Meta发布开源项目CodeLlama，基于Llama2构建的AI模型可自然语言生成和解释代码

新知榜官方账号

2023-08-29 22:27:03

Meta发布开源项目CodeLlama，基于Llama2构建的AI模型可自然语言生成和解释代码

上周五，继先前推出能够生成文本、翻译语言和创建音频的AI模型之后，Meta发布了开源项目CodeLlama，这是一个基于Llama2构建的模型，可以用自然语言（特别是英语）生成和解释代码，号称是编程领域“最先进的大语言模型”，可免费用于研究和商业用途。

CodeLlama与GitHubCopilot、AmazonCodeWhisperer及其他的开源AI代码生成器如StarCoder、StableCode和PolyCoder类似，并可以跨多种编程语言完成代码并调试现有代码，包括Python、C++、Java、PHP、Typescript、C#和Bash。值得注意的是，CodeLlama可以处理多达100,000个上下文tokens，这意味着它可以评估长程序。相比之下，ChatGPT通常只能处理大约4,000-8,000个tokens，但可以通过OpenAI的API获得更长的上下文模型。

CodeLlama提供了三种不同大小的模型，分别具有7B、13B和34B参数，可以用于代码补全和调试。每个模型都使用500B代码tokens和代码相关数据进行训练，此外7B和13B基础模型和指令模型经过了中间填充(FIM)功能的训练，支持在现有代码中插入代码的功能。Meta表示这三种不同大小模型满足了不同的服务和延迟要求。例如，7B模型可以在单个GPU上运行。34B模型返回最佳结果并提供更好的编码辅助，但较小的7B和13B模型速度更快，更适合需要低延迟的任务，例如实时代码补全。

CodeLlama的卓越功能源自行业领先的AI算法。其核心模型由包含编程语言、编码模式和最佳实践的大规模数据集训练而成。自然语言处理（NLP）技术则让CodeLlama有能力理解开发者的输入，并生成与上下文相匹配的代码建议。该模型的神经架构受到MetaLlama2的启发，表现出对编码语法和语义的深刻理解。正是凭借自然语言处理与编码专业知识的深度整合，CodeLlama才得以提供符合开发者意图的可行建议。

CodeLlama的开源属性，意味着其与OpenAI和谷歌等技术巨头主导的传统专有软件有着截然不同的气质和定位。以开源方法为基础，MetaPlatforms正推动先进AI代码生成工具的大众化普及。开发者将有机会免费使用CodeLlama功能，借此开发出更多创新应用并简化编码工作流程。

CodeLlama的功能包括智能代码建议、可定制的代码模板、自然语言界面和协作编码。Meta还为CodeLlama制定了高级语言支持、增强上下文理解、与开发平台相集成和机器学习驱动的功能改进等发展路线图。

随着CodeLlama的发布，AI代码生成市场的老牌企业或将面临更大的竞争压力、被迫加速创新周期。开发人员可以尝试将CodeLlama的开源优势同当前专有工具相结合，构建起混合解决方案以优化其编码工作流程。CodeLlama的可及性将帮助更多初创企业接触到AI驱动型编码工具，从而培育出更趋多样化的创新生态系统。CodeLlama的发布代表着编码领域正在迎接又一轮巨变，为开发人员提供支持，并以前所未有的规模推动创新探索。

本页网址：https://www.xinzhibang.net/article_detail-10555.html

寻求报道，请

关键词

Meta CodeLlama Llama2 AI模型自然语言代码生成

分享至微信：

相关工具

Cody

Sourcegraph推出的免费AI编程工具

CodeWhisperer

亚马逊最新发布的免费AI编程助手

Boxy

CodeSandbox推出的AI编程助手

HTTPie AI

AI API开发工具

Cursor

AI编程和软件开发

GitHub Copilot

GitHub AI编程工具

视频翻译工具MyHeyGen的详细配置教程

视频翻译工具MyHeyGen的详细配置教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，

分类标签视频翻译MyHeyGen免费工具

11-28 10:00

亚马逊云科技在AI领域的高能盘点与生成式AI新技术展望

机器学习创新深入在亚马逊云科技的DNA今天的生成式AI技术，来源于机器学习的深度学习分支，本质是通过百亿、千亿级参数的基础模型算法，生成图片、文本、代码、甚至语音、视频等内容的技术。20多年来，人工智能和机器学习始终是亚马逊关注的焦点，客户在亚马逊使用的许多功能都是由机器学习驱动的，如亚马逊电商推荐

分类标签亚马逊云科技AI领域生成式AI

11-22 22:28

亚马逊AWS发布多款AIGC产品，进军云计算新战场

亚马逊AWS发布多款AIGC产品，进军云计算新战场4月13日晚，亚马逊AWS发布多款AIGC产品，包括生成式AI服务AmazonBedrock、AI大模型Titan（泰坦）、软件开发工具AmazonCodeWhisperer，以及AI计算实例AmazonEC2Trn1n和AmazonEC2Inf2等

分类标签亚马逊AWSAIGC云计算大模型人工智能

11-10 22:25

亚马逊云科技：加速医疗与生命科学行业数字化转型和发展

亚马逊云科技：加速医疗与生命科学行业数字化转型和发展亚马逊云科技在医疗与生命科学行业峰会上表示，云计算、大数据和人工智能等技术是加速该行业数字化转型和发展的重要途径。作为医疗与生命科学行业的云计算引领者，亚马逊科技于2022年10月在上海市徐汇区设立上海亚马逊云科技生命健康数字化赋能中心，希望通过徐

分类标签云计算大数据人工智能

11-10 22:24

亚马逊推出Bedrock生成式人工智能服务

亚马逊推出Bedrock生成式人工智能服务亚马逊近日推出了Bedrock生成式人工智能服务，用于替代ChatGPT和DALL-E2，并支持了Titan大模型。该服务支持的初始基础模型集还包括来自AI21、Anthropic和StabilityAI的模型，以及亚马逊自研的Titan系列新模型。Bedr

分类标签亚马逊Bedrock生成式人工智能大模型TitanAI编程助手

11-10 22:23

亚马逊三季度营收超预期，AWS云服务增速依旧缓慢

亚马逊三季度营收超预期，AWS云服务增速依旧缓慢电商巨头亚马逊（Nasdaq：AMZN）发布了2023财年第三季度财报，三季度营收同比增长13%至1430.83亿美元，高于市场预期的1416亿美元；净利润98.79亿美元，同比增长超243%；稀释后每股收益为0.94美元，高于市场预期的0.6美元。亚

分类标签亚马逊财报AWS

11-10 22:22

亚马逊云科技发布多项新举措，助力企业把握生成式AI的机遇

亚马逊云科技发布多项新举措，助力企业把握生成式AI的机遇近日，“2023亚马逊云科技中国峰会”在上海召开。会议围绕“因构建而可见”主题，亚马逊云科技正式发布了“亚马逊云科技创业加速器”“亚马逊云科技智荟出海计划”“亚马逊云科技智能视觉创新加速计划”“亚马逊云科技可持续发展伙伴计划”等多项新举措。

分类标签亚马逊云科技生成式AI创业加速器

11-10 22:21

亚马逊云科技如何实现生成式AI的普惠化

亚马逊云科技如何实现生成式AI的普惠化谈到生成式AI，我们大多都在谈论基础模型。但是整个生成式AI应用就像是浮在海面的冰山，露在外面的只是冰山的一角，还有加速芯片，数据库，数据分析，数据安全服务等。亚马逊云科技已经提供了完整的端到端的生成式AI技术堆栈，从底层的加速芯片，存储优化，到中间层模型构建工

分类标签亚马逊云科技生成式AI普惠化

11-04 02:20

亚马逊云科技：让生成式AI真正走向普惠

生成式AI的横空出世伴随着ChatGPT的横空出世，生成式AI（ArtificialIntelligenceGeneratedContent，也称AIGC）大潮也以锐不可当之势席卷全球。从各行各业的商业领袖，到千千万万的程序员和开发者，都在思考如何借助生成式AI技术来提高工作效率，推动业务创新，赢得

分类标签生成式AI机器学习亚马逊云科技

11-02 02:16

苹果VisionPro催熟XR交互VR陀螺关注2023-10-251评论827浏览1收藏

苹果VisionPro催熟XR交互VR陀螺关注2023-10-251评论827浏览1收藏苹果VisionPro催熟XR交互VR陀螺是近期备受关注的新技术。据悉，该技术能够实现更加流畅的交互体验，极大地提升用户的使用感受。作为一名B端产品经理，要想成功推出一款产品，关键在于深入了解目标行业和市场。首先

分类标签苹果VisionProXR交互VR陀螺

10-26 08:02

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway