新知榜官方账号
2023-11-01 06:06:24
英伟达今天发布的一篇研究论文描述了生成式人工智能如何帮助最复杂的工程工作之一:设计半导体。这项工作展示了高度专业化领域的公司如何利用其内部数据训练大型语言模型(LLM),以构建可提高生产力的助手。很少有像半导体设计这样具有挑战性的追求。在显微镜下,像NVIDIAH100TensorCoreGPU(上图)这样最先进的芯片看起来就像一座精心规划的大都市,由数百亿个晶体管构建而成,连接在比人类头发细10,000倍的街道上。多个工程团队协调长达两年的时间来建造这些数字大城市之一。一些小组定义芯片的整体架构,一些小组制作并放置各种超小型电路,还有一些小组测试他们的工作。每项工作都需要专门的方法、软件程序和计算机语言。
NVIDIA研究总监兼该论文的主要作者MarkRen表示:“我相信,随着时间的推移,大型语言模型将全面帮助所有流程。”NVIDIA首席科学家BillDally今天在国际计算机辅助设计会议上的主题演讲中宣布了这篇论文,该会议是数百名从事电子设计自动化(EDA)领域工作的工程师的年度聚会。“这项工作标志着将LLM应用于复杂的半导体设计工作中迈出了重要的第一步,”Dally在旧金山举行的活动中说道。“它展示了即使是高度专业化的领域也可以利用其内部数据来训练有用的生成人工智能模型。”
表面该论文详细介绍了NVIDIA工程师如何为内部使用创建一个名为ChipNeMo的定制LLM,利用公司的内部数据进行培训,以生成和优化软件并协助人类设计师。在EDA领域拥有20多年职业生涯的Ren表示,从长远来看,工程师希望将生成式人工智能应用到芯片设计的每个阶段,从而可能在整体生产力方面获得显着提升。在对NVIDIA工程师进行可能的用例调查后,研究团队选择了三个开始:聊天机器人、代码生成器和分析工具。后者——一种自动执行维护已知错误更新描述的耗时任务的工具——迄今为止最受欢迎。一个回答有关GPU架构和设计问题的原型聊天机器人帮助许多工程师在早期测试中快速找到技术文档。正在开发的代码生成器(如上所示)已经使用芯片设计人员使用的两种专用语言创建了大约10-20行软件的片段。它将与现有工具集成,让工程师在进行中的设计中拥有得心应手的助手。
该论文主要关注团队收集设计数据并使用其创建专门的生成人工智能模型的工作,这是一个可移植到任何行业的过程。作为起点,该团队选择了一个基础模型,并使用NVIDIANeMo对其进行了定制,这是一个用于构建、定制和部署生成式AI模型的框架,包含在NVIDIAAIEnterprise软件平台中。所选的NeMo模型拥有430亿个参数,这是对其理解模式能力的衡量标准。它使用超过一万亿个令牌、文本和软件中的单词和符号进行训练。然后,该团队在两轮训练中完善了该模型,第一轮使用了价值约240亿代币的内部设计数据,第二轮则混合了约130,000个对话和设计示例。这项工作是半导体行业中生成式人工智能的研究和概念证明的几个例子之一,刚刚开始从实验室出现。
Ren团队学到的最重要的教训之一是定制LLM的价值。在芯片设计任务中,具有少至130亿个参数的定制ChipNeMo模型的性能可与甚至超过具有700亿个参数的LLaMA2等更大的通用LLM的性能相媲美或超过。在某些用例中,ChipNeMo模型要好得多。他补充说,在此过程中,用户需要注意收集哪些数据以及如何清理数据以供培训使用。最后,Ren建议用户及时了解可以加速和简化工作的最新工具。NVIDIA研究中心在全球拥有数百名科学家和工程师,专注于人工智能、计算机图形学、计算机视觉、自动驾驶汽车和机器人等主题。最近的其他半导体项目包括使用人工智能设计更小、更快的电路以及优化大块的布局。希望构建自己的定制LLM的企业现在就可以开始使用GitHub和NVIDIANGC目录中提供的NeMo框架。
相关工具
相关文章
相关快讯
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28