国产AI芯片在大模型领域的进展情况

新知榜官方账号

2023-11-02 02:35:29

大模型的亮点

在刚过去的2023世界人工智能大会上，大模型可以说是其中的大亮点之一，华为盘古、商汤日日新、网易伏羲等30多款国产AI大模型集中亮相。与此同时，各类人工智能芯片公司、算力提供商也针对大模型展示了相应的方案。大模型时代，国产AI芯片进展如何？

国产AI芯片进展情况

在这次大会上，瀚博半导体、燧原科技、登临科技、天数智芯等纷纷展示了针对大模型的产品方案，呈现出国产AI芯片在大模型领域的进展情况。

瀚博半导体成立于2018年12月，是一家自研GPU芯片及解决方案提供商。在此次大会上，瀚博发布了第二代GPUSG100，并推出南禺系列GPU加速卡VG1600、VG1800、VG14，以及LLM大模型AI加速卡VA1L、AIGC大模型一体机、VA12高性能生成式AI加速卡等6款新品。据介绍，瀚博SG100芯片采用7nm先进制程，具备业界领先的渲染性能，同时兼具低延时高吞吐的AI算力和强大的视频处理能力。

燧原科技在此次大会上发布了燧原曜图文生图MaaS平台服务产品。该产品以燧原科技“邃思”系列芯片为算力支撑，由首都在线提供计算服务，燧原曜图MaaS平台服务产品为用户提供面向AIGC时代的高效易用、安全可靠、企业级的文生图服务。

登临科技展示了最新一代创新通用GPU产品GoldwasserII系列以及基于开源大语言模型可交互界面。据了解，GoldwasserII针对基于Transformer和生成式AI大模型进行专门优化，在性能有大幅提升，已于2022年流片，目前已开始规模化量产和商业客户验证。

天数智芯在此次会上也展示了在大模型训练、推理所取得的显著进展，包括图片识别/以图搜图、3D建模、大模型推理等。在大模型领域，天数智芯今年上半年，搭建了40P算力320张天垓100加速卡算力集群，完成智源研究院70亿参数大模型全量训练，天垓100是天数智芯2018年研发的通用AI训练芯片。

算力集群化是发展趋势

算力集群化是发展趋势伴随大模型带来的生成式AI突破，人工智能正在进入一个新的时代。算力是人工智能产业创新的基础，大模型的持续创新，驱动算力需求的爆炸式增长。可以说，大模型训练的效率或者是创新的速度，根本上取决于算力的大小。然而，中国的算力已经成为一个越来越稀缺的资源。

华为轮值董事长胡厚崑在某论坛上谈到，大模型的研发高度依赖高端AI芯片、集群及生态。高计算性能、高通信带宽和大显存成为大模型训练必不可少的算力底座，单AI芯片进步速度还未跟上大模型对大算力的需求，算力集群化成为不可逆转的发展趋势。

在2023世界人工智能大会上，华为宣布昇腾AI集群全面升级，集群规模从最初的4000卡集群扩展至16000卡，拥有更快的训练速度和30天以上的稳定训练周期。胡厚崑表示，华为在各个单点创新的基础上，充分发挥云、计算、存储、网络以及能源的综合优势，进行架构创新，推出了昇腾AI集群，相当于把AI算力中心当成一台超级计算机来设计，使得昇腾AI集群性能更高，并且可靠性更高。

除了华为，阿里、腾讯等也打造了较大的算力集群，不过主要还是依靠英伟达的GPU芯片。阿里云表示，其拥有国内最强的智能算力储备，智算集群可支持最大十万卡GPU规模，承载多个万亿参数大模型同时在线训练。腾讯云此前大量采购了英伟达A100/H800芯片，发布新一代HCC高性能计算集群，用于大模型训练、自动驾驶、科学计算等领域。

结语

无论是大模型的训练，还是后期的推理部署，对算力的需求都相当大。虽然，当前国产AI芯片与国际领先GPU产品在大模型的训练上有差距，不过可以看到，已经有不少产品，在较大模型的训练上已经取得成绩，后续必然还会有更大的进展。同时，为了满足大模型对大算力的需求，算力集群化将会是未来趋势。

本页网址：https://www.xinzhibang.net/article_detail-18590.html

寻求报道，请

关键词

分享至微信：

相关工具

Notion AI

Notion推出的AI内容创作助手

Cohesive

人工智能文案内容创作和编辑工具

易撰

新媒体AI内容创作助手

Rytr

AI内容生成和写作助手

智搜

Giiso写作机器人，内容创作AI辅助工具

Compose AI

免费的Chrome浏览器自动化写作扩展

三个国外专业免费的调色网站

三个国外专业免费的调色网站无论制作视频、编辑图片，合适的色彩会让你的作品增加视觉冲击力，所以专业的调色技术价值非凡，一部电影或一部好的视频、图片海报，专业调色耗费少则上万，多则上百万，只是大家对专业调色这个行业知之甚少，今天网玩君就为大家分享三个国外专业免费的调色网站，记得收藏好，以后编辑视频、图片

分类标签调色网站免费

04-18 16:42

电影制作中的纹理技术

纹理在电影制作中的重要性纹理是指将详细的表面特征应用于3D模型或视觉效果元素，使其看起来更逼真。纹理对于创建视觉上引人入胜且可信的电影场景至关重要，尤其是涉及CGI、动画或特效的场景。纹理还支持叙事和讲故事，可以通过纹理设置年龄大小等属性，为故事奠定基础。纹理技术的发展历程自胶片问世以来，电影制作人

分类标签纹理电影制作CGI视觉效果微缩模型UV映射

04-18 16:42

UnrealSynth虚幻合成数据生成器-NSDT

UnrealSynth虚幻合成数据生成器-NSDTUnrealSynth基于UE5虚幻引擎开发，可用于生成合成数据集，包括图像和标注数据。可用于各种行业细分场景中目标识别任务的实施效率提高。UnrealSynth合成数据工具包内容UnrealSynth基于UE5虚幻引擎开发，目前支持YOLO系列模型

分类标签 UnrealSynth虚幻引擎数据合成YOLO模型深度学习训练数据

04-18 16:42

人工智能与音乐：谷歌的Project Magenta

谷歌的Project Magenta利用人工智能技术生成音乐和其他艺术形式，如素描、视频和笑话。该项目的目标是为人们创造新的交流方式。本文介绍了该项目的背景、发展历程和应用。在上世纪90年代中期，谷歌研究院的Douglas Eck就开始了他的人生目标：融合人工智能与音乐。二十年后，他与一支谷歌研究团

分类标签人工智能音乐谷歌

04-18 16:42

如何做好SEO优化？

如何做好SEO优化？想要做好SEO优化，得从站内优化和站外优化两个方面入手。一、站内优化1.关键词定位和分析关键词整理是SEO优化中的核心工作，一旦定下来就不建议再次去更改。站长始终要记住关键词一定要和行业、产品、领域息息相关，同时还可以参考竞争对手所做的关键词，可以利用站长工具、5118、爱站网、

分类标签 SEO优化关键词定位网站架构布局

12-11 08:19

万兴科技：营收实现稳健增长，拥抱AIGC新机遇

万兴科技：营收实现稳健增长，拥抱AIGC新机遇国元证券股份有限公司耿军军近期对万兴科技进行研究并发布了研究报告《2022年年度报告点评：营收实现稳健增长，拥抱AIGC新机遇》，本报告对万兴科技给出买入评级，当前股价为75.24元。万兴科技(300624)事件：公司于2023年4月7日收盘后发布《20

分类标签万兴科技营收增长AIGC

12-11 02:11

AI分身市场潜力巨大，万兴科技、京东等已率先布局

“AI孙燕姿”和“CarynAI”引爆市场最近，“AI孙燕姿”和“CarynAI”以以假乱真的程度引爆市场，都是通过采集本人的语音、文字、图像等素材，并通过开源的生成式训练模型进行训练而成。其中，“CarynAI”成功地借助AI技术，打造了自己的AI分身，通过付费的方式，跟AI版的自己进行交往，预计

分类标签 AI孙燕姿CarynAIAI分身AIGC技术虚拟主播数字人

12-11 02:10

万兴科技推出名师必备讲演神器“万兴智演”

万兴科技推出名师必备讲演神器“万兴智演”9月8日，万兴科技面向泛知识领域，推出名师必备讲演神器“万兴智演”。该款AI演示新品集成强大的AIGC能力、精美的行业课程模板以及动画特效素材，大大简化课件制作过程。同时，产品内置强大的录制、直播功能，通过真人实拍与演示内容相结合的形式，实现人景融合的实时演示

分类标签万兴科技万兴智演AI演示

12-11 02:09

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲

万兴科技创始人吴太兵在2023互联网岳麓峰会上的主题演讲2023互联网岳麓峰会论坛上，万兴科技创始人、董事长兼总裁吴太兵进行主题演讲。红网时刻新闻记者郭雅倩甘红长沙报道十届、十年，岳麓峰会从2014年的“湖湘汇”到如今云集万人的盛会，积攒了巨大的关注度和影响力。6月19日，2023互联网岳麓峰会在长

分类标签万兴科技吴太兵岳麓峰会

12-11 02:05

樟宜机场：通过科技改变旅客体验

樟宜机场：通过科技改变旅客体验樟宜机场在智能手机上移动的小红点代表了在机场上空飞行的飞机，通过传感器的追踪获取了相关飞行轨迹。机场通过人工智能、面部识别和数据分析等技术的应用，不断提高机场运营效率，保持创新，致力于成为一个旅客体验更佳、充满活力的目的地。人工智能优化机场运营效率樟宜机场在2017年共

分类标签樟宜机场科技旅客体验

12-10 22:16