英伟达GPU短缺引发市场热议:生成式AI仍旧需求旺盛

新知榜官方账号

2023-08-07 01:22:22

背景

英伟达GPU已成为各大AI公司开发大模型的首选利器,但其供应量却非常有限,引发了市场上对于GPU短缺问题的热议。本文讨论了英伟达GPU短缺的问题以及市场上对于生成式AI算力需求的旺盛情况,分析了各大公司对于GPU的需求情况,并提出了解决GPU短缺的方案。

市场需求

生成式AI爆发仍旧没有放缓,对算力提出了更高的要求。一些初创公司都在使用英伟达昂贵、且性能极高的H100来训练模型。马斯克说,GPU在这一点上,比药物更难获得。OpenAI受到GPU的限制,这推迟了他们的短期计划(微调、专用容量、32k上下文窗口、多模态)。各大公司GPU需求:约43万张H100。

解决方案

GPU并不短缺,而是供应链问题。英伟达正在正在开足马力生产GPU,但是GPU的产能最主要受到的是供应链的限制。英伟达只与台积电合作生产H100,未来可能会与英特尔和三星合作,但是短期内不可能。此外,H100内存也可能存在产能不足的问题。为解决GPU短缺问题,可以提高供应链的效率,增加GPU的产能,或者采用其他替代产品。同时,各大公司可以考虑定制化GPU,或者与英伟达等公司合作,共同解决GPU短缺的问题。

本页网址:https://www.xinzhibang.net/article_detail-9414.html

寻求报道,请 点击这里 微信扫码咨询

关键词

英伟达GPU 短缺 生成式AI H100 OpenAI 市场需求

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯