英特尔:底层技术突破是大模型未来发展的关键

新知榜官方账号

2023-07-10 10:50:38

英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇在接受采访时表示,大模型未来的发展需要依赖于底层技术突破,如技术、通讯和存储技术。只有这些底层技术不断突破,才能实现对人工智能更高的要求。这些底层技术正是英特尔正在努力发展的方向,包括人工智能、边缘到云的基础架构、连接和传感技术等。

张宇观察当前AI大模型的商业进展,认为大模型的商业模式仍在摸索中。即使人们对于ChatGPT的应用相当热衷,但一些报告显示,ChatGPT最近的访问量正在下降。但这一现象并不能否定ChatGPT开启的AI新时代。目前AI大模型和AIGC技术尚处于开环工作,而不是闭环工作,仍然存在成本、数据和人力等限制,随着人工智能和算力的不断发展,这些问题可能会得到解决。

作为芯片巨头,英特尔虽不及英伟达在AI计算中凭借GPU“独领风骚”,但仍是该领域的重要玩家,可以提供诸如CPU、GPU、FPGA等多种算力资源和完整软硬件解决方案等。英特尔正在考虑如何在异构平台上合理分配负载,以进行人工智能处理。

在底层方面,英特尔采用了OneAPI思路,利用OneAPI提供的优化库,希望以打包的平台方案整合自家庞杂的产品路线,降低客户对底层硬件差异的敏感度。在算力调度方面,英特尔还需要考虑资源分配的问题,根据不同场景的要求选择不同的产品组合,包括独立显卡、集成显卡、CPU以及AI芯片等。

近年来,为了应对大模型网络瓶颈,英特尔亦以自身在网络技术领域的积累,试图解决AI大模型的网络瓶颈问题。英特尔以更新和创新更高层网络协议来提高以太网传输RDMA协议的可靠性,称之为可靠传输,这个功能将包含在英特尔下一代IPU中。IPU即基础设施处理器,该产品本质上就是如今火热的DPU(数据处理器)。

张宇透露,英特尔计划不久将HabanaGaudi2这一款AI芯片引入中国,并发布相关活动,这对英特尔来说非常重要。在最近的MLCommons公开的AI评测中,只有英特尔和另一家友商展示了在大模型训练方面的良好性能。

针对人工智能训练市场,主流的方案是英伟达GPU,推广专用AI芯片进行训练并不容易。英特尔试图打破这一点,目前英特尔有专门为大模型训练设计的HabanaGaudi2这一款AI芯片。HabanaGaudi2作为落地英特尔AI战略的重要产品,英特尔对其有巨大市场期望。

在大模型的训练集群规模不断扩大,数据传输不断增加的情况下,网络拥塞不可避免。英特尔计划推出具备200G吞吐速度的网卡,400G和800G规格的网卡产品也在路线图上。

本页网址:https://www.xinzhibang.net/article_detail-7375.html

寻求报道,请 点击这里 微信扫码咨询

关键词

英特尔 大模型 人工智能

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯