SambaNova推出新的半导体芯片SN40L,旨在降低企业应用程序中运行大型语言模型的总成本

新知榜官方账号

2023-09-24 02:02:20

SambaNova推出新的半导体芯片SN40L,旨在降低企业应用程序中运行大型语言模型的总成本

人工智能芯片初创公司SambaNova Systems在周二推出了一款新的半导体芯片,旨在让其客户以更低的总成本使用更高质量的人工智能模型。

这家位于加利福尼亚州帕洛阿尔托的公司表示,SN40L芯片旨在运行比OpenAI的ChatGPT高级版使用的大两倍以上的模型。

「SN40L是专门为在企业应用程序中运行大型语言模型而构建的,」SambaNova CEO Rodrigo Liang表示。「我们建立了一个完整的堆栈,使我们能够真正了解企业用例。」

Liang表示,希望以新颖的方式部署人工智能的大型企业面临的考虑因素与ChatGPT等消费软件面临的考虑因素不同且更加复杂。对于企业客户而言,安全、准确性和隐私等方面都是必须以不同方式设计的人工智能技术领域。

英伟达在人工智能芯片市场占据主导地位,但对生成式人工智能软件兴趣的激增引发的需求涨势使得某些公司难以获得这些令人瞩目的芯片。而英特尔、AMD和SambaNova等初创公司则纷纷采取行动以填补这个空白。

这款新SambaNova芯片能够支持5万亿参数模型,并包含两种先进的存储形式。存储有时可能是处理人工智能数据的瓶颈。该公司表示,其硬件组合使客户能够在不牺牲准确性的情况下运行更大的人工智能模型。据介绍,SambaNova的芯片由台积电负责制造。

本页网址:https://www.xinzhibang.net/article_detail-13276.html

寻求报道,请 点击这里 微信扫码咨询

关键词

SambaNova 半导体芯片 SN40L 人工智能模型 企业应用程序

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯