亚马逊云科技推出生成式AI新工具,大模型时代已到来

新知榜官方账号

2023-07-19 03:48:38

亚马逊云科技推出生成式AI新工具,大模型时代已到来

云计算行业很久没有这么热闹了,这一次,行业集体看到了诱人的新果实,垂涎欲滴。毋庸置疑,AIGC是云计算的Gamechanger,将从根本上改变云计算乃至整个科技行业的游戏规则,作为云计算行业的GameRulemaker,亚马逊云科技也展露出新的峥嵘。

亚马逊云科技推出生成式AI新工具,包括AmazonBedrock和AmazonTitan模型,也涵盖极具性价比的AmazonEC2Trn1n和AmazonEC2Inf2实例。这些工具将推动大模型时代的到来,企业可以通过亚马逊云科技的人工智能和机器学习服务,构建和部署行业模型,让业务朝向人工智能做奋力一跃。

云客户对大模型的需求是热烈且现实的,亚马逊云科技综合了客户在云上的大模型需求,推出了一系列生成式AI工具。这些工具不仅能直接找到并访问高性能基础模型,给出最匹配业务场景的优秀反馈结果,还能无缝与应用程序集成,且无需管理大量基础设施集群,也不会增加过高的成本。同时,这些工具低门槛,客户甚至只需向Bedrock展示AmazonS3中的几个标注好的数据示例,就可以训练出一个客户自己的场景化产品。

在大模型时代,企业用户既看重大模型本身的效用,也在意自己能否获得简单易用的体验。云计算的本质是云厂商将自己的储备内生外化,以工程化产品输出给客户,在大模型领域又得到了加强,大模型时代,企业用户既看重大模型本身的效用,也在意自己能否获得简单易用的体验。

亚马逊云科技自研的Trainium和Inferentia芯片,提供了足够的算力支持。由Trainium支持的Trn1计算实例与其他任何EC2实例相比,都可以节省高达50%的训练成本,在同一可用区中支持3万个Trainium芯片互联,相当于超过6exaflops的计算能力,并具有PB级网络。由AmazonInferentia2提供支持的Inf2实例也对外正式可用,与上一代相比,Inf2实例吞吐量提高了4倍,延迟降低了10倍,还可实现加速器之间的超高速连接以支持大规模分布式推理。亚马逊云科技的成本效应突出,并且可选择的能力变得更多,人工智能自然而然生长在云之上。

本页网址:https://www.xinzhibang.net/article_detail-8229.html

寻求报道,请 点击这里 微信扫码咨询

相关工具

相关文章