生成式AI应用开发,亚马逊云科技提供端到端解决方案

新知榜官方账号

2023-08-02 17:02:45

生成式AI应用开发,亚马逊云科技提供端到端解决方案

近年来,生成式AI技术受到越来越多企业的关注和追捧。针对企业在生成式AI应用开发过程中所遇到的挑战和痛点,亚马逊云科技推出了一系列针对不同层面的资源,为想要利用生成式AI技术加速或创新业务的企业提供端到端的解决方案。

在亚马逊云科技的端到端解决方案中,基础模型、私人数据存储、算力支撑、工具和应用等层面的资源都得到了充分的考虑和提供。此外,本文还讨论了Agent的发展趋势、构建AI应用的五层基石理论以及私有数据集成等问题。

Agent成为最受重视的方向

在大模型语境下,Agent可以理解成能自主理解、规划、执行复杂任务的系统。相比大模型训练,OpenAI内部目前更关注Agent领域。每当有新的Agent论文出来的时候,团队都会很兴奋并且认真地讨论。现在,Agent第二轮爆发正在酝酿中,标志就是新一轮应用与场景结合更紧密了。

创业公司中,也有OpenAI支持的Cursor代码编辑器,把生成代码抬到了一句话生成整个项目框架的高度。接下来,Agent也将成为新的起点,成为各行各业构建新一代AI应用必不可少的组成部分。

构建AI应用的五层基石理论

对此,初创公司SeednapseAI创始人提出构建AI应用的五层基石理论,受到业界关注。Models,也就是我们熟悉的调用大模型API。PromptTemplates,在提示词中引入变量以适应用户输入的提示模版。Chains,对模型的链式调用,以上一个输出为下一个输入的一部分。Agent,能自主执行链式调用,以及访问外部工具。Multi-Agent,多个Agent共享一部分记忆,自主分工相互协作。

私有数据集成

在生成式AI应用开发过程中,私有数据集成也是一个难点。亚马逊云科技推出向量引擎和向量数据库等服务,帮助企业将私有数据存储到具有向量引擎的数据库中,并通过简单的API调用就能方便地查询企业内部的数据。此外,亚马逊云科技还提供了多个选项来满足不同需求,如AmazonAuroraPostgreSQL兼容版关系型数据库、AmazonOpenSearch分布式搜索和分析服务和AmazonRDS关系型数据库等。

算力支撑

在生成式AI应用开发过程中,算力也是一个重要的支撑。亚马逊云科技推出了AmazonEC2P5实例,包含8个英伟达H100TensorCoreGPU,640GB高带宽GPU内存,同时提供第三代AMDEPYC处理器、2TB系统内存和30TB本地NVMe存储,以及3200Gbps的聚合网络带宽和GPUDirectRDMA支持,可实现更低延迟和高效的横向扩展性能。此外,亚马逊云科技还推出了AmazonEC2Inf2和AmazonEC2Trn1n等性能也表现不错的实例。

结语

总的来说,亚马逊云科技针对生成式AI应用开发所提供的端到端解决方案覆盖了基础模型、私人数据存储、算力支撑、工具和应用等多个层面的资源。这些资源不仅降低了生成式AI应用开发的门槛,还能够帮助企业更好地集成私有数据、提高算力支撑等。在生成式AI技术快速发展的今天,亚马逊云科技的这一系列服务,无疑为普通玩家赢得了宝贵的时间和机会。

本页网址:https://www.xinzhibang.net/article_detail-9117.html

寻求报道,请 点击这里 微信扫码咨询

关键词

生成式AI Agent 亚马逊云科技 大模型 数据存储 算力

分享至微信: 微信扫码阅读

相关工具

相关文章