生成式AI时代的安全议题

新知榜官方账号

2023-09-20 11:02:38

生成式AI时代的安全议题

2023年初，全球生成式AI产业迎来了爆发式增长，大量AI产品和应用纷纷落地，让用户深度感知AI的魅力。预计到2032年，生成式AI市场的营收规模将从2022年的400亿美元增长至1.3万亿美元。就在大量用户“尝鲜”生成式AI时，无数全新的网络安全隐患正在浮出水面。如何解决AI带来的安全问题，进一步利用AI赋能网络安全成为网安行业关注的新焦点。

2023年8月31日，亚马逊云科技re:Inforce2023中国站在北京隆重举行。本次大会以“AI时代全面智能的安全”为主题，聚焦生成式AI给企业安全带来的机遇和挑战。亚马逊云科技认为，安全是构建生成式AI不可回避的重要议题，也是AI真正发挥作用的基石，企业只有在AI旅程中做好数据、模型和应用的安全防护，才能更好地借助AI加速业务创新，同时在全球业务规划做好战略布局。安全也是亚马逊云科技多年来持续建设的第一目标。

生成式AI应用已经到来，日前我国已有11个AI大模型完成备案工作，将陆续开放给全社会使用。而当AI应用汹涌而至之时，我们更应该先一步夯实安全。

数据和模型安全是构建AI应用的关键

数据是企业使用AI进行业务创新的基础。在实践过程中，企业通常需要使用高价值的业务数据进行模型训练和微调。数据在产生价值之前会经过存储、传输、使用、治理等各个环节。为构建生成式AI应用，企业首先应在数据流动的过程中确保端到端的数据安全，为生成式AI的应用提供安全和有价值的数据输入。

模型训练的安全性同样至关重要，企业应全方位的监控模型的安全运行，包括模型的访问安全、模型的管理、模型运行的安全监控等。

应用安全是实现AI价值的保障

生成式AI应用本身以及访问的安全性也同样重要。将安全功能嵌入AI应用之中是提升应用本身安全性的方法之一。

运行中的安全针对应用的安全访问，企业可构建零信任的应用安全访问策略。亚马逊云科技日前推出了AmazonVerifiedPermissions，为用户构建的应用程序提供细粒度授权和权限管理，用户可以使用该服务管理其应用程序的角色和属性的访问控制。

合规能力加速生成式AI全球创新

亚马逊云科技现已在全球获得超过140个安全标准和合规认证。值得一提的是，这些合规认证不只是覆盖了基础设施，还有非常多的平台应用，如容器平台、无服务器平台等。亚马逊云科技还将AI技术应用到其安全及合规服务中，通过更智能的安全及合规服务应对复杂的安全威胁、提升合规效率。

亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术，大幅提升了自身的合规效率，将审计时间节约了53%。亚马逊云科技在保护客户的合规、安全的同时，也在积极地使用人工智能技术提供自身的合规能力。

除此之外，亚马逊云科技还提供责任共担模型、云上隐私保护和几乎满足全球所有监管机构合规性要求的合规计划，全面助力中国企业应对出海合规挑战。

本页网址：https://www.xinzhibang.net/article_detail-12614.html

寻求报道，请

关键词

生成式AI 安全问题网络安全亚马逊云科技数据安全模型训练

分享至微信：

相关工具

Visual Studio IntelliCode

Visual Studio AI辅助开发

Mutable AI

人工智能加速软件开发

MarsX

AI无代码软件开发

Codiga

AI代码实时分析

Debuild

低代码快速开发网页应用

AI Code Reviewer

AI代码检查

视频翻译工具MyHeyGen的详细配置教程

视频翻译工具MyHeyGen的详细配置教程近期，一款名为“视频翻译”的工具引起了广泛关注。这不是一个简单的网页应用，而是一个可以免费部署在个人电脑或服务器上的实用程序。它的强大之处在于能够翻译任意时长的视频内容。所谓的视频翻译，实际上是指同声传译。虽然这类工具并非近期才问世，市场上已有多款成熟产品，

分类标签视频翻译MyHeyGen免费工具

11-28 10:00

亚马逊云科技在AI领域的高能盘点与生成式AI新技术展望

机器学习创新深入在亚马逊云科技的DNA今天的生成式AI技术，来源于机器学习的深度学习分支，本质是通过百亿、千亿级参数的基础模型算法，生成图片、文本、代码、甚至语音、视频等内容的技术。20多年来，人工智能和机器学习始终是亚马逊关注的焦点，客户在亚马逊使用的许多功能都是由机器学习驱动的，如亚马逊电商推荐

分类标签亚马逊云科技AI领域生成式AI

11-22 22:28

亚马逊AWS发布多款AIGC产品，进军云计算新战场

亚马逊AWS发布多款AIGC产品，进军云计算新战场4月13日晚，亚马逊AWS发布多款AIGC产品，包括生成式AI服务AmazonBedrock、AI大模型Titan（泰坦）、软件开发工具AmazonCodeWhisperer，以及AI计算实例AmazonEC2Trn1n和AmazonEC2Inf2等

分类标签亚马逊AWSAIGC云计算大模型人工智能

11-10 22:25

亚马逊云科技：加速医疗与生命科学行业数字化转型和发展

亚马逊云科技：加速医疗与生命科学行业数字化转型和发展亚马逊云科技在医疗与生命科学行业峰会上表示，云计算、大数据和人工智能等技术是加速该行业数字化转型和发展的重要途径。作为医疗与生命科学行业的云计算引领者，亚马逊科技于2022年10月在上海市徐汇区设立上海亚马逊云科技生命健康数字化赋能中心，希望通过徐

分类标签云计算大数据人工智能

11-10 22:24

亚马逊推出Bedrock生成式人工智能服务

亚马逊推出Bedrock生成式人工智能服务亚马逊近日推出了Bedrock生成式人工智能服务，用于替代ChatGPT和DALL-E2，并支持了Titan大模型。该服务支持的初始基础模型集还包括来自AI21、Anthropic和StabilityAI的模型，以及亚马逊自研的Titan系列新模型。Bedr

分类标签亚马逊Bedrock生成式人工智能大模型TitanAI编程助手

11-10 22:23

亚马逊三季度营收超预期，AWS云服务增速依旧缓慢

亚马逊三季度营收超预期，AWS云服务增速依旧缓慢电商巨头亚马逊（Nasdaq：AMZN）发布了2023财年第三季度财报，三季度营收同比增长13%至1430.83亿美元，高于市场预期的1416亿美元；净利润98.79亿美元，同比增长超243%；稀释后每股收益为0.94美元，高于市场预期的0.6美元。亚

分类标签亚马逊财报AWS

11-10 22:22

亚马逊云科技发布多项新举措，助力企业把握生成式AI的机遇

亚马逊云科技发布多项新举措，助力企业把握生成式AI的机遇近日，“2023亚马逊云科技中国峰会”在上海召开。会议围绕“因构建而可见”主题，亚马逊云科技正式发布了“亚马逊云科技创业加速器”“亚马逊云科技智荟出海计划”“亚马逊云科技智能视觉创新加速计划”“亚马逊云科技可持续发展伙伴计划”等多项新举措。

分类标签亚马逊云科技生成式AI创业加速器

11-10 22:21

亚马逊云科技如何实现生成式AI的普惠化

亚马逊云科技如何实现生成式AI的普惠化谈到生成式AI，我们大多都在谈论基础模型。但是整个生成式AI应用就像是浮在海面的冰山，露在外面的只是冰山的一角，还有加速芯片，数据库，数据分析，数据安全服务等。亚马逊云科技已经提供了完整的端到端的生成式AI技术堆栈，从底层的加速芯片，存储优化，到中间层模型构建工

分类标签亚马逊云科技生成式AI普惠化

11-04 02:20

亚马逊云科技：让生成式AI真正走向普惠

生成式AI的横空出世伴随着ChatGPT的横空出世，生成式AI（ArtificialIntelligenceGeneratedContent，也称AIGC）大潮也以锐不可当之势席卷全球。从各行各业的商业领袖，到千千万万的程序员和开发者，都在思考如何借助生成式AI技术来提高工作效率，推动业务创新，赢得

分类标签生成式AI机器学习亚马逊云科技

11-02 02:16

苹果VisionPro催熟XR交互VR陀螺关注2023-10-251评论827浏览1收藏

苹果VisionPro催熟XR交互VR陀螺关注2023-10-251评论827浏览1收藏苹果VisionPro催熟XR交互VR陀螺是近期备受关注的新技术。据悉，该技术能够实现更加流畅的交互体验，极大地提升用户的使用感受。作为一名B端产品经理，要想成功推出一款产品，关键在于深入了解目标行业和市场。首先

分类标签苹果VisionProXR交互VR陀螺

10-26 08:02

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway