生成式AI与大语言模型应用井喷时代的安全隐患

新知榜官方账号

2023-09-20 10:46:34

生成式AI与大语言模型应用井喷时代的安全隐患

随着云计算、大数据、机器学习等新兴技术的高速发展,生成式AI与大语言模型迎来了井喷时代。在短短数年时间里,AI实在给我们带来了太多的惊喜。然而,在AIGC热潮席卷全球的同时,许多企业的技术部门也迎来了前所未有的严峻挑战。生成式AI应用就像是海面上的冰山,我们想要在企业里安全地驾驭这项新技术,还需要关注海面下的冰川。

从数据和模型安全、应用安全、全球合规等三个方面,本文讨论企业在AIGC时代面临的安全隐患与挑战。

数据和模型安全

数据和模型安全是构建AI应用的关键。亚马逊云科技提供了贯穿生成式AI全周期的数据治理,能够帮助企业加速落地端到端的云原生数据战略,为生成式AI提供高质量的数据支持。针对存储中的数据,亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问等方法进行保护。针对传输中的数据,亚马逊云科技能够执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证等保护措施。针对使用中的数据,亚马逊云科技可以从身份认证、隔离环境、多方协作、数据共享等方面进行保护。

应用安全

应用安全是实现AI价值的保障。应用安全的防护主要包括开发流程中的安全和运行中的安全。亚马逊云科技将AI防护应用到软件开发的全生命周期,而该阶段的安全也贯穿了从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程。在运行中的安全方面,企业可构建零信任的应用安全访问策略。亚马逊云科技推出了几款工具,如AmazonVerifiedAccess、AmazonVerifiedPermissions和CEDAR等,帮助客户构建零信任的应用安全访问策略。根据数据统计,每年亚马逊云科技防护的DDos攻击就高达70万件,而AmazonGuardDuty使用了基于AI和机器学习的技术,将安全事件的误报率减少了50%。

全球合规

在当前的全球环境下,安全合规正在变得越来越重要,亚马逊云科技及其合作伙伴也在积极使用AI技术来提升自己安全合规的能力。亚马逊云科技用高标准的安全理念,不断提升安全合规能力及标准。在其500多项自身合规审计控制项中,亚马逊云科技通过使用AI技术,将审计时间节约了53%,节约了超过3300个小时。在保护用户安全合规的同时,亚马逊云科技及其合作伙伴也在积极使用AI技术来提升自己安全合规的能力。

本页网址:https://www.xinzhibang.net/article_detail-12607.html

寻求报道,请 点击这里 微信扫码咨询

关键词

生成式AI 大语言模型 安全隐患

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯