生成式AI安全合规：从数据到应用全方位保障

首页 > 行业观察 > 生成式AI安全合规：从数据到应用全方位保障

新知榜官方账号

2023-09-07 22:16:56

生成式AI应用场景的井喷，业务部门旺盛的需求，都带来了前所未有的安全挑战，如网络攻击威胁加剧，企业敏感数据泄露，隐私保护问题突出，企业安全合规风险增大等。本文将从数据安全、模型安全、应用安全以及安全合规等方面，为大家详细介绍生成式AI的安全保障。

数据安全是构建AI应用的基础

生成式AI井喷对一个企业的数据平台提出了更高的要求。一方面，要训练一个生成式AI的模型，需要大量的非结构化数据；另一方面，如果一个企业直接应用一个训练好的模型，则需要有高质量的专业化的数据来微调这个模型。数据安全是构建AI应用的基础。亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给AI平台进行模型训练、调优和推理，以及全面实施数据分类和治理等。亚马逊云科技提供了一整套的解决方案、产品服务和最佳实践，在存储、传输、应用三个环节保障数据安全，帮助企业加速落地端到端的云原生数据战略，给生成式AI提供高质量的数据支持。

模型安全是构建AI应用的关键

企业需要借助模型构建AI应用，要确保训练结果的准确性和有效性，因此模型训练的安全性同样至关重要。企业应全方位地监控模型的安全运行，包括模型的访问安全、模型的管理、模型运行的安全监控等。针对自建模型的企业，AmazonSageMaker提供了多种功能，帮助开发人员轻松地构建、训练和部署模型。为了降低客户生成式AI的使用门槛，亚马逊云科技推出了完全托管的基础模型服务AmazonBedrock，客户可根据自身需求通过API访问及使用其中的基础模型，帮助用户在大模型时代安全高效地构建大模型。

应用安全是实现AI价值的保障

除了数据安全、模型安全以外，生成式AI的安全还应该贯穿到从开发到持续集成、持续部署再到投产、监控以及反馈的整个过程。首先，亚马逊云科技利用自身经验，将AI防护应用到软件开发的全生命周期，让开发更便捷，更安全。其次，为了保障生产过程中安全，零信任和网络控制并不是二选一，两者结合才能实现在大模型时代端到端的应用安全。针对应用的安全访问，企业可构建零信任的应用安全访问策略，需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型中制定的API。

AWS在生成式AI安全合规方面的领先优势

目前，亚马逊云科技在全球已经获得了超过140个安全标准和合规认证，不仅覆盖了基础设施，而且覆盖容器平台、无服务器平台等平台应用，为用户的平台和基础设施合规节省大量宝贵的时间和成本。同时亚马逊云科技将AI技术应用到其安全及合规服务中，能够为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误；利用AI提供一致性判断；利用AI/ML技术实现自动审查，全面提升合规效率。

本页网址：https://www.xinzhibang.net/article_detail-10999.html

寻求报道，请

关键词

生成式AI 安全合规数据安全模型安全应用安全

分享至微信：

相关工具

Ghostwriter

知名在线编程IDE Replit推出的AI编程助手

Mutable AI

人工智能加速软件开发

MarsX

AI无代码软件开发

AirOps

AI SQL语句生成和修改

CodeWhisperer

亚马逊最新发布的免费AI编程助手

Debuild

低代码快速开发网页应用

AI+公开课：即便你不懂编程，也可以轻松写个网页工具了

AI+公开课：即便你不懂编程，也可以轻松写个网页工具了随着互联网的发展，网页设计变得越来越重要，但是许多人缺乏编程技能，难以创建自己的网页。不过，现在有一种名为“AI+公开课”的网页工具，可以帮助你轻松创建自己的网页，而且无需编程技能。除了介绍这个工具，本文还分享了一些流量常识，帮助你更好地推广自己

AI公开课编程

11-22 08:00

CopilotWorkspace：AI帮助开发者完成更大、更复杂的任务

CopilotWorkspace：AI帮助开发者完成更大、更复杂的任务在软件开发过程中，遇到不熟悉的软件仓库、编程语言或框架等问题是最头疼的，解决这些问题带来的困难，可能会拖延你完成任务的时间，甚至导致根本无法完成。为此，GitHub新发布了一个AI开发工具CopilotWorkspace，它可以帮

CopilotWorkspaceAI开发工具软件开发GitHub代码任务

11-13 02:24

AppleVisionPro设计规范之空间用户界面设计

引言在上篇文章《AppleVisionPro设计规范之空间设计原则篇》中，我们了解到了VisionPro的核心设计原则。本篇我们将介绍VisionPro中如何设计UI界面，并探索设计规范中的UI组件、材质、字体等UI元素设计指导。VisionPro建立了一种新的视觉语言，即可以保持与现有平台的一致性

AppleVisionPro设计规范空间用户界面UI布局设计视觉语言

10-16 22:22

Gen：一个用于预测的复杂模型和推理算法

Gen的起源Gen问世之前的AI学习库（框架）在2015年，谷歌发布了一个采用数据流图进行数值计算的开放源代码应用程序软件库TensorFlow（基于数据流编程的符号数学系统），它可以帮助初学者和专家自动生成机器学习系统，而不需要做太多数学运算。这个平台现在被广泛的使用，希望帮助人工智能在某些方面实

Gen人工智能编程语言

10-11 22:20

AI绘画编程的介绍

一、AI绘画编程的概念AI绘画编程是一种结合了人工智能技术的绘画创作方式。艺术家们可以通过触站AI，利用编程语言或者可视化工具设计绘画算法，让AI根据这些算法来生成艺术作品。这种方式不仅能够拓宽艺术家们的创作思路，还能够让他们以更加高效的方式实现他们的创意。二、触站AI的特点与优势触站AI作为一种先

AI绘画编程触站AI艺术创作

10-11 22:18

人工智能与教育：AI让AI课变难了，还会让找工作变难吗？

人工智能与教育：AI让AI课变难了，还会让找工作变难吗？近日举办的第三届腾讯STAC科创联合大会上，清华大学、北京大学、西安交通大学、南京大学、四川大学等高校研究人工智能的学者们坐在一起，共同探讨AI与教育的话题。人工智能会让AI课变得更难，还会让找工作变得更难吗？AI素养教育的紧迫性也引起了教育工

人工智能教育AI课就业前景AI素养教育

10-11 22:16

AI可以帮助开发人员编写各种类型的代码

AI可以帮助开发人员编写各种类型的代码，只要开发人员将需求描述清楚，AI就可以帮助开发人员写出相应代码。虽然AI的代码不可能是完美的，但对于常见的代码来说，可以极大的减轻开发人员的工作量。今天和大家分享AI可以写哪些代码，希望对大家有所帮助。北京木奇移动技术有限公司，专业的软件外包开发公司，欢迎交流

AI代码自动生成代码优化

10-01 23:24

异常——一款AI编程单机手游

异常——一款AI编程单机手游《异常》是一款AI编程单机手游，玩家要帮助虚拟世界中的机器人打败敌人。玩家不能直接控制这些机器人，而是要为它们编写AI程序，通过程序来控制它们。游戏目前一共有6个关卡，30-60分钟即可通关。如果之前有制作游戏脚本或编程经验的玩家，可能会得心应手哦。玩家需要分析过关策略的

异常AI编程单机手游

10-01 23:22

如何在没有Illustrator的情况下打开和编辑AI文件？

介绍在矢量图像设计中，AI是最常用的格式，但在没有安装Illustrator软件的情况下，无法浏览和编辑AI文件。本文将介绍在没有Illustrator的情况下如何打开和编辑AI文件，并提供了转换和编辑AI文件的方法。查看AI文件在Windows上，只需要将.ai文件扩展名更改为.pdf，然后就可以

AI文件Illustrator矢量图像PDF浏览工具SVG格式EPS格式

09-28 10:10

三大平面设计软件Photoshop、Illustrator和InDesign的选择与应用

三大平面设计软件Photoshop、Illustrator和InDesign的选择与应用对于平面设计师们来说，最常用的软件应该是Adobe的三大法宝Photoshop、Illustrator、InDesign吧？(需要这3个软件安装包和教程学习的小伙伴，文末免费)这三个软件各有所长，能够帮助你漂亮地

平面设计PhotoshopIllustratorInDesign

09-28 10:08