微软推出AzureAI内容安全服务，使用人工智能检测负面内容

新知榜官方账号

2023-07-08 18:06:26

微软推出AzureAI内容安全服务，使用人工智能检测负面内容

当地时间5月23日，微软推出了一款由人工智能（AI）驱动的内容审核服务型产品——AzureAIContentSafety（AzureAI内容安全服务），旨在营造更安全的网络环境。据悉，这款产品提供了一系列经过训练的AI模型，能检测图片或文本中与偏见、仇恨、暴力等相关的负面内容。报道称，这款产品将内置于AzureOpenAI服务中，向第三方开发者开放。

据了解，AzureOpenAI服务是一项由微软管理、以企业为中心的服务产品，旨在让企业访问AI实验室OpenAI的技术并增加治理功能。值得一提的是，AzureAI内容安全服务不仅使用于AzureOpenAI服务中，还可以运用于游戏平台、线上社区等非AI平台。

据悉，AzureAI内容安全服务“精通”包括英语、西班牙语、德语、法语、中文、日语、葡萄牙语、意大利语在内的八种语言。也就是说，其可以理解并检测包含这八种语言的图片或文本，并为被标记的内容严重性进行打分，指示人工审核员哪些内容需要采取行动。除此之外，据微软发言人介绍，与此前的同类型相比，该款产品能更好地理解文本内容和文化背景，“此前的同类型产品无法捕捉上下文内容，可能造成标记内容失误。”

报道同时指出，微软承认现在还没有完美的AI，希望人类在使用AI的过程中对其进行完善。与所有AI审核程序面临的问题一样，AzureAI内容安全服务最终还是依赖人工审核人员标记数据和内容，这意味着最终其公正性还是取决于人类。报道称，人工在处理数据和内容时，可能带着自己的偏见，而这将是一个令人头痛的问题。

据悉，2015年，谷歌的AI图像识别软件曾将有色（黑）人种标记成猩猩，引发巨大争议。现在的科技巨头们仍担心“重蹈覆辙”。事实上，如何处理AI所带来的风险一直是大众和科技圈热议的话题。就在本月22日，一张被认为是AI合成的关于“五角大楼附近发生爆炸”的假图片在网络上流传，一时引发恐慌，美国防部发言人为此紧急辟谣。随后，美媒分析称，该图像具有由AI生成的所有特征。

OpenAI首席执行官山姆·阿尔特曼在美国参议院小组委员会听证会上，呼吁政府对人工智能（AI）进行监管。他指出，如果这项技术出错，会错得很严重，会对世界造成重大伤害。

本页网址：https://www.xinzhibang.net/article_detail-7077.html

寻求报道，请

关键词

微软 AzureAI 内容安全服务人工智能负面内容

分享至微信：

相关工具

Sapling AI Content Detector

Sapling.ai推出的免费在线AI内容检测工具

CheckforAI

免费在线检测AI内容

StudyCorgi ChatGPT Detector

StudyCorgi推出的帮助学生检测ChatGPT的工具

Smodin AI Content Detector

多语种AI内容检测工具

AISEO AI Content Detector

AISEO推出的AI内容检测器

CopyLeaks

AI内容检测和分级

机器视觉检测系统的优点及应用

机器视觉检测系统的优点机器视觉检测系统是一种利用计算机视觉技术来对物体进行识别、测量、定位和检测的系统。它通常由图像获取、图像处理、图像分析、结果输出等几个部分组成。机器视觉检测系统的优点主要包括：高效性：视觉检测系统可以快速地检测大量的产品，并且可以持续稳定地工作，大大提高了检测效率。精度高：视觉

分类标签机器视觉检测系统产品质量

11-29 14:02

全新一代神经网络引擎，帮助您解决翻译难题

全新一代神经网络引擎，帮助您解决翻译难题我们提供全新一代神经网络引擎，词汇准确度远胜对手。自由选择翻译适用场景，让翻译恰当得体。最新机器学习训练集合，准确传达原说话者的意境。支持翻译前的多条上下文输入，帮助翻译理解实际对话场景，不会出现翻译错误。我们的神经网络引擎采用最新的机器学习技术，能够提供高准

分类标签翻译神经网络引擎机器学习

11-23 10:11

WPSAI开放邀请体验，助力办公更智能

WPSAI开放邀请体验，助力办公更智能WPSAI是金山办公最近推出的一项新功能，旨在为用户提供智能文档写作、阅读理解和问答、智能人机交互的能力。WPSAI是基于大语言模型的人工智能应用，与WPS其他产品无缝衔接，让用户在办公、写作、文档处理等方面实现更高效、更智能的体验。目前，WPSAI处于邀请体验

分类标签 WPSAI智能文档写作人工智能

11-21 10:11

Ai自动生成PPT

Ai自动生成PPT通过使用Ai自动生成PPT，用户可以直接输入需求和公司信息并选择模板，帮助用户省去排版和润色工作，提高制作效率。目前，WPSai是唯一提供免费注册体验的软件，同时还提供多种模板供用户选择。功能描述用户只需要输入所需文字，即可利用AI进行排版和润色。WPSai提供多种模板供用户选择，

分类标签 AiPPT自动生成

11-21 10:10

机器学习和AI的区别

机器学习和AI的区别近年来，机器学习和人工智能成为了热门话题。但是，这两个概念之间到底有什么区别呢？微软工程师MatVelloso曾发了一条段子，引发了网友的热议。他说：如果使用Python写的，那可能是机器学习，如果使用PPT写的，那可能是AI。这个段子让人捧腹，但也暴露出了机器学习和AI之间的模

分类标签机器学习AIPython

11-19 16:42

AI写作业，抄袭检测软件束手无策

AI写作业，抄袭检测软件束手无策近日，Reddit论坛上一名大学一年级学生的课程论文拿了A——这并不稀奇，但事实上这篇论文是人工智能（AI）花不到20分钟完成的，还通过了机器审查。就在几个月前，AI才作为第一作者发表了一篇学术论文。为什么AI生成的论文不能被机器识别出来？目前的抄袭检测软件一般是通

分类标签 AI写作业抄袭检测软件

11-19 16:41

商汤科技在2019人工智能峰会上发布11款产品，覆盖智慧城市、教育、医疗、零售、AR等五大领域

智慧城市领域商汤发布了四个产品，分别是：智能城市能力基础设施SenseFoundry方舟2.0，SenseNebula，SensePass和SenseStudioAI工具箱。商汤的智慧城市解决方案已经覆盖了31个省市自治区的100多座城市，接入了100000路摄像头。教育领域商汤推出了一系列人工智能

分类标签商汤科技人工智能峰会智慧城市教育医疗零售AR

11-19 16:40

华为：部分媒体所谓“华为将发射1万枚6G移动低轨卫星”纯属造谣

华为：部分媒体所谓“华为将发射1万枚6G移动低轨卫星”纯属造谣10月23日，华为集团官方账号发布声明称，部分自媒体口中所谓的“华为将发射1万枚6G移动低轨卫星”纯属造谣。华为表示，展望2030年，超高速、超可靠连接、原生AI、先进感知技术将极大地改善人类生活。6G是更先进的下一代移动通信系统，其内涵

分类标签华为6G卫星

11-19 16:39

人工智能诊断工具可预测COVID-19感染

伦敦大学国王学院、马萨诸塞州总医院和健康科学公司ZOE的研究人员开发了一种人工智能诊断工具，可以根据患者的症状来预测他们是否可能感染COVID-19。他们的研究结果于5月11日发表在《自然·医学》杂志上。 AI模型使用COVID症状研究app（COVIDSymptomStudy）的数据，通过比较人们

分类标签 COVID-19人工智能诊断工具

11-19 16:38

学好AI一些必要的进阶步骤

学好AI一些必要的进阶步骤AI（人工智能）是一门涉及多个学科的交叉学科，需要掌握一定的数学基础、编程基础、机器学习、深度学习、自然语言处理、计算机视觉、强化学习等知识。1.学习AI所需的数学基础学习AI所需的数学基础包括线性代数、概率论和统计学，掌握这些基础知识是理解AI算法的前提。2.学习AI需要

分类标签 AI机器学习深度学习

11-19 16:37

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway