新知榜官方账号
2023-10-20 03:02:15
10月19日消息,微软宣布全面推出AzureAIContentSafety内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的AI和用户生成的内容。
该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、成人内容、血腥暴力和某些类型的言论。
「通过关注内容安全,我们可以创建一个更安全的数字环境,促进AI的负责任使用,并保护个人和整个社会的福祉,」AzureAnomalyDetector产品经理LouiseHan在一篇博文中宣布了该服务的推出。
AzureAIContentSafety具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用AI算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的360度全面的安全措施。
该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从0到7。0-1级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为2-3级,即低级别。中等严重性的内容被评为4-5级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为6-7级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。
AzureAIContentSafety还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。
「[在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着AI生成的内容变得普遍,确保AI生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对AI技术的信任,」Han写道。
AzureAIContentSafety的定价基于按需付费。有兴趣的用户可以在AzureAIContentSafety定价页面(https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)上查看定价选项。
相关工具
相关文章
推荐
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49
国产GLM-4.5把AI价格打到地板价,实测强到离谱!
2025-07-30 09:08
用AI批量生成治愈系漫画,月入2000+
2025-07-29 09:59
千亿市场规模背后,AI短剧商业化迎来爆发期?
2025-07-17 09:19
15个作品涨粉26万!AI历史账号又出王炸案例!
2025-07-09 09:37
亲测真香!这6个AI工具让工作效率翻倍,同事追着问链接
2025-06-17 16:21
FLUX.1 Kontext 一出,AI生图领域 “地震” 了!
2025-06-06 15:38
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15