微软推出 Azure AI 内容安全服务 过滤有害的AI和UGC内容

2023-10-23 19:15:12 字數 1107 閱讀 3839

站长之家(chinaz.com) 10月19日消息:微软宣布全面推出 azure ai content safety 内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的 ai 和用户生成的内容

该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、**内容、血腥暴力和某些类型的言论

通过关注内容安全,我们可以创建一个更安全的数字环境,促进 ai 的负责任使用,并保护个人和整个社会的福祉,」azure anomaly detector 产品经理 louise han 在一篇博文中宣布了该服务的推出。

azure ai content safety 具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用 ai 算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的 360 度全面的安全措施。

该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从 0 到 7。

0-1 级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为 2-3 级,即低级别。

中等严重性的内容被评为 4-5 级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为 6-7 级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。

azure ai content safety 还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。

在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着 ai 生成的内容变得普遍,确保 ai 生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对 ai 技术的信任,」han 写道。

azure ai content safety 的定价基于按需付费。有兴趣的用户可以在 azure ai content safety 定价页面上查看定价选项。

货架安全检测方法内容

随着现代化商业的不断发展,货架在商品销售中的作用越来越重要。同时,货架的安全问题也成为了公众关注的焦点。如何确保货架在使用过程中的安全性,就需要我们采取有效的方法进行检测。本文将从货架安全检测的概述 方法及实例分析等方面,为您提供有关货架安全检测的相关信息。一 货架安全检测的概述。货架安全检测是指对...

微软将中国数据传到外国,华为推出电脑鸿蒙,外媒 闹大了

华为作为全球领先的科技巨头,一直以来都在追求技术的创新和突破。在过去的几年中,华为面临了美国的制裁和封锁,特别是在芯片 方面受到了严重的影响。然而,华为并没有放弃,通过自主研发推出了麒麟s芯片,初步突破了封锁。在手机操作系统方面,华为也推出了全球第三大操作系统harmonyos,彻底脱离了对安卓的依...

微软将中国数据传到国外?华为推出电脑鸿蒙,外媒 闹大了

科技发展确实是我国发展过程中的重中之重,但在这一路上,我们也面临着一些挑战。其中,最令人担忧的莫过于 缺芯少魂 这个问题。所谓 缺芯 就是指在芯片领域存在着严重的供给不足 而 少魂 则指的是在核心技术方面的欠缺。这两者的叠加,导致了我国在一些重要的高科技领域上仍然存在明显的短板。从年到现在,对华为实...