微软推出 Azure AI 内容安全免费：过滤有害的AI和UGC内容

站长之家(ChinaZ.com) 10月19日消息:开发者达成协议全面推出 Azure AI Content Safety 素材安全和，这是一项上新客户服务，可帮助用户跨应用程序和客户服务检测和过滤毒害的 AI 和用户转化成的素材。

该客户服务以外文档和图形检测功能，可以识别开发者所称的「冒犯、安全和性或不受欢迎」的素材，以外藐视、素材、血腥恐怖和某些类型的言论。

「通过关切素材安全和，我们可以成立一个更安全和的倍数生态，推动 AI 的应有采用，并维护个人和整个社会的有益于，」Azure Anomaly Detector 产品经理 Louise Han 在一篇博文当中达成协议了该客户服务的推出。

Azure AI Content Safety 具备处理各种素材子类、母语和危害的能力，可以对文档和光影素材同步进行审查和调节。它还提供了采用 AI 算法显像、归纳和调节光影素材的图形功能，确保了开发者所称的 360 度全面的安全和措施。

该客户服务还可以在世界语当中同步进行素材审查，并采用严重性测试方法来测试方法特定素材的严重程度，该测试方法的范围从 0 到 7。

0-1 级的素材被认为是安全和且适合所有受众的，而表达愚昧、带有评委性或有意见的素材被名列 2-3 级，即低高级别。

当中等严重性的素材被名列 4-5 级，其当中包含冒犯、侮辱、讥笑、恐吓母语或针对双重身份社群的明确反击，而高严重性的素材被名列 6-7 级，其当中包含毒害采用恐怖的宣传品、大力支持或美化对双重身份社群的极端毒害活动。

Azure AI Content Safety 还采用多子类过滤器来识别和分类多个关键领域的毒害素材，以外仇视、恐怖、自残和性素材。

「[在网络安全和方面]，不仅需要重新考虑人类转化成的素材，尤其是随着 AI 转化成的素材变得多数，确保 AI 转化成的输出碳化的准确性、可靠性和非人类或不适当的碳化至关重要。素材安全和不仅维护用户免受错误信息和潜在危害，还维护了标准，并建立了对 AI 技术的信任，」Han 所写。

Azure AI Content Safety 的计价基于按需付费。有兴趣的用户可以在 Azure AI Content Safety 计价的网站上查阅计价选项。