微软推出Azure AI Content Safety，以减少图片或文本中的负面内容

  10月20日消息，据外媒报道，微软宣布正式推出Azure AI Content Safety，这是一项新服务，可以帮助用户在应用程序和服务中检测和过滤有害的人工智能和用户生成的内容。

  该服务包括文本和图像检测，并识别微软所说的“冒犯、危险或不受欢迎”的内容，包括亵渎、血腥、暴力和某些类型的言论。

  Azure Anomaly Detector产品经理Louise Han表示：“通过关注内容安全，我们可以创造一个更安全的数字环境，促进负责任地使用人工智能，保障个人和整个社会的福祉。”

  Azure AI Content Safety能够处理各种内容类别、语言和威胁，以调节文本和视觉内容。它还提供了使用人工智能算法扫描、分析和调节视觉内容的图像功能，确保微软所说的360度全面安全措施。

  该服务还配备了跨多种语言的内容调节功能，并使用严重性度量标准，在0到7的范围内提供特定内容的严重性指示。

  0-1级的内容被认为是安全的，适合所有观众观看，而表达偏见、判断或固执己见的内容被评为2-3级或较低。

  中等严重程度的内容被分级为4-5，包含攻击性，侮辱性，嘲弄，恐吓语言或对身份群体的明确攻击，而高严重程度的内容，包含有害和明确的促进有害行为，或支持或美化对身份群体的极端形式的有害活动，被分级为6-7。

  此外，Azure AI Content Safety还使用多类别过滤来识别和分类一些关键领域的有害内容。

免责声明：本文内容来源于第三方或整理自互联网，本站仅提供展示，不拥有所有权，不代表本站观点立场，也不构成任何其他建议，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容， 请及时联系我们进行处理。