微软推出Azure AI Content Safety,以减少图片或文本中的负面内容
科技IT 2023-10-22 user639632
10月20日消息,据外媒报道,微软宣布正式推出Azure AI Content Safety,这是一项新服务,可以帮助用户在应用程序和服务中检测和过滤有害的人工智能和用户生成的内容。
该服务包括文本和图像检测,并识别微软所说的“冒犯、危险或不受欢迎”的内容,包括亵渎、血腥、暴力和某些类型的言论。
Azure Anomaly Detector产品经理Louise Han表示:“通过关注内容安全,我们可以创造一个更安全的数字环境,促进负责任地使用人工智能,保障个人和整个社会的福祉。”
Azure AI Content Safety能够处理各种内容类别、语言和威胁,以调节文本和视觉内容。它还提供了使用人工智能算法扫描、分析和调节视觉内容的图像功能,确保微软所说的360度全面安全措施。
该服务还配备了跨多种语言的内容调节功能,并使用严重性度量标准,在0到7的范围内提供特定内容的严重性指示。
0-1级的内容被认为是安全的,适合所有观众观看,而表达偏见、判断或固执己见的内容被评为2-3级或较低。
中等严重程度的内容被分级为4-5,包含攻击性,侮辱性,嘲弄,恐吓语言或对身份群体的明确攻击,而高严重程度的内容,包含有害和明确的促进有害行为,或支持或美化对身份群体的极端形式的有害活动,被分级为6-7。
此外,Azure AI Content Safety还使用多类别过滤来识别和分类一些关键领域的有害内容。
The End
相关阅读
- 比特网早报:中国脑机接口领域取得新突破,腾讯混元T1正式版发布
- 新突破!1GW,中国能建国际集团签约伊拉克首个大型光伏项目
- 逆变器巨头宣布美国扩产计划!
- 鲁大师10月新机性能/流畅/AI/久用榜:骁龙8 至尊版与天玑9400正面交锋,厂商旗舰扎堆上线
- 智能家居通用协议 Matter 1.4.2 版本发布,支持仅通过 Wi-Fi 配网
- 贸泽联手Analog Device推出全新电子书 重点介绍可提高生产力和能源效率的解决方案
- 智能自动化与医疗创新交汇 泓格科技携手泓格生医联合参展 2025 东京工业展
- 全球首款!侵入式脑机接口医疗器械获批上市 瘫痪患者重获新生
- TUV莱茵与追觅举行合作实验室授牌仪式 深化智能生活家电领域合作
- 全国产六核CPU商显板,米尔-芯驰D9360高性能高安全显控方案