Gartner：预计到2027年跨境GenAI滥用引起的AI数据泄露比例将达40%

  2月24日消息，据市场研究机构Gartner预测，到2027年，跨境生成式人工智能(GenAI)引起的AI相关数据泄露比例将超过40%。

  GenAI在终端用户中的普及速度已超过了数据治理和安全措施的发展速度，而支持这些技术所需的集中算力引发了对数据本地化的担忧。

  Gartner研究副总裁Joerg Fritsch表示：“由于监管不力，常常会发生意外的跨境数据传输，尤其是当GenAI被集成到现有产品但却没有明确的说明或公告时。企业注意到员工使用GenAI工具创作内容的变化。虽然此类工具可用于经过批准的业务应用，但如果它们将敏感提示发送到托管在未知位置的AI工具和 API，就会产生安全风险。”

  缺乏全球统一的AI和数据治理最佳实践与标准，导致市场碎片化，企业不得不制定针对特定地区的战略，这加剧了企业所面临的挑战，这可能会限制企业在全球扩展业务和从AI产品与服务中获益的能力。

  为了降低AI数据泄露风险，尤其是跨境GenAI的滥用风险并确保合规性，Gartner 建议企业采取以下战略行动：

  一是加强数据治理。企业必须扩展数据治理框架并加入关于使用AI处理数据的准则，确保遵守国际法规并对意外的跨境数据传输进行监控。为此，企业需要将数据沿袭和数据传输影响评估纳入常规隐私影响评估。

  二是成立治理委员会。成立委员会加强AI监督，确保AI部署和数据处理的沟通透明。该委员会需要负责技术监督、风险和合规管理以及沟通和决策报告。

  三是加强数据安全性。使用先进技术、加密和匿名化保护敏感数据。例如，验证特定地理区域的执行环境是否可信并在数据必须离开这些区域时使用差分隐私等先进的匿名化技术。

  四是投资TRiSM产品。为专为AI打造的信任、风险和安全管理(TRiSM)产品与功能规划和分配预算，包括AI治理、数据安全治理、提示过滤和编辑以及非结构化数据合成生成。Gartner预测，到2026年，采用AI TRiSM控制措施的企业将减少至少50%的不准确或不合法信息，并因此减少错误决策。

免责声明：本文内容来源于第三方或整理自互联网，本站仅提供展示，不拥有所有权，不代表本站观点立场，也不构成任何其他建议，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容， 请及时联系我们进行处理。