从训练竞赛到推理革命:Akamai如何以分布式算力重塑全球AI基础设施格局

科技IT 2026-04-28 user123546

  当前,人工智能正加速渗透各行各业,从以训练为核心的竞赛,迈入以规模化商用为目标的推理革命新阶段。相较于训练的一次性、集中式投入,推理是AI面向终端用户的持续性、泛在化服务。随着AI智能体、多模态交互、实时在线应用全面普及,推理对低时延、广覆盖、低成本、高安全的诉求日益迫切。

  深耕出海:赋能企业全球化布局

  一个值得行业深思的现实是:大模型能力的竞争已接近同质化,真正决定AI应用成败的,不再是模型参数的多寡,而是谁能把推理响应做到最快、成本压到最低、体验做到最顺滑。在这一维度上,基础设施的分布广度与智能化调度能力,正在取代单纯的算力规模,成为AI商业化的分水岭。

  然而,当前全球AI推理基础设施仍存在诸多瓶颈,难以匹配企业规模化商用的关键诉求,而积极拓展全球市场的中国企业对此感受尤为深切:一是全球算力资源分布不均,难以在目标市场就近获取高性能推理算力;二是跨境网络波动大,跨区域访问延迟高,无法满足实时性要求;三是数据跨境合规、AI应用安全风险突出,传统安全方案无法适配AI场景。

  在这一背景下,Akamai在NVIDIA GTC 2026上与NVIDIA联合发布首个全球规模的NVIDIA® AI Grid参考设计实施方案,以Akamai AI推理云为载体,能够智能地将AI工作负载调度至其边缘、区域和核心节点,以平衡延迟、成本与性能,为中国企业出海指明了清晰路径。

  作为Akamai在全球范围内除北美以外最大的区域市场,Akamai大中华区始终保持稳定且连贯的战略方向。Akamai大中华区副总裁张轲表示:“未来一段时间,Akamai会继续为中国企业‘出海’提供从‘云计算-分发-安全’的一站式服务。”这一定位,既是对过去十余年深耕中国市场、积累海量成功案例与完善本地合作伙伴生态的延续,也是面向AI时代的战略升级。

Akamai大中华区副总裁 张轲

  在他看来,AI技术驱动下的行业蓬勃发展与持续创新,是当前产业变革的核心动力。Akamai已在AI领域展开大规模投入,其中在云计算方面,依托二十余年构建的全球分布式计算网络,Akamai正从传统的分布式云与安全平台,向全球最大的分布式AI推理平台转型,这既是公司未来重要的创新方向,也是赋能大中华区客户全球业务、尤其是AI驱动业务拓展的关键支撑。

  此次与NVIDIA的战略合作,正是Akamai云计算战略落地的抓手。过去数月,Akamai在全球范围内部署了基于NVIDIA Blackwell架构的RTX 6000 Pro新一代推理优化GPU,以分布式架构重构AI推理算力供给模式。与集中式云厂商不同,Akamai的优势在于“无处不在”,其分布式云平台覆盖全球700+城市、130+国家、1200+运营商网络,距离全球95%的互联网用户延迟仅10毫秒,可将推理算力部署在离用户最近的边缘节点,从根源上解决跨境延迟、算力不均、数据合规三大痛点,精准匹配中国企业出海对全球算力覆盖与低延迟响应的刚性需求。

  事实上,全球化AI部署从来不是单一技术问题,而是算力、网络、合规、安全的综合考验。单一服务商往往只能解决局部问题,而一站式平台才能真正降低试错成本与管理复杂度,这也是Akamai差异化价值所在。

  张轲指出,Akamai大中华区200余人的本地团队,可全程支撑企业从国内走向全球的全流程需求。客户无须对接多家服务商,即可实现云计算资源调度、全球内容分发、网络安全防护一体化落地,大幅降低全球化部署的技术门槛与管理成本。这种模式,让中国企业在拓展欧美、东南亚、中东等市场时,既能享受高性能分布式云服务,又能获得本土化技术支持,真正实现全球一张网、算力随需用。

  算力革新:构筑分布式推理底座

  NVIDIA CEO黄仁勋判断,AI推理的规模很快将达到训练负载的十亿倍。IDC发布的报告也指出,到2027年,随着AI重心从训练转向推理,80%的企业将部署分布式边缘基础设施,以提升AI应用的时延表现和响应速度。这一预测与Akamai的战略方向高度契合。

Akamai亚太区云计算架构师总监 李文涛

  据Akamai亚太区云计算架构师总监李文涛介绍,Akamai AI推理云作为面向全球的分布式云平台,通过统一的云原生运营体系,在靠近用户侧运行AI推理,解决实时推理、算力调度、边缘部署等问题。其云计算底座由四大模块构成,彰显技术优势:

  一是高性能算力。基于NVIDIA RTX 6000 Pro Blackwell GPU,单卡具备4000 AI-TOPS算力与96GB ECC显存,可轻松承载大模型推理任务;同时出方向流量成本仅0.005美元/GB,整机性价比显著优于同类竞品,在保障性能的同时大幅降低企业算力成本。

  二是AI网关智能调度。作为云计算平台的大脑,Akamai AI网关实现大模型请求的全球调度与安全保障,通过语义缓存技术有效节省Token成本,提升推理效率,让分布式算力调度更智能、更经济。

  三是极致边缘计算能力。Akamai函数即服务产品冷启动速度仅0.5ms,较其他公有云竞品快1000倍,可实现全球边缘无服务器计算,为实时性要求极高的AI应用提供支撑。

  四是分布式容器部署。依托全球分布式云平台,容器服务可实现边缘就近部署,满足数据本地化、数据不出境等合规要求,解决出海企业面临的跨境数据监管难题。

  在上述四层能力之上,是Akamai与NVIDIA联合定义的AI网格(AI Grid)架构。AI网格是一个全新的分布式AI推理架构,能够在毫秒级时间内将每一个AI请求路由至最合适的算力节点。其功能包括三个方面:一是智能路由,可感知AI工作负载,根据模型类型、延迟目标及成本需求自动选择最优算力层级;二是分布式计算,构建从互联网边缘到核心的多级算力,针对不同推理和训练模型特征进行定制化设计与算力分布;三是高可靠性能,基于NVIDIA RTX系列GPU,在AI推理、训练、渲染及视频处理领域均经过严苛基准测试验证。

  从实际应用来看,广泛的场景覆盖恰恰证明了分布式AI推理云的成熟度与通用性。目前,Akamai AI推理云已在全球、亚太区及中国出海客户中积累了大量落地案例,覆盖七个典型场景:电商推荐引擎利用AI智能体实现个性化推荐;8K视频工作流支持超高清画质与多语种实时翻译字幕;实时视频智能应用于智能摄像头,捕捉最佳视角与物体识别;智能体助理在游戏中驱动NPC对话与实时图像生成;AI虚拟试衣间让用户拍照即可远程试穿;AI驱动智能玩具具备学习与交互能力;自动驾驶汽车领域则用于异常检测、预训练及身份信息去标识化处理。

  在这些场景中,用户对AI推理时延的预期呈现出清晰的行业差异。以首Token时延为例,大规模多人在线游戏往往要求在15毫秒内响应,电商行业约为20毫秒,智能体自助服务在50毫秒左右,客服应答机器人则可放宽至100毫秒。无论指标宽严,这些数字共同指向一个事实:AI推理已进入毫秒必争时代。Akamai凭借其遍布130余国、4400多个节点的全球最广泛算力平台,能够将高质量、超低延时的AI推理算力交付到最终用户触手可及之处,这正是分布式架构相对集中式部署的不可替代优势。

  安全护航:夯实AI时代防护底线

  在将算力推向边缘、实现全球分布式推理的同时,安全问题不仅没有弱化,反而因攻击面扩大、AI特有威胁涌现而变得更为复杂。Akamai的策略是将AI深度融入安全防护体系,并以安全能力反向护航AI基础设施,形成云与安全双向赋能的格局。

Akamai大中华区售前技术经理 马俊

  Akamai大中华区售前技术经理马俊详细阐述了AI驱动的安全革新。在微分段领域,Akamai Guardicore Segmentation引入AI能力,通过持续流量分析与应用行为学习,自动为资产打上业务逻辑标签,替代传统基于IP的静态策略,解决了资产发现慢、策略执行风险高、策略漂移难以维护三大痛点。

  尤为值得关注的是,Akamai与NVIDIA BlueField DPU实现了硬件级深度整合。即便上层主机操作系统被攻陷,底层DPU仍能强制执行微分段策略,阻断攻击者在GPU集群或OT/ICS环境中的横向移动。这种硬件级的零信任能力,为AI边缘节点的安全韧性提供了关键保障。

  面向外部威胁,Akamai将AI应用于Web应用防火墙,依托全球海量实时流量持续分析异常行为,生成高置信度检测策略,并与安全专家协同实现自治式防护。在API安全方面,全新API安全态势中心以策略违规仪表盘形式,将安全团队从海量告警中解放出来,使其能够从全局视角追踪哪些主机、应用违反了安全基线。针对AI时代新兴的MCP模型上下文协议服务器,Akamai API安全已具备自动发现能力,能实时梳理企业内AI模型访问的具体端点,并在WAF中增加MCP交互防护,防止敏感数据通过AI工具意外泄露。

  此外,针对AI内容安全与合规,Akamai于2025年推出的AI防火墙方案,可有效检测提示词注入、越狱攻击、模型幻觉等威胁,保障AI输入输出的完整性与合规性。结合其爬虫管理平台对超过42种已知AI爬虫的精准识别能力,企业得以在拥抱AI流量的同时,构建起兼顾开放与防护的平衡策略。

  写在最后

  我们看到,Akamai凭借自身深厚的全球分布式网络技术积淀,结合与NVIDIA的深度协同,将“算力、网络、安全、合规”四大难题融合为一体化解决方案,使出海企业得以将精力聚焦于产品创新与业务增长,而不必受困于底层基础设施的束缚。

  这不仅意味着更低的部署门槛与更高的运营效率,更让AI业务的全球化布局变得安全、可靠且高效。在推理革命的浪潮中,企业将更有底气把握时代红利,以技术创新夯实竞争力,驱动业务实现可持续增长。

  未来已来,以Akamai AI推理云为代表的分布式基础设施,正在重新定义AI的交付方式、体验标准与安全边界,为行业智能化转型注入强劲动力,推动AI从技术概念加速迈向普惠价值。

来源:比特网
The End
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

Copyright © 2099 搜索科技

苏ICP备2023036119号-10 |——:

|—— TXT地图 | 网站地图 |