近日,负责支持和保护网络生活的云服务提供商Akamai 宣布与英伟达联手推出全新的 Akamai Inference Cloud,一个专为AI推理设计的边缘云平台。这意味着,AI模型的推理和响应将不再依赖远在数据中心的算力,而是更靠近用户、更快速地完成。 据雷峰网了解,Akamai Inference Cloud 集成了英伟达最新一代 RTX PRO 6000 Blackwell GPU 和 BlueField-3 DPU,是全球首批采用该GPU架构的云厂商之一。 作为此次合作采用的核心算力组件,NVIDIA RTX PRO 6000 Blackwell 系列于2025年3月发布,支持高达 96 GB 显存与 24K CUDA核心。 市场普遍认为,这款卡在企业级市场是一次较大规格提升,如 Tom’s Hardware 指出其显存容量远超一般消费卡,例如对比 RTX 5090 的 32 GB。对 AI 推理、LLM、专业渲染等场景而言,这款 GPU 被视为“向边缘、专业市场加速”推动的关键硬件。而这也是 Akamai 选择RTX PRO 6000的一大核心原因。 AI模型的复杂度在过去两年呈爆发式增长,从图像生成、语音识别,到大型语言模型(LLM),对GPU算力与显存的需求都在倍增。Akamai认为,传统的集中式推理架构难以支撑这类高实时性任务,AI算力必须“靠近用户”。 在选择RTX PRO 6000时,Akamai看重的是其“平衡型性能”——既能满足专用AI模型的高效推理,又能支撑大型语言模型的高显存需求;同时支持GPU虚拟化与资源分片技术,使单卡可同时处理多个模型任务,提高整体算力利用率。 “这款GPU的性能与扩展性非常适合边缘部署。”Akamai亚太区与全球云架构师团队总监李文涛表示。 在与英伟达的合作中,Akamai并非仅仅追求硬件升级,而是打造“边缘基础设施 + AI软件栈”的整体方案。 根据Akamai测试数据,相比集中式推理部署,其方案可实现智能体响应速度提升6–10倍、P95延迟降低高达5倍。Akamai全球网络可覆盖95%的互联网用户,单跳访问平均延迟仅10毫秒,而中心云通常在百毫秒级别。这一差距,意味着AI应用的响应可提升一个数量级。
ARTICLE
/
雷锋网
Akamai牵手英伟达,推出AI边缘云,释放了什么行业信号?
2025年11月04日 18:15 · 来自 雷锋网