GPU CPU协同浪潮下ARM凭什么成AI最大赢家

时间：2026年07月30日 20:51:44 中财网

　　数据显示，随着AI推理需求爆发，GPU擅长Prefill阶段而CPU更适合Decode阶段的协同模式日益重要。AmpereOne处理器采用192核ARM CPU，运行Llama-3.2-1B模型时推理速度达到4242.553 tokens/s，处理Qwen3-30B-A3B MoE模型时达到769.691 tokens/s，展现出强劲性能。

　　
　　一份研报观点认为，ARM正显著受益于GPU与CPU协同。研报指出，在Agentic AI和MoE架构快速发展的背景下，“GPU Prefill+CPU Decode”分工能有效处理KV Cache，显著降低整体TCO。研报认为，ARM CPU在Decode环节效率更高，与GPU配合可实现更优能效比。Fedimoss和EasyInfer方案进一步验证，GPU+ARM AI CPU组合性能提升超过48%。

　　
　　研报指出，Arm公司Neoverse V3架构已获得Meta、OpenAI、Oracle等巨头认可，其低功耗和高兼容性特点使其成为AI基础设施重要组成部分。这种协同趋势正在推动ARM生态加速扩张，为产业链相关企业打开新的增长空间。