02 云端 NPU 架构：HBM3 与大规模 Scale-Out 训练系统

1. 云端 NPU 核心特征

• 功耗预算：300W ~ 800W+（SXM / OAM 模组形态）。
• 显存与带宽：配备 64GB ~ 192GB HBM3e 显存，带宽达 3.2TB/s+。
• Scale-Out 扩展能力：片上集成高速 SerDes 互联端口（如 800Gbps+ 直连口），支持构建上万卡的超大规模大模型训练集群。