08 脉动阵列算力密度与 PPA 定量推演¶
1. NPU 峰值定点/浮点算力理论推导公式¶
NPU 芯片的核心算力由片上平铺的脉动阵列与向量计算单元共同提供:
\[\text{Peak TOPS (INT8)} = N_{Tile} \times 2 \times \text{Rows} \times \text{Cols} \times f_{clock}\]
实例定量推演:8-Tile 云端推理/训练 NPU 芯片¶
- 基础配置:芯片集成 \(N_{Tile} = 8\) 个同构 Tile 核心,工作频率 \(f_{clock} = 1.5\text{ GHz}\);
- 单 Tile 脉动阵列规格:\(128 \times 128\) 2D INT8 PE 矩阵;
- 单 Tile 周期算力吞吐:
- 单 PE 每周期完成 1 次 \(8\text{-bit} \times 8\text{-bit} + 32\text{-bit} \rightarrow 32\text{-bit}\) 乘累加(2 个 Ops);
- 单 Tile PE 总数:\(128 \times 128 = 16,384\text{ PEs}\);
- 单 Tile 峰值算力:\(16,384 \times 2 \times 1.5\text{ GHz} = 49.152\text{ TOPS (INT8)}\);
- 全芯片理论峰值: $\(\text{Total Peak TOPS} = 8 \times 49.152\text{ TOPS} = \mathbf{393.216\text{ TOPS (INT8)}}\)$
- 若运行在 FP16 / BF16 模式(每个 PE 支持 1 次 16-bit 浮点乘加),全芯片峰值算力为 196.608 TFLOPS。
graph TD
Chip["NPU 全芯片 (8 个 Tile 核心)"] --> TileArray["8 个独立的 128x128 脉动阵列 (共 131,072 个 PE)"]
TileArray --> INT8_Peak["INT8 峰值算力: 131072 * 2 * 1.5GHz = 393.2 TOPS"]
TileArray --> FP16_Peak["FP16 峰值算力: 131072 * 1 * 1.5GHz = 196.6 TFLOPS"]
2. 7nm 工艺下芯片功耗与能效比 (PPA) 详细拆解¶
在 7nm FinFET 工艺、典型供电电压 \(V_{dd} = 0.75\text{ V}\) 下,满载 393.2 TOPS 时的功耗拆解:
| 硬件子系统 | 功耗建模公式 | 典型功耗值 (W) | 功耗占比 (%) |
|---|---|---|---|
| 脉动阵列 MAC 逻辑 | \(P_{MAC} = N_{PE} \cdot \alpha C V^2 f\) | 18.5 W | 52.8% |
| 片上 Scratchpad SRAM | \(P_{SRAM} = 8 \times (E_{read} + E_{write}) \cdot f\) | 9.2 W | 26.3% |
| 2D Mesh NoC 片上互联 | \(P_{NoC} = N_{routers} \cdot E_{flit} \cdot \text{Throughput}\) | 3.8 W | 10.9% |
| 静态漏电功耗 (Leakage) | \(P_{leak} = V_{dd} \cdot I_{leak}(85^\circ\text{C})\) | 3.5 W | 10.0% |
| 全芯片整卡总功耗 | \(P_{total}\) | 35.0 W | 100.0% |
算力能效比 (TOPS/W) 结论:¶
$\(\text{Energy Efficiency} = \frac{393.216\text{ TOPS}}{35.0\text{ W}} = \mathbf{11.235\text{ TOPS/W}}\)$ 对比同工艺节点通用 GPU(典型能效比约 \(1.8 \sim 2.5\text{ TOPS/W}\)),专用 DSA 架构能效比提升 4.5 ~ 6.2 倍。