跳转至

02 WS、OS 与 IS 三大数据复用模式深度对比

1. 三大数据复用流(Stationary Modes)对比

数据复用模式 驻留数据 (Stationary) 水平流动数据 垂直流动数据 核心优势 最佳适用场景
Weight Stationary (WS) 权重 (Weight) 固定在 PE 内部 激活 (Activation) 向东流动 部分和 (Partial Sum) 向南累加 权重访存功耗降至最低,能效极高 卷积网络 (CNN) 与 LLM 权重重用场景
Output Stationary (OS) 累加和 (Output Sum) 固定在 PE 累加器 激活向东流动 权重向南流动 累加器位宽极大(如 32-bit),无部分和移动开销 大尺寸 GEMM 矩阵乘法
Input Stationary (IS) 激活输入 (Input) 固定在 PE 内部 权重向东流动 部分和向南累加 激活数据极小且需多次复用 Batch Size = 1 的轻载推理
graph LR
    subgraph WeightStationary["Weight Stationary (WS) 数据流"]
        W["Weight 提前加载锁存在 PE 内部"]
        Act["Activation 逐周期推入"] --> W
        W --> Acc["Partial Sum 向下累加流出"]
    end