跳转至

03 硬件多播 (Multicast)、广播与同步机制

1. 权重树形多播 (Multicast Tree)

在大模型前向推理中,同一组模型权重往往需要同时分发给多个 Tile 进行并行计算: - 点对点复制的缺陷:源端重复发送 \(N\) 次,NoC 瞬间拥塞。 - 硬件多播机制:源端仅发送 1 个多播数据包(携带目标掩码 Mask);NoC 路由器在分支交汇点由硬件电路自动复制分发,极大节省片上互联带宽。