version: "1.0.0" name: cluster-network-analysis description: 估算多节点训练或推理的跨服务器流量、网络瓶颈与同步等待。用于比较拓扑、通信路径和网络优化收益。
集群网络分析
适用:作业跨越服务器或超节点,网络可能限制完成时间。依据 manuscripts/07-数据中心网络.md 第 7.1—7.6 节。
- 从并行算法追踪一份数据的生产者、消费者、大小和必须到达的时刻;区分本地归约后传输与直接跨节点传输。
- 将流量映射到物理拓扑:网卡、rail、交换层、上行带宽和共享割集。按瓶颈链路计算传输下界,不把所有网卡的标称带宽当作单流带宽。
- 对小消息或远程操作,检查往返延迟、带宽时延积、可同时在途请求数、提交与完成通知速率;缓冲槽位应在最后一个消费者完成后才复用。
- 用高并发负载检查 incast、哈希碰撞、超售和故障重传。再把网络阶段放回训练步或推理请求依赖图,计算真正缩短的关键路径。
报告跨节点字节量、瓶颈割集、通信轮次、预计等待和实测吞吐。若测量低于线速,优先检查路径、并发与背压,勿仅归咎于网络硬件。