tasselszcx/ako-npu/ascendc-perf-optimize

Ascend C 算子性能优化流水分析

优化流程

给定：算子类型、计算流程（kernel 代码/伪代码）、profiling 数据、仿真图（可选）
 
Step 1 — Tiling 理论建模 → 输出理想 tiling data
Step 2 — 通信类算子？ → 通算演算优化策略（卡间流水分析 + tiling 修正）
Step 3 — 多核间同步算子？ → 核间流水优化策略（核间流水分析 + tiling 修正）
Step 4 — 单核流水优化策略（核内流水分析 + tiling 修正）

每步的"流水"分析包含仿真图解读和 profiling 数据分析报告。Step 2/3/4 的策略输出均包含对 Step 1 tiling 策略的修正建议。

Step 1 — Tiling 理论建模

输入：算子类型、Shape、dtype、计算流程

过程：根据算子 pattern 路由到对应的 Tiling 理论模型目录（详见 references/tiling/，入口为 references/tiling/index.md），输出理想 tiling data。

输出：

• [ ] 卡间切分方案（切分维度、通信内算子涉及）
• [ ] 多核切分方案（切分维度、单核任务量、核数）
• [ ] 单核切分方案：
• Cube/融合类：L1 split（baseM/baseN/baseK、L1 ping-pong）+ L0 split（mL0/nL0/kL0）
• Vec 类：UB split（block_size、repeat）
• [ ] Buffer 规划（各 buffer 用途与大小，区分 L1/L0/UB 层级）
• [ ] 分支场景覆盖（dtype、shape 大小、对齐）

Step 2 — 通算演算优化策略（卡间流水）

适用条件：通信类算子（如 AllReduce、AllGather、ReduceScatter 等）。

非通信类算子跳过此步骤。

输入：Step 1 的 tiling data + 计算流程 + 仿真图 + profiling 数据

过程：加载 references/comm-compute/，分析卡间通信与计算的流水重叠，识别通信瓶颈。

输出：

• [ ] 卡间流水仿真图分析
• [ ] 通信/profiling 数据报告
• [ ] 卡间流水优化策略
• [ ] 对 Step 1 tiling 策略的修正建议

当前 references/comm-compute/ 内容为空，此步骤返回「通算演算优化策略暂未收录，跳过卡间流水分析」。

Step 3 — 核间流水优化策略

适用条件：涉及多核间同步的算子（如跨核同步、核间数据依赖等）。

非多核同步算子跳过此步骤。

输入：Step 1 的 tiling data + 计算流程 + 仿真图 + profiling 数据

过程：加载 references/inter-core-pipeline/，分析多核间的流水并行效率。

输出：

• [ ] 核间流水仿真图分析
• [ ] 核间 profiling 数据报告
• [ ] 核间流水优化策略
• [ ] 对 Step 1 tiling 策略的修正建议

当前 references/inter-core-pipeline/ 内容为空，此步骤返回「核间流水优化策略暂未收录，跳过核间流水分析」。

Step 4 — 单核流水优化策略

适用条件：所有算子。

输入：Step 1 的 tiling data + 计算流程 + 仿真图 + profiling 数据 + 前几步的策略输出

过程：加载 references/single-core-pipeline/，通过仿真图数据和 profiling 数据判定 bound 类型，按 bound 展开优化。

输出：

• [ ] 核内流水仿真图分析
• [ ] 核内 profiling 数据报告（bound 诊断结论）
• [ ] 核内流水优化策略
• [ ] 对 Step 1 tiling 策略的修正建议
• [ ] 最终优化方案汇总