hc-skadi/ascendc/ascendc-tiling-design

Ascend C 算子 Tiling 设计指南

算子分类体系

通用设计要素（所有类别必须）

以下设计要素是所有算子类别都必须考虑和完成的：

1. 多核切分策略

核心问题：任务如何分配给多个 AI Core？

设计要点：

• 负载均衡：每个核处理的任务量尽量相等
• 数据局部性：相邻数据尽量分配给同一核
• 粒度适中：tile 不能太小（调度开销大），不能太大（并行度低）

输出：

• [ ] 总任务切分方式（按哪个维度切）
• [ ] 每个 AI Core 处理的任务量
• [ ] 使用的 AI Core 数量

2. UB 切分策略

核心问题：单次能处理多少数据？

设计要点：

• UB 容量限制（DAV_2201: 192KB, DAV_3510: 248KB）
• 单次处理数据量
• 是否需要分 chunk 处理

输出：

• [ ] 单次处理的数据量
• [ ] 是否需要分 chunk
• [ ] chunk 大小计算公式

3. Buffer 规划

核心问题：需要哪些 buffer？各多大？

设计要点：

• 输入 buffer（inQueue）
• 输出 buffer（outQueue）
• 中间计算 buffer（tmpBuf, workBuf 等）
• Double Buffer 优化

输出：

• [ ] Buffer 列表及用途
• [ ] 各 Buffer 大小计算公式
• [ ] 总 UB 使用量

4. 分支场景覆盖

核心问题：需要处理哪些不同场景？

常见分支维度：

• 数据类型：FP32 / FP16 / BF16 / INT8
• Shape 大小：大 shape / 小 shape
• 数据对齐：32字节对齐 / 非对齐
• 边界情况：最小值 / 最大值 / 特殊值

输出：

• [ ] 分支决策条件
• [ ] 各分支的处理策略
• [ ] 边界测试用例