TBE单算子验证及调试

• 前言
• TBE单算子测试总体介绍
• • TBE单算子测试的目的
  • TBE测试工程介绍
• TBE单算子UT测试
• • UT测试目的
  • UT测试流程
  • UT测试示例 ——以softmax_grad算子为例
  • UT测试结果分析
• TBE单算子ST测试
• • ST测试目的
  • ST测试流程
  • ST测试示例
  • ST测试结果分析
• TBE单算子BBIT测试
• • BBIT测试目的
  • BBIT测试流程
  • BBIT测试结果分析
• TBE单算子性能分析
• • 性能分析目的与流程
  • 性能分析测试示例
  • 性能分析结果分析
• 总结

前言

TBE单算子测试总体介绍

TBE单算子测试的目的

• 算子程序能够跑通，场景覆盖全面
  ——UT测试
• 算子逻辑正确
  ——ST测试
  ——BBIT测试
• 算子性能最优
  ——性能分析

TBE测试工程介绍

Mind Studio工程目录结构如下：

UT测试示例 ——以softmax_grad算子为例

• 在Mind Studio算子工程目录tbe/testcases/ut/softmax_grad目录下编写ut测试代码文件test_softmax_grad.py（ init.py 内容可以空）
• 按照Unittest测试框架，撰写测试用例def test_xxx( )
• 执行UT测试操作： 右键单击tbe/testcases/ut/softmax_grad，选择“run ‘softmax_grad’UT with coverage”
• UT执行成功后，IDE会显示覆盖率 告的链接

UT测试框架

UT测试结果分析

在Mind Studio工程目录./out/coverage_report/ut/目录下查看相应算子代码覆盖率等信息，如下：

ST测试示例

• ——以softmax_grad算子为例，Python用例
• ——以softmax_grad算子为例，C++用例

ST测试结果分析

——以softmax_grad算子为例

• Mind Studio右键单击st/算子文件夹，选择run ‘softmax_grad’st with coverage执行测试；

启动st测试

TBE单算子BBIT测试

BBIT测试目的

• BBIT：Building Block Integerated Test，系统联调

BBIT测试结果分析

——以softmax_grad算子为例
运行bbit测试命令：
./tvm_bbit SoftmaxgradTest


性能分析测试示例

——以softmax_grad算子为例 执行仿真
切换工程Target为Simulator(Performance)，重新执行st测试


• ——matmlu算子
  数据搬运要进行分形操作，UB->L1(Zz) ->L0A(Zz)、 L0B(Zn),cube利用率很低
  

总结

• 单算子UT用例的编写、测试以及结果分析
• 单算子的ST测试的python用例、C++用例的编写，运行以及结果分析
• 单算子BBIT用例的编写，测试以及结果分析
• 单算子的性能分析

文章知识点与官方知识档案匹配，可进一步学习相关知识Python入门技能树人工智能深度学习211399 人正在系统学习中