msOpProf 算子性能调优工具快速入门¶
1. 概述¶
msOpProf 工具用于采集和分析运行在昇腾 AI 处理器上的算子的关键性能指标，用户可根据输出的性能数据，快速定位算子的软、硬件性能瓶颈，提升算子性能的分析效率。 本文档基于入门教程中开发的简易加法算子，演示 msOpProf 工具的核心功能，帮助初学者直观体会其在算子开发过程中带来的高效性与便捷性。
本章节以您已完成《算子开发工具链快速入门》的全流程操作为前提；若尚未体验，建议先完成该指南以获得更佳的学习效果。
2. 操作步骤¶
2.1【环境】必备环境准备（强制前置 ⚠️）¶
🛑 本节为强制前置步骤！跳过将导致后续操作大量出现失败。
本教程仅支持标准化 CANN 容器环境，不兼容裸机、虚拟机或其他非标准容器部署。
2.1.1 安装 CANN 容器环境¶
✅ 请严格按以下指南完成环境安装：
👉 《昇腾 AI 算子开发工具链学习环境安装指南》
⏱️ 外网可达环境下预计耗时：约 3 分钟
安装完成后，您将获得一个预装所有算子工具、示例代码和依赖库的标准化容器环境。
2.1.2 执行环境自检脚本（必须通过！）¶
在如下正式体验前，请全文复制下方整段脚本，粘贴到终端执行，只有输出全部显示为 [PASS] 才能继续：
# 1. 容器环境检查
[ -f /.dockerenv ] && [ -n "$ASCEND_HOME_PATH" ] && [ -n "$ATB_HOME_PATH" ] && echo -e "\033[32m[PASS] CANN 容器环境 OK \033[0m" || echo -e "\033[31m[FAIL] 非标容器或未进入容器！\033[0m"
# 2. 示例代码仓检查
[ -d ~/ot_demo/msot/example/quick_start ] && echo -e "\033[32m[PASS] 示例代码仓 OK\033[0m" || echo -e "\033[31m[FAIL] 代码仓缺失\033[0m"
2.2【前提】算子工程准备完成¶
按照《算子开发工具链快速入门》中 2.3 节操作，完成算子工程准备。
2.3【调优】分析算子性能（msOpProf）¶
若算子性能未达预期，可借助 msOpProf 工具采集运行时性能数据，进行深入分析与优化，确保算子在不同昇腾硬件平台上高效执行。先跟着操作体验效果，原理部分可稍后阅读。
2.3.1 修改编译选项并重新编译部署¶
1. 修改编译选项
在 Kernel 侧 CMakeLists.txt 首行插入如下配置，开启调试信息：
# 进入对应目录进行文件备份
cd ~/ot_demo/workspace/src/AddCustom
cp -f op_kernel/CMakeLists.txt op_kernel/CMakeLists.txt.bak
# 将以下配置内容插入CMakeLists.txt 首行
printf '%s\n' "if(COMMAND add_ops_compile_options)" " add_ops_compile_options(ALL OPTIONS -g)" "elseif(COMMAND npu_op_kernel_options)" " npu_op_kernel_options(ascendc_kernels ALL OPTIONS -g)" "endif()" | cat - op_kernel/CMakeLists.txt > tmp && mv -f tmp op_kernel/CMakeLists.txt;
2. 重新编译部署算子
bash ./build.sh
MY_OP_PKG=$(find ./build_out -maxdepth 1 -name "custom_opp_*.run" | head -1) && bash $MY_OP_PKG
2.3.2 启动真机与仿真采集¶
[!NOTE]
知识点：上板和仿真采集信息的区别
上板：可精确捕获算子运行耗时、各 Pipe 使用情况、内存带宽、Cache 行为等真实硬件特性，而这些往往是仿真器难以高保真复现的关键指标。
仿真：在指令流追踪、代码热点定位等方面提供更完整、稳定的分析能力，但对内存访问延迟、带宽瓶颈等硬件相关行为的模拟精度有限。
因此，建议结合两种方式，互补优势，实现全面性能诊断。若某些场景下您没有真实硬件（NPU 卡），可以使用仿真模式进行初步的性能估算和热点分析。
2.3.2.1 上板性能采集¶
执行如下命令：
2.3.2.2 仿真器性能采集¶
[!NOTE]说明 参数
--soc-version的值可通过执行以下命令获取：python3 -c "import acl; print(acl.get_soc_name())"。
2.3.3 查看性能数据结果¶
工具在指定 --output 目录下生成 .csv 和 .bin 格式的结果文件，生成的目录结构请参见目录结构参考，若输出没有报错，则认为执行成功：
csv 文件
例如，MemoryUB.csv 文件打开后可以看到如下信息：
数据显示任务被均分为 8 个 block，全部调度至 Vector Core 执行。例如，Block 0 的带宽（1.02GB/s）明显高于 Block 1（0.77GB/s），如果差异过大，可能提示有优化空间。
| block_id | sub_block_id | aiv_time(us) | aiv_total_cycles | aiv_ub_read_bw_vector(GB/s) | aiv_ub_write_bw_vector(GB/s) |
|---|---|---|---|---|---|
| 0 | vector0 | 7.456666 | 13422 | 1.023164 | 0.511582 |
| 1 | vector0 | 9.914444 | 17846 | 0.769523 | 0.384762 |
| 2 | vector0 | 10.001111 | 18002 | 0.762855 | 0.381427 |
| 3 | vector0 | 9.684444 | 17432 | 0.787799 | 0.393899 |
| 4 | vector0 | 9.747222 | 17545 | 0.782725 | 0.391363 |
| 5 | vector0 | 9.062222 | 16312 | 0.84189 | 0.420945 |
| 6 | vector0 | 9.293889 | 16729 | 0.820904 | 0.410452 |
| 7 | vector0 | 8.658889 | 15586 | 0.881105 | 0.440553 |
bin 文件
请学习下节内容。
2.3.4 通过 MindStudio Insight 图形化查看性能数据结果¶
上面的 bin 文件可使用 MindStudio Insight 工具打开，以图形化方式直观展示各类性能视图，例如：计算内存热力图、Cache 热力图以及算子代码热点图等。
2.3.4.1 安装 MindStudio Insight¶
请参考《MindStudio Insight工具文档》安装 Insight 工具。
2.3.4.2 用 MindStudio Insight 查看¶
安装后是单机程序，简单操作如下：点击左上角 Import Data，将 visualize_data.bin 导入，然后打开 Details 页面，即可看到很多详细图表。 详细操作及图表具体含义请参考《MindStudio Insight工具文档》学习。
2.3.5 恢复被修改的文件¶
执行如下命令：