MindStudio Ops System Test快速入门¶
简介¶
msOpST工具用于算子开发完成后,对算子功能进行初步测试,该工具可以更加高效地进行算子性能的分析和优化,提高算子的执行效率,降低开发成本。
本样例基于AscendCL接口的流程,生成单算子的OM文件,并执行该文件以验证算子执行结果的正确性。
核心功能:
- 生成测试用例 (
msopst create):解析 Host 侧算子实现文件,自动生成 ST 测试用例定义 JSON - 执行测试用例 (
msopst run):基于测试用例定义,在真实硬件环境中执行算子并输出测试报告
环境准备¶
- 准备Atlas A2 训练系列产品/Atlas A2 推理系列产品的服务器,并安装对应的驱动和固件,具体安装过程请参见《CANN 软件安装指南》中的"安装NPU驱动和固件"章节。
- 安装配套版本的CANN Toolkit开发套件包和ops算子包并配置CANN环境变量,具体请参见《CANN 软件安装指南》。
- 若要使用MindStudio Insight进行查看时,需要单独安装MindStudio Insight软件包,具体下载链接请参见《MindStudio Insight工具用户指南》的"安装与卸载"章节。
[!NOTE]
在安装昇腾AI处理器的服务器执行npu-smi info命令进行查询,获取Chip Name信息。实际配置值为AscendChip Name,例如Chip Name取值为xxxyy,实际配置值为Ascendxxxyy。当Ascendxxxyy为代码样例路径时,需要配置Ascendxxxyy。
常用命令速查¶
| 命令 | 功能 | 示例 |
|---|---|---|
msopst create |
从 Host 侧 .cpp 生成 ST 测试用例 | msopst create -i add_custom.cpp -out ./st |
msopst run |
执行 ST 测试用例 | msopst run -i ./st/case.json -soc Ascend910B4 -out ./out |
操作步骤¶
-
生成ST测试用例。
-
在《MindStudio Ops Generator快速入门》创建算子工程中的步骤2执行完成后,再执行以下命令,并根据《MindStudio Ops Generator快速入门》步骤1的第四点生成的目录替换命令路径。
参数说明: -
-i, --input:Host 侧算子实现文件路径(.cpp),必选 --out, --output:测试用例输出目录,可选(默认当前目录) --m, --model:TensorFlow 模型文件路径,可选(用于自动提取 shape 信息) --q, --quiet:静默模式,不进行人机交互确认,可选 -
生成ST测试用例。
2024-09-10 19:47:15 (3995495) - [INFO] Start to parse AscendC operator prototype definition in $HOME/AddCustom/op_host/add_custom.cpp. 2024-09-10 19:47:15 (3995495) - [INFO] Start to check valid for op info. 2024-09-10 19:47:15 (3995495) - [INFO] Finish to check valid for op info. 2024-09-10 19:47:15 (3995495) - [INFO] Generate test case file $HOME/AddCustom/st/AddCustom_case_20240910194715.json successfully. 2024-09-10 19:47:15 (3995495) - [INFO] Process finished! -
在./st目录下生成ST测试用例。
-
-
执行ST测试。
-
根据CANN包路径设置环境变量。
-
执行ST测试,并将输出结果保存到指定路径。
msopst run -i ./st/AddCustom_case_{TIMESTAMP}.json -soc Ascendxxxyy -out ./st/out # xxxyy为用户实际使用的具体芯片类型参数说明: -
-i, --input:测试用例定义文件(.json)路径,必选。 --soc, --soc_version:AI 处理器芯片类型,必选 --out, --output:测试输出目录,可选 --c, --case_name:指定执行的 case 名称,多个用逗号分隔,可选(默认执行全部) --d, --device_id:NPU 设备 ID,可选(默认 0) --err_thr, --error_threshold:自定义精度标准,可选(默认 "[0.01,0.05]")[!NOTE]
${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例,安装后文件默认存储路径为:/usr/local/Ascend/cann。
-