训练开发工具链快速入门¶
1. 概述¶
1.1 功能简介¶
MindStudio Training Tools(msTT)是面向昇腾 AI 训练开发场景的开源全流程工具链,为开发者提供从精度调试到在线运维的全周期工具支持。工具链涵盖精度、性能、监控、迁移四大环节,帮助开发者在昇腾硬件上高效应对 Loss 异常、性能不达标等训练开发中的典型挑战,实现精度与性能双优。
1.2 核心能力¶
msTT 围绕训练开发的关键阶段,提供以下核心能力:
- 精度调试:支持全场景精度采集与分级对比分析,结合可视化手段帮助开发者快速定位精度偏差根因。
- 性能调优:覆盖数据采集、瓶颈分析、可视化诊断、内存调优和性能剖析,提供从单算子到集群的多层级性能优化手段。
- 在线监控:面向集群的实时性能监控与故障定位,支持落盘与在线采集,保障训练任务的稳定运行。
- 脚本迁移:提供 PyTorch 训练脚本的 NPU 兼容性分析与适配能力,辅助完成从 GPU 到昇腾 NPU 的迁移。
1.3 本文用途¶
本文汇总工具链中各工具的功能定位与快速入门入口,帮助您根据当前的开发阶段和业务需求,快速选择合适的工具并完成上手操作。
2. 快速入门¶
| 类别 | 工具名称 | 功能简介 | 快速入门链接 |
|---|---|---|---|
| 精度 | msProbe | 【精度调试】 昇腾全场景精度工具,用于训练精度调试与问题定位。 | 点击查看 |
| 精度 | TensorBoard | 【分级可视】 分级展示模型结构与精度,支持调试与标杆模型对比以定位精度问题。 | 点击查看 |
| 性能 | msProf | 【模型调优】 全场景性能调优底座,采集 CANN 与 NPU 数据,提升设备调优效率。 | 点击查看 |
| 性能 | msprof-analyze | 【性能分析】 基于采集数据做性能分析,快速识别性能瓶颈。 | 点击查看 |
| 性能 | msMemScope | 【内存调优】 内存调优专用工具:整网级多维度内存采集,支持自动诊断与优化分析。 | 点击查看 |
| 性能 | msInsight | 【可视调优】 可视化性能分析,覆盖系统、算子、服务化等场景,辅助完成性能诊断。 | 点击查看 |
| 性能 | msPTI | 【性能剖析】 面向昇腾的 Profiling API,可据此开发 NPU 应用性能分析工具。 | 点击查看 |
| 监控 | msMonitor | 【在线监控】 一站式监控,支持落盘与在线采集,面向集群的监测与问题定位。 | 点击查看 |
| 迁移 | msTransplant | 【分析迁移】 PyTorch 训练脚本一键迁移至昇腾 NPU,支持少量改码或零改码完成迁移。 | 点击查看 |