MindStudio Service Profiler
昇腾 AI 服务化调优工具
✨ 最新消息¶
- [2026.03.24] 支持 Prometheus 在线监测。
- [2025.12.30] 支持Torch Profiler数据采集与解析。
- [2025.11.30] 对接 OpenTelemetry 生态，支持全链路 Trace 追踪。
- [2025.11.24] 支持 vLLM 框架的无侵入自动插桩采集。
- [2025.11.07] 发布自动寻优插件化模式。
ℹ️ 简介¶
MindStudio Service Profiler 是一款专为大模型推理服务设计的全栈性能分析与调优工具。它通过无侵入式采集、高性能数据持久化及多维关联分析，帮助用户深入洞察推理框架（如 MindIE, vLLM, SGLang）在昇腾硬件上的运行表现，精准定位性能瓶颈。
🗺️ 目录结构¶
关键目录如下，详细目录介绍参见项目目录。
├─docs # 文档目录
├─include # 采集能力对外接口目录
├─ms_service_profiler # 基础能力目录（解析、数据比对等），python源码主目录
│ ├─tracer/ # Trace数据监测能力目录
│ ├─patcher/ # vLLM、SGLang服务化调优能力目录
├─msservice_advisor/ # 专家建议工具目录
├─ms_serviceparam_optimizer/ # 自动寻优工具目录
├─ms_service_metric/ # 在线监测工具目录
└── cpp # 基础能力目录（采集），C++源码主目录
└─test # 测试目录
🛠️ 工具安装¶
安装msServiceProfiler工具，详情请参见《msServiceProfiler工具安装指南》。
🚀 快速入门¶
msServiceProfiler服务化调优工具的快速入门，包括必要的操作步骤、参数说明等，具体请参见快速入门。
⚙️ 功能介绍¶
面向不同使用场景，建议按照以下顺序快速体验本工具：
-
服务化性能调优：详细理解服务化调优数据格式、可视化分析方式及典型调优流程，参见服务化调优工具。
-
vLLM / SGLang 场景专项采集：如只关注某一框架，可直接参考对应服务化性能采集工具使用指南：
-
Trace 数据链路监测（MindIE 场景）：需要将服务端请求链路打通到 Jaeger 等 OTLP 生态时，参见Trace数据监测工具。
-
Prometheus 在线监测（vLLM 场景）：如需在 vLLM-Ascend 上结合 Prometheus 做在线监控，参见vLLM 服务化 Prometheus 数据监测工具使用指南。Prometheus、Grafana 为第三方开源软件，不属于 MindStudio 产品发布包的组成部分，用户可根据实际环境选择其他兼容的监控、可视化方案；如使用 Prometheus，请使用安全版本并完成必要的安全加固。
-
采集数据的比对与多维分析：对不同版本/配置的性能结果做对比或从多维度深入分析时，参见：
-
自动寻优与专家建议（进阶能力）：在已有采集数据基础上进行参数自动寻优或获取专家建议时，参见：
🌌 智能检索¶
为提升文档查阅效率，我们提供多种高效检索方式：
🔹 AI 问答（DeepWiki）：自然语言问答，快速把握项目架构与模块关系。
🔹 AI 问答（ZRead）：中文问答体验更优，精准定位功能用法与细节。
🔹 精确搜索（ReadTheDocs）：关键词全文检索，直达接口、参数与报错等信息。
⚖️ 相关说明¶
🤝 建议与交流¶
欢迎大家为社区做贡献。如果有任何疑问或建议，请提交 Issues，我们会尽快回复。感谢您的支持。
| 即时互动（微信群） | 官方资讯（公众号） | 深度支持（助手/论坛） |
|---|---|---|
 扫码加入技术交流群 |
 扫码关注官方公众号 |
扫码入群并关注公众号，直达 MindStudio 用户与开发者最快捷的交流平台： 快速提问： 与社区小伙伴即时探讨技术问题 掌握动态： 第一时间获取版本发布与功能更新通知 经验共享： 与广大开发者交流最佳实践与实战心得 更多支持渠道：👉 昇腾助手：  👉 昇腾论坛： |
🙏 致谢¶
msServiceProfiler由华为公司的下列部门联合贡献：
- 昇腾计算MindStudio开发部
感谢来自社区的每一个PR，欢迎贡献msServiceProfiler！
关于MindStudio团队¶
华为MindStudio全流程开发工具链团队致力于提供端到端的昇腾AI应用开发解决方案，使能开发者高效完成训练开发、更多信息请访问 昇腾社区 和 昇腾论坛。