msAgent快速入门¶
本文介绍如何配置模型、选择 Agent 功能、启动并进入msAgent最小可用的交互流程。
1. 环境准备¶
- 安装昇腾NPU驱动和配套版本的CANN软件(包含Toolkit和ops包)并配置环境变量,具体请参见《CANN 快速安装》。
- 安装本工具,具体请参见《msAgent安装指南》。
2. 配置 LLM¶
- 准备一个可用的 LLM API Key。
需要用户自行登录模型服务商网站进行创建。
- 配置 LLM。
包括 LLM 服务的环境变量(*_API_KEY)、通过msagent config命令的--llm-provider参数配置LLM 服务的协议类型、--llm-base-url参数配置模型服务商地址、--llm-model参数配置模型名称(模型名称从模型服务商网站的模型广场获取)。
-
OpenAI 兼容接口示例:
-
本地 OpenAI 兼容服务示例:
-
Anthropic 兼容服务示例:
-
Google / Gemini 服务示例:
-
查看当前配置。
显示步骤2配置的参数值则表示配置成功。
3. 启动会话¶
- 启动并进入默认交互式会话。
- 启动并进入Profiler 性能调优功能交互式会话。
- 启动并进入Accuracy 精度调试功能交互式会话。
- 启动并进入Quantizer 模型量化功能交互式会话。
- 启动并进入Operator 算子调优功能交互式会话。
- 启动并进入Minos 文档辅助功能交互式会话。
- 更多命令请参见《msAgent使用指南》。