ForcePilot/docs/intro/model-config.md

84 lines
2.9 KiB
Markdown
Raw Normal View History

# 模型配置
## 概述
系统统一通过 **系统设置 → 模型配置** 页面管理所有模型(对话模型、嵌入模型、重排模型),无需修改配置文件。
## 配置路径
```
系统设置 → 模型配置
```
## API 凭证配置
支持两种凭证配置方式:
| 方式 | 适用场景 |
|------|----------|
| 环境变量 | 生产环境或不愿在界面暴露 Key 的场景 |
| 直接填写 | 开发调试,追求配置便利性 |
**环境变量方式**:在供应商配置中填写变量名(如 `SILICONFLOW_API_KEY`),确保运行时环境已配置对应变量。
**直接填写方式**:在供应商配置中直接填入 API Key。
2026-03-10 13:55:19 +08:00
## 供应商管理
2026-03-10 13:55:19 +08:00
### 内置供应商
2026-03-10 13:55:19 +08:00
部分供应商默认启用,首次使用需配置 API 凭证:
2026-03-10 13:55:19 +08:00
| 供应商 | Provider ID | 支持类型 | 备注 |
|--------|-------------|----------|------|
| SiliconFlow | `siliconflow-cn` | chat, embedding, rerank | 默认启用 |
| OpenAI | `openai` | chat | |
| DeepSeek | `deepseek` | chat | |
| 阿里云百炼 | `alibaba` | chat | |
| 智谱清言 | `zhipuai` | chat | |
| MiniMax | `minimax-cn` | chat | |
| OpenRouter | `openrouter` | chat, embedding | |
2026-03-10 13:55:19 +08:00
### 操作流程
2026-03-10 13:55:19 +08:00
1. **新增供应商**点击「新增供应商」填写基本信息Provider ID、Base URL 等)
2. **配置凭证**:填写 API Key 或环境变量名
3. **启用供应商**:开启供应商状态开关
4. **获取模型**:进入供应商详情,点击「获取远程模型」从 API 拉取可用模型列表
2026-03-10 13:55:19 +08:00
## 模型管理
### 添加模型
**方式一:从远端拉取**
2025-10-22 11:51:32 +08:00
进入供应商详情 → 点击「获取远程模型」→ 从候选列表中选择添加
2025-10-22 11:51:32 +08:00
**方式二:手动添加**
2025-10-22 11:51:32 +08:00
进入供应商详情 → 点击「手动添加」→ 填写模型 ID 和类型
2025-10-22 11:51:32 +08:00
### 配置参数
2025-10-22 11:51:32 +08:00
嵌入模型embedding需配置向量维度请参考模型提供商的规格说明。
2025-10-22 11:51:32 +08:00
### 移除模型
2025-10-22 11:51:32 +08:00
在供应商详情的已启用模型列表中移除不需要的模型。
2025-10-22 11:51:32 +08:00
## 模型标识格式
2025-10-22 11:51:32 +08:00
运行时模型统一使用 `provider_id:model_id` 格式,例如 `siliconflow-cn:Pro/BAAI/bge-m3`。`model_id` 可以包含 `/`,系统只按第一个 `:` 区分供应商与模型 ID。
旧版 `provider/model`、旧版知识库 JSON 模型字段、配置文件中的 `model_names` / `embed_model_names` / `reranker_names` 不再作为运行时模型来源。历史知识库或 Agent 配置如果仍保存旧格式,需要在界面中重新选择新版模型后保存。
## Ollama 支持
当前版本不再内置 Ollama provider type也不再提供 Ollama embedding 运行时适配。已有 Ollama embedding 知识库需要管理员选择新的 embedding 模型并重建索引,避免不同向量空间混用。
## 常见问题
**凭证缺失警告**:检查 API Key 是否正确配置,或确认环境变量是否已设置。
**模型配置未生效**:确认模型已添加至供应商的已启用列表中。