From 89a390d48a5b78bc8712784690f8d68de8cb559f Mon Sep 17 00:00:00 2001 From: Wenjie Zhang Date: Tue, 29 Apr 2025 00:04:40 +0800 Subject: [PATCH] =?UTF-8?q?=E6=9B=B4=E6=96=B0=E6=96=87=E6=A1=A3?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- README.md | 30 +++++++++++++++++++++++++++--- docker-compose.yml | 2 +- 2 files changed, 28 insertions(+), 4 deletions(-) diff --git a/README.md b/README.md index 694cf454..cf398446 100644 --- a/README.md +++ b/README.md @@ -34,7 +34,6 @@ - **2025.02.20** - DeepSeek-R1 支持,需配置 `DEEPSEEK_API_KEY` 或 `SILICONFLOW_API_KEY` - **2024.10.12** - 后端修改为 [FastAPI](https://github.com/fastapi),添加 [Milvus-Standalone](https://github.com/milvus-io) 独立部署 - ### 环境配置 在启动前,您需要提供 API 服务商的 API_KEY,并放置在 `src/.env` 文件中(此文件项目中没有,需要自行参考 [src/.env.template](src/.env.template) 创建)。更多可配置项,可参考 后面**对话模型**部分。 @@ -143,11 +142,36 @@ ark: 对于**向量模型**和**重排序模型**,选择 `local` 前缀的模型会自动下载。如遇下载问题,请参考 [HF-Mirror](https://hf-mirror.com/) 配置。 -要使用已下载的本地模型,可在 models.yaml 或者网页设置中映射。 +要使用已下载的本地模型: + +1. 在网页设置中添加映射: ![image](https://github.com/user-attachments/assets/ab62ea17-c7d0-4f94-84af-c4bab26865ad) -**添加向量模型** +2. 将文件夹映射到 docker 内部 + +```yml +# docker-compose.yml + +services: + api: + build: + context: . + dockerfile: docker/api.Dockerfile + container_name: api-dev + working_dir: /app + volumes: + - ./server:/app/server + - ./src:/app/src + - ./saves:/app/saves + - ${MODEL_DIR}:/models <== 比如修改为 /hdd/models:models + ports: + +``` + +#### 添加向量模型 + +注:添加本地向量模型由于在 docker 内外的路径差异很大,因此建议参考前面的路径映射之后,在这里添加。 ```yaml # src/static/models.yaml diff --git a/docker-compose.yml b/docker-compose.yml index c81e0c2c..fbe4018e 100644 --- a/docker-compose.yml +++ b/docker-compose.yml @@ -8,7 +8,7 @@ services: volumes: - ./server:/app/server - ./src:/app/src - - ./saves_dev:/app/saves + - ./saves:/app/saves # - ${MODEL_DIR}:/models # 如果出现 undefined volume MODEL_DIR: invalid compose project,请添加此环境变量或者注释此行 ports: - "5050:5050"