Yuxi (语析)

Warning

[WIP] 当前项目还处于开发的早期。

预览

准备

提供 API 服务商的 API_KEY，并放置在 src/.env 文件中，参考 src/.env.template。默认使用的是智谱AI。需要配置 ZHIPUAI_API_KEY=<ZHIPUAI_API_KEY>。

目前已知 Bug

• refs 获取存在问题
• 模型切换存在问题

Dockers 启动

提醒：下面的脚本会启动开发版本，源代码的修改会自动更新（含前端和后端）。如果生产环境部署，请使用 docker/docker-compose.yml 启动。

docker-compose -f docker/docker-compose.dev.yml up --build

下面的这些容器都会启动：

[+] Running 7/7
 ✔ Network docker_app-network       Created
 ✔ Container graph-dev              Started
 ✔ Container milvus-etcd-dev        Started
 ✔ Container milvus-minio-dev       Started
 ✔ Container milvus-standalone-dev  Started
 ✔ Container api-dev                Started
 ✔ Container web-dev                Started

关闭 docker 服务：

docker-compose -f docker/docker-compose.dev.yml down

查看日志：

docker logs <CONTAINER_NAME>  # 例如：docker logs api-dev

如果需要使用到本地模型，比如向量模型或者重排序模型，则需要将环境变量中设置的 MODEL_ROOT_DIR 做映射，比如本地模型都是存放在 /hdd/models 里面，则需要在 docker-compose.yml 中添加：

services:
  api:
    build:
      context: ..
      dockerfile: docker/api.Dockerfile
    container_name: api-dev
    working_dir: /app
    volumes:
      - ../src:/app/src
      - ../saves:/app/saves
      - /hdd/zwj/models:/hdd/zwj/models  # <== 修改这一行

更新日志

• 2024.10.12 后端修改为 FastAPI，并添加了 Milnvs 的独立部署。

相关问题

镜像下载问题

如果无法直接下载相关镜像，参考 DaoCloud/public-image-mirror，尝试将前缀替换为：

# 以 neo4j 为例，其余一样
docker pull m.daocloud.io/docker.io/library/neo4j:latest

# 然后重命名镜像
docker tag m.daocloud.io/docker.io/library/neo4j:latest neo4j:latest