Update README.md

This commit is contained in:
Wenjie Zhang 2024-10-30 15:04:26 +08:00 committed by GitHub
parent 5dd36de50c
commit 25ad55f433
No known key found for this signature in database
GPG Key ID: B5690EEEBB952194

View File

@ -1,22 +1,21 @@
<h1 style="text-align: center">Yuxi (语析) </h1>
<h1 style="text-align: center">语析 (基于大模型的知识图谱问答平台)</h1>
> [!WARNING]
> **[WIP]** 当前项目还处于开发的早期。
## 预览
![DEMO.GIF](./images/demo.gif)
> [!NOTE]
> 当前项目还处于开发的早期,还存在一些 BUG有问题随时提 issue。
## 准备
## 概述
提供 API 服务商的 API_KEY并放置在 `src/.env` 文件中,参考 `src/.env.template`。默认使用的是智谱AI。需要配置 `ZHIPUAI_API_KEY=<ZHIPUAI_API_KEY>`
基于大模型 RAG 知识库与知识图谱的问答平台。Llamaindex + VueJS + Flask + Neo4j。大模型适配 OpenAI、国内主流大模型平台的模型调用、本地 vllm 部署。只需要配置对应服务平台的 `API_KEY` 即可使用
## 目前已知 Bug
![main](./images/main.png)
- [x] refs 获取存在问题
- [ ] 模型切换存在问题
## Dockers 启动
## 快速上手
在启动之前,提供 API 服务商的 API_KEY并放置在 `src/.env` 文件中,参考 `src/.env.template`。默认使用的是智谱AI。需要配置 `ZHIPUAI_API_KEY=<ZHIPUAI_API_KEY>`
本项目的基础对话服务可以在不含显卡的设备上运行,大模型使用在线服务商的接口。但是如果想要完整的知识库对话体验,则需要 8G 以上的显存。因为需要本地运行 embedding 模型和 rerank 模型。
**提醒**:下面的脚本会启动开发版本,源代码的修改会自动更新(含前端和后端)。如果生产环境部署,请使用 ` docker/docker-compose.yml` 启动。
@ -37,6 +36,10 @@ docker-compose -f docker/docker-compose.dev.yml up --build
✔ Container web-dev Started
```
**预览**
![DEMO.GIF](./images/demo.gif)
关闭 docker 服务:
```bash
@ -49,7 +52,7 @@ docker-compose -f docker/docker-compose.dev.yml down
docker logs <CONTAINER_NAME> # 例如docker logs api-dev
```
如果需要使用到本地模型,比如向量模型或者重排序模型,则需要将环境变量中设置的 `MODEL_ROOT_DIR` 做映射,比如本地模型都是存放在 `/hdd/models` 里面,则需要在 `docker-compose.yml` 中添加:
如果需要使用到本地模型,比如向量模型或者重排序模型,则需要将环境变量中设置的 `MODEL_ROOT_DIR` 做映射,比如本地模型都是存放在 `/hdd/models` 里面,则需要在 `docker-compose.yml` `docker-compose.dev.yml` 中添加:
```yml
services:
@ -65,9 +68,15 @@ services:
- /hdd/zwj/models:/hdd/zwj/models # <== 修改这一行
```
**生产环境部署**:本项目同时支持使用 Docker 部署生产环境,只需要更换 `docker-compose` 文件就可以了。
```bash
docker-compose -f docker/docker-compose.yml up --build
```
## 更新日志
- 2024.10.12 后端修改为 FastAPI并添加了 Milnvs 的独立部署。
- 2024.10.12 后端修改为 [FastAPI](https://github.com/fastapi),并添加了 [Milvus-Standalone](https://github.com/milvus-io) 的独立部署。
## 相关问题