Commit Graph

65 Commits

Author SHA1 Message Date
Wenjie Zhang
138a0795bf feat(model): 修改基础的 OpenAIBase 为异步调用 2026-01-28 11:30:55 +08:00
Wenjie Zhang
a4f425dbf9 feat: 上传文件新增基于URL获取和处理功能,需要配置白名单环境变量
- 引入新的端点来获取URL内容并转换为Markdown格式。
- 在环境变量中添加URL白名单配置以确保安全。
- 增强文件上传模态框以支持URL输入和URL批量处理。
- 更新文件处理逻辑以区分文件和URL。
- 改进UI组件以适应新的URL处理功能。
- 添加用于URL验证和获取的工具函数。
2026-01-27 17:12:48 +08:00
Wenjie Zhang
b5c14a6a6f fix(database): 扩展 db_id 字段长度至 80 字符,以支持更长的 ID #499 2026-01-26 11:13:33 +08:00
Wenjie Zhang
e585f796d2 refactor(task): 重构任务服务并迁移到postgres 数据库
将任务服务从server/services移动到src/services
添加TaskRepository实现数据库持久化
更新所有相关导入路径
2026-01-24 10:56:31 +08:00
Wenjie Zhang
63fed0dfd6 refactor: 移除基于 SQLite 的遗留问题 2026-01-24 10:56:31 +08:00
Wenjie Zhang
a1812f2e97 feat(知识库): 重构知识库元数据存储为PostgreSQL数据库
- 新增知识库、知识文件、评估基准、评估结果等数据模型
- 实现知识库相关Repository类提供CRUD操作
- 修改知识库实现类使用PostgreSQL存储元数据
- 添加PostgreSQL数据库管理器和初始化逻辑
- 更新相关路由和工具类适配新的存储方式
- 添加数据库迁移脚本和测试工具
- 在docker-compose中配置PostgreSQL服务
2026-01-24 10:56:31 +08:00
Wenjie Zhang
f3da61b10a 功能:增强知识库访问控制和共享配置 #480
- 在save_agent_config中实现了基于用户角色的知识库访问控制。
- 添加了新端点以检索当前用户可访问的数据库。
- 在数据库创建和更新过程中引入了share_config以管理共享设置。
- 创建了ShareConfigForm组件用于在UI中管理共享设置。
- 更新了部门和知识API以支持新的访问控制功能。
- 增强了用户管理组件以显示用户角色和部门名称。
- 重构了数据库视图以包含共享配置设置。
2026-01-24 10:56:31 +08:00
humeng
d90c716775 fix: 修改评论描述 2026-01-16 15:49:58 +08:00
Wenjie Zhang
9fa8ce288f feat: 添加知识库名称检查,防止重复创建相同名称的知识库 #466 2026-01-14 22:00:53 +08:00
GitHub Actions
02334bca38 style: auto-format with ruff [skip ci] 2026-01-12 11:23:49 +00:00
Wenjie Zhang
28259ff66d feat: 添加自动入库功能及相关配置选项 2026-01-12 17:51:32 +08:00
GitHub Actions
9ffc058d6d style: auto-format with ruff [skip ci] 2026-01-08 17:23:00 +00:00
Wenjie Zhang
05a67c24f8 fix(knowledge): 修复智能体调用场景下,知识库查询参数不生效的问题。
- 将查询参数从全局元数据迁移到知识库实例元数据
- 废弃 reranker_config 配置,统一通过 query_params.options 管理
- 修改 Milvus 和 LightRAG 实现以使用新的查询参数结构
- 更新前端界面移除旧的 reranker 配置表单
- 添加测试用例验证新的查询参数配置流程
2026-01-09 01:21:41 +08:00
Wenjie Zhang
98c73a90c9 refactor(knowledge): 将知识库检索参数从 router 移动到对应的实现文件中 2026-01-08 22:13:17 +08:00
Wenjie Zhang
495a215084 refactor(knowledge_router): 在任务名称中显示知识库名称而非ID
获取知识库信息并显示名称,提升任务可读性
2026-01-07 11:19:12 +08:00
Wenjie Zhang
3c77755a78 feat: 重构知识库文件处理流程,支持分阶段处理【!important】
refactor(lightrag/milvus): 将文件处理拆分为上传、解析和入库三个阶段
feat(base): 新增文件状态枚举和分阶段处理方法
feat(api): 添加手动触发解析和入库的API接口
fix(utils): 修复MinIO URL解析逻辑,支持更多协议格式
style(components): 优化UI组件样式和交互
test: 移除过时的测试文件
2026-01-04 21:35:25 +08:00
Wenjie Zhang
fffe237780 feat(知识库): 在生成描述时支持传入文件列表
在知识库描述生成功能中增加文件列表参数,使AI能参考文件内容生成更准确的描述
前端组件传递文件列表至API,后端处理时将其包含在提示词中
2026-01-03 19:02:08 +08:00
Wenjie Zhang
302175e0b0 refactor: 移除 ChromaDB 相关代码和依赖
移除项目中所有与 ChromaDB 相关的代码、依赖和文档引用,统一使用 Milvus 作为向量数据库实现
2026-01-02 14:44:00 +08:00
Wenjie Zhang
295d019d16 style: 统一文件夹图标样式并修复缩进问题
更新前端文件夹相关图标为更一致的填充样式
修复后端Python代码中的缩进不一致问题
2025-12-31 00:00:24 +08:00
Justin Gao
192da56fca feat(知识库): 实现文件夹功能支持
添加文件夹创建、移动和删除功能
- 后端添加文件夹相关API和逻辑处理
- 前端实现文件夹树形展示和操作界面
- 支持文件上传到指定文件夹
- 添加拖拽移动文件功能
2025-12-31 00:00:24 +08:00
limbo
6ebbb46c9f feat: AI 辅助知识库描述生成功能 2025-12-18 21:43:26 +08:00
Wenjie Zhang
98fdce0e79 refactor: 移除对.doc文件格式的支持 2025-12-18 11:27:21 +08:00
Wenjie Zhang
19cb293024 refactor: 优化组件和API的空值处理逻辑
- 在KnowledgeGraphSection和QuerySection组件中添加事件声明
- 移除mindmap_router和knowledge_router中不必要的404异常抛出
- 在SearchConfigModal中增加databaseId为空时的处理逻辑
- 在KnowledgeBaseCard中优化描述显示和样式调整
2025-12-10 19:42:58 +08:00
Wenjie Zhang
e5a06405ba feat(evaluation): 重构评估配置处理逻辑
- 将前端传递的 retrieval_config 改为 model_config 并合并到检索配置
- 从知识库元数据中获取检索配置作为基础配置
- 在评估结果中显示使用的检索配置
- 优化配置保存流程,先保存到服务器再存本地
- 统一知识库查询参数存储结构
2025-12-09 21:11:51 +08:00
Wenjie Zhang
83e0caae7d feat(evaluation): 新增RAG评估功能模块
实现RAG评估系统,包括基准管理、评估指标计算和结果展示功能

- 添加评估路由和API接口
- 实现评估指标计算工具类
- 新增基准上传和自动生成功能
- 添加评估结果展示组件
- 完善相关文档和测试用例
2025-12-09 16:21:18 +08:00
Wenjie Zhang
7750a5f106 feat(database): 实现同名文件检测与MinIO存储支持
- 添加同名文件检测功能,当上传文件时检查知识库中是否存在同名文件并提示用户
- 重构文件存储逻辑,使用MinIO作为主要存储后端,支持本地和MinIO文件的统一处理
- 优化文件下载功能,根据文件路径类型自动选择本地或MinIO下载方式
- 新增同名文件列表展示组件,支持下载和删除操作

Co-authored-by: YuChuan <xerrors@qq.com>
2025-12-07 23:38:20 +08:00
Wenjie Zhang
959defb938 fix(knowledge_router): 处理MinIO删除文件失败时继续删除知识库记录
Fixes #362

添加对MinIO删除文件失败的异常处理,确保即使MinIO操作失败(如旧知识库无MinIO实例),也能继续从知识库删除记录
2025-12-04 14:42:37 +08:00
Wenjie Zhang
100f9dac7f style: 统一代码格式并修复格式问题 2025-12-04 10:12:01 +08:00
Wenjie Zhang
49253cbc04 fix(embedding): 修复ollama model 不起作用的 bug,并修复model info 由于 getattr 不生效的 bug # 361
- 在 EmbedModelInfo 中添加 model_id 字段
- 修改 get_embedding_config 以优先使用 model_id 选择模型
- 重构 MilvusKB 的嵌入函数获取逻辑
- 添加调试日志并优化错误处理
2025-12-03 18:28:31 +08:00
Wenjie Zhang
5a66ff80c2 feat(AgentPopover): 增强待办事项图标样式并添加文件下载功能
- 将简单的文本图标替换为SVG图标,提升视觉体验
- 为文件列表项添加下载按钮功能
- 优化文件区域的样式和布局
- 移除已完成TODO注释和相关代码
2025-12-02 21:36:12 +08:00
Wenjie Zhang
10ad84a679 Merge branch 'feature/documents' 2025-12-02 21:19:55 +08:00
Wenjie Zhang
31a4e54764 refactor: 优化文件下载,移除原有逻辑
清理minio客户端导入顺序
移除已处理的TODO注释和废弃代码
2025-12-02 21:17:32 +08:00
miluELK
954cf3db83 fix: 修复chroma和lightRAG中prepare_item_metadata没有添加await的问题。用make优化了格式 2025-12-02 16:15:32 +08:00
Wenjie Zhang
1c4511a719 feat: configurable question auto-generation (stored in additional_params) and manual trigger with UI refinements 2025-11-30 18:48:33 +08:00
miluELK
103b3affee feat:为kb的download_document,add_documents,delete_document操作接口使用了minio管理文件。实现了minio的部分异步操作
debug:minio 7.2.19使用时需要显式指定参数
feat:为excel添加了特殊的处理方式,通过保存表头避免chunk丢失信息,需要安装openpyxl
2025-11-29 17:49:42 +08:00
Wenjie Zhang
0ff771dc19 fix: 禁用URL文档上传与解析功能
出于安全考虑,移除所有URL文档上传与解析相关功能:
1. 在知识库路由层添加URL上传校验
2. 移除URL元数据生成逻辑
3. 禁用URL转markdown功能
4. 在各知识库实现中移除URL处理逻辑
5. 在前端禁用URL上传选项并添加提示
2025-11-23 14:57:38 +08:00
Wenjie Zhang
14bcb29d5b
重构 zip 格式 markdown 入库以及其他风格优化 (#336)
* 更新日志


* refactor(docs): 重构 zip 格式的支持逻辑

---------

Co-authored-by: lihuan-coder <1120083712@qq.com>
2025-11-15 12:18:31 +08:00
Wenjie Zhang
3e6b3b2b6e style: 优化部分按钮并统一部分颜色 2025-11-14 00:56:24 +08:00
supreme0597
b7ba646fae feat: 新增知识库文档重新分块功能 2025-11-14 00:33:39 +08:00
Wenjie Zhang
67ddbe6f40 feat: 添加 CLAUDE.md 文件以提供项目开发指导
- 新增 CLAUDE.md 文件,包含项目概述、开发环境管理、项目架构、开发规范、特色功能模块及调试和故障排除指南。
- 详细描述了使用 Docker Compose 管理开发环境的步骤和常用命令。
- 介绍了项目的技术栈、核心目录结构及主要服务,确保开发者能够快速上手。
2025-11-12 11:00:39 +08:00
Wenjie Zhang
bf286e1f01 fix: 修复由于文件处理超时导致异常未能捕获的情况 2025-11-10 22:34:25 +08:00
Wenjie Zhang
3a6e76e06e 功能:新增可配置搜索参数的SearchConfigTab组件
- 实现SearchConfigTab.vue组件,用于管理搜索配置设置
- 增加加载状态、错误处理和默认重置功能
- 集成本地存储功能,支持用户配置的保存与加载
- 更新AppLayout.vue,在数据库信息视图中新增SearchConfigTab
- 修改数据库存储逻辑,支持必要时跳过查询参数加载
- 增强DataBaseInfoView.vue,为向量数据库添加重排序器配置选项
- 重构database.js,优化查询参数加载逻辑
- 清理未使用导入项并优化各组件样式
2025-11-06 19:47:22 +08:00
Wenjie Zhang
194ef51299 feat: 更新数据库信息接口,支持可选的 LLM 配置信息,并在前端表单中添加相应字段 2025-11-04 00:35:49 +08:00
Wenjie Zhang
022eea8fde feat: 添加aiofiles支持以实现异步文件操作,优化文件上传性能 2025-11-03 12:20:50 +08:00
Wenjie Zhang
2f9b134242 fix: 修复文件上传API中的jsonl文件类型不支持的问题;fix: #300
- 添加了 allow_jsonl的参数在Graph的接口处
2025-10-17 12:15:40 +08:00
Wenjie Zhang
6986378e02 fix: 修复消息中断时带来的消息显示问题 2025-10-12 23:45:17 +08:00
Wenjie Zhang
246e133eb4 feat: 添加文件内容哈希计算功能,防止重复文件上传并更新相关逻辑 2025-10-11 21:52:48 +08:00
Wenjie Zhang
43ec5a4a71 feat: 实现异步任务管理系统和任务中心UI
## 后端变更

  ### 任务管理核心
  - 新增 tasker 服务,支持异步任务队列和工作线程池
  - 添加任务执行时间追踪(started_at, completed_at)
  - 实现任务状态持久化(JSON文件存储)
  - 支持任务取消和进度更新

  ### 知识库导入优化
  - 将知识库文档导入改为异步任务处理
  - 逐个处理文档并实时更新进度(5% → 95%)
  - 支持任务取消检测

  ### API接口
  - 新增任务列表、详情、取消等REST API
  - 任务API需要管理员权限

  ### 测试
  - 添加任务路由集成测试

  ## 前端变更

  ### 任务中心UI
  - 新增任务中心抽屉组件,采用简洁的卡片式设计
  - 支持任务状态筛选(全部/进行中/已完成/失败)
  - 进行中任务显示实时进度条
  - 已完成任务显示执行时长和完成状态徽章
  - 支持相对时间显示(如:5分钟前)

  ### 状态管理
  - 新增 tasker store,管理任务列表和轮询
  - 支持任务注册、刷新、取消操作

  ### 交互优化
  - 在状态栏和侧边栏添加任务中心入口
  - 显示活跃任务数量徽章
  - 知识库导入自动注册到任务中心
2025-10-11 15:02:24 +08:00
Wenjie Zhang
c3a8360a77 fix: 修复 doc 解析的问题,并增加文件类型支持检查和相关API
- 在文件上传功能中添加对不支持文件类型的检查,返回400错误。
- 新增获取支持文件类型的API接口。
- 更新前端文件上传组件,动态加载支持的文件类型并提供用户提示。
2025-10-11 10:36:57 +08:00
Wenjie Zhang
c0a69fc891 fix(router): 修复知识库路由中的文件路径导入路径 #284
- 更新知识库路由中的文件路径验证导入路径,确保从正确的模块导入 validate_file_path 函数
- 维护代码一致性,提升可读性
2025-10-02 19:59:16 +08:00