naive_merge 不保证输出 chunk 在 token 上限内,当单行内容超过 chunk_token_num 时会产生超大 chunk,导致 LightRAG 报错 "Chunk token length 3140 exceeds chunk_token_size 1200"。 - nlp.py: 新增 hard_split_by_token_limit 公共硬切分函数 - general.py: 新增 _ensure_chunk_token_limit 兜底保护 - laws.py: 删除本地重复函数,改用 nlp 版本(DRY) |
||
|---|---|---|
| .. | ||
| yuxi | ||
| MANIFEST.in | ||
| pyproject.toml | ||
| README.md | ||
yuxi
Yuxi 核心后端 Python 包。
该目录用于将 yuxi 作为本地可构建、可安装的 Python package 提供给 backend 项目使用。