ForcePilot/scripts/vllm
Wenjie Zhang 5000afc3ca feat: 更新模型服务脚本和配置,支持 Qwen3 系列模型
- 修改 run.sh 脚本,新增对 Qwen3-32B、Qwen3-Embedding-0.6B 和 Qwen3-Reranker-0.6B 模型的支持。
- 更新 rerank_model.py,优化 API URL 获取逻辑,使用 get_docker_safe_url 函数。
- 在 models.yaml 中添加 Qwen3 系列模型的配置信息,包括名称、维度和 API 密钥。
2025-06-25 02:12:19 +08:00
..
main.py style: fix ruff check 2025-05-24 11:29:45 +08:00
run.sh feat: 更新模型服务脚本和配置,支持 Qwen3 系列模型 2025-06-25 02:12:19 +08:00
test_vllm.py style: fix ruff check 2025-05-24 11:29:45 +08:00