ForcePilot/docs/latest/advanced/agents-config.md
Wenjie Zhang 628b37c73c feat(multimodal): 完整实现多模态图片支持功能
1. 后端:
   - 添加图片上传接口 /api/chat/image/upload
   - 在消息处理中支持图片内容
   - 更新数据库模型和迁移脚本
   - 实现图片处理工具类

2. 前端:
   - 添加图片上传和预览组件
   - 支持多模态消息发送
   - 更新消息显示以支持图片
   - 集成图片上传API

3. 文档:
   - 更新agents-config.md添加多模态图片支持说明
   - 更新roadmap.md添加多模态支持计划

主要功能包括:
- 支持JPEG、PNG、WebP、GIF、BMP等格式
- 图片大小限制为10MB
- 自动处理图片格式转换和压缩
- 支持单图片上传
- 图片以base64编码存储在数据库
2025-11-12 14:04:34 +08:00

7.8 KiB
Raw Blame History

智能体

智能体开发

系统基于 LangGraph 并通过统一的 AgentManager 管理所有智能体。src/agents/__init__.py 会在启动时遍历 src/agents 目录,对每个包含 __init__.py 的子包执行自动发现:所有继承 BaseAgent 的类都会被注册并立即初始化,因此只要代码落位正确,就不需要再手动登记或修改管理器。

仓库预置了若干可直接运行的智能体:chatbot 聚焦对话与动态工具调度,mini_agent 提供精简模板,reporter 演示报告类链路。这些目录展示了上下文类、Graph 构造方式、子智能体引用以及中间件组合的范例,新增功能时可以直接复用。

智能体元数据配置

每个智能体可以通过在智能体目录下创建 metadata.toml 文件来配置元数据信息。这个文件使用 TOML 格式,包含以下字段:

  • name: 智能体显示名称
  • description: 智能体功能描述
  • examples: 示例问题列表(数组格式)

例如,src/agents/chatbot/metadata.toml

<<< @/../src/agents/chatbot/metadata.toml

注意metadata.toml 文件是可选的,如果没有提供,系统将使用智能体类的基本属性。

创建新的智能体

src/agents 下新建一个包,保持与现有目录一致的结构:放置 Graph 构造逻辑(通常命名为 graph.py),并在包内的 __init__.py 中暴露主类。

智能体类必须继承 src.agents.common.BaseAgent,同时实现异步的 get_graph 方法来返回编译后的 LangGraph 实例,并配置好 checkpointer,否则无法从历史对话中恢复。

需要额外上下文字段时,可继承 BaseContext 构建自己的配置表单,再把类绑定到 context_schema,平台会在 saves/agents/<module> 下生成默认配置。

案例1 使用内置工具构建一个极简的智能体,可以动态选择 Prompt 和 LLM

<<< @/../src/agents/mini_agent/graph.py

案例2 基于MySQL工具以及自定义 MCP Server 的数据库报表助手。

<<< @/../src/agents/reporter/graph.py

智能体实例的生命周期交给管理器处理,会在自动发现时完成初始化并缓存单例,以便快速响应请求。在容器内热重载时,只要保存文件即可触发重新导入;需要强制刷新可调用 agent_manager.get_agent(<id>, reload=True)

更多动态工具选择与 MCP 注册的例子,见 src/agents/chatbot/graph.py 中的中间件组合。

拓展现有智能体

智能体保持为 LangGraph 的标准节点组合,因此可以在原有 graph.py 中添加节点、条件与消息转换器。复用现成上下文时,只需扩展当前 context_schema 的字段;若功能差异较大,可以创建新的上下文类并替换 context_schema

对工具、模型或提示语的调整建议封装到中间件或独立函数里,既方便多智能体共用,又能保持 BaseAgent 的基础接口稳定。变更提交后无需手动刷新注册表,只要确保包结构未改变,智能体会在热重载中自动更新。

子智能体与中间件

子智能体集中放在 src/agents/common/subagents 目录,典型例子是 calc_agent,它通过 LangChain 的 create_agent 构建计算器能力并以工具暴露给主图。新增子智能体时沿用这一结构:在目录内编写封装函数与 @tool 装饰器,导出后即可被任意智能体调用。

中间件位于 src/agents/common/middlewares,包含上下文感知提示词、模型选择、动态工具加载以及附件注入等实现。如果需要编写新的中间件,请遵循 LangChain 官方文档中对 AgentMiddlewareModelRequestModelResponse 等接口的定义,完成后在该目录的 __init__.py 暴露入口,主智能体即可在 middleware 列表中引用。

文件上传中间件

文件上传功能通过 inject_attachment_context 中间件实现(位于 src/agents/common/middlewares/attachment_middleware.py)。该中间件基于 LangChain 1.0 的 AgentMiddleware 标准实现,具有以下特点:

  1. 状态扩展:定义 AttachmentState 扩展 AgentState,添加可选的 attachments 字段
  2. 自动注入:在模型调用前,从 request.state 中读取附件并转换为 SystemMessage
  3. 向后兼容:不使用文件上传的智能体不受影响
为智能体启用文件上传

只需两步:

步骤 1声明能力(让前端显示上传按钮)

class MyAgent(BaseAgent):
    capabilities = ["file_upload"]

步骤 2添加中间件(让智能体能够处理附件内容)

from src.agents.common.middlewares import inject_attachment_context

async def get_graph(self):
    graph = create_agent(
        model=load_chat_model("..."),
        tools=get_tools(),
        middleware=[
            inject_attachment_context,  # 添加附件中间件
            context_aware_prompt,       # 其他中间件...
            # ...
        ],
        checkpointer=await self._get_checkpointer(),
    )
    return graph
工作流程
  1. 前端上传用户在聊天界面上传文档txt、md、docx、html
  2. API 解析:后端将文档转换为 Markdown 格式并存储到数据库(超过 32k 会被截断)
  3. 自动加载API 层在调用 agent 前从数据库加载附件数据
  4. 中间件注入inject_attachment_context 自动将附件内容注入为系统消息
  5. 模型处理LLM 接收到附件内容和用户问题,进行综合回答

这种设计确保了附件功能的可选性和可扩展性,任何智能体都可以通过添加中间件快速启用文件上传能力。

内置工具与 MCP 集成

系统会根据配置自动组装工具集合涵盖知识图谱查询、向量检索生成的动态工具、MySQL 只读查询能力、Tavily 搜索以及所有注册的 MCP 工具。

工具的启用状态和描述由配置文件或环境变量决定当依赖缺失时会被中间件自动忽略从而避免在图中加载不可用能力。MCP Server 的接入方式保持不变,只需在 src/agents/common/mcp.pyMCP_SERVERS 中填入服务地址与 transport 类型,如需更多范式可参阅 LangChain 官方文档。

MySQL 数据库

设置数据库连接时,在 .env 中提供以下字段:

MYSQL_HOST=192.168.1.100
MYSQL_USER=username
MYSQL_PASSWORD=your_secure_password
MYSQL_DATABASE=database_name
MYSQL_DATABASE_DESCRIPTION=业务主库(可选提示)
MYSQL_PORT=3306
MYSQL_CHARSET=utf8mb4

所有查询限定在只读范围SELECT、SHOW、DESCRIBE、EXPLAIN请求会经过表名校验与超时控制默认限制 60 秒与 100 行输出,并可通过配置调整上限。连接信息会反馈给 LangGraph智能体可以自动陈述数据库用途并选择更准确的检索策略。

多模态图片支持

系统支持接收图片作为输入,与文本结合形成多模态查询。图片支持的核心特性如下:

1. 图片上传与处理

  • 通过 /chat/image/upload 接口上传图片
  • 自动处理图片格式转换和压缩
  • 返回 base64 编码的图片数据
  • 图片大小限制为 10MB
  • 支持的图片格式JPEG、PNG、WebP、GIF、BMP
  • 自动压缩超过 5MB 的图片

当发送包含图片的请求时,消息格式为:

{
  "query": "这张图片里有什么?",
  "image_content": "<base64编码的图片数据>",
  "config": {},
  "meta": {}
}

智能体会自动识别多模态消息并将其传递给支持图片的模型。如果模型不支持图片,会自动忽略图片内容,只处理文本部分。系统会将图片转换为符合模型要求的格式(通常是 base64 编码的 JPEG 或 PNG确保与主流多模态模型兼容。

目前仅支持上传单个图片,图片直接以 base64 存储在数据库