跳到主要内容

中间件四大分类

中间件的四大分类——监控类、修改类、控制类和强制类——每一种都有其独特的定位和应用场景。

分类概览

分类核心功能解决的问题典型应用场景
监控类观察记录调试黑盒记录所有的Prompt和Response。性能监控、日志记录
修改类数据处理成本风险上下文压缩、摘要、动态注入 system prompt
控制类流程管理不可控人工介入、工具选择、重试机制
强制类安全防护安全风险PII 脱敏、安全过滤、防止死循环

监控类中间件

监控类中间件是最基础也是最重要的类型。它们像是系统的"观察者",默默记录着系统运行的每一个细节。

  • 性能监控:记录响应时间、Token 消耗
  • 日志记录:追踪请求/响应详情
  • 链路追踪:记录完整的 Agent 执行链

修改类中间件

修改类中间件是系统的"优化师"。它们不仅仅是记录信息,更重要的是能够主动改变数据的处理方式。

  • 上下文压缩:减少 Token 消耗
  • 智能摘要:提取关键信息
  • 数据转换:格式标准化

控制类中间件

控制类中间件是系统的"指挥官"。它们负责管理系统的行为,确保所有操作都在预定的规则范围内进行。

  • 人工介入:智能识别需要人工审批的请求
  • 工具选择:根据上下文智能选择工具
  • 流量控制:限制调用频率

强制类中间件

强制类中间件是系统的"守护者"。它们负责保护系统免受各种威胁。

  • PII 脱敏:过滤手机号、身份证号等敏感信息
  • 安全过滤:阻止恶意输入
  • 访问控制:验证用户权限

选择指南

需求推荐类型
追踪执行过程监控类
减少 Token 消耗修改类
需要人工审核控制类
保护敏感数据强制类