中间件四大分类
中间件的四大分类——监控类、修改类、控制类和强制类——每一种都有其独特的定位和应用场景。
分类概览
| 分类 | 核心功能 | 解决的问题 | 典型应用场景 |
|---|---|---|---|
| 监控类 | 观察记录 | 调试黑盒 | 记录所有的Prompt和Response。性能监控、日志记录 |
| 修改类 | 数据处理 | 成本风险 | 上下文压缩、摘要、动态注入 system prompt |
| 控制类 | 流程管理 | 不可控 | 人工介入、工具选择、重试机制 |
| 强制类 | 安全防护 | 安全风险 | PII 脱敏、安全过滤、防止死循环 |
监控类中间件
监控类中间件是最基础也是最重要的类型。它们像是系统的"观察者",默默记录着系统运行的每一个细节。
- 性能监控:记录响应时间、Token 消耗
- 日志记录:追踪请求/响应详情
- 链路追踪:记录完整的 Agent 执行链
修改类中间件
修改类中间件是系统的"优化师"。它们不仅仅是记录信息,更重要的是能够主动改变数据的处理方式。
- 上下文压缩:减少 Token 消耗
- 智能摘要:提取关键信息
- 数据转换:格式标准化
控制类中间件
控制类中间件是系统的"指挥官"。它们负责管理系统的行为,确保所有操作都在预定的规则范围内进行。
- 人工介入:智能识别需要人工审批的请求
- 工具选择:根据上下文智能选择工具
- 流量控制:限制调用频率
强制类中间件
强制类中间件是系统的"守护者"。它们负责保护系统免受各种威胁。
- PII 脱敏:过滤手机号、身份证号等敏感信息
- 安全过滤:阻止恶意输入
- 访问控制:验证用户权限
选择指南
| 需求 | 推荐类型 |
|---|---|
| 追踪执行过程 | 监控类 |
| 减少 Token 消耗 | 修改类 |
| 需要人工审核 | 控制类 |
| 保护敏感数据 | 强制类 |