专题：middleware

本文指导如何在 FastAPI 中实现令牌桶速率限制，涵盖算法原理、代码实现、中间件集成和测试方法。核心亮点是通过 IP 级别控制请求频率，并添加标准速率限制响应头，适用于 API 管理和系统稳定性保障。

LangChain Deep Agents 新增自主上下文压缩功能，允许模型在合适时机自动压缩上下文窗口，优化工作内存管理。该工具适用于任务边界、信息提取、复杂流程等场景，通过保留关键信息并摘要历史内容，减少上下文老化问题。已在 CLI 和 SDK 中实现，为开发者提供更灵活的上下文控制。

作者原本想构建可直接控制电脑的 AI 助手，过程中发现 AI 与操作系统的中间件才是关键。于是开发了一个本地任务运行时，负责范围控制、确定性工具、风险策略和执行日志，提升了系统的稳定性和可审计性。文章探讨这种中间件驱动的设计是小众需求还是未来趋势，邀请同领域专家交流。