Cloudflare Workers 使用量断路器：AI应用的资源保护机制

作者运营了一个基于 Cloudflare Workers 构建的 AI 新闻聚合器 3mins.news，该平台依赖多个定时任务执行数据抓取、分类、调用 LLM、邮件发送等操作。然而，Cloudflare 的付费计划存在严格的月度使用量限制，如请求次数、KV 写入次数、队列操作次数等。一旦超出限制，系统不会自动暂停，而是直接开始计费，可能导致成本激增。为此，作者设计了一个‘使用量断路器’，用于实时监控资源使用情况，并在接近上限时主动降低系统负载，以避免超额费用。该断路器不用于防止服务故障，而是作为应用层的自我保护机制。关键设计包括按资源设置不同阈值、引入滞后机制防止频繁切换、容错处理监控失败、以及去重警报邮件。系统每 5 分钟查询 Cloudflare 的 GraphQL API 和 Observability Telemetry API，评估多个资源指标，并将结果缓存至 KV。当断路器触发时，所有任务将被跳过，以避免超出限制。该方案适用于所有有使用量限制的无服务器平台或 API，如 AWS Lambda、Vercel、OpenAI 等。