AI 日报 · 2026-10-04

微软与 Hugging Face 联合发布 ThinkingBox 基准，不再只看智能体的文字或工具调用，而是检查其在后端留下的状态与副作用，并要求同一任务连续运行 20 次、报告 pass@1 和 pass@20。在覆盖 12 个模型、12 万余次试验中，大量「看似干净」的执行未通过可执行检查：常见问题是字段值错误、非预期额外效果和缺失必需效果；一个客服智能体甚至在九次工具调用后把工单标记为已解决，但数据库「不同意」。另一方面，Simon Willison 呼吁按量计费的服务和 API 默认启用硬性预算上限，到额度即切断并报错，而不是只发警告邮件，防止编码智能体或个人智能体在无人看管时刷出高额账单。AWS 和 Google Cloud 已在推进类似的支出限额；两条消息共同指向智能体需要可验证、可控制、默认更安全的基础设施。

衍生 & 周边（产品 / Agent / Tools / 观点）

研究

⭐⭐⭐ [研究] The Agent Said It Was Done. The Database Disagreed.

微软与 Hugging Face 联合发布 ThinkingBox，它评估 AI 智能体的依据不是生成的文字或工具调用是否规范，而是智能体在后端留下的记录与副作用，并要求同一任务连续运行 20 次。它覆盖 507 个有状态的业务工作流，每个任务对多个 LLM 模型独立运行 20 次，报告 pass@1、pass@20 等指标。文中举了一例：某客服智能体在九次工具调用后把工单标记为已解决，但承运商异常仍未关闭、所需终态应为 hold，于是数据库「不同意」。在一个涵盖 12 个 LLM 模型、121,680 次有效试验的对照实验中，79,853 次尝试未通过可执行检查，其中 67.24% 仍干净终止、调用了改状态的工具且未报最终工具错误；可执行检查在这些失败中发现 77.61% 字段值错误、43.30% 出现非预期额外效果、25.36% 缺失必需效果。ThinkingBox 现可通过 Hugging Face 获取，并可用 OpenEnv 自行运行。

观点

⭐⭐ [观点] We're going to need default hard budget caps on pretty much everything

Simon Willison 主张，按用量计费的服务和 API 都应默认提供「硬性预算上限」——达到每月 X 美元即切断服务并返回错误，而非只发警告邮件。他认为编码智能体和个人智能体降低了启动付费代码服务的门槛，用户不该在睡梦中被失控的服务刷掉数百甚至数千美元。他反驳了「企业不愿应用因超预算报错」的顾虑，认为多数企业宁愿看到报错也不愿收到上万美元的意外账单，硬上限应作为默认、取消上限需主动勾选。他指出 AWS 已于 9 月 16 日上线每月支出限额（项目达到限额后当月暂停，目前仅向部分客户开放），Google Cloud 也在 7 月推出 Spend Caps，认为这正在成为趋势。他还希望智能体能倾向于推荐带硬性预算上限的服务商，并提醒新开发者避开无上限的服务。