AI 日报 · 2026-10-03

两条更新共同指向模型选择与推理成本管理。OpenAI 为 GPT-6 系列发布使用指南，将 Astra、Sol、Luna 分别对应高难推理、复杂编程/研究/计算机操作和大规模重复任务，并强调 prompt caching 与 compaction 可将缓存输入 token 费用最多降低 95%。LangChain 则从 agent harness 角度展示模型路由器：在编码 agent 中按任务类型与复杂度分流，中位成本下降 64% 且质量无明显变化。两者都认为不是所有任务都该调用最贵的前沿模型，并借助任务上下文、缓存或路由来平衡成功率、延迟和每成功任务成本。

北美一手（LLMs 官方 & 关联账号）

OpenAI

⭐⭐ [产品更新] A model guide for the GPT-6 family

OpenAI 发布 GPT-6 系列模型的使用指南。GPT-6 被描述为其目前最先进的模型套件，用户可按任务选择：GPT-6 Astra 面向最难的推理任务，GPT-6.1 Sol 面向复杂编程、研究与计算机操作，GPT-6 Luna 面向规模化、目标明确的日常重复任务（如发票字段提取、请求分类、结构化摘要）。指南建议在生产环境中用 prompt caching 与 compaction 管理上下文与成本，其中缓存输入 token 的费用最多可低 95%（视模型而定），并以任务成功率、延迟和每成功任务成本来衡量效果。API 中推理强度分为低、中、高以及超高/Max，且可在对话中途更改推理强度而不破坏缓存；长时间运行的任务可用 steering、异步工具和委派来管理。

衍生 & 周边（产品 / Agent / Tools / 观点）

研究

⭐⭐ [研究] How to Build a Model Router in the Harness

LangChain 团队撰文介绍如何为 coding agent 构建模型路由器。文中称，相比始终使用顶级前沿模型的基线，路由器把每个编码任务的中位成本降低了 64%，且质量没有可测量的变化。作者认为路由决策应放在 agent harness 里，而不是通用网关，因为选对模型需要 harness 已经收集好的领域与任务上下文，网关通常不具备这些信息。文章以开源编码 agent Open SWE 为试验对象，先用 LangSmith trace 提取线程级数据，并用 LLM 分类器对一周的交互线程按任务类型打标：代码改动占多数，新功能 22%、修 bug 17%，测试或空跑 16%。他们还发现与功能调研相关的线程更长、成本更高、轮次更多，而测试与发布流程相关线程相对短且便宜；判断复杂度时用总成本与调用次数作为信号。