产品简介
TokenEconomizer 是微软研究院、加州大学伯克利分校与微软安全团队一起开源的成本控制器,做法是把编码 agent 当一个黑盒,从它已经跑过的会话里学经验,再削减后续会话里的浪费。它不改模型权重,也不改 agent 的代码,只通过提示词、工具设置与事件流三个入口起作用。
浪费来自三处,论文里量过:同一个仓库里同样的动作被反复发现,前面的任务做五轮之后,有三成工具调用在重复之前做过的动作;每次请求都把二十多个工具定义一起发出去,其中大部分从头到尾没被调用过;卡住的回合只占 17% 的任务,却花掉 32% 的钱。三种浪费对应三个机制。
micro-skills 把仓库事实记成一行行小条,比如先用 python -m pytest 而不是 pytest,同一事实被三个会话确认后才注入,被后来的会话推翻就撤下;工具剪枝把长期不用的工具从列表里摘掉,只用一条命令就能恢复;失败循环守卫在回合跑偏时给出一次改道提示,仍然卡住就告诉你该怎么停。状态存在本机 ~/.tokeneconomizer,它自己的模型调用也计入成本报告。
核心功能
- micro-skills 记仓库事实:从重复出现的失败与定期复盘的会话里提炼一行行操作事实,三个会话确认后才在开头注入,被推翻就退役。
- 工具剪枝:跨会话长期没被调用的工具从工具列表里摘掉,每轮少发几千 token 的定义,需要时一条命令就能恢复。
- 失败循环守卫:回合超出预算时由一个判定模型判断是不是卡住,卡住就注入一次改道提示,仍然卡住则提示你怎么终止。
- 黑盒接入:不改模型权重与 agent 代码,通过提示词、工具设置与事件流三条通道生效,出问题会话照常继续。
- 按仓库积累:经验按仓库隔离存在本机,换项目不串味,同一份 monorepo 用得越久省得越多。
- 成本计入自身开销:提炼事实与判定卡住时调用的模型都走你自己的 agent 登录,费用一并算进报告,看到的是净节省。
适合谁用
以下类型的用户会特别受益于 TokenEconomizer:
- 每天在同一个 monorepo 里用 Claude Code 或 Codex 干活,让 agent 别反复试错同一件事。
- 团队共用一套仓库规范,把测试命令、环境变量、生成文件位置沉淀成事实条目。
- 长会话容易跑偏的任务,用循环守卫在烧钱之前叫停。
- 工具很多但常用的只有几个,把空转的工具定义从每轮请求里摘出去。
- 做成本核算时对比装与不装的账单,按仓库看实际降幅。
- 安全审计类任务里控制单次扫描的花费。
优点亮点
- SWE-Bench 上五个 agent 与模型组合的平均单任务成本下降 18.4% 到 30.9%。
- 30 个仓库与组合的组合里全部更便宜,不是只在某一个仓库上奏效。
- Pass@1 在五组设定里有四组提升,省钱没有换来成功率下降。
- 三个机制各自可开关,能一次只启用一个观察效果。
- 不改模型与 agent 代码,接入只是装一个插件。
- 状态留本机,仓库经验不离开自己的机器。
价格与方案
Apache 2.0 开源,标准库 Python 包加各 agent 的插件,要求 Python 3.10 以上,不需要 GPU,也不需要自己的 API key。支持 Claude Code、Codex、GitHub Copilot CLI 与 Pi,opencode 支持仍属实验阶段。经验数据存在本机的 ~/.tokeneconomizer 目录。工具剪枝与循环守卫默认开启,micro-skills 默认关闭,可换成只从重复失败学习的 envfacts 模式,该模式不调用模型。安装后可用 /tokeneconomizer:status 查看状态。
总结与建议
编码 agent 的账单有一半花在重复上:同一份仓库,同一套规矩,每个新会话都从零学一遍。TokenEconomizer 的判断是这件事不该由模型负责,而该由仓库负责,于是把经验存在本地、按需注入,再把没用的工具定义从每轮请求里摘掉。省下来的三成不是靠压缩上下文挤出来的,而是靠不再重复犯错。
版本演进
- TokenEconomizer 收录:编码 agent 成本控制插件 (2026-10-31):收录时形态:微软研究院、加州大学伯克利分校与微软安全团队开源的编码 agent 成本控制器,Apache 2.0。三个机制分别是 micro-skills 学习仓库事实、工具剪枝摘掉长期未调用的工具、失败循环守卫在回合跑偏时改道。支持 Claude Code、Codex、GitHub Copilot CLI 与 Pi,opencode 为实验支持。277 个 SWE-Bench 任务、五个 agent 与模型组合上平均单任务成本降 18.4% 到 30.9%,30 个仓库与组合全部更便宜,Pass@1 四组提升。状态存于本机 ~/.tokeneconomizer,自身模型调用计入成本报告。