AI Agent 消耗 token 达人类 5 倍，缓存激增指向 10 倍增长趋势
Futurum Group CEO Daniel Newman 在一条 X 帖子中写道：“目前 AI 被 AI 使用的量是人类使用的 5 倍，这个数字还会涨到 10 倍，甚至更高。”他引用的数据来自 Andreessen Horowitz（a16z）基于 OpenRouter 统计制作的图表：截至 8 月，agent 消耗了 7.3 万亿 token，而人类只有 1.4 万亿——这已经是 agent 用量首次超越人类之后的第六个月。不过 agent 大部分时间只是在重复阅读自己已经看过的内容：a16z 引用 OpenRouter 的数据指出，agent 超过 85% 的 token 来自缓存的 prompt。
目前 AI 被 AI 使用的量是人类使用的 5 倍，这个数字还会涨到 10 倍，甚至更高。我们在评估 ROI 时总盯着人类用户，但实际的利用率和规模远超这个量级。2026 年 9 月 30 日
OpenRouter 是“一家领先的 AI 模型网关与路由平台”。其洞察负责人 Peter Walker 制作的图表列出了“OpenRouter 上按类型划分的 7 天平均 token 用量”。数据显示，自 2 月出现交叉点以来，agent 的 token 用量增长了 14 倍，而人类只增长了 2.8 倍。Newman 帖子中的 a16z 图表展示的是同一组数据。OpenRouter 通过一套“包含工具调用频率、对话轮数、时间间隔等输入的 7 项信号加权综合评分”，将每个 API key 归入三类之一：agentic（agent 类）、mixed（混合类）或 human（人类类）。
据我们计算，可能包含半 agent 半人类行为的 mixed 类别在同一时期增长了 4.7 倍。这部分流量如何拆分会影响 agent 领先人类的幅度。此外，数据衡量的是 token 数量而非消费金额。这只是单一平台的数据，趋势也并非完全一致，4 月和 7 月都出现过回落。但 agent 的使用在其他地方同样在增长：麦肯锡 2026 年 AI 现状调查显示，来自大型组织的受访者中有 40% 报告正在规模化部署 AI agent，一年前这一比例是 27%。
据 a16z 撰文指出，缓存 token 几乎解释了 token 用量增长的全部相对增量。虽然与从头处理 prompt 相比，缓存的成本要低得多，但它们仍必须驻留在内存中。a16z 是 OpenRouter 的投资者，他们将这一现象与高带宽内存（HBM）需求的上升联系起来。模型将这些存储的上下文保存在所谓的 KV cache 中，根据[我们的报道](https://www.tomshardware.com/tech-industry/nvidia-launches-bluefield-4-stx-storage-architecture-for-agentic-ai)，“KV cache 的增长速度正超过 GPU HBM 的容量”。 一家[呼叫中心咨询公司](https://www.tomshardware.com/tech-industry/artificial-intelligence/firm-rents-four-nvidia-h200s-to-test-80x-cheaper-deepseek-claim-usd13-200-monthly-gpu-rental-doubles-claude-bill-while-security-flaws-keep-code-offline)在租用 Nvidia H200 测试 DeepSeek 的日志中也显示出同样的模式。在其 agent 九月份使用 Claude Code 的过程中，“96% 的输入都是重读旧对话”。结合 OpenRouter 的数据，这表明 token 数量可能高估了账单，但用于内存的硬件成本却是真实存在的。 内存资源已经非常紧缺。[Micron 预计](https://www.tomshardware.com/pc-components/dram/micron-projects-tightening-ram-shortages-through-2028-as-it-generates-record-profit-record-86-25-percent-gross-margin-drives-over-usd53-billion-in-quarterly-profit)，RAM 和存储短缺将在 2027 年和 2028 年进一步加剧，客户支付的价格将高于今年，而内存制造商则优先为 AI 数据中心生产 HBM。如果 Newman 关于 5 倍用量将变为“10 倍、20 倍、30 倍”的预测成真，PC 买家将不得不与更多的 agent 竞争内存资源。
关注 Tom's Hardware 的 Google News，或 将我们设为优先来源，即可在您的信息流中获取我们最新的新闻、分析及评测。