Inferock Bench：给你开账单的公司，同时也在定义什么算失败

这句话就是整个产品的立论，扎人是因为它就是事实。一次 LLM 调用流到一半断了，一次回复空着但 token 照扣，一次重试悄悄把费用翻倍——关于到底发生了什么，唯一一份详细记录握在收你钱的那一方手里。Inferock Bench 是一个本地代理，帮你自己留一份。8 月 15 日拿下 Product Hunt 当日第一，241 赞。源码 https://github.com/inferock/inferock-bench

接入就改两行配置。它坐在你的应用和 OpenAI、Anthropic、Gemini 或者固定路由的 OpenRouter 调用之间，你把现有 SDK 的 apiKey 和 baseURL 一改就完事，代码其他地方一个字不动。npx inferock-bench 跑起来，之后每一次调用都会被记成一条独立的逐次记录，带 token 用量、失败和重试。许可证是 FSL-1.1-Apache-2.0，两年后自动转成 Apache-2.0。

它专门盯的这几种情况值得一条条列出来，因为每一条都是真有人撞上过、但拿不出证据的失败模式。流到一半被截断、却按全额计费的回答。空回复配着实打实的 token 数。token 计数跟可见输出对不上。没人注意到的重试把费用翻了一倍。发票上从来没出现过的缓存折扣。

这几条在 agent 工作负载里全部会恶化，而且不是一点半点。聊天应用一次调用，用户自己扫一眼就看见了。agent 一个任务几千次调用，绝大部分没有任何人类看过，其中很多还是被框架自动重试的——重试本来就是它的职责。静默计费误差会累积的那些条件，恰好就是 agent 运行的条件；而让"独立账本"变得值钱的那个调用量，恰好也是让人工核对彻底不可能的那个量。

自然要跟昨天 Anthropic 那篇 session token 经济学放一起看：一个厂商详细写清楚了自己的 harness 怎么收你钱。那篇确实有用，但它是自报的。Inferock 是另一半——对同一批数字的独立核验。两样都该存在。而按 token 付费都付了这么多年，第二样东西现在才出现，这件事本身就说明账单被审视得有多少。