SH

Soloharness

概念 · 辨析 · Agent

← 返回概念辨析

Concept Contrast Fable

看模型吃了多少 token 和算这些调用到底花了多少钱

Token 用量监控量的是消费量——调了多少次、每次用了多少 token、在哪个模型上、哪个功能模块在烧。成本跟踪算的是账单——把这些用量按定价模型换算成钱,再分摊到客户、项目或业务线。混用会让团队看到一个数字却追不到另一个数字:知道了用了多少 token,不知道谁在出资;知道了花了多少钱,找不到哪个功能在吃预算。

寓言

米仓里的两张账本:一张看量,一张看钱

大粮行有两个账房先生。米账房老张守五口米缸,每天盯着每口缸进了多少、出了多少、谁舀的、舀了几升,全记在米本上。钱账房老陈坐在隔壁,不看米缸,只看米价行情和各房的用米申请单,把每升米按当天市价折成银子,分摊到掌柜房、库房、运输和招待四个科目上。

头一年,东家每月看两次报表:老张的米本说本月用了三千升,老陈的钱本说米钱花了四十五两。三千升、每升一分五,四十五两——对得上。第二年粮行签了三家供货商,米价随市波动。老陈的账开始出现同一天不同时段的米价差,三千升的花销一个月四十三两、下个月四十七两。东家追问哪个部门用米最费钱。老陈翻了一下午账本说运输部。东家再问运输部为什么用米,老陈答不上来——他只能看到一张申请单上盖了运输部的章。答案在老张那边:米本上写着运输部每天舀五升米熬粥给快马吃,马吃的碎米比人吃的贵两成。

反向也出过问题。有个月老张的米本上记录运输部突然多舀了一百升,他标了个问号没往下追。老陈在钱本上看见运输部米费涨了七钱银子,金额不大也没管。月底盘点发现那一百升是库房借运输部名义舀的,这批米被混进了卖给官府的上等米——碾米差价一算,粮行亏了三两。

东家请了一位老掌柜来调流程。老掌柜说你们两个账房不能各看各的,得交叉对一眼。老张每天把米本异常用量标红传给老陈,老陈每天把成本异常的部门标红传给老张。两个人还是各管各的本子,但每天对一次红标。第一个月就查出马厩伙计把好米换成碎米吃差价的事。

老掌柜画了一张图挂在大堂:米量是底层日志,米价是上层换算,中间有一块叫归因——哪个人、哪个动作、哪个业务线对应了这次用米。归因层没做好,量得再准也追不到成本;成本算得再细也找不回责任人。

新来的学徒进门前先看那张图,默一遍口诀:量、价、归因,三步断一步账就接不上。后来有一回粮行签了新米商,价格结构完全变了。老张的米本上显示米量没增,老陈的钱本上却涨了百分之十。两人一对红标就把原因揪了出来:新米商把运输和包装费打进米价里了,单价抬了,米量没变。

东家后来交代各房领米时必须填一张归因单——注明用了什么米、用在哪个业务、最后算谁的预算。归因单成了米本和钱本之间的那条桥。

Token 用量监控

跟踪 AI 模型的调用频次、每次请求的 token 数量、按模型和功能模块分类的用量分布。回答用了多少、在哪个模型上、哪个功能在消耗的问题。

成本跟踪

将 token 用量按各模型的定价策略换算为实际费用,并按客户、项目、业务部门进行分摊和归因。回答花了多少钱、谁在花、花在了哪里的问题。

故事对应

  • 老张的米本:Token 用量监控,记录消费量明细
  • 老陈的钱本:成本跟踪,把用量换算为金钱并分摊
  • 米价波动导致同样的量花销不同:用量和成本之间隔着一层定价模型
  • 运输部用米最费钱但老陈不知道原因:缺少归因,成本看不到业务场景
  • 库房借运输部名义舀米:用量异常没有成本视角的交叉校验
  • 老掌柜的归因层:在用量和成本之间必须建人、动作、业务线的对应

落到 AI 用量管理与预算控制

先搭 token 用量监控——按模型、按功能模块、按时间维度把消耗量看好。再建成本跟踪——把定价信息接入,做到按客户和项目分摊费用。中间那层归因最关键:每次调用属于哪个功能、哪个客户、哪个业务场景必须明确。归因没做好,省成本的指令就落不下去——你知道花了多少钱,看不出该砍哪块。每月做一次量价交叉审计,查用量平稳但成本跳变的异常信号,通常能发现定价变更或归因漏配。