大模型 API 成本要按成功任务核算,而不是只拿价目表里的输入、输出单价相加。先把一次业务任务内的普通输入、缓存写入与读取、输出、工具、Batch、重试、降级、人工和下游读回全部关联到同一个 task_id,再用实际 usage 和当前价格台账重建费用。缓存或低价模型只有在真实命中、质量过门且不跨越数据边界时才算节省;最终失败和未知状态产生的费用也必须进入分子。这样得到的单位成功任务成本,才适合做预算、路由和上线决策。
先把计费单位改成成功任务
大模型 API 成本不能只用一次请求的输入 Token 加输出 Token。客服回答、文档抽取、代码修改或智能体任务常包含多轮模型调用、工具调用、缓存写入与读取、失败重试、降级模型、人工审核和下游读回。真正可比较的单位应是成功完成且满足质量条件的业务任务:一个任务可能只调用一次,也可能规划、检索、执行、复核各调用一次;某次 HTTP 200 也可能因为事实错误、工具失败或写入未确认而不算成功。先定义任务边界、成功条件和读回证据,再把这个任务内所有尝试的费用相加。任务边界还要说明何时开始、何时结束、取消是否算失败、部分完成如何处理,以及同一用户动作触发的后台补偿是否仍属于原任务;否则不同团队会用不同分母,表面上相同的单位成本无法比较。
计算方法
基础公式可以写成:任务成本等于普通输入、缓存写入、缓存读取、输出、工具或托管运行、重试与降级、人工和其他平台费用之和。每一项都使用真实用量乘以当时适用的单价;月成本再按成功任务量、失败任务量、并发峰值和保留策略汇总。输入和输出通常以百万 Token 标价,但搜索、文件检索、容器、语音、图片或地区处理可能使用每次调用、每分钟、每张图或加价比例,不能全部塞进 Token 单价。税费、汇率、云平台转售价格、合同折扣和预付资源也应与公开列表价分开。
验收边界
成本表必须带版本:提供商、计费渠道、区域、模型 ID 或快照、服务层级、价格页访问时间、币种和单价生效边界。OpenAI、Anthropic、Google 或云平台可能为相似模型提供不同的缓存、Batch、长上下文与工具收费规则;通过 Azure、Bedrock、Vertex AI 或其他渠道调用时,应以实际合同和账单渠道为准。本文只给出可复核的方法,不固定抄录某个容易过期的数字。预算评审时展示公式、用量分布和来源链接,让单价变化只需更新价格台账而不必重写业务逻辑。
一次请求要拆成哪些成本项
普通输入包括系统指令、用户消息、历史对话、检索片段、工具定义、工具结果和应用附加的元数据。输出包括最终回答、结构化结果以及部分接口中可计费的推理或其他输出 Token。不要只在客户端计算可见文本,因为服务端 Tokenizer、图片与音频编码、工具模式和隐藏包装可能影响最终用量;优先保存 API 响应或官方用量端点返回的 input、output、cached、reasoning 等字段,并保留请求 ID。估算器用于发布前预算,账单对账必须使用服务端回执。
计算方法
缓存至少分冷写、热读和未命中。把可复用的系统提示、工具定义或稳定文档前缀放在前面,只能提高可能命中的条件,不能证明实际命中;TTL、最小长度、前缀一致性、路由到的基础设施和接口规则都会影响结果。预算时分别输入可缓存 Token、缓存写入次数、读取次数和真实命中率,不要把全部输入统一乘一个缓存折扣。若提供商自动缓存,仍要从 usage 字段确认;若需要显式 cache_control,必须记录断点、缓存寿命和重新写入。缓存还可能增加存储或写入价格,短会话未必省钱。
验收边界
Batch 是服务层级而不是把 JSON 数组发进普通端点。只有允许异步完成、能追踪每条任务、能处理部分失败并遵守文件或作业保留边界的工作负载才适合。预算表应单列进入 Batch 的比例、实际完成率、超时后回到实时链路的比例,以及同一提供商是否允许与缓存优惠叠加。工具成本必须按官方项目拆开:网页搜索、文件检索存储与调用、代码容器、图像、音频或外部 SaaS 都可能另计费;工具结果返回模型后通常还会成为新的输入 Token。

怎样从调用成本推到任务和月度预算
第一步用生产或影子流量抽样得到分布,而不是只填平均数。至少记录输入、输出、缓存前缀、缓存命中、模型调用数、工具调用数、延迟、状态和任务结果的 P50、P90、P95 或 P99。平均值容易掩盖长对话、超长文档、循环智能体和异常重试。对每个业务场景分别建模,例如简短分类、RAG 问答、合同抽取和多步骤代理不能共享一个每请求 Token 数。用调用链 trace_id 把同一任务的模型与工具回执关联,才能避免漏算子调用或把不同用户会话混在一起。
计算方法
第二步计算期望任务成本:每种路径的发生概率乘以该路径费用再相加。路径至少包括首次成功、可重试失败后成功、降级成功、人工完成和最终失败。最终失败仍然消耗费用,所以单位成功任务成本的分母只能是达到质量阈值的成功数,而分子包含成功与失败尝试。对于写操作,状态未知时先按幂等键读回;若直接重放可能产生重复订单、消息或文件,这既是风险也会重复计费。人工成本可用处理分钟乘内部口径,但应与提供商账单分栏,避免混淆。
验收边界
第三步形成基准、预算和压力三种情景。基准使用近期真实分布;预算情景加入预计用户增长、功能变更和价格台账;压力情景提高长输入比例、重试率、工具扇出、缓存未命中和高价模型路由比例。月度预算不能简单把单次均值乘请求量,还要考虑每日活跃分布、峰值限流引发的重试、批任务跨月完成、地区与币种、免费额度到期和合同阶梯。每个假设标注来源、负责人和复核日期,无法取得的数据写未取数并给出上下界。
缓存怎样算盈亏平衡而不是只看折扣
缓存是否节省取决于写入成本、读取单价、普通输入单价和在 TTL 内的真实复用次数。对一段前缀,先算冷写相对普通输入多花或少花多少,再算每次热读相对普通输入节省多少;盈亏平衡读取次数等于额外写入成本除以单次读取节省,向上取整。若自动缓存没有单独写入价,仍要考虑未命中、前缀变化和路由条件。这个公式只处理计费,不证明响应更快,也不证明缓存内容在隐私、删除或版本方面适合复用。
计算方法
命中率必须从 usage 回执计算:缓存读取 Token 除以理论可缓存 Token 会比只数命中请求更准确,因为部分前缀可能命中。按提示版本、模型、端点、区域和时间窗口切分;一次热门演示不能代表整月。系统提示、工具清单和检索文档应按稳定性分层,频繁变化的用户状态放在后面。部署新提示时预计缓存冷启动;A/B 实验会把流量拆到不同前缀;个性化字段放在前缀中会降低复用,还可能导致不该跨用户共享的风险。
验收边界
缓存治理与成本治理同样重要。记录缓存内容分类、是否含个人或机密数据、缓存键作用域、TTL、删除路径和提供商数据处理条款。不要为了命中率把多个租户内容拼成公共前缀,也不要把秘密写入可观察的提示模板。模型、工具 Schema 或政策版本变化时主动换前缀版本,避免旧规则继续命中。验收时比较冷写、热读、过期重写、前缀小改和跨租户隔离五类用例;只看账单下降而不验证内容版本与隔离是不完整的。
Batch、路由和降级怎样进入同一模型
先按任务的截止时间、质量阈值、数据边界和可恢复性分流。离线标签、批量摘要、索引构建和非紧急评测可能适合 Batch;实时对话、交互式工具和等待用户确认的操作通常需要在线服务。Batch 预算要把作业创建、输入文件、每条结果、部分失败、超时、取消和结果下载串起来,并验证结果是否按自定义 ID 与原任务配对。完成窗口不是平均延迟承诺,业务必须能处理晚到、缺失和重复结果。
计算方法
模型路由不能只按单价。低价模型若带来更多重试、更长输出、更多工具调用或更高人工返工,任务成本可能反而更高。路由表应记录每类任务的质量门槛、允许模型、地区、最大上下文、工具与结构化输出能力、延迟预算和停止条件。先用固定测试集和真实分布样本比较单位成功成本,再在低风险流量灰度。路由器本身的分类调用、Embedding 或规则服务也要计费,且要防止把敏感任务送到不允许的渠道。
验收边界
降级路径必须可解释:主模型限流时可以等待、切换服务层级、换同族模型、使用更小模型、返回缓存结果或转人工。每条路径都改变质量、延迟、价格或数据处理边界,因此要单独验收,不能假设透明等价。失败后的第二次调用包含此前错误和工具结果,输入可能更长;上下文压缩本身也可能新增调用。任务回执要标明每次路由原因、模型、用量、费用和最终质量结论,才能判断所谓节省来自真正效率还是把成本转给重试与人工。

工具调用、失败重试和未知状态怎样避免漏算
智能体通常先生成工具参数,工具执行后再让模型读取结果,有时还会复核或总结。一次网页搜索可能包含工具调用费、搜索内容 Token、模型输入输出和后续引用检查;文件检索可能包含向量存储、检索调用与返回片段 Token;代码执行可能按容器会话或分钟收费。外部工具还可能有自己的 API、出站流量或许可证成本。预算表将模型、平台工具、外部工具和人工分列,并用同一 task_id 关联,避免只看到模型账单。
计算方法
重试只用于可能恢复的瞬时错误,例如网络中断、限流或偶发格式失败;权限拒绝、不支持的参数、缺少来源、业务冲突和持续内容错误不会因为重复花费而自动解决。策略应设置每类错误最大次数、指数退避、总时长、Token 和金额预算,并在相同错误重复时熔断。重试提示只带必要错误,不回传秘密或整份日志。若切换模型、提示、Schema 或工具,视为新路径并重新核验质量,而不是仍记作同一次免费尝试。
验收边界
下游超时最容易造成重复成本和副作用。模型已调用、工具也许已成功,但客户端没有收到确认;此时先按幂等键、请求 ID 或业务对象读回,状态仍未知就暂停自动重放。对纯读取可以在预算内重试,对付款、发送、发布、删除和权限修改要更严格。费用台账保留每次尝试,即使后来确认业务失败;业务台账只把权威读回满足条件的任务记为成功。这样单位成功成本能够暴露不稳定链路,而不会被只统计成功 API 响应的口径美化。
四十八项验收怎样证明预算可以上线
验收固定价格台账版本、提供商、渠道、区域、模型与服务层级、Tokenizer 或 usage 字段、提示与工具版本、缓存规则、路由策略、任务成功定义、测试数据和账单时间窗。每项保存请求 ID、task_id、原始 usage、价格来源、计算中间值、预期、实际、差异、业务读回和清理结果。passed 表示真实证据满足预期;failed 表示行为不符;blocked 表示缺少账号、账单、权限或可逆环境;not_applicable 必须解释原因。估算器算对示例数字不能替代账单对账。
计算方法
测试覆盖单次计费、缓存、Batch、工具、重试、路由、质量和运营八组。低风险测试可在隔离账号运行;会产生真实外部副作用的测试使用模拟工具或沙箱,不能为了证明成本执行真实付款或群发。对价格变化做回放:保留同一组用量回执,替换价格台账后重新计算,确认公式没有把旧单价硬编码。对用量变化做压力:增加上下文、输出、工具扇出和失败率,检查预算与熔断是否在副作用前生效。
验收边界
上线标准不应是最低估算,而是误差可解释、超支可阻断、质量不被悄悄牺牲。至少要求账单抽样差异在团队批准范围内,所有费用能关联到任务或明确归为共享开销,成功任务有质量与读回证据,缓存和路由不跨越数据边界,告警能区分量增、单价变、失败率升和模型迁移。下列合同是示例模板,不代表本站真实调用任何商业 API;团队需填入自己的真实证据。
Token 与缓存
- TOK-01|普通输入:条件为发送固定文本并读取官方 usage。预期是输入 Token 与服务端回执一致,计算不依赖字符数猜测。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOK-02|普通输出:条件为限制并生成固定结构回答。预期是输出与可计费推理字段按官方定义分别记录。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOK-03|长上下文:条件为跨越当前模型的长上下文计费边界。预期是价格台账选择正确区间且不沿用短上下文单价。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOK-04|多模态输入:条件为加入图片或音频。预期是使用官方模态用量,不把文件字节当 Token。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOK-05|流式中断:条件为在输出中途断开连接。预期是已计费用量与未完成任务都被记录。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOK-06|请求失败:条件为制造可预期的参数错误。预期是核对是否计费并保存请求 ID 与错误类别。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- CAC-01|首次冷写:条件为提交稳定长前缀。预期是缓存写入与普通输入字段正确分开。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- CAC-02|TTL 内热读:条件为原样复用前缀。预期是usage 明确显示读取 Token,不能仅凭延迟判断。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- CAC-03|前缀小改:条件为修改缓存前缀中部。预期是命中范围按实际回执变化。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- CAC-04|过期重写:条件为等待超过已声明 TTL。预期是重写成本和命中下降进入台账。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- CAC-05|盈亏平衡:条件为组合一次写入与多次读取。预期是实际读取次数达到公式阈值后才判节省。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- CAC-06|租户隔离:条件为两个租户使用相似提示。预期是内容和缓存键隔离,不以跨租户命中换成本。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
Batch 与工具
- BAT-01|作业创建:条件为提交最小合法 Batch。预期是作业 ID、输入条数和价格层级保存。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- BAT-02|部分失败:条件为混入一条非法请求。预期是成功和失败逐条计数且失败不丢证据。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- BAT-03|重复 ID:条件为提交重复自定义标识。预期是系统拒绝或确定性去重,不重复计业务成功。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- BAT-04|完成窗口:条件为记录创建到完成时间。预期是没有把平均值写成 SLA,晚到任务可恢复。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- BAT-05|实时回退:条件为让批任务超过业务截止时间。预期是回退产生的新成本与原批任务都入账。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- BAT-06|优惠叠加:条件为尝试同时启用缓存与 Batch。预期是只按官方和账单实际支持关系计算。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOL-01|网页搜索:条件为运行一次带引用搜索。预期是工具费、内容 Token 和后续模型调用分列。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOL-02|文件检索:条件为查询一个已知文件库。预期是存储、检索调用与返回片段输入均可追踪。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOL-03|代码容器:条件为启动并复用容器。预期是会话或分钟费用按官方回执计入。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOL-04|外部 API:条件为调用有独立账单的工具。预期是外部费用与模型费用用 task_id 关联但不混栏。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOL-05|工具扇出:条件为让计划产生多个并行读取。预期是每个子调用都入账且受数量预算限制。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- TOL-06|工具结果回填:条件为把大结果返回模型。预期是二次输入 Token 没有被漏算。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
重试与路由
- RET-01|限流重试:条件为模拟 429 与 Retry-After。预期是遵守退避并累计每次真实费用。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- RET-02|相同错误熔断:条件为连续返回同一结构错误。预期是达到阈值后停止继续消耗。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- RET-03|权限拒绝:条件为工具返回 403。预期是不通过换提示或模型绕过,直接阻断。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- RET-04|网络未知:条件为下游完成前断开连接。预期是先按幂等键读回,不直接重放。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- RET-05|费用上限:条件为让多次尝试接近任务预算。预期是在超过预算前 blocked 并给出已用金额。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- RET-06|错误反馈增长:条件为把验证错误送回模型。预期是新增输入 Token 被单独记录且已脱敏。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- ROU-01|低价路由:条件为同一任务路由到小模型。预期是质量过门后才计为成功任务。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- ROU-02|主模型降级:条件为主模型不可用时切换。预期是新模型的价格、地区与能力重新校验。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- ROU-03|路由器费用:条件为使用模型或向量分类路由。预期是路由决策本身的费用进入任务成本。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- ROU-04|长输入升级:条件为输入超过小模型限制。预期是只升级该任务且记录原因。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- ROU-05|高风险固定:条件为付款类任务尝试走廉价模型。预期是策略在调用前阻断未经批准的模型。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- ROU-06|数据区域:条件为路由到另一地区端点。预期是不满足数据边界时禁止,即使价格更低。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
质量与运营
- QLT-01|首次成功:条件为模型一次返回可验收结果。预期是成功定义包含业务读回而非 HTTP 200。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- QLT-02|格式成功事实错:条件为返回结构正确但来源不支持的答案。预期是任务判失败并保留已产生费用。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- QLT-03|人工修正:条件为结果需要人工改动关键字段。预期是人工时间和模型费用分别记录。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- QLT-04|重复副作用:条件为同一任务被重放。预期是业务成功只计一次,重复调用仍计费用。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- QLT-05|最终失败:条件为耗尽重试仍不合格。预期是进入分子费用但不进入成功分母。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- QLT-06|抽样复核:条件为抽查已通过任务。预期是发现的隐性错误回写质量与单位成功成本。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- OPS-01|价格变更:条件为替换价格台账版本。预期是旧用量可按新价格回放且历史账单不被改写。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- OPS-02|账单抽样:条件为抽取一日请求与平台账单。预期是差异可定位到舍入、共享项、税费或漏单。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- OPS-03|峰值压力:条件为提高并发与限流。预期是重试、延迟和成本告警同时生效。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- OPS-04|免费额度到期:条件为移除试用或赠送额度。预期是预算恢复到真实付费单价。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- OPS-05|数据删除:条件为任务超过保留期。预期是提示、工具结果与账单关联按政策清理并留回执。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
- OPS-06|凭据撤销:条件为结束测试批次。预期是临时密钥、容器、文件和外部工具权限全部撤销。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
账单、告警与复盘怎样形成闭环
日常对账从三张表开始:请求回执表保存 request_id、task_id、时间、模型、usage 和状态;价格台账保存每个计量项的版本与来源;业务结果表保存成功条件、质量结论和权威读回。计算作业按不可变的用量和价格版本生成费用明细,再与提供商控制台或发票抽样比对。差异先按时间窗、币种与汇率、最小计费单位、舍入、共享存储、异步晚到、税费和合同抵扣拆解,不要为了让总数相等直接增加一个没有来源的调整项。共享开销可以按明确规则分摊,也可以保持平台级,但规则与未分摊金额都要可见。
计算方法
告警至少区分四种原因。用量告警看任务数、每任务调用数、输入输出和工具扇出;单价告警看价格台账或服务层级变化;可靠性告警看限流、重试、降级、Batch 失败和未知状态;效率告警看缓存命中、单位成功成本和人工返工。只看总账单会在月末才发现问题,也无法判断是业务增长还是实现退化。阈值同时设置绝对金额、相对基线、样本量和持续时间,避免低流量下一个异常请求触发误报,也避免高流量下小比例错误累积成大额损失。告警页面必须能下钻到脱敏的任务与请求回执,但不能公开提示、密钥或用户数据。
验收边界
每周复盘选择成本贡献最高、增长最快、失败最贵和人工最多的任务各若干条,检查长上下文是否必要、输出是否可缩短、工具是否重复、缓存是否真实命中、路由是否满足质量、重试是否在错误类别上有效。优化前保存基线和样本,优化后同时比较成本、质量、延迟、失败与人工,不用单一账单下降宣称整体改进。模型或提示升级先影子运行,再小流量灰度;若单位成功成本、关键质量或数据边界变差,按预先记录的版本回滚。复盘还要保留未采用方案及原因,例如缓存寿命不满足删除要求、Batch 完成窗口超过业务时限、低价模型未达到关键字段质量、跨区域端点不符合数据政策。季度审查移除无人负责的价格项、失效模型和长期为零的工具,核对共享存储、向量库、日志、网络出站和观测平台是否被遗漏。预算负责人、应用负责人、数据所有者和安全负责人分别确认自己能够证明的部分,任何人都不能用模型供应商的列表价替代业务成功与风险责任。复盘结论写清能证明和不能证明什么:账单下降只能证明指定口径费用减少,不能自动证明用户价值、准确率、安全、收录、排名或转化提高。
官方证据、价格台账与核验边界

OpenAI 官方定价页当前按模型列出输入、缓存输入与输出,并另列部分工具或托管运行费用;Prompt Caching 文档说明应从响应 usage 中查看缓存读取 Token;Batch 指南说明异步批处理的工作方式与完成窗口。Anthropic 定价文档分别说明基础 Token、缓存写入与读取、Batch、长上下文、工具和数据区域等修正项。Google Gemini API 定价页按模型、模态和服务层级列价。以上是官方公开规则,具体账户、地区、云渠道和合同价格仍以实际控制台与账单为准。
- OpenAI API Pricing:模型、模态与工具计费入口。
- OpenAI Prompt Caching:命中条件与 usage 字段。
- OpenAI Batch API:异步批处理、状态与结果。
- Anthropic Claude API Pricing:缓存、Batch、工具与其他修正项。
- Google Gemini API Pricing:模型、模态与 Batch 价格。
- Google Cloud Vertex AI Pricing:云渠道定价与区域边界。
价格台账应保存什么
价格台账每一行保存 provider、billing_channel、region、model_id、service_tier、modality、meter_name、unit、currency、list_price、effective_from、source_url、accessed_at 和备注。不要覆盖旧价格;新价格新增版本,并让每条用量按发生时间关联版本。公开列表价、合同价、赠送额度、税费和汇率分栏。模型 ID 不明确、单价未取得或工具计费口径未知时写 blocked 或未取数,禁止用相似模型猜价。
独立验收资产怎样使用
随本轮保存的成本合同 JSON 含四十八项用例,预算模板 CSV 把用量、单价、调用次数、成功任务数和公式列拆开;校验脚本只证明模板字段与公式关系完整,不证明任何提供商实际价格或本项目已经运行测试。团队应先复制文件,填入自己的官方价格台账、真实 usage、工具账单、质量与业务读回,再由脚本重算。示例中的 expected 不能当成实测结果。
和站内相邻任务怎样分工
模型 API 故障恢复重点处理请求 ID、限流、退避和熔断;结构化输出验收负责 JSON Schema、语义和幂等写入;Embedding 与 RAG 验收负责检索质量;Computer Use 安全操作负责可逆动作与读回。本文只解决模型与工具费用怎样按成功任务归集、验证和设预算,不重复展开这些任务的全部技术门禁。
核验日期和不能推出的结论
资料核验日期为 2026 年 10 月 11 日。本站本轮没有使用真实业务账户调用 OpenAI、Claude、Gemini 或其他商业 API,没有取得任何站点 Search Console、Bing Webmaster、广告、销售或转化数据,也没有比较模型质量、速度、排名或总拥有成本。官方页面能证明访问时公开的计费规则,不能证明某个账户最终账单;官方证据图仅是必要局部,不是本站实测;原创图解释核算关系,不是产品界面。模型、价格、工具、区域、合同、税率、汇率、缓存与 Batch 规则变化后,应重新核验并用真实回执重算。
