AI教程

大模型 API 成本怎么计算?缓存、Batch、工具调用与失败重试口径

按成功任务归集输入、缓存、输出、Batch、工具、重试与降级费用,用真实usage、价格台账和48项合同做预算与账单核验。

大模型 API 成本从请求推理工具恢复到成功业务任务的五阶段台账
本页目录
  1. 先把计费单位改成成功任务
  2. 计算方法
  3. 验收边界
  4. 一次请求要拆成哪些成本项
  5. 计算方法
  6. 验收边界
  7. 怎样从调用成本推到任务和月度预算
  8. 计算方法
  9. 验收边界
  10. 缓存怎样算盈亏平衡而不是只看折扣
  11. 计算方法
  12. 验收边界
  13. Batch、路由和降级怎样进入同一模型
  14. 计算方法
  15. 验收边界
  16. 工具调用、失败重试和未知状态怎样避免漏算
  17. 计算方法
  18. 验收边界
  19. 四十八项验收怎样证明预算可以上线
  20. 计算方法
  21. 验收边界
  22. Token 与缓存
  23. Batch 与工具
  24. 重试与路由
  25. 质量与运营
  26. 账单、告警与复盘怎样形成闭环
  27. 计算方法
  28. 验收边界
  29. 官方证据、价格台账与核验边界
  30. 价格台账应保存什么
  31. 独立验收资产怎样使用
  32. 和站内相邻任务怎样分工
  33. 核验日期和不能推出的结论

大模型 API 成本要按成功任务核算,而不是只拿价目表里的输入、输出单价相加。先把一次业务任务内的普通输入、缓存写入与读取、输出、工具、Batch、重试、降级、人工和下游读回全部关联到同一个 task_id,再用实际 usage 和当前价格台账重建费用。缓存或低价模型只有在真实命中、质量过门且不跨越数据边界时才算节省;最终失败和未知状态产生的费用也必须进入分子。这样得到的单位成功任务成本,才适合做预算、路由和上线决策。

先把计费单位改成成功任务

大模型 API 成本不能只用一次请求的输入 Token 加输出 Token。客服回答、文档抽取、代码修改或智能体任务常包含多轮模型调用、工具调用、缓存写入与读取、失败重试、降级模型、人工审核和下游读回。真正可比较的单位应是成功完成且满足质量条件的业务任务:一个任务可能只调用一次,也可能规划、检索、执行、复核各调用一次;某次 HTTP 200 也可能因为事实错误、工具失败或写入未确认而不算成功。先定义任务边界、成功条件和读回证据,再把这个任务内所有尝试的费用相加。任务边界还要说明何时开始、何时结束、取消是否算失败、部分完成如何处理,以及同一用户动作触发的后台补偿是否仍属于原任务;否则不同团队会用不同分母,表面上相同的单位成本无法比较。

计算方法

基础公式可以写成:任务成本等于普通输入、缓存写入、缓存读取、输出、工具或托管运行、重试与降级、人工和其他平台费用之和。每一项都使用真实用量乘以当时适用的单价;月成本再按成功任务量、失败任务量、并发峰值和保留策略汇总。输入和输出通常以百万 Token 标价,但搜索、文件检索、容器、语音、图片或地区处理可能使用每次调用、每分钟、每张图或加价比例,不能全部塞进 Token 单价。税费、汇率、云平台转售价格、合同折扣和预付资源也应与公开列表价分开。

验收边界

成本表必须带版本:提供商、计费渠道、区域、模型 ID 或快照、服务层级、价格页访问时间、币种和单价生效边界。OpenAI、Anthropic、Google 或云平台可能为相似模型提供不同的缓存、Batch、长上下文与工具收费规则;通过 Azure、Bedrock、Vertex AI 或其他渠道调用时,应以实际合同和账单渠道为准。本文只给出可复核的方法,不固定抄录某个容易过期的数字。预算评审时展示公式、用量分布和来源链接,让单价变化只需更新价格台账而不必重写业务逻辑。

一次请求要拆成哪些成本项

普通输入包括系统指令、用户消息、历史对话、检索片段、工具定义、工具结果和应用附加的元数据。输出包括最终回答、结构化结果以及部分接口中可计费的推理或其他输出 Token。不要只在客户端计算可见文本,因为服务端 Tokenizer、图片与音频编码、工具模式和隐藏包装可能影响最终用量;优先保存 API 响应或官方用量端点返回的 input、output、cached、reasoning 等字段,并保留请求 ID。估算器用于发布前预算,账单对账必须使用服务端回执。

计算方法

缓存至少分冷写、热读和未命中。把可复用的系统提示、工具定义或稳定文档前缀放在前面,只能提高可能命中的条件,不能证明实际命中;TTL、最小长度、前缀一致性、路由到的基础设施和接口规则都会影响结果。预算时分别输入可缓存 Token、缓存写入次数、读取次数和真实命中率,不要把全部输入统一乘一个缓存折扣。若提供商自动缓存,仍要从 usage 字段确认;若需要显式 cache_control,必须记录断点、缓存寿命和重新写入。缓存还可能增加存储或写入价格,短会话未必省钱。

验收边界

Batch 是服务层级而不是把 JSON 数组发进普通端点。只有允许异步完成、能追踪每条任务、能处理部分失败并遵守文件或作业保留边界的工作负载才适合。预算表应单列进入 Batch 的比例、实际完成率、超时后回到实时链路的比例,以及同一提供商是否允许与缓存优惠叠加。工具成本必须按官方项目拆开:网页搜索、文件检索存储与调用、代码容器、图像、音频或外部 SaaS 都可能另计费;工具结果返回模型后通常还会成为新的输入 Token。

大模型 API 成本由输入缓存输出工具和重试组成的成本瀑布
兰塞 AI 原创:每个成本修正项都应来自真实 usage 或账单回执。

怎样从调用成本推到任务和月度预算

第一步用生产或影子流量抽样得到分布,而不是只填平均数。至少记录输入、输出、缓存前缀、缓存命中、模型调用数、工具调用数、延迟、状态和任务结果的 P50、P90、P95 或 P99。平均值容易掩盖长对话、超长文档、循环智能体和异常重试。对每个业务场景分别建模,例如简短分类、RAG 问答、合同抽取和多步骤代理不能共享一个每请求 Token 数。用调用链 trace_id 把同一任务的模型与工具回执关联,才能避免漏算子调用或把不同用户会话混在一起。

计算方法

第二步计算期望任务成本:每种路径的发生概率乘以该路径费用再相加。路径至少包括首次成功、可重试失败后成功、降级成功、人工完成和最终失败。最终失败仍然消耗费用,所以单位成功任务成本的分母只能是达到质量阈值的成功数,而分子包含成功与失败尝试。对于写操作,状态未知时先按幂等键读回;若直接重放可能产生重复订单、消息或文件,这既是风险也会重复计费。人工成本可用处理分钟乘内部口径,但应与提供商账单分栏,避免混淆。

验收边界

第三步形成基准、预算和压力三种情景。基准使用近期真实分布;预算情景加入预计用户增长、功能变更和价格台账;压力情景提高长输入比例、重试率、工具扇出、缓存未命中和高价模型路由比例。月度预算不能简单把单次均值乘请求量,还要考虑每日活跃分布、峰值限流引发的重试、批任务跨月完成、地区与币种、免费额度到期和合同阶梯。每个假设标注来源、负责人和复核日期,无法取得的数据写未取数并给出上下界。

缓存怎样算盈亏平衡而不是只看折扣

缓存是否节省取决于写入成本、读取单价、普通输入单价和在 TTL 内的真实复用次数。对一段前缀,先算冷写相对普通输入多花或少花多少,再算每次热读相对普通输入节省多少;盈亏平衡读取次数等于额外写入成本除以单次读取节省,向上取整。若自动缓存没有单独写入价,仍要考虑未命中、前缀变化和路由条件。这个公式只处理计费,不证明响应更快,也不证明缓存内容在隐私、删除或版本方面适合复用。

计算方法

命中率必须从 usage 回执计算:缓存读取 Token 除以理论可缓存 Token 会比只数命中请求更准确,因为部分前缀可能命中。按提示版本、模型、端点、区域和时间窗口切分;一次热门演示不能代表整月。系统提示、工具清单和检索文档应按稳定性分层,频繁变化的用户状态放在后面。部署新提示时预计缓存冷启动;A/B 实验会把流量拆到不同前缀;个性化字段放在前缀中会降低复用,还可能导致不该跨用户共享的风险。

验收边界

缓存治理与成本治理同样重要。记录缓存内容分类、是否含个人或机密数据、缓存键作用域、TTL、删除路径和提供商数据处理条款。不要为了命中率把多个租户内容拼成公共前缀,也不要把秘密写入可观察的提示模板。模型、工具 Schema 或政策版本变化时主动换前缀版本,避免旧规则继续命中。验收时比较冷写、热读、过期重写、前缀小改和跨租户隔离五类用例;只看账单下降而不验证内容版本与隔离是不完整的。

Batch、路由和降级怎样进入同一模型

先按任务的截止时间、质量阈值、数据边界和可恢复性分流。离线标签、批量摘要、索引构建和非紧急评测可能适合 Batch;实时对话、交互式工具和等待用户确认的操作通常需要在线服务。Batch 预算要把作业创建、输入文件、每条结果、部分失败、超时、取消和结果下载串起来,并验证结果是否按自定义 ID 与原任务配对。完成窗口不是平均延迟承诺,业务必须能处理晚到、缺失和重复结果。

计算方法

模型路由不能只按单价。低价模型若带来更多重试、更长输出、更多工具调用或更高人工返工,任务成本可能反而更高。路由表应记录每类任务的质量门槛、允许模型、地区、最大上下文、工具与结构化输出能力、延迟预算和停止条件。先用固定测试集和真实分布样本比较单位成功成本,再在低风险流量灰度。路由器本身的分类调用、Embedding 或规则服务也要计费,且要防止把敏感任务送到不允许的渠道。

验收边界

降级路径必须可解释:主模型限流时可以等待、切换服务层级、换同族模型、使用更小模型、返回缓存结果或转人工。每条路径都改变质量、延迟、价格或数据处理边界,因此要单独验收,不能假设透明等价。失败后的第二次调用包含此前错误和工具结果,输入可能更长;上下文压缩本身也可能新增调用。任务回执要标明每次路由原因、模型、用量、费用和最终质量结论,才能判断所谓节省来自真正效率还是把成本转给重试与人工。

按重复前缀时限多步骤和风险选择缓存Batch与模型路由
兰塞 AI 原创:先满足任务约束,再谈缓存、Batch 与低价路由。

工具调用、失败重试和未知状态怎样避免漏算

智能体通常先生成工具参数,工具执行后再让模型读取结果,有时还会复核或总结。一次网页搜索可能包含工具调用费、搜索内容 Token、模型输入输出和后续引用检查;文件检索可能包含向量存储、检索调用与返回片段 Token;代码执行可能按容器会话或分钟收费。外部工具还可能有自己的 API、出站流量或许可证成本。预算表将模型、平台工具、外部工具和人工分列,并用同一 task_id 关联,避免只看到模型账单。

计算方法

重试只用于可能恢复的瞬时错误,例如网络中断、限流或偶发格式失败;权限拒绝、不支持的参数、缺少来源、业务冲突和持续内容错误不会因为重复花费而自动解决。策略应设置每类错误最大次数、指数退避、总时长、Token 和金额预算,并在相同错误重复时熔断。重试提示只带必要错误,不回传秘密或整份日志。若切换模型、提示、Schema 或工具,视为新路径并重新核验质量,而不是仍记作同一次免费尝试。

验收边界

下游超时最容易造成重复成本和副作用。模型已调用、工具也许已成功,但客户端没有收到确认;此时先按幂等键、请求 ID 或业务对象读回,状态仍未知就暂停自动重放。对纯读取可以在预算内重试,对付款、发送、发布、删除和权限修改要更严格。费用台账保留每次尝试,即使后来确认业务失败;业务台账只把权威读回满足条件的任务记为成功。这样单位成功成本能够暴露不稳定链路,而不会被只统计成功 API 响应的口径美化。

四十八项验收怎样证明预算可以上线

验收固定价格台账版本、提供商、渠道、区域、模型与服务层级、Tokenizer 或 usage 字段、提示与工具版本、缓存规则、路由策略、任务成功定义、测试数据和账单时间窗。每项保存请求 ID、task_id、原始 usage、价格来源、计算中间值、预期、实际、差异、业务读回和清理结果。passed 表示真实证据满足预期;failed 表示行为不符;blocked 表示缺少账号、账单、权限或可逆环境;not_applicable 必须解释原因。估算器算对示例数字不能替代账单对账。

计算方法

测试覆盖单次计费、缓存、Batch、工具、重试、路由、质量和运营八组。低风险测试可在隔离账号运行;会产生真实外部副作用的测试使用模拟工具或沙箱,不能为了证明成本执行真实付款或群发。对价格变化做回放:保留同一组用量回执,替换价格台账后重新计算,确认公式没有把旧单价硬编码。对用量变化做压力:增加上下文、输出、工具扇出和失败率,检查预算与熔断是否在副作用前生效。

验收边界

上线标准不应是最低估算,而是误差可解释、超支可阻断、质量不被悄悄牺牲。至少要求账单抽样差异在团队批准范围内,所有费用能关联到任务或明确归为共享开销,成功任务有质量与读回证据,缓存和路由不跨越数据边界,告警能区分量增、单价变、失败率升和模型迁移。下列合同是示例模板,不代表本站真实调用任何商业 API;团队需填入自己的真实证据。

Token 与缓存

  1. TOK-01|普通输入:条件为发送固定文本并读取官方 usage。预期是输入 Token 与服务端回执一致,计算不依赖字符数猜测。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  2. TOK-02|普通输出:条件为限制并生成固定结构回答。预期是输出与可计费推理字段按官方定义分别记录。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  3. TOK-03|长上下文:条件为跨越当前模型的长上下文计费边界。预期是价格台账选择正确区间且不沿用短上下文单价。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  4. TOK-04|多模态输入:条件为加入图片或音频。预期是使用官方模态用量,不把文件字节当 Token。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  5. TOK-05|流式中断:条件为在输出中途断开连接。预期是已计费用量与未完成任务都被记录。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  6. TOK-06|请求失败:条件为制造可预期的参数错误。预期是核对是否计费并保存请求 ID 与错误类别。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  7. CAC-01|首次冷写:条件为提交稳定长前缀。预期是缓存写入与普通输入字段正确分开。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  8. CAC-02|TTL 内热读:条件为原样复用前缀。预期是usage 明确显示读取 Token,不能仅凭延迟判断。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  9. CAC-03|前缀小改:条件为修改缓存前缀中部。预期是命中范围按实际回执变化。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  10. CAC-04|过期重写:条件为等待超过已声明 TTL。预期是重写成本和命中下降进入台账。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  11. CAC-05|盈亏平衡:条件为组合一次写入与多次读取。预期是实际读取次数达到公式阈值后才判节省。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  12. CAC-06|租户隔离:条件为两个租户使用相似提示。预期是内容和缓存键隔离,不以跨租户命中换成本。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。

Batch 与工具

  1. BAT-01|作业创建:条件为提交最小合法 Batch。预期是作业 ID、输入条数和价格层级保存。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  2. BAT-02|部分失败:条件为混入一条非法请求。预期是成功和失败逐条计数且失败不丢证据。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  3. BAT-03|重复 ID:条件为提交重复自定义标识。预期是系统拒绝或确定性去重,不重复计业务成功。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  4. BAT-04|完成窗口:条件为记录创建到完成时间。预期是没有把平均值写成 SLA,晚到任务可恢复。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  5. BAT-05|实时回退:条件为让批任务超过业务截止时间。预期是回退产生的新成本与原批任务都入账。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  6. BAT-06|优惠叠加:条件为尝试同时启用缓存与 Batch。预期是只按官方和账单实际支持关系计算。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  7. TOL-01|网页搜索:条件为运行一次带引用搜索。预期是工具费、内容 Token 和后续模型调用分列。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  8. TOL-02|文件检索:条件为查询一个已知文件库。预期是存储、检索调用与返回片段输入均可追踪。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  9. TOL-03|代码容器:条件为启动并复用容器。预期是会话或分钟费用按官方回执计入。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  10. TOL-04|外部 API:条件为调用有独立账单的工具。预期是外部费用与模型费用用 task_id 关联但不混栏。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  11. TOL-05|工具扇出:条件为让计划产生多个并行读取。预期是每个子调用都入账且受数量预算限制。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  12. TOL-06|工具结果回填:条件为把大结果返回模型。预期是二次输入 Token 没有被漏算。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。

重试与路由

  1. RET-01|限流重试:条件为模拟 429 与 Retry-After。预期是遵守退避并累计每次真实费用。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  2. RET-02|相同错误熔断:条件为连续返回同一结构错误。预期是达到阈值后停止继续消耗。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  3. RET-03|权限拒绝:条件为工具返回 403。预期是不通过换提示或模型绕过,直接阻断。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  4. RET-04|网络未知:条件为下游完成前断开连接。预期是先按幂等键读回,不直接重放。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  5. RET-05|费用上限:条件为让多次尝试接近任务预算。预期是在超过预算前 blocked 并给出已用金额。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  6. RET-06|错误反馈增长:条件为把验证错误送回模型。预期是新增输入 Token 被单独记录且已脱敏。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  7. ROU-01|低价路由:条件为同一任务路由到小模型。预期是质量过门后才计为成功任务。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  8. ROU-02|主模型降级:条件为主模型不可用时切换。预期是新模型的价格、地区与能力重新校验。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  9. ROU-03|路由器费用:条件为使用模型或向量分类路由。预期是路由决策本身的费用进入任务成本。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  10. ROU-04|长输入升级:条件为输入超过小模型限制。预期是只升级该任务且记录原因。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  11. ROU-05|高风险固定:条件为付款类任务尝试走廉价模型。预期是策略在调用前阻断未经批准的模型。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  12. ROU-06|数据区域:条件为路由到另一地区端点。预期是不满足数据边界时禁止,即使价格更低。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。

质量与运营

  1. QLT-01|首次成功:条件为模型一次返回可验收结果。预期是成功定义包含业务读回而非 HTTP 200。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  2. QLT-02|格式成功事实错:条件为返回结构正确但来源不支持的答案。预期是任务判失败并保留已产生费用。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  3. QLT-03|人工修正:条件为结果需要人工改动关键字段。预期是人工时间和模型费用分别记录。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  4. QLT-04|重复副作用:条件为同一任务被重放。预期是业务成功只计一次,重复调用仍计费用。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  5. QLT-05|最终失败:条件为耗尽重试仍不合格。预期是进入分子费用但不进入成功分母。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  6. QLT-06|抽样复核:条件为抽查已通过任务。预期是发现的隐性错误回写质量与单位成功成本。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  7. OPS-01|价格变更:条件为替换价格台账版本。预期是旧用量可按新价格回放且历史账单不被改写。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  8. OPS-02|账单抽样:条件为抽取一日请求与平台账单。预期是差异可定位到舍入、共享项、税费或漏单。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  9. OPS-03|峰值压力:条件为提高并发与限流。预期是重试、延迟和成本告警同时生效。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  10. OPS-04|免费额度到期:条件为移除试用或赠送额度。预期是预算恢复到真实付费单价。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  11. OPS-05|数据删除:条件为任务超过保留期。预期是提示、工具结果与账单关联按政策清理并留回执。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。
  12. OPS-06|凭据撤销:条件为结束测试批次。预期是临时密钥、容器、文件和外部工具权限全部撤销。回执至少保存 task_id、请求 ID、模型与服务层级、原始 usage、价格台账版本、公式中间值、质量结论、业务读回和清理结果;缺少实际账单或适用证据时不得标记通过。

账单、告警与复盘怎样形成闭环

日常对账从三张表开始:请求回执表保存 request_id、task_id、时间、模型、usage 和状态;价格台账保存每个计量项的版本与来源;业务结果表保存成功条件、质量结论和权威读回。计算作业按不可变的用量和价格版本生成费用明细,再与提供商控制台或发票抽样比对。差异先按时间窗、币种与汇率、最小计费单位、舍入、共享存储、异步晚到、税费和合同抵扣拆解,不要为了让总数相等直接增加一个没有来源的调整项。共享开销可以按明确规则分摊,也可以保持平台级,但规则与未分摊金额都要可见。

计算方法

告警至少区分四种原因。用量告警看任务数、每任务调用数、输入输出和工具扇出;单价告警看价格台账或服务层级变化;可靠性告警看限流、重试、降级、Batch 失败和未知状态;效率告警看缓存命中、单位成功成本和人工返工。只看总账单会在月末才发现问题,也无法判断是业务增长还是实现退化。阈值同时设置绝对金额、相对基线、样本量和持续时间,避免低流量下一个异常请求触发误报,也避免高流量下小比例错误累积成大额损失。告警页面必须能下钻到脱敏的任务与请求回执,但不能公开提示、密钥或用户数据。

验收边界

每周复盘选择成本贡献最高、增长最快、失败最贵和人工最多的任务各若干条,检查长上下文是否必要、输出是否可缩短、工具是否重复、缓存是否真实命中、路由是否满足质量、重试是否在错误类别上有效。优化前保存基线和样本,优化后同时比较成本、质量、延迟、失败与人工,不用单一账单下降宣称整体改进。模型或提示升级先影子运行,再小流量灰度;若单位成功成本、关键质量或数据边界变差,按预先记录的版本回滚。复盘还要保留未采用方案及原因,例如缓存寿命不满足删除要求、Batch 完成窗口超过业务时限、低价模型未达到关键字段质量、跨区域端点不符合数据政策。季度审查移除无人负责的价格项、失效模型和长期为零的工具,核对共享存储、向量库、日志、网络出站和观测平台是否被遗漏。预算负责人、应用负责人、数据所有者和安全负责人分别确认自己能够证明的部分,任何人都不能用模型供应商的列表价替代业务成功与风险责任。复盘结论写清能证明和不能证明什么:账单下降只能证明指定口径费用减少,不能自动证明用户价值、准确率、安全、收录、排名或转化提高。

官方证据、价格台账与核验边界

Anthropic Claude API 官方定价文档展示输入输出与缓存计费栏位的必要局部
Anthropic Claude API 官方定价文档必要局部,访问于 2026 年 10 月 11 日。官方展示不等于本站完成真实调用或账单实测。

OpenAI 官方定价页当前按模型列出输入、缓存输入与输出,并另列部分工具或托管运行费用;Prompt Caching 文档说明应从响应 usage 中查看缓存读取 Token;Batch 指南说明异步批处理的工作方式与完成窗口。Anthropic 定价文档分别说明基础 Token、缓存写入与读取、Batch、长上下文、工具和数据区域等修正项。Google Gemini API 定价页按模型、模态和服务层级列价。以上是官方公开规则,具体账户、地区、云渠道和合同价格仍以实际控制台与账单为准。

价格台账应保存什么

价格台账每一行保存 provider、billing_channel、region、model_id、service_tier、modality、meter_name、unit、currency、list_price、effective_from、source_url、accessed_at 和备注。不要覆盖旧价格;新价格新增版本,并让每条用量按发生时间关联版本。公开列表价、合同价、赠送额度、税费和汇率分栏。模型 ID 不明确、单价未取得或工具计费口径未知时写 blocked 或未取数,禁止用相似模型猜价。

独立验收资产怎样使用

随本轮保存的成本合同 JSON 含四十八项用例,预算模板 CSV 把用量、单价、调用次数、成功任务数和公式列拆开;校验脚本只证明模板字段与公式关系完整,不证明任何提供商实际价格或本项目已经运行测试。团队应先复制文件,填入自己的官方价格台账、真实 usage、工具账单、质量与业务读回,再由脚本重算。示例中的 expected 不能当成实测结果。

和站内相邻任务怎样分工

模型 API 故障恢复重点处理请求 ID、限流、退避和熔断;结构化输出验收负责 JSON Schema、语义和幂等写入;Embedding 与 RAG 验收负责检索质量;Computer Use 安全操作负责可逆动作与读回。本文只解决模型与工具费用怎样按成功任务归集、验证和设预算,不重复展开这些任务的全部技术门禁。

核验日期和不能推出的结论

资料核验日期为 2026 年 10 月 11 日。本站本轮没有使用真实业务账户调用 OpenAI、Claude、Gemini 或其他商业 API,没有取得任何站点 Search Console、Bing Webmaster、广告、销售或转化数据,也没有比较模型质量、速度、排名或总拥有成本。官方页面能证明访问时公开的计费规则,不能证明某个账户最终账单;官方证据图仅是必要局部,不是本站实测;原创图解释核算关系,不是产品界面。模型、价格、工具、区域、合同、税率、汇率、缓存与 Batch 规则变化后,应重新核验并用真实回执重算。