长上下文与 RAG 的选择,取决于任务形状,不取决于模型宣传页上的最大窗口数字。少量、边界明确、需要通读和跨段推理的材料,可以先用长上下文;知识库持续更新、用户权限不同、资料规模很大或必须稳定引用时,优先 RAG;大量生产系统更适合先按权限检索,再把完整章节送进较长上下文。三条路线都要用同一组真实问题比较必要证据召回、回答忠实度、版本新鲜度、越权风险、P95 延迟和单位成功成本。
先按任务形状做第一轮选择
长上下文与 RAG 不是互相淘汰的两代技术,而是两种给模型准备证据的方法。长上下文把较完整的材料直接装进一次请求,模型能够同时看到章节关系、定义、例外和前后指代;RAG 先从外部知识库找出候选片段,再把少量相关证据交给模型。前者减少检索管线,后者减少无关输入并把更新、权限、引用和复用放到应用层。选型第一问不是模型窗口有多大,而是用户究竟要通读一组边界明确的材料,还是从持续变化的大型知识库中定位答案。
容易被忽略的边界
一次性合同审阅、几份版本说明对照、一个仓库模块的依赖分析,往往需要保留整体结构,长上下文是合理基线。内部制度问答、客服知识库、跨产品文档搜索、多人权限不同的企业助手,通常需要先检索。若问题既要从海量资料定位相关章节,又要跨章节综合,混合路线更稳妥:先依据身份和版本过滤,再检索少量文档或完整章节,最后让模型在较长上下文中比较、推理和生成引用。不要把混合路线理解为同时打开两个昂贵功能;它的目标是用检索收窄注意力预算,用长上下文保留必要语境。
落地检查
先写一页任务说明:资料从哪里来、总量多大、多久变化一次、谁能看什么、一次问题需要几份材料、答案是否必须给出处、最长可等多久、每月查询量和错误代价分别是多少。任何一项答不上来,都不应直接采购向量库或把全部资料塞入提示。把这页说明变成可复测的任务集,长上下文、RAG 与混合方案使用同一模型、同一问题、同一通过标准比较,才可能得到属于自己业务的结论。

长上下文适合什么,不适合什么
长上下文最有价值的场景,是材料集合相对小、边界明确而问题需要全局关系。全文摘要只是最简单的例子;条款冲突、跨章节条件、人物与事件时间线、代码调用链、研究论文之间的证据差异,都可能因为过早切片而丢失联系。直接装入完整文档还能减少切分、Embedding、索引、召回和重排的工程环节,适合低频试验、分析人员临时任务以及资料尚未形成稳定知识库的阶段。Google 的长上下文文档也把处理大量文本、视频和音频以及通过上下文学习新任务列为应用方向,但官方展示的是能力入口,不是任何材料长度下都同样准确的保证。
容易被忽略的边界
窗口容量只说明接口最多能接收多少 Token,不说明模型能否同等利用每个位置的信息。经典的“Lost in the Middle”研究观察到,相关信息位于长输入中部时,模型在一些任务上的表现会下降;新模型、提示组织和训练方法可能改善结果,却不能替代本项目测试。长输入还会挤占系统指令、对话历史、工具结果和输出预算。若应用先默默截断末尾、压缩历史或丢弃附件,用户看到的是“上传成功”,模型实际没有读全。验收时必须记录发送前 Token、服务端接受量、截断策略和最终材料清单。
落地检查
长上下文也不天然解决更新、权限和引用。一份政策变化后,应用若继续加载旧副本,窗口再大也会回答旧事实;多个部门文档一起装入后再要求模型“忽略无权内容”,机密内容已经越过授权边界。引用需要稳定的文档 ID、版本、页码或章节锚点,不能仅靠模型生成一个看似合理的链接。高频查询还会反复发送相同长材料,成本和延迟随请求累积。可使用提供商缓存降低重复前缀费用,但缓存命中、保留和隐私边界必须由当前官方规则与真实 usage 验证。
RAG 的真正价值是控制证据入口
RAG 的优势不只是少发 Token,而是把证据选择变成可观察、可更新的系统步骤。入库时保存文档来源、版本、发布日期、有效期、作者、业务域、权限主体和校验值;查询时先取得调用者身份与范围,再做关键词、向量或混合检索,必要时重排,最后把带来源标识的证据交给模型。政策新增、产品下线或错误更正可以增量进入索引,不必每次重发全库。查询日志还能区分“库里没有”“召回没找到”“模型没有忠实使用”三类失败,便于修复。
容易被忽略的边界
这条管线也会制造新的错误面。PDF 解析可能错列,固定字数切分会拆断表格和条件,Embedding 可能错过编号、缩写与专有名词,向量相似不等于事实相关,重排器可能偏向措辞相近的旧版本。召回片段太短会失去限定条件,太长又会把噪声带回上下文;top-k 固定过小导致漏证据,过大导致冲突和成本上升。生产 RAG 至少同时测试解析、切分、检索、重排、版本、引用和生成,不能只展示一个成功问答。
落地检查
权限必须在检索结果进入模型之前执行。Microsoft 的 RAG 与 Azure AI Search 文档明确把细粒度访问控制列为企业检索挑战,并提供文档级安全修剪、身份过滤和查询时权限执行等方案;其中部分能力处于预览,是否适合生产需查看当前状态。通用原则是索引携带授权元数据,查询绑定真实调用者,检索层只返回其可读文档。把所有文档取出后在提示中要求模型不要透露,既无法证明隔离,也会扩大日志、缓存和第三方处理范围。
准确性要拆成检索、证据和回答三层
比较方案时,不能只问最终答案“像不像对”。长上下文先检查材料是否完整装载、关键证据在不同位置能否找到、跨段关系是否保持、冲突版本是否识别;RAG 先检查目标文档是否进入候选、正确片段排名、权限过滤后是否仍有足够证据、引用锚点是否可打开。两条路线最后都要检查回答是否只依据给定材料、是否覆盖问题、是否把不确定性说清、是否在无证据时拒答。将检索质量与生成质量混成一个分数,会让团队不知道应该换索引还是改提示。
容易被忽略的边界
任务集应来自真实问题分布,并保留答案证据而不是只写标准答案。每个样本记录问题、允许来源、必要证据、禁止来源、答案要点、可接受拒答、权限身份和时间边界。加入相似名词、表格、脚注、跨页条件、旧版本、新旧冲突、没有答案、恶意文档、跨租户以及必须汇总多份材料的反例。长上下文还要把相同证据放在开头、中部和末尾重测;RAG 要改变 top-k、检索方式、切分和重排重测。
落地检查
Microsoft Foundry 的 RAG 评测资料把文档检索的过程评估与回答的相关性、完整性和 groundedness 等系统评估分开,这是可借鉴的分层思路,但具体指标仍要匹配业务风险。客服问答可能重视完整与引用,合同审查更关心遗漏否决条款,研发助手还要验证代码版本。自动评审模型适合扩大样本,但关键样本需要人工核对;评审提示、评审模型和阈值也要版本化。任何总体平均分都要同时展示失败类型和高风险子集。
更新与版本决定答案是否仍然有效
更新频率低不代表可以忽略版本。长上下文路线需要一个权威材料清单:每次请求引用文档 ID、校验值、发布日期和有效期,文件变化后主动替换,并清理旧缓存。不要让用户从本地附件、共享盘快照和网页抓取副本中随机选择不同版本。若必须比较两个版本,应明确标注旧版与新版,而不是把内容混成一份。多轮会话中材料发生变化时,新会话应加载新版本;旧会话是否继续沿用旧证据,需要产品规则和可见提示。
容易被忽略的边界
RAG 路线要定义从源变化到可检索的服务目标。抓取、解析、切分、Embedding、索引、权限同步、别名切换和缓存失效任何一步失败,都会出现源已经更新而回答仍旧的窗口。对删除和撤权要求更严格:不仅新查询不能命中,旧索引、缓存、离线评测副本和调试日志也要按策略清理。每次检索结果记录 index_version、document_version 和 retrieved_at,用户报告错误时才能复现。
落地检查
上线测试应包含新增、修改、删除、撤权、回滚和冲突六条路径。修改一条关键政策后,在批准时限内询问旧说法与新说法;删除文档后确认搜索、回答、引用和缓存都不再返回;撤销用户权限后用旧会话和新会话分别测试;发布错误版本后切回上一索引并验证别名、缓存与回答一致。只证明“可以重新建索引”不等于证明更新链路满足时限。
成本和延迟必须按成功任务比较
长上下文的主要可变成本来自每次发送的输入 Token、输出、可能的缓存写入与读取,以及长请求带来的延迟。RAG 还包含文档解析、Embedding、向量或搜索基础设施、检索、重排、返回片段 Token、监控和更新作业。不能把长上下文只算模型费、RAG 只算向量库月租;两条路线都要把开发与运维分开列,并按成功完成且质量过门的业务任务作为分母。失败重试、超时降级、人工纠错和无答案请求同样会消耗资源。
容易被忽略的边界
比较时固定模型、价格版本、任务集和成功定义,记录 P50、P95 的总延迟与各阶段耗时。长上下文分别测冷请求、缓存命中、短材料和接近窗口上限;RAG 分别测索引命中、关键词与向量混合、重排、权限过滤、无结果和多源聚合。查询量低而材料常换时,维护 RAG 可能不划算;查询量高、知识库大而重复问题多时,反复发送全量材料可能更贵。成本交叉点只能由真实分布决定,不能抄第三方固定文档数或百分比。
落地检查
预算表至少保留 provider、model_id、region、service_tier、input_tokens、cached_tokens、output_tokens、embedding_items、storage、retrieval_calls、rerank_calls、index_updates、latency、task_result 和 quality_result。价格来自当前官方页面或实际合同,并带访问日期;无法取得的费用写未取数。缓存折扣或 Batch 只有在该工作负载实际支持并从回执确认后才能进入预算。账单下降只证明特定口径费用降低,不能自动证明准确率、用户价值或安全提高。
混合架构怎样避免两边缺点叠加
混合架构的推荐顺序是身份确认、范围与版本过滤、候选检索、按章节扩展、冲突检查、上下文装载、生成与引用读回。检索可以用短块提高定位率,但交给模型时返回完整标题路径、相邻段落或完整小节,减少条件被切断。若问题需要全局比较,先找出相关文档,再加载这些文档的完整结构;若问题只是查一个编号,不必把整份手册都放入上下文。路由器要依据任务特征和证据需求,而不是只依据问题长度。
容易被忽略的边界
失败时不要自动把全库塞入长上下文。检索无结果可能意味着库里没有、查询改写失败、权限过滤过严、索引延迟或用户问题不清楚;未经判断的全量回退可能绕开权限并增加成本。安全回退可以是询问澄清、使用关键词检索、扩大已授权范围、加载用户明确选择的文档,或者坦白无足够证据。每条回退路径保存原因、身份、文档清单、版本、费用与最终结果。
落地检查
提示注入也不能靠架构名称解决。检索文档、上传文件和网页内容都属于不可信数据,文档中的“忽略规则”“发送密钥”等文字不能覆盖系统策略。工具调用与资料检索分权,敏感写操作需要显式审批和读回;输出引用要指向实际使用的证据,不允许模型编造 URL。对长上下文与 RAG 都运行恶意文档、隐形文字、跨租户诱导和来源伪装测试。

用四十八项合同完成上线验收
验收从基线开始:同一组问题分别运行长上下文、RAG 和混合方案,所有请求固定模型快照、参数、材料版本、身份、网络和价格台账。每一项保存 case_id、trace_id、输入文档、检索结果、权限结果、最终上下文、回答、引用、用量、延迟、期望、实际和人工判定。passed 只表示当前证据满足预先写好的条件;blocked 表示缺账号、权限或可逆环境;not_applicable 必须说明为什么。没有日志的现场演示不能补记成通过。
容易被忽略的边界
质量门槛按业务风险设置。低风险搜索助手可以允许澄清和拒答,高风险政策、合同或医疗金融信息必须更严格,并保留人工复核。统计至少包括必要证据召回、无权文档返回数、引用可打开率、引用与答案一致性、要点完整性、无证据拒答、版本新鲜度、P95 延迟、单位成功成本和恢复时长。总体分数外单列越权、错误引用、旧版本、关键遗漏和副作用,这些严重错误不能被大量简单样本平均掉。
落地检查
以下合同是本站提供的独立任务资产,用于帮助团队构造自己的测试,不代表本站调用了任何商业模型或取得真实业务结果。每次发布模型、修改索引、调整切分、变化权限规则、更新提示或更换价格台账,都应重跑受影响组。若越权、引用不可复核、关键证据遗漏、删除不生效或回滚失败,停止放量并恢复上一稳定版本。
验收用例清单
长上下文完整性
- LCG-01|装载清单:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-02|窗口边界:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-03|中部证据:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-04|跨段关系:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-05|多版本冲突:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-06|截断读回:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
检索与重排
- LCG-07|已知文档召回:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-08|精确编号:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-09|语义改写:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-10|表格条件:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-11|多跳证据:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-12|无结果:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
权限与隔离
- LCG-13|用户权限:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-14|部门权限:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-15|租户隔离:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-16|撤权生效:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-17|旧会话:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-18|缓存隔离:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
更新与版本
- LCG-19|新增:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-20|修改:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-21|删除:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-22|索引延迟:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-23|回滚:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-24|冲突版本:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
回答与引用
- LCG-25|事实忠实:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-26|要点完整:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-27|引用可打开:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-28|引用匹配:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-29|无证据拒答:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-30|不确定性:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
安全与恢复
- LCG-31|文档注入:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-32|恶意链接:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-33|工具越权:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-34|超时:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-35|依赖失败:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-36|上一版本恢复:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
成本与延迟
- LCG-37|冷请求:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-38|缓存命中:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-39|高频查询:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-40|长尾材料:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-41|P95 延迟:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-42|单位成功成本:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
运营与退场
- LCG-43|监控告警:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-44|错误复现:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-45|人工接管:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-46|日志脱敏:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-47|数据清理:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
- LCG-48|凭据撤销:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
官方证据、研究来源与核验边界

Google Gemini API 的长上下文文档解释上下文窗口、长材料处理与优化方向;AWS 规范性指导把直接在上下文中传文档与 RAG 作为查询自有文档的不同路线;Microsoft Azure AI Search 说明 RAG 面临查询理解、多源、Token、响应时间和安全治理挑战,并给出文档级权限处理;Microsoft Foundry 的 RAG 评测资料区分检索过程与回答系统评估。OpenAI 的模型准确性指南把 RAG 放在补充当前任务上下文的问题框架中。学术论文《Lost in the Middle》提供了长输入位置信息使用不稳定的实验观察。它们共同提供方法边界,但不能替代本项目在选定模型、资料和权限条件下的测试。
阅读官方资料时还要分清通用方法与厂商实现。某个云平台提供权限过滤、索引器或评测器,不代表换到另一套技术栈后会自动具备同等能力;某个模型支持更长窗口,也不代表现有应用已经取消截断、缓存或历史压缩。采购与架构评审应把模型能力、检索服务、应用代码、身份系统、数据源和观测链分别列出负责人,再用端到端用例证明它们共同工作。只引用单个产品页面不能替代这条证据链。
- Google Gemini API:Long context
- AWS:查询自有文档的生成式 AI 方案
- Microsoft Azure AI Search:RAG 概览
- Microsoft Azure AI Search:文档级访问控制
- Microsoft Foundry:RAG 评测器
- OpenAI:Optimizing LLM Accuracy
- Liu 等:Lost in the Middle
与站内相邻任务怎样分工
Embedding 与 RAG 验收继续展开召回、重排和回答评测;大模型 API 成本核算提供缓存、Batch、工具与重试的任务台账;结构化输出验收处理 Schema、语义和幂等;Computer Use 安全操作处理网页动作隔离和回滚。本文只回答证据应怎样进入模型、三条路线如何比较以及怎样验收,不把相邻主题重复成长篇背景。
本文能证明和不能证明什么
资料核验日期为 2026 年 10 月 12 日。本站没有使用商业账户运行 Gemini、OpenAI、Microsoft 或 AWS 的生产工作负载,没有取得某一方案的真实准确率、费用或延迟,也没有取得 Bing Webmaster、Search Console、流量、排名、点击、CTR 或转化数据。原创图解释选择与验收关系,官方证据图只证明访问时页面的公开说明;四十八项合同是可复用模板,不是已执行结果。任何模型窗口、价格、缓存、服务层级、地区、权限能力或预览状态变化后,都应重新打开官方来源并用自己的任务集验证。
