AI教程

长上下文与 RAG 怎么选?准确性、更新、权限和成本决策指南

按任务形状比较长上下文、RAG与混合架构,覆盖准确性、更新、权限、引用、成本、延迟和48项上线验收。

长上下文RAG与混合路线按准确性更新权限成本和恢复选择
本页目录
  1. 先按任务形状做第一轮选择
  2. 容易被忽略的边界
  3. 落地检查
  4. 长上下文适合什么,不适合什么
  5. 容易被忽略的边界
  6. 落地检查
  7. RAG 的真正价值是控制证据入口
  8. 容易被忽略的边界
  9. 落地检查
  10. 准确性要拆成检索、证据和回答三层
  11. 容易被忽略的边界
  12. 落地检查
  13. 更新与版本决定答案是否仍然有效
  14. 容易被忽略的边界
  15. 落地检查
  16. 成本和延迟必须按成功任务比较
  17. 容易被忽略的边界
  18. 落地检查
  19. 混合架构怎样避免两边缺点叠加
  20. 容易被忽略的边界
  21. 落地检查
  22. 用四十八项合同完成上线验收
  23. 容易被忽略的边界
  24. 落地检查
  25. 验收用例清单
  26. 长上下文完整性
  27. 检索与重排
  28. 权限与隔离
  29. 更新与版本
  30. 回答与引用
  31. 安全与恢复
  32. 成本与延迟
  33. 运营与退场
  34. 官方证据、研究来源与核验边界
  35. 与站内相邻任务怎样分工
  36. 本文能证明和不能证明什么

长上下文与 RAG 的选择,取决于任务形状,不取决于模型宣传页上的最大窗口数字。少量、边界明确、需要通读和跨段推理的材料,可以先用长上下文;知识库持续更新、用户权限不同、资料规模很大或必须稳定引用时,优先 RAG;大量生产系统更适合先按权限检索,再把完整章节送进较长上下文。三条路线都要用同一组真实问题比较必要证据召回、回答忠实度、版本新鲜度、越权风险、P95 延迟和单位成功成本。

先按任务形状做第一轮选择

长上下文与 RAG 不是互相淘汰的两代技术,而是两种给模型准备证据的方法。长上下文把较完整的材料直接装进一次请求,模型能够同时看到章节关系、定义、例外和前后指代;RAG 先从外部知识库找出候选片段,再把少量相关证据交给模型。前者减少检索管线,后者减少无关输入并把更新、权限、引用和复用放到应用层。选型第一问不是模型窗口有多大,而是用户究竟要通读一组边界明确的材料,还是从持续变化的大型知识库中定位答案。

容易被忽略的边界

一次性合同审阅、几份版本说明对照、一个仓库模块的依赖分析,往往需要保留整体结构,长上下文是合理基线。内部制度问答、客服知识库、跨产品文档搜索、多人权限不同的企业助手,通常需要先检索。若问题既要从海量资料定位相关章节,又要跨章节综合,混合路线更稳妥:先依据身份和版本过滤,再检索少量文档或完整章节,最后让模型在较长上下文中比较、推理和生成引用。不要把混合路线理解为同时打开两个昂贵功能;它的目标是用检索收窄注意力预算,用长上下文保留必要语境。

落地检查

先写一页任务说明:资料从哪里来、总量多大、多久变化一次、谁能看什么、一次问题需要几份材料、答案是否必须给出处、最长可等多久、每月查询量和错误代价分别是多少。任何一项答不上来,都不应直接采购向量库或把全部资料塞入提示。把这页说明变成可复测的任务集,长上下文、RAG 与混合方案使用同一模型、同一问题、同一通过标准比较,才可能得到属于自己业务的结论。

材料规模更新频率权限问题形状和成本复用决定长上下文或RAG路线
兰塞 AI 原创:窗口大小只是输入条件,任务的更新、权限和问题形状才决定路线。

长上下文适合什么,不适合什么

长上下文最有价值的场景,是材料集合相对小、边界明确而问题需要全局关系。全文摘要只是最简单的例子;条款冲突、跨章节条件、人物与事件时间线、代码调用链、研究论文之间的证据差异,都可能因为过早切片而丢失联系。直接装入完整文档还能减少切分、Embedding、索引、召回和重排的工程环节,适合低频试验、分析人员临时任务以及资料尚未形成稳定知识库的阶段。Google 的长上下文文档也把处理大量文本、视频和音频以及通过上下文学习新任务列为应用方向,但官方展示的是能力入口,不是任何材料长度下都同样准确的保证。

容易被忽略的边界

窗口容量只说明接口最多能接收多少 Token,不说明模型能否同等利用每个位置的信息。经典的“Lost in the Middle”研究观察到,相关信息位于长输入中部时,模型在一些任务上的表现会下降;新模型、提示组织和训练方法可能改善结果,却不能替代本项目测试。长输入还会挤占系统指令、对话历史、工具结果和输出预算。若应用先默默截断末尾、压缩历史或丢弃附件,用户看到的是“上传成功”,模型实际没有读全。验收时必须记录发送前 Token、服务端接受量、截断策略和最终材料清单。

落地检查

长上下文也不天然解决更新、权限和引用。一份政策变化后,应用若继续加载旧副本,窗口再大也会回答旧事实;多个部门文档一起装入后再要求模型“忽略无权内容”,机密内容已经越过授权边界。引用需要稳定的文档 ID、版本、页码或章节锚点,不能仅靠模型生成一个看似合理的链接。高频查询还会反复发送相同长材料,成本和延迟随请求累积。可使用提供商缓存降低重复前缀费用,但缓存命中、保留和隐私边界必须由当前官方规则与真实 usage 验证。

RAG 的真正价值是控制证据入口

RAG 的优势不只是少发 Token,而是把证据选择变成可观察、可更新的系统步骤。入库时保存文档来源、版本、发布日期、有效期、作者、业务域、权限主体和校验值;查询时先取得调用者身份与范围,再做关键词、向量或混合检索,必要时重排,最后把带来源标识的证据交给模型。政策新增、产品下线或错误更正可以增量进入索引,不必每次重发全库。查询日志还能区分“库里没有”“召回没找到”“模型没有忠实使用”三类失败,便于修复。

容易被忽略的边界

这条管线也会制造新的错误面。PDF 解析可能错列,固定字数切分会拆断表格和条件,Embedding 可能错过编号、缩写与专有名词,向量相似不等于事实相关,重排器可能偏向措辞相近的旧版本。召回片段太短会失去限定条件,太长又会把噪声带回上下文;top-k 固定过小导致漏证据,过大导致冲突和成本上升。生产 RAG 至少同时测试解析、切分、检索、重排、版本、引用和生成,不能只展示一个成功问答。

落地检查

权限必须在检索结果进入模型之前执行。Microsoft 的 RAG 与 Azure AI Search 文档明确把细粒度访问控制列为企业检索挑战,并提供文档级安全修剪、身份过滤和查询时权限执行等方案;其中部分能力处于预览,是否适合生产需查看当前状态。通用原则是索引携带授权元数据,查询绑定真实调用者,检索层只返回其可读文档。把所有文档取出后在提示中要求模型不要透露,既无法证明隔离,也会扩大日志、缓存和第三方处理范围。

准确性要拆成检索、证据和回答三层

比较方案时,不能只问最终答案“像不像对”。长上下文先检查材料是否完整装载、关键证据在不同位置能否找到、跨段关系是否保持、冲突版本是否识别;RAG 先检查目标文档是否进入候选、正确片段排名、权限过滤后是否仍有足够证据、引用锚点是否可打开。两条路线最后都要检查回答是否只依据给定材料、是否覆盖问题、是否把不确定性说清、是否在无证据时拒答。将检索质量与生成质量混成一个分数,会让团队不知道应该换索引还是改提示。

容易被忽略的边界

任务集应来自真实问题分布,并保留答案证据而不是只写标准答案。每个样本记录问题、允许来源、必要证据、禁止来源、答案要点、可接受拒答、权限身份和时间边界。加入相似名词、表格、脚注、跨页条件、旧版本、新旧冲突、没有答案、恶意文档、跨租户以及必须汇总多份材料的反例。长上下文还要把相同证据放在开头、中部和末尾重测;RAG 要改变 top-k、检索方式、切分和重排重测。

落地检查

Microsoft Foundry 的 RAG 评测资料把文档检索的过程评估与回答的相关性、完整性和 groundedness 等系统评估分开,这是可借鉴的分层思路,但具体指标仍要匹配业务风险。客服问答可能重视完整与引用,合同审查更关心遗漏否决条款,研发助手还要验证代码版本。自动评审模型适合扩大样本,但关键样本需要人工核对;评审提示、评审模型和阈值也要版本化。任何总体平均分都要同时展示失败类型和高风险子集。

更新与版本决定答案是否仍然有效

更新频率低不代表可以忽略版本。长上下文路线需要一个权威材料清单:每次请求引用文档 ID、校验值、发布日期和有效期,文件变化后主动替换,并清理旧缓存。不要让用户从本地附件、共享盘快照和网页抓取副本中随机选择不同版本。若必须比较两个版本,应明确标注旧版与新版,而不是把内容混成一份。多轮会话中材料发生变化时,新会话应加载新版本;旧会话是否继续沿用旧证据,需要产品规则和可见提示。

容易被忽略的边界

RAG 路线要定义从源变化到可检索的服务目标。抓取、解析、切分、Embedding、索引、权限同步、别名切换和缓存失效任何一步失败,都会出现源已经更新而回答仍旧的窗口。对删除和撤权要求更严格:不仅新查询不能命中,旧索引、缓存、离线评测副本和调试日志也要按策略清理。每次检索结果记录 index_version、document_version 和 retrieved_at,用户报告错误时才能复现。

落地检查

上线测试应包含新增、修改、删除、撤权、回滚和冲突六条路径。修改一条关键政策后,在批准时限内询问旧说法与新说法;删除文档后确认搜索、回答、引用和缓存都不再返回;撤销用户权限后用旧会话和新会话分别测试;发布错误版本后切回上一索引并验证别名、缓存与回答一致。只证明“可以重新建索引”不等于证明更新链路满足时限。

成本和延迟必须按成功任务比较

长上下文的主要可变成本来自每次发送的输入 Token、输出、可能的缓存写入与读取,以及长请求带来的延迟。RAG 还包含文档解析、Embedding、向量或搜索基础设施、检索、重排、返回片段 Token、监控和更新作业。不能把长上下文只算模型费、RAG 只算向量库月租;两条路线都要把开发与运维分开列,并按成功完成且质量过门的业务任务作为分母。失败重试、超时降级、人工纠错和无答案请求同样会消耗资源。

容易被忽略的边界

比较时固定模型、价格版本、任务集和成功定义,记录 P50、P95 的总延迟与各阶段耗时。长上下文分别测冷请求、缓存命中、短材料和接近窗口上限;RAG 分别测索引命中、关键词与向量混合、重排、权限过滤、无结果和多源聚合。查询量低而材料常换时,维护 RAG 可能不划算;查询量高、知识库大而重复问题多时,反复发送全量材料可能更贵。成本交叉点只能由真实分布决定,不能抄第三方固定文档数或百分比。

落地检查

预算表至少保留 provider、model_id、region、service_tier、input_tokens、cached_tokens、output_tokens、embedding_items、storage、retrieval_calls、rerank_calls、index_updates、latency、task_result 和 quality_result。价格来自当前官方页面或实际合同,并带访问日期;无法取得的费用写未取数。缓存折扣或 Batch 只有在该工作负载实际支持并从回执确认后才能进入预算。账单下降只证明特定口径费用降低,不能自动证明准确率、用户价值或安全提高。

混合架构怎样避免两边缺点叠加

混合架构的推荐顺序是身份确认、范围与版本过滤、候选检索、按章节扩展、冲突检查、上下文装载、生成与引用读回。检索可以用短块提高定位率,但交给模型时返回完整标题路径、相邻段落或完整小节,减少条件被切断。若问题需要全局比较,先找出相关文档,再加载这些文档的完整结构;若问题只是查一个编号,不必把整份手册都放入上下文。路由器要依据任务特征和证据需求,而不是只依据问题长度。

容易被忽略的边界

失败时不要自动把全库塞入长上下文。检索无结果可能意味着库里没有、查询改写失败、权限过滤过严、索引延迟或用户问题不清楚;未经判断的全量回退可能绕开权限并增加成本。安全回退可以是询问澄清、使用关键词检索、扩大已授权范围、加载用户明确选择的文档,或者坦白无足够证据。每条回退路径保存原因、身份、文档清单、版本、费用与最终结果。

落地检查

提示注入也不能靠架构名称解决。检索文档、上传文件和网页内容都属于不可信数据,文档中的“忽略规则”“发送密钥”等文字不能覆盖系统策略。工具调用与资料检索分权,敏感写操作需要显式审批和读回;输出引用要指向实际使用的证据,不允许模型编造 URL。对长上下文与 RAG 都运行恶意文档、隐形文字、跨租户诱导和来源伪装测试。

长上下文和RAG从任务集到证据装载生成读回复盘的验收闭环
兰塞 AI 原创:检索或装载、生成、引用读回和失败复盘必须形成闭环。

用四十八项合同完成上线验收

验收从基线开始:同一组问题分别运行长上下文、RAG 和混合方案,所有请求固定模型快照、参数、材料版本、身份、网络和价格台账。每一项保存 case_id、trace_id、输入文档、检索结果、权限结果、最终上下文、回答、引用、用量、延迟、期望、实际和人工判定。passed 只表示当前证据满足预先写好的条件;blocked 表示缺账号、权限或可逆环境;not_applicable 必须说明为什么。没有日志的现场演示不能补记成通过。

容易被忽略的边界

质量门槛按业务风险设置。低风险搜索助手可以允许澄清和拒答,高风险政策、合同或医疗金融信息必须更严格,并保留人工复核。统计至少包括必要证据召回、无权文档返回数、引用可打开率、引用与答案一致性、要点完整性、无证据拒答、版本新鲜度、P95 延迟、单位成功成本和恢复时长。总体分数外单列越权、错误引用、旧版本、关键遗漏和副作用,这些严重错误不能被大量简单样本平均掉。

落地检查

以下合同是本站提供的独立任务资产,用于帮助团队构造自己的测试,不代表本站调用了任何商业模型或取得真实业务结果。每次发布模型、修改索引、调整切分、变化权限规则、更新提示或更换价格台账,都应重跑受影响组。若越权、引用不可复核、关键证据遗漏、删除不生效或回滚失败,停止放量并恢复上一稳定版本。

验收用例清单

长上下文完整性

  1. LCG-01|装载清单:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-02|窗口边界:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-03|中部证据:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-04|跨段关系:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-05|多版本冲突:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-06|截断读回:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

检索与重排

  1. LCG-07|已知文档召回:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-08|精确编号:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-09|语义改写:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-10|表格条件:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-11|多跳证据:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-12|无结果:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

权限与隔离

  1. LCG-13|用户权限:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-14|部门权限:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-15|租户隔离:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-16|撤权生效:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-17|旧会话:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-18|缓存隔离:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

更新与版本

  1. LCG-19|新增:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-20|修改:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-21|删除:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-22|索引延迟:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-23|回滚:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-24|冲突版本:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

回答与引用

  1. LCG-25|事实忠实:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-26|要点完整:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-27|引用可打开:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-28|引用匹配:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-29|无证据拒答:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-30|不确定性:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

安全与恢复

  1. LCG-31|文档注入:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-32|恶意链接:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-33|工具越权:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-34|超时:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-35|依赖失败:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-36|上一版本恢复:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

成本与延迟

  1. LCG-37|冷请求:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-38|缓存命中:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-39|高频查询:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-40|长尾材料:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-41|P95 延迟:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-42|单位成功成本:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

运营与退场

  1. LCG-43|监控告警:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  2. LCG-44|错误复现:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  3. LCG-45|人工接管:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  4. LCG-46|日志脱敏:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  5. LCG-47|数据清理:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。
  6. LCG-48|凭据撤销:使用固定身份、材料版本和任务输入运行三条候选路线;保存装载或检索证据、权限决策、最终上下文、回答与引用、Token 和阶段耗时、质量读回及清理结果。只有预期与实际一致且关键证据可复核时标记 passed;缺少真实权限、账单或可逆环境时标记 blocked,不得用推测补齐。

官方证据、研究来源与核验边界

Google Gemini API 官方长上下文文档说明长上下文能力的必要局部
Google Gemini API 官方长上下文文档必要局部,访问于 2026 年 10 月 12 日。官方展示不等于本站对任意模型、材料长度或任务完成实测。

Google Gemini API 的长上下文文档解释上下文窗口、长材料处理与优化方向;AWS 规范性指导把直接在上下文中传文档与 RAG 作为查询自有文档的不同路线;Microsoft Azure AI Search 说明 RAG 面临查询理解、多源、Token、响应时间和安全治理挑战,并给出文档级权限处理;Microsoft Foundry 的 RAG 评测资料区分检索过程与回答系统评估。OpenAI 的模型准确性指南把 RAG 放在补充当前任务上下文的问题框架中。学术论文《Lost in the Middle》提供了长输入位置信息使用不稳定的实验观察。它们共同提供方法边界,但不能替代本项目在选定模型、资料和权限条件下的测试。

阅读官方资料时还要分清通用方法与厂商实现。某个云平台提供权限过滤、索引器或评测器,不代表换到另一套技术栈后会自动具备同等能力;某个模型支持更长窗口,也不代表现有应用已经取消截断、缓存或历史压缩。采购与架构评审应把模型能力、检索服务、应用代码、身份系统、数据源和观测链分别列出负责人,再用端到端用例证明它们共同工作。只引用单个产品页面不能替代这条证据链。

与站内相邻任务怎样分工

Embedding 与 RAG 验收继续展开召回、重排和回答评测;大模型 API 成本核算提供缓存、Batch、工具与重试的任务台账;结构化输出验收处理 Schema、语义和幂等;Computer Use 安全操作处理网页动作隔离和回滚。本文只回答证据应怎样进入模型、三条路线如何比较以及怎样验收,不把相邻主题重复成长篇背景。

本文能证明和不能证明什么

资料核验日期为 2026 年 10 月 12 日。本站没有使用商业账户运行 Gemini、OpenAI、Microsoft 或 AWS 的生产工作负载,没有取得某一方案的真实准确率、费用或延迟,也没有取得 Bing Webmaster、Search Console、流量、排名、点击、CTR 或转化数据。原创图解释选择与验收关系,官方证据图只证明访问时页面的公开说明;四十八项合同是可复用模板,不是已执行结果。任何模型窗口、价格、缓存、服务层级、地区、权限能力或预览状态变化后,都应重新打开官方来源并用自己的任务集验证。