长上下文 vs RAG

背景：2026 年主流前沿模型（GPT-5.5、Claude Opus 4.7、Gemini 3.1 Pro、DeepSeek V4）上下文均破 1M Token。"RAG 已死"论一度喧嚣，行业共识收敛：各有所长，混合路由。

残酷真相："能接受 1M token"≠"能推理 1M token"。NIAH 单针测试 99%+，但 NoLiMa 多事实召回仅 60-70%，NeedleChain 链式推理 40-50%——Lost in the Middle 未解决，只是给了你更多可丢的中段。

成本对比（同模型，每次查询）

→ 长上下文比 RAG 贵最高 1250×；上下文缓存（Gemini/Claude 缓存 token 大幅折扣）可收窄差距，但要求内容静态+流量持续。

选择框架

• 长上下文胜：全文档综合、代码仓库全局分析、双合同比对、100 篇文献综述——需要"纵观全局"

• RAG 胜：语料超窗口、数据高频更新、多租户权限过滤、延迟敏感、监管要求可追溯、数据不出域

• 相关性比 <20% 时，RAG 稳定领先 13+ F1 分

最佳实践（2026）：混合路由——分类器判断查询类型（事实查找→RAG；全局综合→长上下文；复杂多跳→先 RAG 召回再整篇注入长上下文）。Self-Route 让模型自选路径效果更佳。

结论：上下文窗口没杀死 RAG，而是打开了新架构选项。检索负责缩小范围，长上下文负责深度推理。很多团队的"知识库"其实 <500K token——小数据问题别用大数据工具硬解。