AIGC

行业资讯

AIGC 进阶实战指南(16)

  • 发布时间
  • 点击次数

上下文工程

定义(Karpathy, 2025):为推理时刻的模型精确组装"刚好够用"的上下文——提示词、检索结果、记忆、工具定义、历史,一个都不能少,也一个都不能多。

范式转移:Prompt Engineering 关注"怎么问",Context Engineering 关注"模型看到什么"。2026 年共识:多数 Agent 失败不是模型失败,而是上下文失败。

关键事实

  • 超 70% 的 LLM 应用错误源自上下文不完整、不相关或结构不良,而非模型能力

  • "Context Rot":上下文越长,召回精度越低(Lost in the Middle 效应)

  • Anthropic 原则:找到最小的高信号 token 集合,最大化目标结果概率

  • 好的上下文能让同一模型性能提升 2-10 倍

四大支柱:知识检索(RAG/GraphRAG)、记忆管理(对话历史+长期记忆)、上下文编排(顺序/格式/预算)、工具与环境(schema+状态)。

实操要点

  1. 静态上下文(规则/API 文档)可缓存,动态上下文(用户状态/实时数据)按需注入

  1. 关键信息放开头或结尾,避免埋中段

  1. Claude Code 系统 Prompt 由 110+ 条件片段运行时拼装——生产级 Prompt 是组装的,不是写死的

  1. 分层结构:身份 → 行为规则 → 格式约束 → 边界情况 → 示例;前 500 词权重最高

  1. 用 XML/标签区分来源,别让模型猜哪段是文档、哪段是指令

Agent 专属:多步执行中每步重建上下文(Just-in-Time),过时的工具输出要清理——"垃圾进,垃圾出"在长任务中指数放大。


JK小助手
转人工 ×