提示词工程教模型怎么想,上下文工程决定模型”眼前摆了什么”。同样的模型,上下文装得好坏,输出质量能差出档次。这一步比写提示词更底层。
快速结论
- 上下文工程是往模型窗口里装什么、怎么排、何时压。
- 它比提示词更底层:窗口内容直接决定模型能看到啥。
- 核心是相关性、顺序、压缩、维护四件事。
- 装得多不如装得准,噪音会淹没有用信息。
它和提示词工程啥关系
提示词是”你给模型的指令”,上下文是”你同时摆进窗口的所有材料”:系统设定、历史对话、检索到的资料、工具返回。指令再好,材料全是噪音,模型也答不好。
两者是层的关系:上下文是地基,提示词是上面的指挥。很多”提示词不行”的锅,其实是上下文装错了——该给的没给、不该给的塞满。先查上下文,再怪提示词。
装什么比装多少重要
新手爱把能找的资料全塞进窗口,结果重点被稀释。上下文工程的第一原则是相关性:只放当前任务真正用得上的,宁少勿杂。一条高相关信息,胜过十条边角。
判断装不装,问一句”这条缺了模型会答错吗”。会,就装;不会,就舍。把窗口当寸土寸金的桌面,只摆正在用的文件,模型和读者一样,桌面清爽才高效。
顺序也有讲究
模型对窗口开头和结尾的内容更敏感,中间易被忽略。把最关键的材料(如硬约束、核心资料)放在首尾,次要的放中间,命中率明显不同。顺序不是排版,是注意力分配。
还要把”指令”和”材料”摆对关系:指令说”只依以下资料答”,资料就得紧跟其后,别隔着一大段历史。让指令紧挨着它要约束的内容,模型才不跑偏。
超窗口就要压缩
任务一长,原始对话和资料必然超窗口。做法是逐步摘要:每完成一步,把这一步压成要点保留,原始流水丢弃。压缩保住关键信息,又不撑爆窗口。
压缩要保结构:别只留结论丢了”依据来自哪段资料”,否则后续无法溯源。好的压缩像写纪要,要点加出处,而不是把过程抹成一句话。压缩有度,才不丢链。
动态维护别一成不变
上下文不是装一次就定。任务推进时,旧的失效信息要删,新的关键材料要加。维护是持续的:每隔几步清一次过期、补一次重点,窗口始终”当前相关”。
不维护的上下文会腐化:早期错误的临时结论一直占着位置,模型反复参考它犯错。把维护当习惯,而非出错了才收拾。动态,是上下文工程的生命线。
检索结果怎么摆
RAG 捞回的片段是上下文的重要来源。摆法有讲究:先放最相关的几条在关键位,附上来源标记;多篇冲突时,把权威源放前并标注”以为准”。模型才有据可依。
还要控制数量,别捞回十篇全塞。按相关度截断到三五篇,既够用又不淹模型。检索与上下文是上下游,检索准了,上下文才好装;装得好,检索才不白费。
工具返回怎么处理
函数调用返回的原始数据常冗长(如一整页接口响应)。直接全摆进上下文,噪音爆棚。做法是先抽取关键字段,只把模型下一步要用的那部分放进去。
抽取时保留必要结构,比如”状态码+关键字段+摘要”,而非裸 JSON。模型读得懂的结构化摘要,比原始大对象有用。处理工具返回,是上下文工程里最易被忽略的一环。
常见三个坑
坑一:越多越好,塞满噪音淹没重点。坑二:顺序随意,关键信息埋中间被忽略。坑三:不压缩不维护,窗口腐化带偏模型。
三者都靠”重相关、讲顺序、勤压缩、常维护”化解。上下文工程不是技术炫技,而是把模型眼前的桌面收拾干净的基本功。
和记忆怎么配合
上下文管”当下窗口里有什么”,记忆管”跨任务积累什么”。两者衔接:记忆里捞回的相关条目,经上下文工程筛选排布后喂给模型,模型用毕再把新经验写回记忆。
配合得好,模型既不被窗口限制(靠压缩),又不丢失历史(靠记忆)。把上下文当短期工作台、记忆当长期档案,职责分清,智能体才既稳又连贯。
衡量上下文工程好坏
看两个信号:同样模型同样提示词,换不同上下文装法,输出质量差异多大——差异大说明这步很值;以及无关信息占比是否低、关键信息是否都在首尾。
更实用的是做对照实验:固定模型和提示词,只改上下文的装法与排法,看任务成功率起落。用对照说话,上下文工程才从玄学变成可优化环节。
从一次改起别想完美
别想一次把上下文工程做完美。先挑一个最影响质量的环节动手,比如先把关键信息排到首尾,看输出是否立竿见影,再滚雪球优化其余环节,改动小、见效快。
优化靠对照而非感觉:每次只改一处装法,比改动前后答对比。变量少,你才分得清哪招真管用。上下文工程是迭代活,不是一锤子买卖,越调越准。
图:上下文工程 核心要点(运营GO 整理)
| 动作 | 做什么 | 易错 |
|---|---|---|
| 装 | 只放相关的 | 越多越好 |
| 排 | 关键放首尾 | 顺序随意 |
| 压 | 超窗就摘要 | 堆原始 |
| 维护 | 删旧补新 | 一成不变 |
延伸阅读:什么是 Prompt(提示词)、什么是 RAG 检索增强生成。
下一步行动清单
- 只装当前任务真正用得上的,宁少勿杂。
- 关键材料与硬约束放窗口首尾。
- 超窗口就逐步摘要,保要点与出处。
- 每几步清过期、补重点,动态维护。
- 工具返回先抽关键字段再入上下文。


