一句话定义,拆开看

上下文工程关心的是:这次任务,模型此刻需要哪几份资料、哪几个工具、按什么顺序给、给多少。提示词工程更像把一句话写漂亮,上下文工程更像给同事准备一个开工前的资料包——少了做不了,多了翻不着。

常见的几种做法

从文档库里检索相关片段再塞进去;把长对话压成一段摘要省位置;把长期记忆和当前会话分层放;把工具的参数和返回格式写清楚。这些都不改模型本身,改的是模型眼前能看到的东西。

一个反直觉的坑

塞得越满不等于越准。上下文一长,模型容易被中间那些无关内容带偏,真正关键的句子反而被淹没,业内管这叫上下文腐烂。所以做得好的系统,花在「删掉什么」上的功夫不比「加进什么」少。

和微调怎么选

缺的是知识、格式、公司内部的规矩,先做上下文;缺的是稳定的行为风格、输出口径,才考虑微调。前者当天就能改、改错了也好回滚,后者一动手就是数据和训练成本。顺序搞反,很容易白忙一场。