本文深入探讨了上下文工程在真实业务中大模型应用中的重要性阐述了如何通过精心设计模型输入来提升其理解能力和回答质量。文章详细介绍了上下文工程的四类核心动作保存、选择、压缩和隔离并分析了在Agent系统中上下文是如何流动和优化的。最后提出了六个关键问题帮助读者评估和改进自己的上下文工程实践强调了上下文工程在未来AI应用竞争中的核心地位。过去一段时间大家谈大模型应用最常听到的词是 Prompt Engineering。写好角色、写清任务、给出格式、补上约束模型的回答确实会稳定很多。可一旦我们把大模型放进真实业务问题马上变复杂它不只是要“回答一句话”还要读资料、查知识库、调用工具、理解历史对话、处理工具返回结果甚至在多轮执行中不断修正自己的下一步动作。这时候真正决定效果的往往不是那一句提示词而是模型到底看到了什么。这就是今天要聊的关键词Context Engineering上下文工程。一句话概括Context Engineering 关注的不是训练一个新模型而是在有限的 Context Window 里精心设计模型看到的输入让它理解更准、回答更好、成本更低。图 1上下文工程不是“把所有资料塞进去”而是把原始信息加工成高质量 Context。一、先说清楚Context 到底是什么从外部看大模型很像一个函数你给它输入它给你输出。这里的输入就是 Context。它不只是用户当前问的那句话还可能包括系统指令和角色设定用户问题和补充说明历史对话相关资料和知识库片段可用工具列表工具调用结果当前任务状态约束条件和验收标准模型会基于这些内容生成答案。换句话说模型不是在真空里思考它是在你给它搭好的“信息房间”里做判断。而 Context Window就是这个信息房间的容量上限。不同模型能容纳的 token 数不同有的很大有的较小。视频里也举了几个模型窗口大小的例子。但具体数值会随着产品版本变化而变化我们不用死记参数真正需要记住的是这个事实无论窗口有多大它都不是无限的即使它足够大也不代表你应该把所有东西都扔进去。二、为什么“全部塞进去”不是好办法很多团队刚做 AI 应用时会自然想到一个朴素方案既然模型需要背景资料那我把产品手册、知识库、历史记录、FAQ、接口文档全部丢给它不就行了吗听起来合理但实际往往行不通。原因主要有三个。第一窗口容量仍然有限。大模型的 Context Window 再大也有上限。尤其在生产系统里为了成本、速度或稳定性很多场景并不会使用最大窗口、最高规格的模型。一个复杂产品的文档、历史工单、代码仓库、日志和用户上下文很容易超过模型能处理的范围。第二输入越杂理解越容易跑偏。资料不是越多越好。没有筛选的资料里可能有重复内容、过期内容、互相矛盾的说明、与问题无关的章节。模型看到一堆噪声后并不会自动变得更聪明反而可能混淆重点输出含糊、保守甚至错误的答案。第三输入越多调用成本越高。大语言模型通常按 token 计费。上下文越长费用越高延迟也可能更高。对一个低频 Demo 来说这可能不明显但一旦进入客服、办公、代码助手、数据分析这类高频场景不受控制的 Context 会直接变成成本问题。所以上下文工程的第一层认知是优化输入就是优化效果优化输入也是优化成本。三、为什么现在 Context Engineering 变重要了Context 这个概念一直都存在但 Context Engineering 最近变热背后有两个变化。第一个变化是模型已经足够强了。早期模型能力不足时很多问题确实是模型本身不会。可现在的模型已经能完成复杂推理、代码生成、文档总结和工具规划。很多时候模型答不好不是因为它完全没能力而是因为我们没有给它清晰、完整、相关、可执行的信息。也就是说问题从“模型会不会”变成了“我们有没有把任务现场搭好”。第二个变化是Agent 兴起了。Agent 不只是聊天它会使用工具、读取环境、写入文件、调用 API、观察结果再决定下一步动作。每一次工具调用都会产生新的工具说明、参数、返回值、日志、错误信息和中间结论。这些内容都会进入 Context。如果不管理Agent 跑一会儿之后上下文窗口就会被历史消息和工具结果填满。更糟的是旧错误、旧假设、无关日志还会继续影响后续判断。所以对于 Agent 来说Context Engineering 不是锦上添花而是执行系统的地基。四、上下文工程的四类动作视频借鉴了 LangChain 对 Context Engineering 的拆分方式可以把它理解成四类动作保存 Context、选择 Context、压缩 Context、隔离 Context。图 2四类动作共同决定模型在每次请求里能看到什么。1. 保存 Context让重要信息能被长期记住保存 Context解决的是信息持久化问题。有些信息不是当前这一轮对话才有价值而是未来长期有用。比如用户姓名、偏好、写作风格企业业务规则项目技术栈常用输出格式已确认过的事实某个任务的阶段性结论这类信息不应该每次都靠用户重复输入也不应该永远堆在当前对话里。更好的方式是经过筛选和总结后保存到记忆、文件、数据库或状态存储里在需要时再取出来。ChatGPT 的记忆功能就是一个直观例子。用户在对话里提到某些长期偏好后系统会把它保存下来后续对话再动态引用。但“保存”只是第一步。真正难的是以后什么时候取出来取哪几条取出来后以什么形式放进模型输入这就进入第二个动作。2. 选择 Context不要给最多要给最相关选择 Context是上下文工程里最核心的一步。它要解决的问题是面对海量资料模型当前这次请求到底应该看什么选择可以分成两类。第一类是静态选择。静态选择指的是那些每次都应该放进 Context 的内容。比如系统指令安全边界输出格式要求项目编码规范团队约定在代码 Agent 场景里Cursor 的 rules 文件、Claude Code 的CLAUDE.md都属于这类信息。它们通常不长但非常关键相当于给 Agent 设定基本工作规则。第二类是动态选择。动态选择指的是根据当前问题从知识库、记忆库、工具库、文档库里选出最相关的内容。比如用户问某个售后政策只检索相关政策段落而不是塞进整本手册Agent 面对几十个工具只把最可能用到的几个工具说明放进 Context系统从历史对话里选择与当前任务有关的记忆而不是把所有聊天记录都拼进去RAG 本质上就是一种动态选择先根据问题检索相关资料再把检索结果放入模型上下文。好的选择策略像一个靠谱的资料管理员不把仓库搬到你桌上只把你此刻需要的那几页摊开。3. 压缩 Context让长历史变成短状态Agent 一旦开始多轮执行Context 会迅速膨胀。膨胀最快的通常是两类内容模型自己的输出和中间分析工具执行结果、报错、日志、代码片段如果每一轮都原封不动保留Context Window 很快会被历史内容占满。更现实的问题是模型后续需要的并不是所有原始过程而是当前仍然有价值的状态。所以要压缩。压缩不是简单删掉而是把长历史总结成更短、更结构化、更有用的状态。例如已经尝试过哪些方案哪些假设被证伪当前文件改了什么哪些测试失败下一步应该继续检查哪里哪些用户约束必须保留视频里提到 Claude Code 的 auto-compact 机制当上下文使用量接近上限时它会对之前内容做总结把原始长历史替换成更短的摘要。用户也可以在项目说明里指定压缩时重点保留什么比如测试输出和代码改动。这背后的思路很重要压缩不是为了让模型忘记而是为了让模型记住真正还重要的东西。4. 隔离 Context别让不同任务互相污染隔离 Context常见于 Multi-Agent 或复杂模块化系统。它的意思是不同任务、不同模块、不同 sub-agent 拥有各自独立的上下文互不干扰。比如一个研究型 Agent 系统里可以有一个 Lead Agent 负责任务拆解和最终汇总再把子任务交给不同 sub-agent一个 sub-agent 负责查 PDF一个 sub-agent 负责查网页一个 sub-agent 负责查图片或数据每个 sub-agent 有自己的工具、运行历史和中间结论。它们完成任务后只把整理后的结果交给 Lead Agent而不是把所有原始搜索过程都混在同一个上下文窗口里。图 3Context 隔离可以降低不同任务之间的信息污染。这带来一个好处一个子任务里的噪声、错误尝试和长历史不会污染另一个子任务的判断空间。不过多智能体不是越多越好。Cognition 的文章《Don’t Build Multi-Agents》也提醒过盲目并行多个 Agent容易带来协调成本和上下文混乱。如果确实要拆成多个 Agent关键不是“多”而是边界清楚、交接清楚、上下文清楚。五、一条 Agent 链路里Context 是怎么流动的从用户视角看一次 Agent 任务可能只是一句话“帮我分析这个问题并给出可执行方案。”但在系统内部它往往会发生一整条链路。图 4一次 Agent 任务中Context 会随着检索、工具调用、观察反馈和压缩不断更新。可以把这条链路拆成几个阶段第一应用入口接收用户目标识别任务类型、边界和验收标准。第二Context 层读取静态规则比如系统指令、业务规则、项目约定。第三系统根据当前问题检索动态资料比如知识库片段、历史记忆、工具说明。第四系统把这些内容组装成高质量 Context交给 LLM 或 Agent。第五Agent 根据当前 Context 决定是否调用工具并把工具返回结果变成新的观察。第六Context 层把有价值的信息写入状态必要时压缩旧历史。第七系统验证结果是否满足要求再决定交付、重试还是请求用户确认。这就是为什么优秀 Agent 系统的工程量常常不在“提示词那几行”而在提示词周围的上下文链路。六、落地时可以从这六个问题开始如果你正在做一个真实 AI 应用不妨用下面六个问题检查自己的 Context Engineering 是否够扎实。哪些信息必须每次都在场这些通常是安全规则、业务边界、输出格式、项目规范。它们适合做静态上下文。哪些信息应该长期保存比如用户偏好、任务状态、组织知识、历史结论。它们适合进入记忆或状态存储。当前问题需要从哪里动态选择资料可能是向量库、全文搜索、数据库、文件系统、工具注册表也可能是历史对话。工具调用结果要不要原样进入 Context很多工具结果太长、太脏、太细。更好的做法是结构化、摘要化、去噪后再给模型。历史什么时候压缩压缩时保留什么不要等窗口爆了才想办法。提前定义压缩触发条件和保留重点尤其要保留失败原因、关键证据和用户约束。哪些任务需要隔离上下文如果多个子任务目标不同、工具不同、资料来源不同就应该考虑隔离而不是全塞进一个 Agent 的大脑里。七、最后Prompt 是一句话Context 是一套工作现场Prompt Engineering 仍然重要。但它更像是告诉模型“你要怎么做”。而 Context Engineering 解决的是另一个更大的问题模型在做事时应该看到什么、不该看到什么、什么时候看到、以什么结构看到。当 AI 应用还只是问答工具时提示词可以解决很多问题。但当 AI 应用开始变成 Agent开始调用工具、处理资料、跨步骤执行、保存状态、持续迭代时真正决定系统上限的就变成了上下文工程。未来的 AI 应用竞争很可能不只是模型能力竞争也不是提示词模板竞争而是上下文组织能力的竞争。谁能把复杂现实整理成模型刚好能理解、刚好能使用、刚好能验证的输入谁就更接近可用、可靠、可规模化的 AI 系统。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取