Ian Wang
Index

← 播客 / Podcast

人工智能行业又来造次(词)|从"提示词工程"到"上下文工程"
EP 95 · 55 min

人工智能行业又来造次(词)|从"提示词工程"到"上下文工程"

AI界每天都在涌现新产品、新理念,当然也包括新名词。这次我们深入探讨上下文工程(Context Engineering)这个最近火爆的新词——从它的起源、定义,到它如何在复杂的智能体协作中发挥关键作用,再到"上下文工程"究竟比"提示词工程"好在哪里,以及我们该如何看待AI行业里层出不穷的"造词运动"。

在此页收听 / Listen here

在小宇宙收听 ↗

这期讲了什么

从”提示词工程”到”上下文工程”,一个新词的诞生与发酵——

  • Context是什么?:Context是一个跨越语言学、神经科学与计算机科学的多义词;在语言学中它是”语境”——同一句话在不同情境下目的和效果截然不同;在计算机科学中它是”上下文”——任务中断恢复所需的最小数据集;在大模型领域,Context综合了两层含义,既是关联的语境信息,也是推动LLM运行的”工作记忆”
  • Context Engineering的提出与传播:2025年4月Braintrust CEO Ankur Goyal率先在X上使用这一术语;6月Shopify CEO Tobias Lütke公开背书,认为它比”提示词工程”更准确地描述了核心技能;Devin创始人Walden Yan在《Don’t Build Multi-Agents》中系统阐述了串行vs并行Agent协作中的上下文传递原则,提出”共享完整Agent轨迹而非单个消息”的核心主张;HumanLayer创始人Dexter Horthy进一步梳理了上下文的五大组成:提示指令、RAG检索文档、工具调用历史、记忆、输出格式指示
  • LangChain的正式定义:6月23日LangChain发布文章,给出权威定义——“构建动态系统,以正确的信息和工具,采用合适的格式,使LLM能够合理地完成任务”;关键特征:系统性(多来源整合)、动态性(非静态模板)、准确性(垃圾进垃圾出);Lance Martin进一步提出三大上下文管理策略:压缩(Compressing)、持久化(Persisting)、隔离(Isolating)——分别应对上下文窗口溢出、跨会话记忆、多Agent协调等实际挑战
  • Andrej Karpathy背书与概念升华:Karpathy在6月25日表示”+1”支持,并将上下文工程定义为”在工业级LLM应用中,用恰当信息填充上下文窗口的艺术与科学”;他强调上下文工程只是整个LLM工程栈的一部分,还需要问题分解、控制流设计、模型选择、UI/UX生成验证、安全护栏等;他明确指出”ChatGPT套壳”这种理解早已过时——真正的工业级应用需要系统化的上下文工程
  • AI行业的造词运动:支持还是反对?:支持的一面——新领域确实需要新词来快速概括复杂现象,新词能映射时代心理与价值观,语言需要保持生命力;反对的一面——为时髦和炒作而随意造词,形成语言泡沫,缺乏持久语义支撑,有时沦为圈子划分工具;“版本号造词法”(1.0/2.0/3.0)是较保守的替代方案,但也有其局限
  • 语境对人类与AI沟通的深层意义:萧伯纳的名言”沟通中最大的问题是误以为沟通已经发生”同样适用于人机交互;提示词工程是”初识阶段的问答”,上下文工程则是让AI真正”了解你”的系统化方法;中国在工程实践上有独特优势,大模型是科学,上下文和提示词是工程,中国人更擅长工程

几个关键判断

  • 上下文工程不是”新瓶装旧酒”,而是范式的升级——提示词工程是上下文工程的子集;区别在于,前者是精心措辞单一输入,后者是构建动态系统,从多个来源在正确的时机以正确的格式向LLM注入恰当信息;随着Agent变得复杂,这个区别越来越重要
  • Agent出错的首要原因是上下文,而不是模型本身——随着模型越来越强,“模型不够好”的借口越来越难站住脚;更多时候是上下文的格式不对、信息不足或信息冗余导致性能下降;这正是上下文工程价值所在
  • 上下文的三大工程挑战:压缩、持久化、隔离——上下文窗口是有限资源,如何在保留关键决策信息的同时避免溢出,是构建长期运行Agent的核心工程问题;Claude Code的”自动压缩”就是这一思路的典型实现
  • 新词的传播路径是可预测的——Karpathy、Shopify CEO这样的意见领袖背书,LangChain这样的工具链公司给出正式定义,最终完成破圈;理解这个传播链路,才能分辨哪些新词会长期存在,哪些只是昙花一现

时间轴

  • 03:02 什么是Context?(语境、情景、上下文的三重含义)
  • 08:34 上下文工程的提出:Ankur Goyal、Tobias Lütke、Walden Yan、Dexter Horthy
  • 19:34 上下文工程的发酵与传播:LangChain、Lance Martin、Andrej Karpathy、Philipp
  • 42:18 支持还是反对AI行业中的造词运动?
  • 46:03 语境对人类及AI沟通的根本重要性

推荐阅读

  • 个人长文:《人工智能行业又来造次(词)|从”提示词工程”到”上下文工程”》
  • Walden Yan (Cognition): “Don’t Build Multi-Agents”
  • LangChain: “The rise of ‘context engineering’”
  • Lance Martin: “Context Engineering for Agents”
  • Philipp (Google DeepMind): “The New Skill in AI is Not Prompting, It’s Context Engineering”