# s10: Context Assembly — 在运行时组装模型输入 [English](README.md) · [中文](README.zh.md) · [日本語](README.ja.md) s01 → ... → s08 → s09 → `s10` → [s11](../s11_error_recovery/) → s12 → ... → s18 → s19 > *"模型输入是组装出来的,不是写死的"* — 稳定分段 + 运行时状态 + 缓存。 > > **Harness 层**: 上下文组装 — 把稳定指令和动态状态组成模型输入。 --- ## 问题 从 s01 到 s09,system prompt 都是一行硬编码: ```python SYSTEM = f"You are a coding agent at {WORKDIR}. Use tools to solve tasks." ``` s01 够用,只有 bash、read、write 三个工具。但到 s09,Agent 已经有记忆、有压缩、有技能加载。prompt 该提的能力越来越多: ```python SYSTEM = ( f"You are a coding agent at {WORKDIR}. " "Use tools to solve tasks. Act, don't explain. " "Before starting any multi-step task, use todo_write. " "Skills are available via list_skills and load_skill. " "Relevant memories are injected below when available. " # ... 加一个能力就多一段 ) ``` 三个问题: 1. **换项目要重写整个 prompt**,不知道哪些该改、哪些该留 2. **修改一处可能影响全局**,加一段工具描述可能跟前面的指令冲突 3. **每次请求都带全部内容**,即使当前对话用不到某些段落也浪费 token System prompt 应该是运行时根据当前状态组装的配置:哪些工具启用、哪些上下文可见、哪些记忆相关、哪些内容必须保持稳定以命中 prompt cache。 --- ## 解决方案 ![System Prompt Overview](images/system-prompt-overview.svg) s10 是上下文管理与错误恢复之间的一节短桥接课。它不增加新的存储系统,也不把 s08 与 s09 合并;它只展示两者的输出如何在模型边界汇合:把硬编码的 `SYSTEM` 拆成独立段落(section),运行时根据真实状态按需拼接,并缓存结果。 四个 section,两种加载策略: | Section | 加载策略 | 内容 | 判断依据 | |---------|---------|------|---------| | identity | 始终 | 你是谁、怎么做事 | 始终存在 | | tools | 始终 | 可用工具列表 | `enabled_tools` | | workspace | 始终 | 工作目录 | 始终存在 | | memory | 按需 | 相关记忆内容 | `.memory/MEMORY.md` 是否存在 | 关键设计:section 是否加载取决于真实状态(工具是否存在、文件是否存在),不是消息里的关键词。 --- ## 工作原理 ### PROMPT_SECTIONS: 分段定义 把一大段字符串拆成字典,每个 key 是一个主题: ```python PROMPT_SECTIONS = { "identity": "You are a coding agent. Act, don't explain.", } ``` 每个 section 独立维护。修改 `tools` 不影响 `identity`,新增 `memory` 不动 `workspace`。 ### assemble_system_prompt: 按需拼接 不是所有 section 每次都需要。当前没有记忆文件,加载 memory section 只是浪费 token。根据 context 的真实状态决定加载哪些: ```python def assemble_system_prompt(context: dict) -> str: sections = [] # 始终加载 sections.append(PROMPT_SECTIONS["identity"]) # 从 context 动态获取 tools 和 workspace tools = ", ".join(context.get("enabled_tools", [])) if tools: sections.append(f"Available tools: {tools}.") sections.append(f"Working directory: {context.get('workspace', WORKDIR)}") # 按需加载 — 基于真实状态,不是关键词 memories = context.get("memories", "") if memories: sections.append(f"Relevant memories:\n{memories}") return "\n\n".join(sections) ``` "始终加载"的是每轮都需要的:身份、工具、工作目录。"按需加载"的只在特定条件下才有用。 为什么不全加载?token 有成本(system prompt 每轮计费),信息越少 LLM 越专注(无关指令是噪音)。 ### get_system_prompt: 缓存避免重复拼接 上下文没变时(同一轮对话的多次 LLM 调用,context 相同),重新拼接是浪费。用确定性序列化检测变化,命中缓存直接返回: ```python def get_system_prompt(context: dict) -> str: global _last_context_key, _last_prompt key = json.dumps(context, sort_keys=True, ensure_ascii=False, default=str) if key == _last_context_key and _last_prompt: return _last_prompt _last_context_key = key _last_prompt = assemble_system_prompt(context) return _last_prompt ``` 用 `json.dumps` 而不是 `hash()`:Python 内置 `hash()` 有进程随机化,不适合做稳定 cache key,而且遇到 list/dict 会报 `unhashable type`。 ### context: 真实状态,不是关键词猜测 context 反映当前运行态的真实状态: ```python def update_context(context: dict, messages: list) -> dict: memories = "" if MEMORY_INDEX.exists(): content = MEMORY_INDEX.read_text().strip() if content: memories = content return { "enabled_tools": list(TOOL_HANDLERS.keys()), "workspace": str(WORKDIR), "memories": memories, } ``` `enabled_tools` 列出实际注册的工具。`memories` 检查 `.memory/MEMORY.md` 是否存在。section 加载基于这些真实状态,不在消息里搜关键词。 ### 合起来跑 ```python def agent_loop(messages: list, context: dict): system = get_system_prompt(context) while True: response = client.messages.create( model=MODEL, system=system, messages=messages, tools=TOOLS, max_tokens=8000) # ... 工具执行 ... context = update_context(context, messages) system = get_system_prompt(context) ``` 每轮循环开头拿一次 system prompt。context 变了就重新组装,没变就返回缓存。 --- ## 相对 s09 的变更 | 组件 | 之前 (s09) | 之后 (s10) | |------|-----------|-----------| | prompt | 硬编码 SYSTEM 字符串 | PROMPT_SECTIONS + assemble_system_prompt | | 缓存 | 无 | get_system_prompt(json.dumps 检测 + 缓存) | | 新函数 | — | assemble_system_prompt, get_system_prompt, update_context | | 工具 | bash, read_file, write_file (3) | bash, read_file, write_file (3) — 不变 | | 循环 | 用固定 SYSTEM | 用 get_system_prompt(context) | --- ## 试一下 ```sh cd learn-claude-code python s10_system_prompt/code.py ``` **安全说明**:脚本使用 `shell=True` 执行模型生成的 `bash` 字符串,并未接入 s03 的权限闸门。请只在可丢弃的工作区中运行。 观察重点: 1. 输出中能看到哪些 section 被加载了(`[assembled] sections: ...` 标签) 2. 连续对话时,缓存命中显示 `[cache hit]` 3. 创建 `.memory/MEMORY.md` 文件后,下一轮 memory section 自动加载 试试这些 prompt: 1. `Read the file README.md`(观察始终加载的三个 section) 2. `Create a file called .memory/MEMORY.md with content "- [test](test.md) — test memory"`(写入记忆索引) 3. `Read the file code.py`(观察 memory section 是否出现) --- ## 接下来 模型输入可以在运行时组装了,但 Agent 碰到错误还是会崩。网络抖动、API 限流、输出被截断、上下文超限,这些不是 bug,是常态。 s11 Error Recovery → 四条恢复路径。升级 token、压缩上下文、指数退避、切换模型。