Files
analysis_claude_code/s10_system_prompt/README.ja.md

9.4 KiB
Raw Blame History

s10: Context Assembly — 実行時にモデル入力を組み立てる

English · 中文 · 日本語

s01 → ... → s08 → s09 → s10s11 → s12 → ... → s20 → s21 → s22

"モデル入力は組み立てるもの、固定するものではない" — 安定セクション + 実行時状態 + キャッシュ。

Harness レイヤー: コンテキスト組み立て — 安定した指示と動的状態をモデル入力にまとめる。


課題

s01 から s09 まで、system prompt は常に 1 行のハードコード:

SYSTEM = f"You are a coding agent at {WORKDIR}. Use tools to solve tasks."

s01 では十分だった。bash、read、write の 3 ツールのみ。しかし s09 では、Agent に記憶、圧縮、スキル読み込みがある。prompt が説明すべき能力が増え続ける:

SYSTEM = (
    f"You are a coding agent at {WORKDIR}. "
    "Use tools to solve tasks. Act, don't explain. "
    "Before starting any multi-step task, use todo_write. "
    "Skills are available via list_skills and load_skill. "
    "Relevant memories are injected below when available. "
    # ... 能力を追加するたびに 1 行増える
)

3 つの問題:

  1. プロジェクトを変えるには prompt 全体を書き直す必要がある。何を変え、何を残すべきか不明
  2. 一箇所の変更が全体に影響する。ツール説明を追加すると、前の指示と矛盾する可能性
  3. 毎回のリクエストが全内容を送信する。現在の会話で不要なセクションも token を無駄に消費

System prompt は、実行時の現在状態に基づいて組み立てられる設定であるべき:どのツールが有効か、どのコンテキストが可視か、どの記憶が関連するか、どの内容を prompt cache に命中させるために安定させるべきか。


ソリューション

System Prompt Overview

s10 はコンテキスト管理とエラー回復をつなぐ短い橋渡しセッションである。新しいストレージを追加せず、s08 と s09 も統合しない。両者の出力がモデル境界でどう合流するかを示す:ハードコードされた SYSTEM を独立セクションに分割し、実際の実行時状態から組み立て、結果をキャッシュする。

4 つのセクション、2 つの読み込み戦略:

セクション 戦略 内容 判断基準
identity 常に あなたは誰か、どう作業するか 常に存在
tools 常に 利用可能ツール一覧 enabled_tools
workspace 常に 作業ディレクトリ 常に存在
memory オンデマンド 関連記憶内容 .memory/MEMORY.md が存在するか

重要な設計:セクションをロードするかどうかは実際の状態(ツールが存在するか、ファイルが存在するか)で決まり、メッセージ内のキーワードではない。


仕組み

PROMPT_SECTIONS: トピック別フラグメント

単一の文字列を辞書に分割、各キーがトピック:

PROMPT_SECTIONS = {
    "identity": "You are a coding agent. Act, don't explain.",
}

各セクションは独立して管理。tools を変更しても identity に影響しない。memory を追加しても workspace はそのまま。

assemble_system_prompt: オンデマンド組み立て

すべてのセクションが毎ターン必要なわけではない。記憶ファイルがなければ、memory セクションをロードしても token の無駄。context の実際の状態に基づいて組み立てる:

def assemble_system_prompt(context: dict) -> str:
    sections = []

    # 常にロード
    sections.append(PROMPT_SECTIONS["identity"])

    # context から動的に tools と workspace を取得
    tools = ", ".join(context.get("enabled_tools", []))
    if tools:
        sections.append(f"Available tools: {tools}.")
    sections.append(f"Working directory: {context.get('workspace', WORKDIR)}")

    # オンデマンド — 実際の状態に基づく、キーワードではない
    memories = context.get("memories", "")
    if memories:
        sections.append(f"Relevant memories:\n{memories}")

    return "\n\n".join(sections)

「常にロード」は毎ターン必要なもの:アイデンティティ、ツール、作業ディレクトリ。「オンデマンド」は特定条件下でのみ有用。

なぜ全部ロードしないのかtoken にはコストがありsystem prompt は毎ターン課金)、情報が少ないほど LLM は集中する(無関係な指示はノイズ)。

get_system_prompt: キャッシュで再組み立てを回避

コンテキストが変わっていない時(同じターン内で複数の LLM 呼び出し、context が同じ)、再組み立ては無駄。確定的シリアライズで変化を検出し、キャッシュヒット時は即座に返却:

def get_system_prompt(context: dict) -> str:
    global _last_context_key, _last_prompt
    key = json.dumps(context, sort_keys=True, ensure_ascii=False, default=str)
    if key == _last_context_key and _last_prompt:
        return _last_prompt
    _last_context_key = key
    _last_prompt = assemble_system_prompt(context)
    return _last_prompt

hash() ではなく json.dumps を使用Python 組み込みの hash() にはプロセスランダム化があり安定したキャッシュキーに不適切、list/dict で unhashable type エラーになる。

注意このキャッシュは「プロセス内での文字列再組み立ての回避」のみ。CC の API prompt cache とは別物。CC の prompt cache は SYSTEM_PROMPT_DYNAMIC_BOUNDARY で静的/動的部分を分離し、静的部分が global cache に命中する。動的内容が変化しても静的部分は無効化されない。

context: 実際の状態、キーワード推測ではない

context は現在の実行時状態の実際の状態を反映:

def update_context(context: dict, messages: list) -> dict:
    memories = ""
    if MEMORY_INDEX.exists():
        content = MEMORY_INDEX.read_text().strip()
        if content:
            memories = content
    return {
        "enabled_tools": list(TOOL_HANDLERS.keys()),
        "workspace": str(WORKDIR),
        "memories": memories,
    }

enabled_tools は実際に登録されたツールを一覧。memories.memory/MEMORY.md が存在するかを確認。セクションの読み込みはこの実際の状態に基づき、メッセージ内のキーワード検索ではない。

組み合わせて実行

def agent_loop(messages: list, context: dict):
    system = get_system_prompt(context)
    while True:
        response = client.messages.create(
            model=MODEL, system=system, messages=messages,
            tools=TOOLS, max_tokens=8000)
        # ... ツール実行 ...
        context = update_context(context, messages)
        system = get_system_prompt(context)

各ループ反復の開始時に system prompt を取得。context が変わっていれば再組み立て、変わっていなければキャッシュを返却。


s09 からの変更点

コンポーネント 変更前 (s09) 変更後 (s10)
prompt ハードコード SYSTEM 文字列 PROMPT_SECTIONS + assemble_system_prompt
キャッシュ なし get_system_promptjson.dumps 検出 + キャッシュ)
新規関数 assemble_system_prompt, get_system_prompt, update_context
ツール bash, read_file, write_file (3) bash, read_file, write_file (3) — 変更なし
ループ 固定 SYSTEM を使用 get_system_prompt(context) を使用

試してみよう

cd learn-claude-code
python s10_system_prompt/code.py

安全上の注意:この集中教材はモデルが渡す bash 文字列を shell=True で実行し、s03 の permission gate を省略している。破棄可能な workspace だけで実行し、本番 harness では permission と sandbox の境界を戻すこと。

観察のポイント:

  1. 出力にロードされたセクションが表示される([assembled] sections: ... ラベル)
  2. 継続会話でキャッシュヒット時は [cache hit] と表示
  3. .memory/MEMORY.md を作成すると、次のターンで memory セクションが自動ロード

以下のプロンプトを試してみてください:

  1. Read the file README.md(常にロードされる 3 つのセクションを観察)
  2. Create a file called .memory/MEMORY.md with content "- [test](test.md) — test memory"(記憶インデックスを書き込み)
  3. Read the file code.pymemory セクションが表示されるか観察)

次へ

モデル入力を実行時に組み立てられるようになった。しかし Agent はエラーでまだクラッシュする。ネットワークの不安定性、API レート制限、出力の切り詰め、コンテキスト超過、これらはバグではなく日常。

s11 Error Recovery → 4 つのリカバリパス。token のアップグレード、コンテキスト圧縮、指数バックオフ、モデル切り替え。