refactor: organize agent harness courses

This commit is contained in:
Haoran
2026-06-16 00:10:35 +08:00
parent 20e7cbb72c
commit 8af5c24e46
491 changed files with 7961 additions and 564 deletions

View File

@@ -0,0 +1,229 @@
# s05: Tool Hook Boundary — 执行前后各留一个口子
> *执行是直线,插口在两头。*
> **Pi 边界**:工具插口边界 —— 执行这个动作被掰成 before / run / after中间不变两头可插。
[上一节s04](../s04_evented_tool_loop/) → `s05` → [下一节s06](../s06_turn_snapshot/)
---
## 问题
s04 里provider 一请求工具core 立刻就执行了——中间没有任何介入的余地。
但真实使用中,执行前后往往要做事:执行前想检查"这个工具现在能不能用""参数合不合规",执行后想"给结果脱个敏""记一条日志"。如果这些都写死在执行逻辑里,每改一次规则就得动 core没法按情况调整。
s05 要在执行这个动作的**前后**各留一个插口。
---
## 解决方案
两个插口:
| 插口 | 时机 | 能做什么 |
| --- | --- | --- |
| `beforeToolCall` | 执行前 | 放行allow或拦下block带原因 |
| `afterToolCall` | 执行后 | 保留结果,或改写后再交出去 |
一个 `executeToolCall` 把执行流程串成三段:
```text
beforeToolCall → registry.run() → afterToolCall
```
中间那段还是 s04 的 `registry.run`**ToolRegistry 本身不变**——hook 只是套在外面的一层,不改 core 的执行逻辑。
拦下block时 handler 根本不会跑handler 抛错还是按 s04 的规矩被包成一条结果消息,循环继续。
---
## 工作原理
**先定义插口的返回。** 执行前要么放行、要么拦下并给个原因。
```ts
export type BeforeToolCallResult =
| { type: "allow" }
| { type: "block"; reason: string };
export type ToolHooks = {
beforeToolCall?: (call: ToolCall) => BeforeToolCallResult;
afterToolCall?: (call: ToolCall, result: string) => string;
};
```
两个插口都可选——不配就相当于全放行、不改写。
**把三段串起来。** `executeToolCall` 就是 before → run → after。block 时直接返回handler 不执行handler 抛错在这里收口,不向上传。
```ts
export function executeToolCall(
registry: ToolRegistry,
hooks: ToolHooks,
call: ToolCall,
): ToolResultMessage {
const before = hooks.beforeToolCall?.(call) ?? { type: "allow" };
if (before.type === "block") {
return { role: "toolResult", toolCallId: call.id, content: `blocked: ${before.reason}` };
}
let result: string;
try {
result = registry.run(call);
} catch (error) {
result = `error: ${error instanceof Error ? error.message : String(error)}`;
}
const finalResult = hooks.afterToolCall?.(call, result) ?? result;
return { role: "toolResult", toolCallId: call.id, content: finalResult };
}
```
**接到循环里。** s04 的 `runEventedToolLoop` 现在 `tool_call` 这一步不再直接调 `registry.run`,而是调 `executeToolCall`。对循环来说,拿到的还是一个 ToolResultMessage流程没变——只是中间多过了一层插口。
> 这一节真正建立的是**工具插口边界**:执行被掰成 before / run / after 三段,中间那段是 core 的固定逻辑,两头是可以从外面配置的钩子。后面 s11 的权限检查会直接接到 beforeToolCall 上,但"执行本身不动、规则插在两头"这条规矩,从这里立起来。
---
## 试一下
运行(放行路径):
```sh
npm run s05
```
输出类似:
```text
s05: Tool Hook Boundary
[user]
复读一下 hi
message_start
tool_call: echo
[beforeToolCall]
allow: echo
[afterToolCall]
echo -> hi
tool_result: checked: hi
message_end: toolUse
message_start
text_delta: 工具结果是checked: hi
message_end: stop
[assistant]
content: 工具结果是checked: hi
stopReason: stop
```
再运行(拦截路径):
```sh
npm run s05 -- --case blocked
```
输出类似:
```text
message_start
tool_call: dangerous
[beforeToolCall]
block: dangerous
tool_result: blocked: 这个工具在演示里被禁用
message_end: toolUse
message_start
text_delta: 工具结果是blocked: 这个工具在演示里被禁用
message_end: stop
```
观察重点:放行时 handler 跑了、afterToolCall 把结果改成了 `checked: ...`;拦截时 handler 根本没跑("不该执行到这里"从未出现),结果直接是 `blocked: ...`
---
## 接入主线
s05 在 s04 上累积。相对 s04 的变更:
| 组件 | s04 | s05 |
| --- | --- | --- |
| 新增类型 | — | `BeforeToolCallResult` / `ToolHooks` |
| 新增函数 | — | `executeToolCall`(把 s04 内联的 run + 错误捕获收口到这里) |
| `runEventedToolLoop` | `(state, provider, registry, userInput, output)` | 多一个 `hooks` 参数;`tool_call``executeToolCall` |
| `ToolRegistry` | `register / getSpecs / run` | **不变**R2hook 是外层装饰) |
**焊接点**:循环内 `tool_call``executeToolCall(registry, hooks, call)` → ToolResultMessage 进 messages。registry 未改动hook 套在执行外面。
---
## 接下来
现在每一轮执行,信息都是现场从各个对象里读的。如果一轮开始后外部又改了工具列表或模型名,这一轮就会变得说不清。
下一节会把一轮开始时用到的信息,先集中拍成一份快照。
进入下一节:[s06](../s06_turn_snapshot/)。
---
<details>
<summary>Pi 源码溯源beforeToolCall / afterToolCall 的真实位置</summary>
教学版的 hook 是 `executeToolCall` 里的两个可选函数。Pi 的 hook 长在并发工具执行的 prepare/finalize 两侧,且能拿到比教学版丰富得多的上下文。
### 源码在哪
- `packages/agent/src/types.ts:83``BeforeToolCallContext` / `AfterToolCallContext`
- `packages/agent/src/types.ts:262``beforeToolCall` / `afterToolCall` 签名
- `packages/agent/src/agent-loop.ts:581` — beforeTool 触发点
- `packages/agent/src/agent-loop.ts:676` — afterTool 触发点
### hook 能拿到什么
教学版的 `beforeToolCall(call)` 只拿到 ToolCall。Pi 的 context`types.ts:83`)丰富得多:
```ts
interface BeforeToolCallContext {
assistantMessage: AgentMessage; // 触发这次工具调用的那条 assistant 消息
toolCall: AgentToolCall; // 工具调用本身
args: validatedArgs; // 已经校验过的参数
context: AgentContext; // 本轮的完整快照s06
}
```
hook 能看到"是哪条 assistant 消息要调这个工具""本轮的完整上下文是什么"——不只是孤立的调用。
### beforeTool 能 block
教学版的 block 返回 `{ block, reason }`。Pi 一致(`agent-loop.ts:581`
```ts
if (config.beforeToolCall) {
const beforeResult = await config.beforeToolCall(
{ assistantMessage, toolCall, args, context }, signal);
if (beforeResult?.block) {
return { kind: "immediate",
result: createErrorToolResult(beforeResult.reason || "blocked"),
isError: true };
}
}
```
block 后工具跳过执行,直接生成一条错误结果发回去——和教学版语义一致,但 Pi 把它包成 `kind: "immediate"`(立即返回),无缝接入 s04 的并发执行框架。
### afterTool 能改写结果
教学版的 `afterToolCall(call, result) => string` 只能改 content。Pi 的 `afterToolCall` 能改更多字段错误标记、terminate 标志等),是字段级覆盖、非深度合并。
### hook 是异步的,且能被中断
教学版的 hook 是同步函数。Pi 的 hook 是 `async`,且都带 `signal: AbortSignal`——用户中断时 hook 也能及时收手。这呼应 s01 的 AbortController 贯穿到每一层。
### 一句话
教学版的 `executeToolCall = before → run → after` 立的是"执行前后留插口"。Pi 把这两个插口坐实在并发执行的 prepare/finalize 两侧context 更丰富assistant 消息 + 本轮快照)、异步且可中断。后面 s11 的权限检查会直接接到 beforeToolCall 上。
</details>

View File

@@ -0,0 +1,282 @@
// s05: Tool Hook Boundary — mini Pi 的第 5 版
//
// 在工具执行的前后各留一个插口:执行前可以拦,执行后可以改结果。
// 词汇边界:本章新增 beforeToolCall / afterToolCall / ToolHooks / BeforeToolCallResult / executeToolCall / allow / block。
// 关键hook 是外层装饰ToolRegistry 本身不变R2执行+错误捕获收口到 executeToolCall。
declare const process: {
argv: string[];
exitCode?: number;
};
// —— 停止原因s04 起)——
export type StopReason = "stop" | "toolUse" | "error";
// —— 消息s01 起 + s04 的 ToolResultMessage——
export type UserMessage = { role: "user"; content: string };
export type AssistantMessage = { role: "assistant"; content: string; stopReason: StopReason };
export type ToolResultMessage = { role: "toolResult"; toolCallId: string; content: string };
export type AgentMessage = UserMessage | AssistantMessage | ToolResultMessage;
export type AgentState = { messages: AgentMessage[] };
// —— 工具契约s02 起)——
export type ToolSpec = { name: string; description: string; input: Record<string, string> };
export type ToolHandler = (input: Record<string, string>) => string;
export type ToolCall = { id: string; name: string; input: Record<string, string> };
export type Tool = { spec: ToolSpec; handler: ToolHandler };
export class ToolRegistry {
private tools = new Map<string, Tool>();
register(tool: Tool): void { this.tools.set(tool.spec.name, tool); }
getSpecs(): ToolSpec[] { return [...this.tools.values()].map((tool) => tool.spec); }
run(call: ToolCall): string {
const tool = this.tools.get(call.name);
if (!tool) return `unknown tool: ${call.name}`;
return tool.handler(call.input);
}
}
// —— provider 对外s04 起)——
export type ProviderMessage =
| { role: "user" | "assistant"; content: string }
| { role: "toolResult"; toolCallId: string; content: string };
export type ProviderInput = { messages: ProviderMessage[]; tools: ToolSpec[] };
export type ProviderEvent =
| { type: "message_start" }
| { type: "text_delta"; text: string }
| { type: "tool_call"; call: ToolCall }
| { type: "message_end"; stopReason: StopReason };
export interface Provider {
stream(input: ProviderInput): AsyncGenerator<ProviderEvent>;
}
export type Output = { log(line: string): void };
export function createConsoleOutput(): Output { return { log: (line) => console.log(line) }; }
// ============ s05 新增:执行前后的两个插口 ============
export type BeforeToolCallResult =
| { type: "allow" }
| { type: "block"; reason: string };
export type ToolHooks = {
beforeToolCall?: (call: ToolCall) => BeforeToolCallResult;
afterToolCall?: (call: ToolCall, result: string) => string;
};
// 把一次工具执行串成 before → run → after 三段。
// before 可以拦下blockafter 可以改写结果。中间的 run 仍是 s04 的 registry.run。
// 工具抛错也在这里收口R4不向上抛。
export function executeToolCall(
registry: ToolRegistry,
hooks: ToolHooks,
call: ToolCall,
): ToolResultMessage {
const before = hooks.beforeToolCall?.(call) ?? { type: "allow" };
if (before.type === "block") {
return {
role: "toolResult",
toolCallId: call.id,
content: `blocked: ${before.reason}`,
};
}
let result: string;
try {
result = registry.run(call);
} catch (error) {
result = `error: ${error instanceof Error ? error.message : String(error)}`;
}
const finalResult = hooks.afterToolCall?.(call, result) ?? result;
return { role: "toolResult", toolCallId: call.id, content: finalResult };
}
// ============ 构造函数 ============
export function createInitialState(): AgentState { return { messages: [] }; }
export function createUserMessage(content: string): UserMessage { return { role: "user", content }; }
export function buildProviderInput(state: AgentState, registry: ToolRegistry): ProviderInput {
return {
messages: state.messages.map((message) => {
if (message.role === "toolResult") {
return { role: "toolResult", toolCallId: message.toolCallId, content: message.content };
}
return { role: message.role, content: message.content };
}),
tools: registry.getSpecs(),
};
}
// ============ 工具循环s04 起。s05加 hookstool_call 走 executeToolCall============
const MAX_TURNS = 8;
export async function runEventedToolLoop(
state: AgentState,
provider: Provider,
registry: ToolRegistry,
hooks: ToolHooks,
userInput: string,
output: Output,
): Promise<AssistantMessage> {
state.messages.push(createUserMessage(userInput));
let turns = 0;
while (true) {
turns += 1;
if (turns > MAX_TURNS) {
const stopped: AssistantMessage = {
role: "assistant",
content: "(达到最大轮次,停止)",
stopReason: "stop",
};
state.messages.push(stopped);
return stopped;
}
const providerInput = buildProviderInput(state, registry);
let content = "";
let stopReason: StopReason = "stop";
let sawToolCall = false;
for await (const event of provider.stream(providerInput)) {
if (event.type === "message_start") {
output.log("message_start");
} else if (event.type === "text_delta") {
output.log(`text_delta: ${event.text}`);
content += event.text;
} else if (event.type === "tool_call") {
sawToolCall = true;
output.log(`tool_call: ${event.call.name}`);
// s05执行交给 executeToolCallhook 在里面跑。
const resultMessage = executeToolCall(registry, hooks, event.call);
state.messages.push(resultMessage);
output.log(`tool_result: ${resultMessage.content}`);
} else if (event.type === "message_end") {
stopReason = event.stopReason;
output.log(`message_end: ${stopReason}`);
}
}
if (!sawToolCall || stopReason !== "toolUse") {
const assistant: AssistantMessage = { role: "assistant", content, stopReason };
state.messages.push(assistant);
return assistant;
}
}
}
// ============ Demo Providerfake============
// 按传入的工具名发请求,演示 allow 和 block 两种路径。
export class DemoProvider implements Provider {
public lastInput: ProviderInput | undefined;
constructor(private requestedTool: string) {}
async *stream(input: ProviderInput): AsyncGenerator<ProviderEvent> {
this.lastInput = input;
const last = input.messages[input.messages.length - 1];
yield { type: "message_start" };
if (last?.role === "toolResult") {
yield { type: "text_delta", text: `工具结果是:${last.content}` };
yield { type: "message_end", stopReason: "stop" };
return;
}
yield {
type: "tool_call",
call: { id: "call_1", name: this.requestedTool, input: { text: "hi" } },
};
yield { type: "message_end", stopReason: "toolUse" };
}
}
// ============ 演示脚手架 ============
function createRegistry(): ToolRegistry {
const registry = new ToolRegistry();
registry.register({
spec: { name: "echo", description: "原样返回输入", input: { text: "要复读的文本" } },
handler: (input) => input.text ?? "(空)",
});
registry.register({
spec: { name: "dangerous", description: "一个被禁用的演示工具", input: {} },
handler: () => "不该执行到这里",
});
return registry;
}
function createHooks(output: Output): ToolHooks {
return {
beforeToolCall(call) {
output.log("[beforeToolCall]");
if (call.name === "dangerous") {
output.log(`block: ${call.name}`);
return { type: "block", reason: "这个工具在演示里被禁用" };
}
output.log(`allow: ${call.name}`);
return { type: "allow" };
},
afterToolCall(call, result) {
output.log("[afterToolCall]");
output.log(`${call.name} -> ${result}`);
return `checked: ${result}`;
},
};
}
function getCase(): "normal" | "blocked" {
const index = process.argv.indexOf("--case");
const value = index >= 0 ? process.argv[index + 1] : undefined;
return value === "blocked" ? "blocked" : "normal";
}
function printAssistantMessage(output: Output, message: AssistantMessage): void {
output.log("[assistant]");
output.log(`content: ${message.content}`);
output.log(`stopReason: ${message.stopReason}`);
output.log("");
}
async function main(): Promise<void> {
const output = createConsoleOutput();
const state = createInitialState();
const registry = createRegistry();
const hooks = createHooks(output);
const caseName = getCase();
const requestedTool = caseName === "blocked" ? "dangerous" : "echo";
const userInput = caseName === "blocked" ? "调用危险工具" : "复读一下 hi";
const provider = new DemoProvider(requestedTool);
output.log("s05: Tool Hook Boundary");
output.log("");
output.log("[user]");
output.log(userInput);
output.log("");
const assistant = await runEventedToolLoop(
state,
provider,
registry,
hooks,
userInput,
output,
);
output.log("");
printAssistantMessage(output, assistant);
}
main().catch((error: unknown) => {
console.error(error);
process.exitCode = 1;
});