【Agent进阶专题】Agent 与对话执行

本篇实现第一版 Agent:串起消息存储与模型能力,完成一次可持久化的流式对话。

能力介绍

Workspace 解决了消息存在哪里的问题,Agent 负责决定一次对话怎样执行。

收到用户输入后,Agent 会保存消息、读取完整上下文,再交给模型生成回答。模型返回的内容会立即向外输出,同时在结束后写回 Workspace。整个过程还会广播开始、完成或失败事件,方便其他功能观察本次运行。

实现思路

Agent 不关心消息如何落盘,也不关心模型请求如何发送。它只依赖两份契约:Workspace 提供消息读写,模型能力接收消息并流式返回文本。

每次对话生成一个独立的 runId。正常流程为:

  1. 保存用户消息并广播 message.added。
  2. 广播 run.started。
  3. 读取包含本次输入的完整消息历史。
  4. 逐段输出模型回答,同时在内存中拼接完整内容。
  5. 保存助手消息并广播 message.added。
  6. 广播 run.completed。

模型调用失败时广播 run.failed,随后继续抛出原错误。调用方也可以传入 AbortSignal,将取消信号交给底层模型能力。

setup 行为

setup 只负责暴露 Agent 能力:

1
2
3
setup(context) {
context.add(Hook.Agent, agent);
}

start 行为

start 获取运行上下文、Workspace 和模型能力:

1
2
3
4
5
6
7
8
9
10
11
start(context) {
const providers = context.all<ModelProvider>(Hook.ModelProviders);

if (providers.length === 0) {
throw new Error("Agent needs at least one model provider.");
}

runtime = context;
workspace = context.get<WorkspaceService>(Hook.Workspace);
model = providers[0];
}

当前版本要求至少存在一个模型能力,并直接使用注册列表中的第一个。依赖准备完成后,Agent 才能执行对话。

stop 行为

stop 清空运行期间持有的引用:

1
2
3
4
5
stop() {
runtime = undefined;
workspace = undefined;
model = undefined;
}

停止后的 Agent 仍然保留在能力注册表中,但无法继续对话。

抓手

Agent 对外暴露一个名为 agent 的能力,它的契约是 AgentService:

1
2
3
export interface AgentService {
chat(input: string, signal?: AbortSignal): AsyncIterable<string>;
}

chat() 接收两个参数:

  • input:本次对话的用户输入。
  • signal:可选的取消信号,用于中断正在进行的模型请求。

返回值是 AsyncIterable<string>,每次迭代得到一个回答片段,不必等待完整内容生成。迭代正常结束,表示回答已经完整保存;迭代过程中抛出错误,表示本次运行失败。

现在,对话的执行流程已经串了起来。下一篇补上模型能力,看看流式文本从哪里来。