Stanford CS146S：常驻型智能体是如何工作的

Lee 在这场斯坦福课程演讲中，把熟悉的模型与工具循环扩展为能够跨越本地会话保留状态的智能体。消息、计划任务或外部事件可以唤醒它，它也可以先在后台工作，再判断是否值得打扰用户。

演讲明确包含建设中的内容。连续数周或数月完成有用工作，是需要建设与评估的方向，不是已经确立的可靠性保证。架构要让连续性成为可能，同时也允许服务器和电脑在不需要时休眠。

服务器保存对话与智能体状态，另一台云端电脑则提供文件、命令行、浏览器和桌面交互。Lee 描述了对虚拟机做快照和重新启动，以及人也能接管的实时视图。

这种分离让电脑能够独立于智能体循环被重建或关闭。轻客户端负责显示状态、发送消息，更重的工作留在服务端。机器快照保存执行状态，与证明智能体记住了所有重要事实、或能安全重复每次外部操作，是不同问题。

13:45查看原图

演讲对比了重新执行整项任务，与记录进度、在失败后继续的持久工作流。Temporal 是其描述的实现选择，每个助手也可以拥有自己的可恢复工作流。

这是简化的架构区分，不意味着所有队列都没有检查点，也不意味着持久重放能让每种副作用天然只发生一次。真实系统仍需合适的步骤边界，以及对重复工具调用的处理。输入消息也需要优先级：用户直接纠正可能中断工作，后台事件则可以排队或合并。

16:45查看原图

Lee 描述了客户端与服务端之间较窄的通信路径，而客户端可以选择怎样呈现结果：文字、登录流程、待编辑草稿，或者轻量回应。更重的工具能力由服务端承载。

界面简单，不意味着所有动作都已默默获得授权。演讲明确包括让用户查看或批准不可逆的外发消息，以及把秘密保留在模型对话之外。这些选择本来就是产品架构的一部分，并不是常驻能力自动消除的摩擦。

每次提示都装入所有工具结构，会在智能体开始有用工作之前就占掉工作空间。动态发现保留较轻的索引，到某个工具真正相关时，再读取详细说明。

演讲随后描述了已有背景、API、搜索、浏览器结构、截图和桌面交互等层次。与反复拼装命令相比，专用工具有时更合适。目标是找到高效、可靠的证据路径，但访问边界仍然存在；退回浏览器操作，并不授权绕过认证或他人权限。

主智能体可以把工具密集的工作交给助手，只接收有边界的结果，而不把每条中间命令和截图都搬进来。这样能让主要对话更小，也让不同任务按各自延迟需求优化。

Lee 后面明确指出，无限上下文并不存在。摘要可能遗漏细节，主智能体仍需要足够证据，才能负责任地使用助手答案。委派改变的是工作和背景放在哪里，并不会取消成本、错误，或保留重要失败信息的需要。

演讲区分了在隔离电脑上运行命令，与把所有输入当成可信内容。邮件或 webhook 可能包含攻击者希望智能体执行的指令，但这并不会使它自动成为用户命令。

审查模型可以提供额外检查，但演讲中热情的比较表达，并不是公开安全基准。Lee 也承认，提示注入和安全运行框架仍有许多工作。隔离、授权、凭据处理和审查，分别覆盖问题的不同部分，任何一层都不能单独确立完美防护。

Lee 强调，在适当情况下保持可复用提示部分与工具定义稳定，让重复调用受益于缓存。固定顺序、谨慎推出提示变化，可以减少本可避免的缓存失效。

他也描述了趁相关缓存还热时压缩长对话。具体窗口与价格依赖服务系统，演讲中的例子不是当前定价指南。更重要的是，压缩有损。为了保留关键约束与正确性，有时必须接受变化带来的缓存成本。

演讲把核心事实、按日期记录的工作日志，以及临时草稿区分开。文件提供了稍后检索细节的方式，不必把所有内容都塞进当前提示。

这种结构能支持连续性，却不意味着完美回忆。持久文件仍可能过期、不相关，或者被读错。工程任务是决定哪些留在活跃背景中、哪些按需取回、哪些应该退场，同时保留当前任务必需的事实与约束。

Lee 描述了产品内部循环：把错误工具调用等失败变成评测，修正运行框架、提示或推理行为，再在发布之前检查该案例。另一条外部循环，则随时间训练并评估新模型。

这与已部署智能体在每次对话后自行更新权重不同。区分两者有助于确定修复责任，并检查改善是否持续。新模型可能打开新的界面，但一个评测改善，并不能证明每个群聊或长期工作流都已安全。

演讲的预测包括运行更久的智能体、更好的记忆与更简单的界面。Lee 提问：如果模型本身也大约按月发布，怎样评估一项持续一个月的工作流？他也没有宣称，有用的主动性与恼人的打扰之间已经找到完美平衡。

这些问题本来就是论证的一部分，不该用成功宣言遮住。结尾建议理解系统设计、查看架构，并学习足够的模型知识，以便作出更好的产品判断。持久性来自一组工程机制和检查，而不是一个像同事的聊天界面已经能无限期无人照管地工作。