跳转到内容
EN

闭环等级

论文把助手放在六个逐级累积的闭环等级上。一个助手要成为持续在线的助手,需要两个性质:一是状态持久性,即它学到的东西能跨交互保留,二是运行连续性,即它在两次请求之间自己决定是否行动。从 L3 起,两个性质都成立。

L0会话内当下回应,什么也不带到下一次。感知即时回应短期上下文同一会话内L1留存状态跨交互保留状态。L0 系统记忆库之后的交互写入读取交互边界L2状态引导决策用保留的状态决定下一步。L1 系统行动策略回应上下文 + 记忆更新L3未经请求的行动没有请求,也会决定行动还是等待。L2 系统行动提议发起交互?保持沉默否是L4结果归因把回复或评分追溯到它对应的决策。L3 系统授权执行世界与用户验证结果L5受治理的修订在用户设定的条件内修订机制。L4 系统归因机制修订条件门提交 v2保留 v1通过未通过之后的策略
等级 名称 新增内容 HALO 轨迹必须显示什么
L0 会话内 至少一个事件
L1 留存状态 状态持久性 某样东西被保存在记忆中,并在之后的会话中被用到
L2 状态引导决策 保留的状态通过 M→A 或 M→S 引导决策 较早会话中的记忆被一次行动或一次观察用到
L3 未经请求的行动 运行连续性 智能体在两次请求之间自己决定的一次行动,记录时 trigger 为 self
L4 结果归因 通过 A→S 或 A→M 实现的归因 一个结果关联到它所涉及的行动,然后被之后的行动或修订用到,并且轨迹中有 A→S 或 A→M
L5 受治理的修订 受治理的自演化 智能体自己作出的一次修订,经用户批准或处在用户设定的限制之内,并被之后的行动用到

等级是累积的。报告给出的是满足以下要求的最高一级:它自己的条件,以及它下面每一级的条件,都出现在轨迹中。

L2 和 L3 的区别在于由谁决定行动。用户设在 9:00 的提醒属于经请求的行动,即使它在用户不在时触发也是如此,所以记录时 trigger 为 request。用户定时安排的一次运行中的每一步也是这样:改用另一个数据源,或挑选要发送哪些论文,是智能体在选择如何完成用户请求的任务,而不是在决定是否行动。会议结束后的一次检查,如果最后发出提醒或决定等待,就是智能体自己在决定是否行动,所以记录时 trigger 为 self。仅仅在后台运行或按定时器运行,并不能让一个助手成为持续在线的助手。

一次修订如果没有超出用户授权的范围,就是受治理的:要么用户批准了这次改动(approved),要么改动没有超出用户事先设定的限制(bounded)。governance 为 none 的修订算作修订这一步,但达不到 L5。

轨迹只显示智能体记录过的内容。一个智能体即使保存了记忆,只要没有在之后的会话中记录一次 recall,它在报告中就停留在 L0。报告会说明下一级还需要什么,这样就能找出缺失的步骤,并在它们发生时记录下来。