闭环等级
论文把助手放在六个逐级累积的闭环等级上。一个助手要成为持续在线的助手,需要两个性质:一是状态持久性,即它学到的东西能跨交互保留,二是运行连续性,即它在两次请求之间自己决定是否行动。从 L3 起,两个性质都成立。
| 等级 | 名称 | 新增内容 | HALO 轨迹必须显示什么 |
|---|---|---|---|
| L0 | 会话内 | 至少一个事件 | |
| L1 | 留存状态 | 状态持久性 | 某样东西被保存在记忆中,并在之后的会话中被用到 |
| L2 | 状态引导决策 | 保留的状态通过 M→A 或 M→S 引导决策 | 较早会话中的记忆被一次行动或一次观察用到 |
| L3 | 未经请求的行动 | 运行连续性 | 智能体在两次请求之间自己决定的一次行动,记录时 trigger 为 self |
| L4 | 结果归因 | 通过 A→S 或 A→M 实现的归因 | 一个结果关联到它所涉及的行动,然后被之后的行动或修订用到,并且轨迹中有 A→S 或 A→M |
| L5 | 受治理的修订 | 受治理的自演化 | 智能体自己作出的一次修订,经用户批准或处在用户设定的限制之内,并被之后的行动用到 |
等级是累积的。报告给出的是满足以下要求的最高一级:它自己的条件,以及它下面每一级的条件,都出现在轨迹中。
经请求还是未经请求
Section titled “经请求还是未经请求”L2 和 L3 的区别在于由谁决定行动。用户设在 9:00 的提醒属于经请求的行动,即使它在用户不在时触发也是如此,所以记录时 trigger 为 request。用户定时安排的一次运行中的每一步也是这样:改用另一个数据源,或挑选要发送哪些论文,是智能体在选择如何完成用户请求的任务,而不是在决定是否行动。会议结束后的一次检查,如果最后发出提醒或决定等待,就是智能体自己在决定是否行动,所以记录时 trigger 为 self。仅仅在后台运行或按定时器运行,并不能让一个助手成为持续在线的助手。
受治理的修订
Section titled “受治理的修订”一次修订如果没有超出用户授权的范围,就是受治理的:要么用户批准了这次改动(approved),要么改动没有超出用户事先设定的限制(bounded)。governance 为 none 的修订算作修订这一步,但达不到 L5。
轨迹只显示智能体记录过的内容。一个智能体即使保存了记忆,只要没有在之后的会话中记录一次 recall,它在报告中就停留在 L0。报告会说明下一级还需要什么,这样就能找出缺失的步骤,并在它们发生时记录下来。