机器人学走路快摔倒时,安全控制器会像教练一样扶一把。麻烦是,训练记录常把这次“救场”也算成机器人自己的选择,随后据此调整策略,账便算偏了。SafeExplorer要解决的正是这个矛盾:真机探索既需要及时接管,也需要从混合记录中正确学习。
它在PPO——一种根据行动结果调整动作概率的强化学习算法——上做了可直接替换的修改。关键一招很克制:计算策略梯度时,只在主策略真正控制机器人的安全时刻统计其动作概率;恢复控制器接管的时刻不计入这部分计算,也无需知道恢复动作的概率。这样,即使恢复控制器每次都固定选择一个动作、无法用常见的“重要性采样”校正,作者仍证明所得梯度是无偏估计,也就是长期平均不会把救场动作误归给主策略。
团队还只模仿成功的恢复动作,避免向失败救场照单全收。作者在三个环境、每项五个随机种子的实验中称,SafeExplorer减少了训练期跌倒,同时最终回报不低于标准PPO;但供稿中的具体倍数缺失,因此这里不作数字引用。