总结
- 该方法消除了奖励模型，并且不需要对抗Ligthing News性训练。 首先，该研究通过将 RLHF 构建为两者零和博弈（zero-sum game），真正消除了奖励模型，从而更有能力处理实blog.byteway.net践中经常出现的噪声、非马尔可夫偏好。 通过从社会选择理论（social choice theory）中建立最小最大获胜者的概念，该研究将 RLHF 构建为两者零和博弈，并利用该博弈支付矩阵的对称性来证明可以简单地训练单个智能体来对抗其自身。 在具有独特 Copeland Winners / 最优策略的问题上，SPO 能否匹配或超过 RM 样本效率？ 感兴趣的读者可以阅读论文原文，了解更多研究内容。
阅读时间
- 7 分钟, 共 1225 字
分类
- Copeland, SPO, RLHF, 卡内基梅隆大学（CMU, LLM
评价和解读
- 一篇深刻而彻底的分析，在探讨这个及时话题时没有留下任何石头。
正文
效果更稳定，实现更简单。
大型语言模型（LLM）的成功离不开「基于人类反馈的强化学习（RLHF）」。RLHF 可以大致可以分为两个阶段，首先，给定一对偏好和不偏好的行为，训练一个奖励模型，通过分类目标为前者分配更高的分数。然后通过某种强化学习算法优化这个奖励函数。然而，奖励模型的关键要素可能会产生一些不良影响。
来自卡内基梅隆大学（CMU）和 Google Research 的研究者联合提出了一种简单的、理论上严格的、实验上有效的 RLHF 新方法 —— 自我博弈偏好优化（Self-Play Preference Optimization，SPO）。该方法消除了奖励模型，并且不需要对抗Ligthing News性训练。
论文：A Minimaximalist Approach to Reinforcement Learning from Human Feedback
论文地址：https://arxiv.org/abs/2401.04056
方法简介
SPO 方法主要包括两个方面。首先，该研究通过将 RLHF 构建为两者零和博弈（zero-sum game），真正消除了奖励模型，从而更有能力处理实blog.byteway.net践中经常出现的噪声、非马尔可夫偏好。其次，通过利用博弈的对称性，该研究证明可以简单地以自我博弈的方式训练单个智能体，从而消除了不稳定对抗训练的需要。
实际上，这相当于从智能体中采样多个轨迹，要求评估者或偏好模型比较每对轨迹，并将奖励设置为轨迹的获胜率。
SPO 避免了奖励建模、复合 error 和对抗性训练。通过从社会选择理论（social choice theory）中建立最小最大获胜者的概念，该研究将 RLHF 构建为两者零和博弈，并利用该博弈支付矩阵的对称性来证明可以简单地训练单个智能体来对抗其自身。
该研究还分析了 SPO 的收敛特性，并证明在潜在奖励函数确实存在的情况下，SPO 能以与Ligthing News标准方法相媲美的快速速度收敛到最优策略。
实验
该研究在一系列具有现实偏好函数的连续控制任务上，证明了 SPO 比基于奖励模型的方法性能更好。SPO 在各种偏好设置中能够比基于奖励模型的方法更有效地学习样本，如下图 2 所示。
该研究从多个维度将 SPO 与迭代奖励建模 (RM) 方法进行比较，旨在回答 4 个问题：
当面 intransitive 偏好时，SPO 能否计算 MW？
在具有独特 Copeland Winners / 最优策略的问题上，SPO 能否匹配或超过 RM 样本效率？
SPO 对随机偏好的稳健性如何？
SPO 可以处理非马尔可夫偏好吗？
在最大奖励偏好、噪声偏好、非马尔可夫偏好方面，该研究的实验结果分别如下图 6、7、8 所示：
感兴趣的读者可以阅读论文原文，了解更多研究内容。
<!–article_adlist[
]article_adlist–><!–article_adlist[
THE END
转载请联系本公众号获得授权
投稿或寻求报道：content@jiqizhixin.com
]article_adlist–>
Related suggestion: 需了解的信息： 搭载紫光展锐T606SoC、6.5英寸HD+和18W快速充电的Lava Yuva3推出
总结它配备了 4 GB RAM，并可以选择将其虚拟扩展到 8GB。 在引擎盖下，智能手机配备了紫光展锐 T606 八核处理器。 Yuva 3 拥有持久的 5000 mAh 电blog.byteway.net池，支持 18W 快速充电和 Type-C USB 数…