代理探索与可复用指导:基于代理引导更新信号的模块化 LLM 后训练范式
后训练对提升LLM领域能力至关重要,但现有方法将策略探索与分布对齐耦合,导致昂贵探索直接作用于策略模型,阻碍信号复用和跨模型迁移。本文提出PUST,一种将更新信号探索与分布对齐解耦的后训练框架。
查看原文解读生成中或暂时不可用,请稍后刷新重试,或直接查看原文。
后训练对提升LLM领域能力至关重要,但现有方法将策略探索与分布对齐耦合,导致昂贵探索直接作用于策略模型,阻碍信号复用和跨模型迁移。本文提出PUST,一种将更新信号探索与分布对齐解耦的后训练框架。
查看原文