On-Policy扩散蒸馏中无分类器引导的再思考
On-policy蒸馏通过沿student生成的轨迹查询teacher来适配扩散模型，但对无分类器引导（CFG）的处理仍不清楚。现有方法将速度匹配扩展到CFG组合预测，但这种目标在分支层面是欠定的——正负分支误差会相互补偿。
查看原文解读生成中或暂时不可用，请稍后刷新重试，或直接查看原文。
On-policy蒸馏通过沿student生成的轨迹查询teacher来适配扩散模型，但对无分类器引导（CFG）的处理仍不清楚。现有方法将速度匹配扩展到CFG组合预测，但这种目标在分支层面是欠定的——正负分支误差会相互补偿。
查看原文