HF论文周报 | 3月第一周：异构Agent协同RL与通用点云编码器领跑，扩散语言模型框架化

扩散语言模型（DLMs）已展现出自回归语言模型之外的独特优势：支持迭代精化、灵活引导和高效解码。然而现有研究中的关键组件分散在各个 ad-hoc 代码库中，缺乏透明实现，使得复现、对比和扩展工作都极为困难。dLLM 是来自 UC Berkeley 和 UIUC 的开源框架，围绕三个核心组件统一 DLM 开发管线：

(1) 训练模块：覆盖最常见目标——Masked Diffusion 和 Block Diffusion——扩散建模逻辑与模型架构解耦，新目标和变体只需最小改动即可集成。用户可直接复现和微调 LLaDA、Dream 等现有大型 DLM；(2) 推理模块：轻量抽象支持即插即用的推理算法（含优化高效解码算法）而无需修改模型实现；(3) 评测模块：提供跨模型统一评测接口，可复现各模型官方结果。此外还发布了从 BERT 编码器或自回归 LM 转换为 DLM 的最小可复现配方，以及对应的小型 DLM 检查点。

dLLM 的意义在于：扩散语言模型正从各自为战走向标准化生态，就像 Hugging Face Transformers 对自回归模型所做的那样。这是 DLM 领域基础设施建设的重要里程碑。

人类处理复杂阅读任务时会自然地提取关键节点、推断关系、构建结构——这种结构化过程是高质量理解的基础。类比到 LLM，是否显式引导模型构建文本中间结构也能系统性提升性能？这篇论文给出了肯定答案。

Structure-of-Thought（SoT）是一种通用提示策略：指导模型在生成最终答案前，先将文本结构化为关键节点和关系。来自 Duke 和 Meta 的团队验证 SoT 在 8 个主流文本处理任务和 3 个模型系列上一致显著提升，表明文本结构是增强各类下游任务的通用中间表征。基于此洞见，团队构建了 T2S-Bench，首个专门评测和提升模型文本到结构能力的基准：1800 个样本，跨 6 个科学领域，32 种结构类型，覆盖 45 个主流模型。

关键评测发现：45 个主流模型在多跳推理任务上平均准确率仅 52.1%，即使最先进模型在端到端提取任务中节点准确率也只有 58.1%。文本结构化能力是当前 LLM 的薄弱环节，SoT 和 T2S-Bench 提供了互补的提升路径：前者通过提示，后者通过微调数据。

统一多模态模型（Bagel、OmniGen、Show-o、Janus 等）宣称「理解+生成一体化」带来双向互利，但生成能力是否真的提升了理解这一核心问题一直缺乏系统验证。UniG2U-Bench 填补这一空白：将生成到理解（G2U）评测分为 7 大维度、30 个子任务，涵盖需要不同程度显式/隐式视觉变换的场景（空间智能、视觉错觉、几何推理、多轮推理等）。

研究严格将统一模型与其基础 VLM 配对，在相同推理协议下隔离 G2U 效果，评测了 30+ 模型。三个核心发现：(1) 统一模型普遍不如基础 VLM，Generate-then-Answer 推理通常比直接推理更差；(2) 仅在空间智能、视觉错觉、多轮推理子任务中出现一致性提升；(3) 具有相似推理结构的任务和共享架构的模型表现出相关的行为模式，表明统一训练诱导了类别一致的归纳偏置。

结论并非全盘否定统一模型，而是指向更精细的训练策略需求：需要更多样化的训练数据和新范式，才能真正将生成能力转化为理解优势。

GPU Kernel 优化是现代深度学习基础设施的核心，但这是一项需要深厚硬件知识的高度专业化任务。尽管 LLM 在通用编程上表现出色，现有方法在 CUDA Kernel 生成上仍然无法与 torch.compile 这样的编译器系统竞争，更不用说与人类专家相比。

CUDA Agent 是一个大规模 Agentic RL 系统，通过三个互补维度提升模型的 CUDA Kernel 编码能力：(1) 可扩展数据合成管线：生成覆盖广泛难度等级的训练问题，支持有效的课程式 RL 训练；(2) 技能增强的 CUDA 开发环境：配备自动化验证和性能分析脚本提供可靠奖励信号，系统级权限隔离防止奖励作弊；(3) RL 算法稳定性技术：提出 Actor 和 Critic 的多阶段预热策略解决训练不稳定性。

CUDA Agent 在 KernelBench 上取得 SOTA：Level-1 和 Level-2 100% 超越 torch.compile，Level-3（最难级别）92% 超越率，在最难设置上超越 Claude Opus 4.5 和 Gemini 3 Pro 约 40%。这是 LLM 首次在这一专业任务上实现系统性突破。

软件工程 Agent（SWE）的快速进步很大程度上由强化学习驱动，但 RL 训练面临关键约束：缺乏大规模、可复现执行环境且测试套件可靠的任务集合。现有基准规模有限、多样性不足，且大多仅针对 Python 等高资源语言生态，制约了 SWE Agent RL 训练的规模化。

SWE-rebench V2 提出了一个语言无关的自动化管线，用于从真实世界代码仓库中大规模采集可执行 SWE 任务并构建 RL 训练环境：(1) 交互式安装 Agent 合成仓库特定的安装和测试流程；(2) LLM 集成过滤（ensemble of LLM judges）消除不健全实例；(3) 自动化适配多语言仓库，不依赖特定语言生态的假设。

SWE-rebench V2 的核心价值在于解决了 SWE Agent RL 训练的数据基础设施瓶颈，为多样化、大规模、跨语言的代码工程 Agent 训练提供了可扩展的数据供给方案。

LLM 在科学发现领域的应用正在快速扩展，但现有研究集中在推理阶段或反馈驱动训练，对于直接建模生成推理过程 P(假说|背景) 的训练探索不足。根本原因：从庞大知识库中检索和组合启发信息，天然面临 O(N^k) 的组合复杂度，使得直接训练在数学上不可行。

MOOSE-Star 提出统一框架打破这一壁垒：通过分解生成过程，在最优情况下将复杂度从 O(N^k) 降至 O(N+k)，同时保持可扩展推理。框架支持两种互补的训练策略——基于实例的 RL 与数据驱动的知识蒸馏——以及在对齐 RLVR 设置下的融合。

研究团队同步发布了 TOMATO-Star 科学发现数据集和 MOOSE-Star 模型检查点。这项工作为 AI 辅助科研开辟了新方向：将生成式科学推理从纯推理阶段应用扩展到可系统训练优化的范式。

视觉世界是推动基础模型超越语言的关键轴心，但原生多模态模型的设计空间仍然不透明——哪些选择真正重要？来自 Meta FAIR 和 NYU（Yann LeCun 等参与指导）的团队通过严格控制变量的从头预训练实验，在不依赖任何语言预训练的前提下，系统隔离多模态预训练的核心因素。实验框架采用 Transfusion：语言用下一个 Token 预测，视觉用扩散。

四个关键发现：(1) RAE（Reconstruction Autoencoder）是最优统一视觉表征，同时擅长理解和生成；(2) 视觉和语言数据互补，联合训练产生跨模态协同效应；(3) 世界建模能力从通用训练中自然涌现，无需专项设计；(4) MoE 架构高效且自然诱导模态专业化，通过 IsoFLOP 分析揭示视觉比语言需要更多数据的缩放不对称性，MoE 恰好调和了这种不对称。

这项工作为多模态基础模型的设计提供了迄今最系统的从头实验指导，对领域内如何构建高效多模态基础模型具有重要参考价值。

随着 LLM 对齐从简单补全发展到复杂生成，奖励模型越来越多地转向基于 Rubric（评分标准）的评估来减轻表面偏见。这类 Rubric 引导评估方法的有效性，很大程度上依赖模型生成的 Rubric 与人类标准的对齐程度——但这一能力此前缺乏统一基准评测。

RubricBench 填补这一空白，构建了专门评测这一对齐程度的基准：测试模型能否生成与人类评估者一致的评分标准，覆盖写作质量、代码正确性、推理链等多个维度的复杂生成任务。基准的核心贡献在于将「模型能打出正确分数」与「模型能生成对人类有意义的评分框架」这两个不同能力区分开来。

RubricBench 的意义在于：随着 AI 评测越来越依赖 LLM-as-Judge 和基于 Rubric 的自动评估，理解模型生成评估框架的质量与局限性变得尤为重要，这对 RLHF 数据质量和 AI 对齐研究都有直接影响。

SWE-bench 已成为代码 Agent 的标准评测，但其任务本质上局限于单仓库内的函数级 Bug 修复，与真实工程场景的需求存在显著差距。BeyondSWE 沿解决范围和知识范围两个轴系统扩展评测，500 个真实实例覆盖四类全新设置：CrossRepo（跨仓库推理）、DomainFix（领域专用修复，需要专业领域知识）、DepMigrate（依赖迁移，跨版本或跨库适配）、Doc2Repo（整库从文档生成）。

实验结果清晰暴露当前代码 Agent 的系统性能力缺口：即使是最强前沿模型，成功率也低于 45%，且没有任何模型在所有任务类型上一致表现良好。研究团队同时开发了集成深度搜索的 SearchSWE 框架，但搜索增强效果并不一致，在某些任务上甚至降低性能。

文生图模型在视觉保真度和创意表达上取得了显著进步，但对于编码复杂空间关系的提示（如「红色球在蓝色立方体左侧，圆柱在两者后方」），现有模型仍然频繁失败，往往需要多次采样才能得到正确结果。

本文提出一种针对性增强方案：首先构建 SpatialReward-Dataset，包含超过 80,000 个偏好对，明确标注空间关系准确性；在此基础上训练 SpatialScore 奖励模型，专门评估文生图结果中空间关系的准确性，在空间评估任务上超越领先专有模型；最后将 SpatialScore 用于引导现有文生图模型的推理过程，在不改变模型权重的前提下显著提升空间关系生成准确率。

这项工作展示了针对特定能力缺陷构建专用奖励模型的有效路径：用高质量偏好数据+精细评估维度来弥补通用奖励模型在空间理解上的不足，对文生图的可靠性提升有实践意义。