TrajEvolve:结合事后信用分配的轨迹演化强化学习方法
研究者提出 TrajEvolve,一种面向大语言模型强化学习推理训练的轨迹演化范式,针对长程任务中成功轨迹采样不足和稀疏最终奖励导致冗余步骤的问题。该方法通过修正历史轨迹中的低质量步骤生成“演化轨迹”,并将步骤级信用分配重新表述为二分类任务,借助反事实验证识别冗余步骤。在两个数据集上的大量实验证明了该方法的优越性。
研究者提出 TrajEvolve,一种面向大语言模型强化学习推理训练的轨迹演化范式,针对长程任务中成功轨迹采样不足和稀疏最终奖励导致冗余步骤的问题。该方法通过修正历史轨迹中的低质量步骤生成“演化轨迹”,并将步骤级信用分配重新表述为二分类任务,借助反事实验证识别冗余步骤。在两个数据集上的大量实验证明了该方法的优越性。
一项 arXiv 研究提出在客户端本地将提示词转换为向量,经 55.6M 参数的训练网络变换后交由托管方运行冻结的 Qwen3.8-27B 模型,主机全程不接触文本或 token id。在留出的 1,490 道 MMLU 问题上,该方法准确率仅下降 1.5 个百分点(80.7% vs. 82.3%),同时 30.1% 的内容 token 在最近邻查找下不再还原为原始 token。
一项 arXiv 研究提出用最小特征数 k* 度量语言模型内部任务信息的读出稀疏度,并评估了来自五个实验室的 19 个 LLM 在 14 个核心任务上的表现。结果显示 10 个 base 模型在 9 个可靠可读任务上给出相似的特征数与排列顺序,指令微调会选择性降低 k*。
一项 arXiv 研究发现,在幻觉二分类检测中,分类头微调(cls)始终优于 LLM-as-Judge 的序列到序列(s2s)范式,因为 cls 学习出判别方向,使隐藏状态形成更清晰的两簇几何结构,而 s2s 依赖预训练语言建模头,表征更接近预训练骨干。
一篇 arXiv 论文提出 Pattern Intelligence,一个已部署的无监督系统,通过聚类理赔的裁决行为来发现医疗支付方系统性少付与拒付模式。每条理赔被嵌入 130 维向量,用 HDBSCAN 聚类,再由大语言模型把每个聚类中心转成分析师可读的描述。在六租户部署中的两个生产租户(约 1 万条和 15.7 万条理赔)上评估,发现约三分之一到一半的高额拒付形成无法再压缩的长尾。
一篇 arXiv 立场与技术报告提出,纵向临床检索应视为在时间轴上分配有限证据预算,而非仅按相关性排序,并展示 Onco-CONSTRUE 框架的检索分析。Study A 中 13 个临床查询、20 份患者记录上,Temporal-15 配置槽位召回率达 0.538,高于 Global-50 基线的 0.388,但每查询检索证据达 496 对 50 个索引单元。
一项 arXiv 研究分析了大语言模型推理中复用中间结果的可靠性条件,并给出本地重试下正确完成的条件与平均尝试次数上界。实验覆盖八个推理模型的复合数学与算术任务:四个 DeepSeek 模型在第二子问题上,无第一子问题上下文时平均成功率 36.2%,给出答案时 57.2%,给出推理与答案时 58.3%。算术实验显示相近的首试准确率在多次尝试后覆盖率差异很大。
一项预注册研究在 τ²-bench 双控制基准上检验多智能体系统(MAS)是否优于单智能体系统(SAS),覆盖 3 个模型家族的 6 个模型、约 7,950 段模拟对话。
推荐理由:论文在双控制基准上检验多智能体协作何时有收益,给出单智能体在服务用户场景下默认更优的证据与成本数据。
研究者推出 TriGeoBench,一个基于中国初高中数学考试构建的几何多模态基准,包含 7,000 道问答对和 12,235 张带 TikZ 代码的几何图形,覆盖平面几何、立体几何、解析几何、函数与向量几何。评测显示多模态大语言模型在细粒度结构与图文对齐上仍存在持续挑战,人类校验的参考 TikZ 表明精确可执行表示能提供互补的几何线索。
一项 arXiv 研究用认知—情感共情框架分析 Llama-3.2-3B-Instruct 在 EmpatheticDialogues 数据集 10 个情绪类别上的内部处理。
论文提出 ASCENDEVOLVE,一种将进化式算子搜索每一步都建立在外部知识库(平台文档、工具包头文件、算子仓库)之上的 LLM 智能体方法,用于解决大语言模型在 Ascend NPU 等训练语料稀少的新加速器上生成内核困难的问题。
RaspAssistant 是一个分层多智能体框架,可自动执行多孔材料吸附模拟研究的工作流,涵盖力场准备、模拟、验证与分离分析。在四项吸附与分离基准的十二次工作流复现中,评分介于 8.50 至 10.00;在八案例力场提取基准中平均加权得分 0.967。该系统还诊断改进了乙炔力场,并将验证后的 CO₂ 力场用于筛选 197 种纯硅沸石。
UIUC 等机构研究者在 arXiv 论文中提出 Ask-to-Distill 框架,将合成问题视为分布引出器,无需参考答案或正确性奖励即可评估并优化用于 on-policy 蒸馏的合成问题。
arXiv 论文提出 Guided-AP 方法,用少量精确 activation patching 测量来揭示并修正 attribution patching 的估计误差。在单个 prompt 上,多种行为的误差最多降低 26%;跨多个 prompt 时,学到的修正将事实补全任务平均效应的误差降低 75% 至 79%,同时控制了验证成本。
TEX 是一种基于执行驱动交叉验证的协作式测试时扩展框架:多个智能体并行生成测试与补丁,通过 K×K 交叉执行形成反馈矩阵进行客观验证。在 SWT-Bench Verified 上 TEX 达到 86.4%,刷新 SOTA 并比单智能体基线提升 +9.0%;即使从其输出中随机选取(84.4%)也超过此前 SOTA(84.0%)。
TxnQA 是一个针对商户交易历史分析问答的基准,包含 27 个任务族(81 个模板)和 5 场景欺诈风险推理套件,答案由程序化计算。对 6 个 LoRA 适配的开源权重模型评测显示,Gemma-4-31B-IT 与 Qwen3-8B 的 E2E 得分分别为 0.867 和 0.816,被测 MoE checkpoint 仅 0.632-0.713。
论文提出 SpaRLax,一种用于 soft CoT 推理的稀疏松弛 RL 训练方法,将 soft token 视为可微的中间计算步骤而非 MDP 中的动作,从而跨时间步传播梯度。方法采用 entmax 自适应稀疏度,在确定步骤截断长尾噪声、不确定时保留多个候选。在九个推理 benchmark 上取得最高平均性能。
研究者提出熵驱动的多模态问答方法 EDMA,将多模态问答形式化为逻辑熵逐步下降的迭代过程,量化每种模态对答案的贡献。方法包含模态条件划分、熵驱动的多模态融合和基于熵的答题轨迹选择。
arXiv 论文提出配对结果引导推理分配方法 PORA,让 LLM Agent 在每个动作前通过对比同一状态下短推理与长推理的结果,学习决定何时使用更长推理。在 BFCL memory 上,PORA 超过最强现有方法 17.4–32.9 个百分点;在代码和数学任务上匹配或超过始终长推理,同时 actor token 减少 50.6%、模型请求数减少 31.2%。
研究者提出免训练框架 Omni-Woodpecker(OWP),将 Omni LLM 的跨模态幻觉抑制从输出层操作转向表征层面的再平衡,通过正交分解分离隐藏状态中的接地证据与先验,并在解码前抑制误导性先验、恢复被忽略的证据。
论文提出 Clinical System One(CS1-4B),一个 40 亿参数的临床记录决策模型,训练数据来自 360 万患者的 1240 万问答,可在单次前向传播中回答多种类型化问题。
ReuF2F 是一个 Lean 4 基准,从 REU 项目收集 244 个形式化的入门级开放研究问题,用于评估编程智能体在 Lean 中端到端解决开放问题的能力。评测将问题及其逻辑否定放入 Docker 容器中的 Lean 项目,并基于 mini-SWE-agent 构建了统一测试框架 Leanimum-agent。结果显示表现最好的模型也只解决约 40% 的问题,仍有较大提升空间。
上海交大 Weinan Zhang 等学者在 arXiv 发布 388 页、12 章的 Physical AI 专著,提出将物理 AI 定义为在真实世界约束下通过持续反馈感知、建模并作用于物理世界的人工系统。
arXiv 论文提出 M-Plan,一个融合长期与短期记忆的闭环多智能体系统(MAS)规划框架。该框架为智能体提供全局-局部与过去-当前两类任务引导,在执行中按需给予局部提示,任务完成后将相关信息优化后写入长期记忆库,并保持即插即用设计。在 ALFWorld、Webshop 和 PDDL 多轮任务上的大量实验显示,M-Plan 在准确性和效率上均优于多种基线方法。
研究者提出结合 KL 锚定均衡的策略偏好优化方法 SPOKE,用于训练扑克 AI 智能体在隐藏信息下做出策略性行动。
该 arXiv 论文研究 LLM 在经典规划中的困难来源,在七个 STRIPS 域上对比结构难度与符号词汇可解释性的影响。
研究者推出 MAMath-Bench,一个评估多智能体系统(MAS)多模态数学推理能力的过程感知基准,包含 1,003 道题,覆盖 11 个数学类别和文本、图像、音频等模态,并提供细粒度里程碑标注。评测发现:多智能体协作并不总能提升最终答案准确率;协作能扩大中间推理覆盖面但会增加推理冗余;现有系统仍易受对抗性推理错误影响,尤其是细微结构扰动。数据集已公开。
论文提出一种有界的在线步级修复模块,在 Lean 4 自动定理证明中不再丢弃失败的 tactic,而是把编译器错误信息喂给预训练修复模型原位修复。该方法在 LeanDojo 基准 1,990 题子集上相对纯采样基线最多提升 32%,多解出 82 题且在 K∈{1,3,5,8} 各预算下均有效;首次修复尝试即贡献 84–96% 的总增益,并在 Lean Workbook 上近乎翻倍解题率且零回退。
论文提出 DataPraxis,一个基于经验证工作区演化的数据分析任务合成框架,通过逐步丰富工作区并继承组合来挖掘更深层问题,并在演化与任务组装后验证分析结果。
Navalia 是一个结合可验证任务合成与长程后训练的 Cowork Agents 框架,以企业财报为数据源,构建可执行计算链生成有证据可追溯的分析任务,并通过独立 LLM 审查和程序化校验保证答案正确性。
研究者提出空间推理智能体 S-Agent 2.0,为现成的通用编码智能体配备命令行感知工具包,通过持久场景记忆帮助 VLM 补全证据闭环。
Sage-A1.5 是一个 35B 参数的 Mixture-of-Experts 智能体模型,基于 A1 构建,通过自适应能力组合推进长程问题求解。相比 A1,它带来三项改进:通过子智能体任务委派与隔离上下文并行协作的智能体编排,通过进度检查、证据验证与反思性策略修订提升可靠性的智能体验证,以及支持探索性研究的开放科学发现。
研究者提出进度对齐循环方法 PAR,训练循环语言模型第 k 次迭代的预测对齐前 k 步操作后的状态,并将循环状态重缩放到首轮范数。在 swap-S5 任务上,基于 Qwen2.5-0.5B、最多训练 32 步的模型在 512 步(16 倍训练长度)下达到 95.5% 平均全状态准确率,而同骨干上 RLT 为 55.7%、显式思维链仅 0.8%。消融显示去掉范数锚定后外推倍数降至 2.2 倍以下。
一项新研究提出 Self-Credit,一种端到端智能体 RL 方法,通过自生成信用分配与组内重缩放,把 RLVR 的稀疏结果奖励转化为密集监督信号。该方法包含带引用的摘要生成、组内重缩放和优势重加权三个组件。
论文提出由不同学科背景、保留私有研究历史并通过自适应分配获得研究机会的持久 AI 研究员组成的团队,用于自主探索线性注意力架构。该团队在 1.3B 规模的语言建模、常识推理和检索任务上超越 GDN2。消融实验显示,去掉学科背景、私有历史或自适应分配中的任一组件,发现质量都明显下降。
Reflection 在 Hugging Face 发布其首个开源模型 Beam(Beam-1.0-501B-A23B),为 501B 参数、每 token 激活 23B 的 MoE 模型,采用 Apache 2.0 协议,支持 1M token 上下文,主打编码与智能体场景。
推荐理由:官方博客给出 Beam 的架构细节、基准成绩和部署微调配方,读者可以据此评估在自有硬件上跑前沿开源模型的成本与路径。
Project Apertus 发布 Apertus 1.5,在 8B 和 70B 基础上以继续预训练方式加入图像和音频理解、可选思考模式,上下文窗口扩展至 262,144 tokens,模型权重于 2026 年 7 月 24 日以 Apache 2.0 许可上传 Hugging Face。
推荐理由:官方发布说明完整公开了训练流程、数据与中间检查点,读者可据此了解开源多模态模型的全链路做法。
Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens,定位为 agentic coding 模型。
推荐理由:原文给出架构细节、部署配方和实测吞吐数字,开发者可以据此评估如何在自己环境里运行或微调这个 816B 模型。
Google Research 公开发布 Deep Review,一个对复杂技术文档提供严谨反馈与技术验证的智能体系统,前身为 Paper Assistant Tool,曾与 STOC 2026、ICML 2026、NeurIPS 2026、ICLR 2027 四个会议合作,为逾 16,000 篇 opted-in 稿件提供会前反馈。
推荐理由:原文给出四阶段智能体审阅流程、每周两次免费额度与 API 接入方式,读者可据此评估它如何缓解技术文档验证瓶颈。
Mistral 发布 Mistral Large 4 公测预览,模型为 1 万亿总参数、52B 激活参数的原生多模态模型,在本月底开放权重,预览 API 已可在 Mistral Studio 试用。
推荐理由:官方公布参数规模、权重开放时间与多领域基准成绩,可据此了解开源模型当前能力水平与欧洲自建算力路线。