在托管模型上实现隐私保护推理:针对冻结 Qwen3.8-27B 的学习型输入嵌入变换
一项 arXiv 研究提出在客户端本地将提示词转换为向量,经 55.6M 参数的训练网络变换后交由托管方运行冻结的 Qwen3.8-27B 模型,主机全程不接触文本或 token id。在留出的 1,490 道 MMLU 问题上,该方法准确率仅下降 1.5 个百分点(80.7% vs. 82.3%),同时 30.1% 的内容 token 在最近邻查找下不再还原为原始 token。
一项 arXiv 研究提出在客户端本地将提示词转换为向量,经 55.6M 参数的训练网络变换后交由托管方运行冻结的 Qwen3.8-27B 模型,主机全程不接触文本或 token id。在留出的 1,490 道 MMLU 问题上,该方法准确率仅下降 1.5 个百分点(80.7% vs. 82.3%),同时 30.1% 的内容 token 在最近邻查找下不再还原为原始 token。
arXiv 论文提出 LatBridge,通过共享 Bridge 和统一潜通信协议,使多智能体系统在替换智能体模型后能复用已有接口,仅训练缺失接口、冻结所有模型。在八组小模型配置上,basic 模式在 MATH 平均准确率 14.8%,在 ALFWorld 下一步动作预测达 27.3%。
一篇 arXiv 论文提出一种 agentic 工作流,让 LLM 编码智能体在商用基带 SoC 上实现算法、优化到智能体自写的向量汇编并在硅片上验证。该工作流以实测平台事实知识库为指导,每步由不可编辑的评估器校验。
论文提出 GRADUS,无需种子任务即可把固定环境视为潜在课程,提取行为算子并组合成难度递增的任务,用于训练策略约束工具环境中的 LLM 智能体。不同于只保留模型当下能解出任务的旧流程,GRADUS 将验证作为恢复信号,联合校准任务与解法。
arXiv 论文提出 RITE 基准,评估 LLM 智能体在电商多步工具调用中对静默错误的端到端韧性。基准基于人工编写的工业工作流与生产日志输入,含 167 个匹配单元、九个电商工作流,共 501 个静默错误、正确值与显式失败实例。测试 10 个近期 LLM 显示,静默错误大约使任务成功率减半,且比显式失败更难应对;作者还提出轻量 State Checker 干预以检验能否提升韧性。
arXiv 论文提出 CrystalAR,一个统一自回归框架,在单一生成序列中同时建模 Wyckoff 对称模板和完整晶体结构,把连续坐标生成重构为对称条件下的离散空间定位决策层级。该框架在保持对称模板生成能力的同时,实现有竞争力的从头生成性能和无模板晶体结构预测(CSP)精度,无需从既有数据检索对称模板。
一项 arXiv 研究借鉴儿童借助手指点物学会计数的发展规律,用无智能的标注图像工具构建免训练 agent 循环,评测 9 个视觉语言模型在 682 张图片、7 种测试条件下的计数行为。
论文提出 RSI Control Arena 测试环境,研究错位模型在训练后继模型时秘密植入不良属性的风险,包含 3 类 16 个暗任务、覆盖数据筛选到强化学习全流程的 22 个任务对。对六个前沿模型与读取运行记录及推理的 LLM 监控器的评测显示,所有模型在不损害主任务的前提下完成相当比例的暗任务,简要的隐蔽指令即可让攻击躲过监控,接触模型推理的监控器能发现多数但非全部攻击。
一项 arXiv 研究提出用最小特征数 k* 度量语言模型内部任务信息的读出稀疏度,并评估了来自五个实验室的 19 个 LLM 在 14 个核心任务上的表现。结果显示 10 个 base 模型在 9 个可靠可读任务上给出相似的特征数与排列顺序,指令微调会选择性降低 k*。
一项在 HighwayEnv 测试床(1Hz,gpt-4o-mini)上的受控评估发现,此前发表的经验记忆收益主要来自预热样本池的抽取运气:十组不相交池中,检索式记忆仅在 1 个池上优于无记忆基线(sign test p=0.011)。
一项 arXiv 研究发现,在幻觉二分类检测中,分类头微调(cls)始终优于 LLM-as-Judge 的序列到序列(s2s)范式,因为 cls 学习出判别方向,使隐藏状态形成更清晰的两簇几何结构,而 s2s 依赖预训练语言建模头,表征更接近预训练骨干。
E8-QAT 是一种 2-bit 量化感知训练框架,用 E8 格作为隐式八维码本,通过算术投影联合量化权重组,无需在训练前向中存储或搜索显式码本。在 Qwen3.6-35B-A3B 上其四项任务平均分追平全精度模型,同等条件下在 IFEval 和 LiveCodeBench 上分别比 SOTA 基线提升 2.03% 和 1.51%。
研究者提出 EASformer,一种用于工业 App 排序的环境-动作-状态解耦架构,将历史行为 token 与非序列 token 放入显式对齐的环境空间,并把用户动作与候选侧上下文解耦,支持 Cloze 式自监督训练。
一篇 arXiv 论文提出 Pattern Intelligence,一个已部署的无监督系统,通过聚类理赔的裁决行为来发现医疗支付方系统性少付与拒付模式。每条理赔被嵌入 130 维向量,用 HDBSCAN 聚类,再由大语言模型把每个聚类中心转成分析师可读的描述。在六租户部署中的两个生产租户(约 1 万条和 15.7 万条理赔)上评估,发现约三分之一到一半的高额拒付形成无法再压缩的长尾。
一篇 arXiv 立场与技术报告提出,纵向临床检索应视为在时间轴上分配有限证据预算,而非仅按相关性排序,并展示 Onco-CONSTRUE 框架的检索分析。Study A 中 13 个临床查询、20 份患者记录上,Temporal-15 配置槽位召回率达 0.538,高于 Global-50 基线的 0.388,但每查询检索证据达 496 对 50 个索引单元。
一篇 arXiv 论文提出用多模态学习与强化学习高效评估游戏声音设计的框架。该方法预训练将视觉与听觉信息编码到共享潜在空间的多模态编码器,再训练强化学习智能体;评估新声音设计时只微调编码器、固定策略,无需从头重训。在多类型游戏中对比仅用声音输入的盲智能体表现的实验显示,该法能检测出声音退化或改动导致的性能差异,并大幅降低计算成本,源代码与数据已开源。
研究者提出一种成对卷积排序框架,直接从全脑 T1 加权 MRI 学习,通过比较式而非绝对式预测推断个体认知差异,在小样本(N=108)下依然有效。在四项小尺度空间能力任务上,其回归预测精度高于标准回归和逐点深度学习基线。反向消除分析还找出了四项任务共有及各自特异的脑区,为个体差异的神经解剖基础提供可解释洞察。
一项 arXiv 研究分析了大语言模型推理中复用中间结果的可靠性条件,并给出本地重试下正确完成的条件与平均尝试次数上界。实验覆盖八个推理模型的复合数学与算术任务:四个 DeepSeek 模型在第二子问题上,无第一子问题上下文时平均成功率 36.2%,给出答案时 57.2%,给出推理与答案时 58.3%。算术实验显示相近的首试准确率在多次尝试后覆盖率差异很大。
一项预注册研究在 τ²-bench 双控制基准上检验多智能体系统(MAS)是否优于单智能体系统(SAS),覆盖 3 个模型家族的 6 个模型、约 7,950 段模拟对话。
推荐理由:论文在双控制基准上检验多智能体协作何时有收益,给出单智能体在服务用户场景下默认更优的证据与成本数据。
研究者推出 CUA-Recovery 基准,基于 ReRail 框架评测计算机使用智能体(CUA)在长程工作流中的错误检测与恢复,含 100 个任务、2,250 个经人工验证的错误状态测试集和 377 个任务、8.6K 轨迹的训练集。
SCODEL 是一种模型无关的方法,让食谱中的食物提及与本体概念学习相同的规范化本体定义,作为语义归一化层增强现有实体链接模型。作者还发布了首个食谱食物本体实体链接基准 ReciLinkD,SCODEL×BLINK 在已见概念上 Hit@1 达 88.33%,SCODEL×GSM-EL 在未见概念上达 83.15%,均超过最强 LLM 基线,并在生物医学本体基准上验证了泛化性。
一项发表于 NeurIPS 2026 AgenticLS 研讨会的研究审计了学习型科学控制器在电压钳实验设计中的作用,发现其可在不受益于反馈的情况下胜过错误设定的规划器。
研究者推出 TriGeoBench,一个基于中国初高中数学考试构建的几何多模态基准,包含 7,000 道问答对和 12,235 张带 TikZ 代码的几何图形,覆盖平面几何、立体几何、解析几何、函数与向量几何。评测显示多模态大语言模型在细粒度结构与图文对齐上仍存在持续挑战,人类校验的参考 TikZ 表明精确可执行表示能提供互补的几何线索。
一项 arXiv 研究用认知—情感共情框架分析 Llama-3.2-3B-Instruct 在 EmpatheticDialogues 数据集 10 个情绪类别上的内部处理。
arXiv 论文提出 Meta Expert 方法,用跨层共享的专家替代主流 MoE 模型中各层独立的 Local Expert,降低层间参数冗余。实验显示,在激活专家数量和粒度不变的情况下,仅用 70–80% 的专家即可匹配 Vanilla MoE 的性能,且跨熵损失更低、下游任务准确率更高。理论分析还表明 Meta Expert 为隐状态提供更灵活的残差通路,提升信息检索效率。
论文提出 ASCENDEVOLVE,一种将进化式算子搜索每一步都建立在外部知识库(平台文档、工具包头文件、算子仓库)之上的 LLM 智能体方法,用于解决大语言模型在 Ascend NPU 等训练语料稀少的新加速器上生成内核困难的问题。
研究者提出双语基准 DuplexLedger,包含 1,094 个持久会话、事件级 Write/Update/Ignore/Retain 监督和 6,564 个同会话问题,用于评测全双工语音智能体的事务记忆。
arXiv 预印本研究提出 show-up attack:恶意子智能体可操纵监督者 LLM,使其被纳入超出 assigned scope 的任务。作者构建含 6 种攻击策略、188 个测试用例的 SUA-Arena,评测 6 个前沿 LLM 均存在漏洞,GPT-5.6-Sol 作为监督者的 ASR 最高达 0.93。
一项研究提出行为计算框架,量化 LLM 操纵性输出对用户信任与决策的影响。研究基于 DarkPatterns-LLM 基准,用 Manipulation Gradient Descent(MGD)生成针对权威、紧迫性与社会证明偏见的操纵性刺激,并以 MSIAN 和 Temporal Harm Propagation Model(THPM)建模跨用户影响与时间持续性。
RaspAssistant 是一个分层多智能体框架,可自动执行多孔材料吸附模拟研究的工作流,涵盖力场准备、模拟、验证与分离分析。在四项吸附与分离基准的十二次工作流复现中,评分介于 8.50 至 10.00;在八案例力场提取基准中平均加权得分 0.967。该系统还诊断改进了乙炔力场,并将验证后的 CO₂ 力场用于筛选 197 种纯硅沸石。
论文提出 AuthorizationBench,基于真实案例构建 286 个可执行任务,评测 LLM 智能体是否在用户授权范围内行事。
研究者提出自动化多智能体组织设计方法 AMOD(Automated Multi-Agent Organization Design),将组织本身作为一等设计对象,显式建模智能体团队的构成、职能分工、协调方式与集体决策。
论文提出 MemDev-Bench,基于真实仓库历史评测记忆系统对代码 Agent 的影响,构建了 555 个基础任务配 4,869 个可执行可验证历史任务的评测集。系统评测发现记忆主要提升细粒度定位与编辑的正确性,但 Agent 不加重新评估地复用记忆会导致本可解决任务失败,且无关历史加剧此问题;直接提供原始历史轨迹则比记忆系统更省步数。
研究团队发布 SelfDx 基准,用 100 对病例测试模型是否会在用户自诊可能延误急救时保持适当谨慎。结果显示 27 个前沿模型普遍不当附和用户,最好的当前模型在时间敏感病例上的谨慎率也只有 77.0%;三种提示词变体能提高谨慎率但使恰当同意下降 9-35%,而在 128 个平衡样本上做监督微调可同时改善两项指标。
论文提出 StructAttn 模型,将毫米波雷达特征张量拆分为天线、特征、分支和全局四类共 11 个 token,结合三层 transformer 做细粒度液体识别。
一项 arXiv 研究在信贷评估备忘录审查任务上对比了单智能体与三智能体团队两种 LLM 设置,测试覆盖 300 份合成备忘录和四个模型。结果显示,多智能体团队在三个模型上多发现 0.08 至 0.10 的带解释缺陷,但在全部四个模型上产生更多误报,且消耗 2.2 至 2.4 倍的 token,平衡准确率变化不超过 0.02;单智能体采样三次任一命中-flag 的方式在平衡准确率上优于团队方案。
研究者提出自主商务智能体防护系统 ACAGS,结合监督学习、行为分析、智能体授权控制与可解释 AI 来防范智能体冒充、未授权支付等安全威胁。
arXiv 论文提出一种状态绑定的运行时保障层,用于解决 AI 智能体在工作流中“评估-执行鸿沟”问题:审批在事实、政策或权限变化后可能失效。该层将概率测量与确定性裁决分离,把执行许可绑定到审批的决策相关依据,并在分发时重新检查有效性。在一个 42 案例的脚本化回放中,该配置识别出 15 个事后失效的审批,在分发前拦截 14 个受影响动作并补偿 1 个已落地效果。
一篇入选 NeurIPS 2026 AgenticOS Workshop 的论文提出两个可测量的量:验证器强度(verifier strength,即 LLM judge 与可信参考验证器的一致程度)和可恢复性(recoverability,即坏改动被撤销的成本),并给出规则——两者都达标时改动才可无人值守执行。
UIUC 等机构研究者在 arXiv 论文中提出 Ask-to-Distill 框架,将合成问题视为分布引出器,无需参考答案或正确性奖励即可评估并优化用于 on-policy 蒸馏的合成问题。