跳到正文
10月21日周三
  1. arXiv cs.AI29

    思维链如何破坏对拒绝行为的简单激活引导:大推理模型拒绝机制研究

    一项 arXiv 研究发现,DeepSeek-R1-Distill-LLaMA-8B 等大推理模型的拒绝行为除残差流激活外还依赖思维链(CoT)。在固定 CoT 时激活引导仅能逆转 39% 的拒绝,移除 CoT 后升至 70%;两阶段干预下模型重新生成 CoT 时逆转率达 94%,且撤除引导后 CoT 单独保留 48% 的效果。

  2. arXiv cs.AI42

    LLM 推理何时能可靠复用中间结果?arXiv 新研究给出条件与计算量分析

    一项 arXiv 研究分析了大语言模型推理中复用中间结果的可靠性条件,并给出本地重试下正确完成的条件与平均尝试次数上界。实验覆盖八个推理模型的复合数学与算术任务:四个 DeepSeek 模型在第二子问题上,无第一子问题上下文时平均成功率 36.2%,给出答案时 57.2%,给出推理与答案时 58.3%。算术实验显示相近的首试准确率在多次尝试后覆盖率差异很大。

10月20日周二
  1. Francis YAO (@Francis_YAO_)35

    分享基于 Qwen3 的分块 KV 压缩模型构建与相位敏感性评测实验仓库

    Xingyu Zhu 分享了相位敏感性评测实验仓库及基于 Qwen3 构建的分块 KV 压缩模型。实验显示 DeepSeek-V4 在相同代码和问题下,随前缀装饰性 docstring 每两个 token 变化而翻转答案,NIAH 准确率随 needle 位置在固定 4-token 周期上波动最高达 40 分,团队解释了这与分块 KV-cache 压缩的关系。