Recursive AI 发布首个模型 Flint-40B-A2B,主打快速本地编码
Yuandong Tian 宣布发布首个模型 Flint-40B-A2B,一个由其自动化研究系统构建的快速本地编码模型,权重见 https://huggingface.co/RecursiveSI/flint。
Yuandong Tian 宣布发布首个模型 Flint-40B-A2B,一个由其自动化研究系统构建的快速本地编码模型,权重见 https://huggingface.co/RecursiveSI/flint。
Xingyu Zhu 分享了相位敏感性评测实验仓库及基于 Qwen3 构建的分块 KV 压缩模型。实验显示 DeepSeek-V4 在相同代码和问题下,随前缀装饰性 docstring 每两个 token 变化而翻转答案,NIAH 准确率随 needle 位置在固定 4-token 周期上波动最高达 40 分,团队解释了这与分块 KV-cache 压缩的关系。
Alex Wang 转发讨论指出,更好理解神经网络中记忆的工作机制将有助于机制可解释性(mechanistic interpretability)研究,而当前对模型的理解比以往任何时候都更重要。转发者补充认为,可解释性可能是当下世界最重要的科学问题——不了解自己在构建什么就无法解决对齐问题,并提及自己曾在 OpenAI 合著过机制可解释性早期工作。
Pallas TPU 的 top-k 实现此前因修复成本被认为过高而保留一个已知 bug。Ayaka Mikazuki 转发的实现将其修复为 bitwise 正确,并且速度比原实现更快。
Yao Fu 转发 Xingyu Zhu 的观察:相同代码和问题下,DeepSeek-V4 的答案会随每前置 2 个 token 的装饰性 docstring 而翻转,NIAH 准确率还随 needle 位置在固定 4-token 周期内波动最多 40 个百分点。该推文串解释了 chunked KV-cache 压缩与此现象的关系。
作者转发小米 MiMo 官方发布:MiMo-V2.6 推出 Pro 与 Flash 两个全模态模型,主打通过规模化强化学习推进。
推荐理由:转发小米 MiMo-V2.6 的发布要点,开源权重与训练配套齐全,并给出了与其他前沿模型的基准对比供参考。