CoASFL:面向异步分割联邦学习的耦合一致性优化框架
研究者提出 CoASFL,一种面向异步分割联邦学习的不一致性感知框架,通过动态激活合并机制和一致性感知聚合机制,同时缓解客户端间横向不一致与客户端-服务器间纵向不一致。在 80 台设备的异构边缘测试床上,CoASFL 较最先进 SFL 方法训练加速 1.61 倍至 3.74 倍,最终模型准确率最高提升 3.26%。
研究者提出 CoASFL,一种面向异步分割联邦学习的不一致性感知框架,通过动态激活合并机制和一致性感知聚合机制,同时缓解客户端间横向不一致与客户端-服务器间纵向不一致。在 80 台设备的异构边缘测试床上,CoASFL 较最先进 SFL 方法训练加速 1.61 倍至 3.74 倍,最终模型准确率最高提升 3.26%。
研究者提出 3D-MoE,一种在 3D 堆叠 DRAM 近存处理(NMP)上运行 MoE 解码的软硬协同设计系统,利用专家互补性进行离线分组与位置感知映射,并通过协作记忆网络(CMN)和在线重映射缓解热点。相比专家并行(EP),MoE 层平均加速 4.63×,端到端吞吐量较最强 NMP 基线提升 1.58×–1.86×,仅增加 2.11% 逻辑裸片面积。
arXiv 论文提出 GRaSP,一种无需重训练的重排序层,通过按延迟衰减相关性得分并可选加入成本惩罚来优化地理分布式 RAG 检索。
arXiv 论文提出自适应多 token 预测(AMTP),把多 token 预测的视野选择形式化为在线控制问题,用验证反馈在每次生成前预测草稿接受概率并选出期望吞吐量最高的视野,无需重训练、不改动验证器。
一篇 arXiv 论文提出 Semantic Observability 框架,将分布式微服务的异构日志统一为可查询的属性图数据库,并通过由有向循环图(DCG)编排的多智能体系统定位故障根因。
arXiv 论文提出 RACE,一种后训练 KV cache 头维压缩方法,通过按 query-key 联合激活能量选择完整旋转对,与预训练 RoPE 变换兼容,无需推理时重建或专用 kernel。
ACE-Compression 是一个以能力为中心的大语言模型压缩评估框架,从程序性推理与约束执行、知识接地与真实性、社会认知与情感理解、人设保真与风格一致性四个维度考察压缩后模型哪些核心能力得以保留。
一项 arXiv 研究提出在客户端本地将提示词转换为向量,经 55.6M 参数的训练网络变换后交由托管方运行冻结的 Qwen3.8-27B 模型,主机全程不接触文本或 token id。在留出的 1,490 道 MMLU 问题上,该方法准确率仅下降 1.5 个百分点(80.7% vs. 82.3%),同时 30.1% 的内容 token 在最近邻查找下不再还原为原始 token。
一篇 arXiv 论文提出一种 agentic 工作流,让 LLM 编码智能体在商用基带 SoC 上实现算法、优化到智能体自写的向量汇编并在硅片上验证。该工作流以实测平台事实知识库为指导,每步由不可编辑的评估器校验。
E8-QAT 是一种 2-bit 量化感知训练框架,用 E8 格作为隐式八维码本,通过算术投影联合量化权重组,无需在训练前向中存储或搜索显式码本。在 Qwen3.6-35B-A3B 上其四项任务平均分追平全精度模型,同等条件下在 IFEval 和 LiveCodeBench 上分别比 SOTA 基线提升 2.03% 和 1.51%。
一项 arXiv 研究分析 4-bit 权重量化下 PTQ 校准对文本嵌入器的影响,覆盖 e5-base-v2、BGE-M3、EmbeddingGemma-300m 三款模型共 161 次校准运行。
一篇 arXiv 论文提出 Lafa(Large flow language model),一种扩展到 8B 参数的连续流语言模型,采用块内因果注意力前缀与双向异步流设计,可基于预训练自回归模型高效训练,仅用不到 30B tokens 训练了 0.5B、7B 和 8B 三个规模。
论文提出 RiseHarness,一个在模型权重固定的情况下迭代改进终端 agent harness 的框架。它以同配置下成功与失败的运行为切入点,结合轨迹与运行时监控的 harness 内部追踪,生成 Harness Handbook 定位跨任务的共性问题,并从其他 harness 框架检索相关实现作为设计参考,经行为检查与重复任务评估后保留有实测增益的版本进入下一轮迭代。
推理系统 Specter 将量化与推测解码、专家卸载结合,用量化轻量草稿模型预测未来专家激活,让运行时提前调度专家的搬运与执行,缓解 PCIe I/O 瓶颈。单请求推理下,Specter 的 TPOT 相比 SOTA 系统平均提速 1.50x,最高达 1.88x。该系统让内存受限的单 GPU MoE 推理在消费级硬件上更实用,代码已开源。
硅谷王川称,资金成本高于 7% 的 neocloud 相对 SpaceX 存在结构性劣势,加上工程技术效率差距,随着 SpaceX 大举进入 neocloud 业务,大部分 neocloud 将难以竞争。他以荷兰东印度公司盘踞东南亚为例,指出高效的分配机制和长期信用记录才是关键,短期胜负看武器,长期胜负看财政结构。
DeepSeek 开源了用于运行自家模型的内部推理框架 DeepInfer。此举揭示了该中国 AI 开发商在大规模运行模型时实现高效率和低算力成本的部分技术细节,外界有望借助 DeepInfer 获益。
推荐理由:DeepSeek 开源自用推理框架 DeepInfer,读者可以借此了解其大规模推理降本的内部做法。
Google 宣布 TorchTPU 作为开源项目发布,让 AI 应用可以运行在 TPU 上,开发者只需修改配置、无需重写应用即可迁移到 Google Cloud。
Hugging Face 介绍 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 即可原生运行在 TPU 上,模型只需 device_map="tpu" 即可加载。
推荐理由:原文介绍了 TorchTPU 原生后端与安装方式,并给出 batch 64 下 21.5× 的解码加速等实测数据,读者可据此评估迁移成本。
Modder Daniel Blanco 的 DLSS-NR on AMD 项目在 0.8.0 更新中把 DLSS SR、Frame Generation、Ray Regeneration 和最新 310.9.16 Neural Rendering 模型全部带到 Radeon 显卡,并内置 FSR 4.1.1 升频。
转发 Tianyi Cui 的消息:DeepSeek 以 Apache-2.0 协议开源了高性能大规模推理框架 DeepInfer,仓库地址 https://github.com/deepseek-ai/DeepInfer。
博主 yan5xu 分享了自己开发的一款远程 Web 终端小工具:免费、无需部署,一键启动并配对后即可通过公网浏览器操作 Mac 上的终端,手机和 iPad 也支持。连接建立时经 Cloudflare 会稍慢,之后采用基于 WebRTC 的加密直连,速度很快。作者称大家是被 Claude Code 逼着走向远程使用 CC 的路上,因此安利这款工具。
Hugging Face PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新:MPS 支持 torch.float8_e4m3fn 的 FP8 张量和 F.scaled_mm。
推荐理由:原文给出 PyTorch 2.15 MPS 后端的具体性能数字与内存变化,Mac 上跑模型和训练的读者可据此评估升级收益。
一项新研究提出 cache engineering 方案,让 LLM 智能体在不修改轨迹、不重新 prefill 的前提下直接控制活跃 KV cache,可通过 drop 排除选中缓存、用 repos 调整保留键的位置编码,并配套设计了 AKV serving 引擎。
博主发现 Magpie 可通过 Remote Magpie 调用其他机器的本地模型,例如其 Windows 游戏 PC 上 RTX 5090 运行的模型。在 Codex 中可直接方便地选择本地模型,甚至能利用 Codex 的浏览器使用能力。作者尚不确定能否使用其电脑操作能力,以及额度归属。
Axton 结合当年做企业软件的案例,解释为什么模型和功能就绪后仍需要懂工程的人到客户现场。他把现场剩余工作分为三层:通用能力沉淀进产品,客户适配用插件和配置承接,业务含义和边界须当面与懂业务的人确认。他还指出多数公司不应照搬完整的 FDE,并给出判断的三个问题。
IEEE Spectrum 与 Wiley 联合推出、由 Intel 赞助的白皮书,讲解边缘 AI 与物理 AI 如何帮助城市超越被动监控,实现能感知、推理并行动的基础设施。
Rails 之父 DHH 在 X 上回应网友,称自己来中国时把所有 Claude Code 的使用流量都通过自己的 Tailscale 网络路由。原文仅此一条回复内容,未涉及更多细节。
在 9 月 20 日至 21 日上海举行的 PAIR Conference 2026 上,来自芯片、算法和计算系统领域的五位嘉宾围绕“模型迭代快于芯片研发”展开圆桌讨论。
Anthropic 发布博客讲解 Claude Code 如何解决代码审查问题,目前约 90% 的代码由 Claude 自己编写,审查大部分也由 AI 完成。博客给出七层检查机制,AI Approve 不算数、高风险代码仍需人工审批;6 月到 9 月合入的 PR 翻了一倍多,回滚反而少了四成多,人主要转向判断改动是否有必要做。
Hugging Face 宣布 TorchNeuron 为 AWS Trainium 提供原生 PyTorch 后端,自 2026 年 10 月 20 日起开放公测,可通过 pip install torch-neuronx 安装。
推荐理由:官方宣布 Trainium 获得 PyTorch 原生后端,HF 库可直接使用,还给出覆盖率变化和训练示例。
Google Research 发布三项研究,构建面向自主湿实验室的智能体基础模块。VERID 框架基于 PyLabRobot 提供实验室工作单元的语义数字孪生,支持实时 3D 状态追踪、虚拟试运行、硬件安全检查和视频与动作日志同步。
推荐理由:原文给出 Google 让智能体在湿实验室自主做实验的三个研究项目与具体指标,读者可以了解真实实验反馈如何补足计算设计。
Pallas TPU 的 top-k 实现此前因修复成本被认为过高而保留一个已知 bug。Ayaka Mikazuki 转发的实现将其修复为 bitwise 正确,并且速度比原实现更快。
Google Research 宣布下一代联邦学习系统,利用可信执行环境(TEE)提供可远程证明、可审计的数据匿名化保障,访问策略发布到公开透明日志 Rekor,KMS 与数据处理二进制可从开源代码复现构建。Gboard 已部署该系统,上线英语和日语下一词预测模型,隐私保障更强、精度更高;服务器端并行化把过去每次 1-2 个月的训练显著提速,客户端梯度计算转移到服务器也为训练更大模型铺路。
METR 研究显示 AI 加速在不同领域差异明显:2026 年网络安全漏洞报告速度较 2025 年大幅加快,数学研究小幅提速(部分领域 arXiv 投稿不到 12 个月翻倍),AI 研究本身则无可测加速。
Claude 的 LoadingOrb 通过不断轮转一组字符(✽ ✻ ✶ ✢ ·)的可见性来实现加载动画。文中给出多种 ASCII 风格字符阵列,包括菱形展开(· ◇ ◆ ◈ ❖)、十字扩展(· + ✚ ✛ ✜)、开花(✾ ❀ ✿ ❁ ❃)、星辰(✦ ✧ ✩ ✪ ✫)、雪花(· ❄ ❅ ❆ ❉)、螺旋(◌ ⊚ ⊛ ⊝ ◎)和禅意(☙ ❦ ❧ ⸙ ⸎)等样式,可用于实现类似效果。
开发者 Levi Nomad 分享把 Nuxt 项目从 Vercel 迁移到 Cloudflare 的经历:静态项目迁移顺利,但 SSR 部署细节繁琐且一直报 500 错误。