IBM 发布 Granite Timeseries Ensemble R1 四模型时序集成配方
IBM 在 Hugging Face 发布 ibm-granite/granite-timeseries-ensemble-r1,将 Granite PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1 和 TTM-r3 四个预训练时序模型组合为集成配方,无需再训练或拟合权重即可输出中位数与分位数预测。
IBM 在 Hugging Face 发布 ibm-granite/granite-timeseries-ensemble-r1,将 Granite PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1 和 TTM-r3 四个预训练时序模型组合为集成配方,无需再训练或拟合权重即可输出中位数与分位数预测。
论文提出 PACE,一种事后式 4-bit 状态量化器,用于压缩线性注意力语言模型的循环状态,仅每隔几个生成 token 舍入一次并缓存中间 token,同时按列共享量化 scale、将误差最大的头保留为 8-bit。
Dharma-AI 在博客中介绍其即将发布论文的 VocabX 方法,按每个 token 的成本而非频率为领域模型重建词表。其基于 Qwen3-4B 的葡萄牙语作文评分系统中,模型响应从平均 350 token 降至 101 token,在 RTX 5090 与 vLLM 上实测推理成本下降 77.0%,bench 分数从 0.703 升至 0.810。
Hugging Face 发布 TorchNeuron 性能分析系列第一篇,从零讲解如何在 AWS Trainium 上系统分析推理性能并定位耗时。
财联社10月21日电,AWS 计划部署 3M 公司开发的扩展光束光学平台。
NVIDIA 与 Hugging Face 推出 SimReady Central Library,汇集超过 2,000 个仿真就绪(SimReady)OpenUSD 资产,免费开放获取,用于机器人训练环境和 AI 工厂数字孪生。
英伟达表示,西门子正将基于 NVIDIA Factory Operations Blueprint(FOX)构建的智能体集成至其 Intelligence Center X 企业系统,用于识别问题根因并协调工厂运营,预计可节省20%的成本。
财联社报道,英伟达与矽品精密(SPIL)计划扩大光引擎制造产能,以支持共同封装光学(CPO)技术及大规模计算基础设施的连接需求。双方目标在2027年年中将相关产能提升至目前的15倍,并计划到2028年底再翻一倍。
推荐理由:快讯给出双方明确的产能扩张节奏和目标时点,可用于判断 CPO 供应链的扩张力度。
财联社报道,谷歌云计划将基于英伟达 Vera Rubin 的基础设施扩展至多站点部署,最多96万颗 Rubin GPU。伦敦人工智能公司 Ineffable Intelligence 已率先接入 A5X 实例,用于大规模强化学习及持续学习系统研发,该公司由 AlphaGo 创作者 David Silver 创立。
谷歌云与英伟达宣布,基于英伟达 Vera Rubin NVL72 系统的 A5X 云实例计划于下月正式开放,并进一步拓展至欧洲市场。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNIC、谷歌云 Virgo 网络及第四代先进液冷技术,面向 AI 智能体推理和大规模强化学习工作负载。
推荐理由:原文给出 A5X 实例的核心硬件组合、开放时间与目标负载,读者可据此评估云端推理基础设施的新选择。
英伟达推出DGX Spark 64GB版本,10月23日起由宏碁、华硕、戴尔、技嘉、惠普和微星等厂商发售,起售价4999美元。该设备搭载Grace Blackwell超级芯片,可本地运行最高1000亿参数模型;两台设备通过NVIDIA Sync Cluster Assistant连接后共享128GB内存,支持最高2000亿参数模型。
英伟达通过 Agent Toolkit 为企业构建自主 AI 智能体提供开放式工具链,涵盖 Nemotron 开放模型、NemoClaw 蓝图、OpenShell 安全运行环境及 CUDA-X 库等组件。该工具包支持企业定制模型、调用专业工具与技能,并对智能体运行实施安全和隐私策略控制,旨在帮助企业构建可长期运行的 AI 智能体,应用于工程设计、软件开发及业务运营等场景。
英伟达宣布升级 Isaac 通用机器人开发平台,推出新的人形机器人参考框架、仿真工作流及数据工具。更新覆盖机器人训练、仿真验证和部署流程,帮助开发者利用合成数据和仿真环境训练机器人,并在实际部署前验证机器人行为。
英伟达宣布欧洲多家云服务商及基础设施企业正采用其 DSX AI 工厂平台,以降低数据中心冷却用水和电力消耗并加快算力设施部署。平台通过闭环液冷与干式冷却器排热将冷却用水量降至近零,在 2 吉瓦规模下每天可节水 5400 万升,相当于 18 万户家庭的日用水量;DSX MaxLPS 软件可在生成相同数量 AI 词元的情况下最多减少 30% 用电量。
英伟达宣布推出DSX POD参考架构,戴尔科技、HPE、联想、施耐德电气、维谛技术等企业参与生态建设。该方案采用模块化集装箱设计,计算及配套基础设施在工厂内集成和验证,交付后接入现场电力、冷却和网络。英伟达称合作伙伴计划于2027年初在全球交付模块化AI工厂。
推荐理由:英伟达联合多家厂商推出模块化AI工厂参考架构,读者可借此了解数据中心集成化交付的新路径和2027年交付计划。
英伟达宣布,与Emerald AI、EPRI、Nebius、英国国家电网合作的早期试验中,在模拟电网事件下将Blackwell Ultra GPU集群功耗最多降低40%,同时保持关键工作负载运行。DSX Flex旨在协调AI工厂用电与电网需求。
英伟达披露,Nscale 在冰岛 AI 工厂使用 DSX MaxLPS,对 4 个英伟达 GB300 NVL72 机架进行评估,在 264 千瓦固定供电预算下,推理吞吐量提高 49%,可管理 GPU 容量增加 37%。上述结果来自特定测试环境,不代表所有部署场景的实际表现。
英伟达推出 OpenShell 参考架构,将 Vera Rubin 基础设施、Vera CPU、开源 OpenShell 软件及搭载 NVIDIA Sentry 安全框架的 BlueField-4 DPU 整合,为企业级 AI Agent 提供安全隔离、行为监控及策略执行能力。
一项针对内存受限 LLM 推理服务的研究建立了离散时间动力学模型,分析连续批处理下的请求准入、key-value cache 内存增长与驱逐机制。研究表明同质负载下无驱逐均衡不稳定,系统收敛到最坏极限环,吞吐量损失可高达 50%;而异质负载中互质的解码长度可稳定无驱逐均衡。论文据此推导了维持高吞吐的调度设计原则,v3 新增 GPU 基准实验附录。
NVIDIA 团队发表 arXiv 论文(arXiv:2605.21187),介绍 Spectrum-X Ethernet 的多平面架构,用拓扑并行取代层级深度,并在 NIC 和交换机中引入硬件加速负载均衡,以微秒级响应动态网络状况。
arXiv 论文提出 OPTIMA,一种实用的单次训练后剪枝方法,将掩码选择后的逐层权重重构转化为共享 Hessian 的逐列二次规划(QP),可批量在加速器上并行求解。
Google 与 Meta 的开源合作项目 TorchTPU 发布论文,提出在 Google TPU 上原生执行 PyTorch 的混合 eager/编译架构。该项目支持开箱即用的模型执行与 TPU 迁移,并通过 eager 执行优化、编译集成和原生硬件加速提供有竞争力的推理与训练性能。论文共 23 页,链接 https://arxiv.org/abs/2610.24161。
推荐理由:Google 与 Meta 合作的开源项目,论文说明了 TPU 上原生执行 PyTorch 的混合架构,关注框架与硬件适配的读者可作参考。
BitMTP 是一个面向超低比特大语言模型骨干的多 Token 预测(MTP)算法-系统协同设计框架,通过联合 next-token 与 MTP 目标、多种解码模式及 Accepted-prefix 对齐实现高效加速。
论文提出 Racer,一个 PTX 级符号等价检查引擎,通过在符号输入上执行 kernel 与参考实现,把输出变成精确代数表达式来区分浮点误差与逻辑 bug。它采用 Shape Reduction、lockstep CTA 调度和带精确数值反驳的 idiom 模板三项技术。
一项 arXiv 研究将四种动态专家跳过方法统一分类,并与静态减少每层专家数 k 的简单基线在 Gemma4-26B-A4B、Qwen3-30B-A3B 及多模态模型 Qwen3-VL 上按同等专家计算预算对比。
一篇 arXiv 论文从数据系统视角分析长上下文 LLM 在单机 GPU 上本地推理的瓶颈。研究发现 self-attention 主导长上下文推理的运行时间,且其现有结构使关键 GPU 资源利用不足,最新一代 GPU 反而常常表现最差。作者将 KV cache 分页、缓存利用率和 GPU 同步等问题归结为数据管理问题,并以实验观察和建议的形式供数据系统社区参考。
论文提出 CALM(Calibrated Allocation for Layer-Head Merging),针对自回归视频生成中的 token merging 压缩。
研究者提出 AnchorRM,一种面向记忆型时序图神经网络(TGN)的锚点残差记忆机制,无需顺序循环更新即可重建批内事件级节点状态,解决时间小批处理带来的内存陈旧问题。在 4 个时序图数据集和 3 个记忆型骨干上,AnchorRM 实现平均 6.16 倍训练加速(最高 10.05 倍)和 28.67 倍批扩展(最高 40 倍),同时保持有竞争力的预测性能。
arXiv 论文提出 MLIPS,一种无需训练的多层索引器池共享方法:由生产者层发布大于注意力预算 K 的 top-M 候选池,后续各层自行从中选 top-K,保留各自的打分与选择。
研究者提出 OptEP,一种基于连续松弛的后训练专家剪枝方法,通过可微专家选择变量和基于重构的权重更新,为 MoE 大语言模型保留最优专家子集。
研究者提出 CoASFL,一种面向异步分割联邦学习的不一致性感知框架,通过动态激活合并机制和一致性感知聚合机制,同时缓解客户端间横向不一致与客户端-服务器间纵向不一致。在 80 台设备的异构边缘测试床上,CoASFL 较最先进 SFL 方法训练加速 1.61 倍至 3.74 倍,最终模型准确率最高提升 3.26%。
研究者提出 3D-MoE,一种在 3D 堆叠 DRAM 近存处理(NMP)上运行 MoE 解码的软硬协同设计系统,利用专家互补性进行离线分组与位置感知映射,并通过协作记忆网络(CMN)和在线重映射缓解热点。相比专家并行(EP),MoE 层平均加速 4.63×,端到端吞吐量较最强 NMP 基线提升 1.58×–1.86×,仅增加 2.11% 逻辑裸片面积。
arXiv 论文提出 GRaSP,一种无需重训练的重排序层,通过按延迟衰减相关性得分并可选加入成本惩罚来优化地理分布式 RAG 检索。
arXiv 论文提出自适应多 token 预测(AMTP),把多 token 预测的视野选择形式化为在线控制问题,用验证反馈在每次生成前预测草稿接受概率并选出期望吞吐量最高的视野,无需重训练、不改动验证器。
一篇 arXiv 论文提出 Semantic Observability 框架,将分布式微服务的异构日志统一为可查询的属性图数据库,并通过由有向循环图(DCG)编排的多智能体系统定位故障根因。
arXiv 论文提出 RACE,一种后训练 KV cache 头维压缩方法,通过按 query-key 联合激活能量选择完整旋转对,与预训练 RoPE 变换兼容,无需推理时重建或专用 kernel。
ACE-Compression 是一个以能力为中心的大语言模型压缩评估框架,从程序性推理与约束执行、知识接地与真实性、社会认知与情感理解、人设保真与风格一致性四个维度考察压缩后模型哪些核心能力得以保留。
一项 arXiv 研究提出在客户端本地将提示词转换为向量,经 55.6M 参数的训练网络变换后交由托管方运行冻结的 Qwen3.8-27B 模型,主机全程不接触文本或 token id。在留出的 1,490 道 MMLU 问题上,该方法准确率仅下降 1.5 个百分点(80.7% vs. 82.3%),同时 30.1% 的内容 token 在最近邻查找下不再还原为原始 token。
一篇 arXiv 论文提出一种 agentic 工作流,让 LLM 编码智能体在商用基带 SoC 上实现算法、优化到智能体自写的向量汇编并在硅片上验证。该工作流以实测平台事实知识库为指导,每步由不可编辑的评估器校验。
E8-QAT 是一种 2-bit 量化感知训练框架,用 E8 格作为隐式八维码本,通过算术投影联合量化权重组,无需在训练前向中存储或搜索显式码本。在 Qwen3.6-35B-A3B 上其四项任务平均分追平全精度模型,同等条件下在 IFEval 和 LiveCodeBench 上分别比 SOTA 基线提升 2.03% 和 1.51%。