跳到正文
热点事件持续更新

律师升级八卡V100服务器将DeepSeek提至近NVFP4精度

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

南卡罗来纳州律师、PLI Labs 创始人 Nick Mermiges 升级其自建的八卡 V100 私有服务器(Volta Max uPLIft 构建),将运行的 DeepSeek V4.1 Flash 从 2-bit 提升至约 80% 工作负载为 4-bit 的近 NVFP4 精度,并加装 1TB 内存和一块 RTX 3090。 该服务器配合他围绕模型搭建的法律工作流程与校验(legal harness)用于其律师业务,支持 524K 上下文;每个请求需要占用一个“slot”,并因此产生相应成本。

AI 根据报道生成 · 30 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. Tom's Hardware
    律师 8 卡 V100 服务器将 DeepSeek 从 2-bit 升级至近 NVFP4 精度

    南卡罗来纳州律师 Nick Mermiges 将其 8 卡 V100 私有服务器上的 DeepSeek V4.1 Flash 从 2-bit 升级至"近 NVFP4 精度",约 80%-86% 的 decode 路由落在 NVFP4 专家上,并把内存升级到 1TB、加入 RTX 3090,支持 524K 上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。