律师升级八卡V100服务器将DeepSeek提至近NVFP4精度
热点事件持续更新
律师升级八卡V100服务器将DeepSeek提至近NVFP4精度
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
南卡罗来纳州律师、PLI Labs 创始人 Nick Mermiges 升级其自建的八卡 V100 私有服务器(Volta Max uPLIft 构建),将运行的 DeepSeek V4.1 Flash 从 2-bit 提升至约 80% 工作负载为 4-bit 的近 NVFP4 精度,并加装 1TB 内存和一块 RTX 3090。 该服务器配合他围绕模型搭建的法律工作流程与校验(legal harness)用于其律师业务,支持 524K 上下文;每个请求需要占用一个“slot”,并因此产生相应成本。
AI 根据报道生成 · 30 分钟前更新
最新进展11月14日 20:50
律师 8 卡 V100 服务器将 DeepSeek 从 2-bit 升级至近 NVFP4 精度报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- Tom's Hardware律师 8 卡 V100 服务器将 DeepSeek 从 2-bit 升级至近 NVFP4 精度
南卡罗来纳州律师 Nick Mermiges 将其 8 卡 V100 私有服务器上的 DeepSeek V4.1 Flash 从 2-bit 升级至"近 NVFP4 精度",约 80%-86% 的 decode 路由落在 NVFP4 专家上,并把内存升级到 1TB、加入 RTX 3090,支持 524K 上下文。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。