律师用八张二手V100搭建本地AI服务器

一名律师在 Reddit 分享其用八张二手 2018 年 NVIDIA Tesla V100-SXM2-32GB GPU 搭建的私有 AI 服务器，本地运行 DeepSeek V4.1 Flash，实测最高约 215 tokens/s，目的是让律所案卷数据不离开办公室。 该服务器目前一次只能处理一个请求，所有输出都要经人工真实审核后才使用。并发处理两三个请求是下一步计划，已在测试系统上验证，但尚未部署到正式服务器。这位律师称这只是业余爱好，未来可能发展为商业项目。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。