跳到正文
arXiv cs.AI· Ken Enda, Jien Saito, Masami Mukai, Feng Han, Emir Turkes, Tatsumi Kusakabe, Reona Umeki, Kazuhiro Sumiyoshi, Mitsuya Numata, Takumi Tanikawa, Akira Endoh, Kenji Hirata, Atsushi Yoshida, Kohsuke Kudo, Shinya Tanaka·· 2 小时前精选AI 评分65

北海道大学医院发布 LLENS 本地大模型智能体平台开发与评估研究

The LLENS Platform for On-Premises Large Language Model Agents in a Japanese University Hospital: Development and Evaluation Study

AI 导读

北海道大学医院团队发表 LLENS 临床支持 AI 智能体平台论文,在院内封闭网络的单台 8 卡 NVIDIA H200 主机上部署开源模型 Kimi K26(约 1 万亿参数)。

推荐理由

论文给出医院封闭网络内部署开源大模型智能体的完整方案,以及固定检索与交互式文档访问的对比数据,对医疗信息化落地有参考价值。

正文 · AI 翻译

作者:Ken Enda、Jien Saito、Masami Mukai、Feng Han、Emir Turkes、Tatsumi Kusakabe、Reona Umeki、Kazuhiro Sumiyoshi、Mitsuya Numata、Takumi Tanikawa、Akira Endoh、Kenji Hirata、Atsushi Yoshida、Kohsuke Kudo、Shinya Tanaka

查看 PDF

摘要:使用工具的大语言模型智能体可以分担占用医生时间的部分电子病历和案头工作,但在许多医院,医疗信息系统运行在封闭网络内,因此模型和智能体框架也必须置于其中。我们设计、实现并部署了 LLENS,这是一个临床支持 AI 智能体平台,运行在北海道大学医院的封闭网络内,由一台配备 8 块 NVIDIA H200 GPU 的主机、开放权重模型 Kimi K2.6(约 1 万亿参数)以及基于 Open WebUI 重构的 Web 应用组成。该框架包含 10 个组件,包括页面图像读取、全文附件输入、不带向量索引的路径寻址文档树、网络隔离沙箱、工件返回、生成结果自检、子智能体以及保存的流程。Kimi K2.6 是从 3 个开放权重候选模型中选出的,在 2026 年日本医师执照考试中得分 480/500;单用户生成速度为 119 tokens/s,在 16 个并发请求下总吞吐量达 908 tokens/s。在基于医院文档的 180 个问题(每个问题 3 个随机种子)上,无文档时平均准确率为 10.7%,固定检索(一次词法检索的前 10 个片段)为 81.3%,交互式访问为 97.2%——交互式访问中模型借助文档工具和沙箱进行阅读(比固定检索高 15.9 个百分点,95% CI 10.9-21.3);差距主要体现在筛选/计数类问题上(16.7% vs 87.8%)。五个使用合成数据的场景在组件的不同组合上运行:针刺伤应急处理、批量不良事件分级、扫描转诊信转录、跌倒数据汇总与绘图,以及由子智能体对 3 个主题的调研。该平台自 2026 年 9 月 14 日起在医院网络中运行。
评论: 49 页,3 幅图,6 张表,附补充材料。已提交至 JMIR Medical Informatics
学科: 计算与语言 (cs.CL);人工智能 (cs.AI)
引用方式: arXiv:2610.32151 [cs.CL]
  (本版本请引用 arXiv:2610.32151v1 [cs.CL])
  https://doi.org/10.48550/arXiv.2610.32151

arXiv 分配的 DOI,经 DataCite(注册待完成)

提交历史

来自:Ken Enda [查看邮件]
[v1] 2026 年 10 月 23 日 星期五 04:34:26 UTC(1,861 KB)

来源:arXiv cs.AI · arxiv.org