研究团队提出边缘网络多智能体多模态推理框架

Bristol 等作者团队提出一个面向移动边缘网络的多智能体 AI 框架，用于多模态大模型推理，兼顾延迟与公平性。该框架由全局规划 Agent、提示词调度 Agent 和多个节点级部署 Agent 组成，基于基础语言模型协同优化提示词路由与模型部署。 团队在城市级测试床上评估，据论文称：相比最先进的在线学习基线，平均端到端延迟降低 42.9%；相比全激活基线降低 80.6%；服务类型的平均 Jain 公平性指数为 0.925，且无需微调即可快速适应。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。