EngineAgent:自动化端侧 LLM 模型适配的智能体系统
热点事件持续更新
EngineAgent:自动化端侧 LLM 模型适配的智能体系统
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
论文作者发布 EngineAgent,一个自动化端侧 LLM 推理引擎模型适配的智能体系统,在跨越三个移动端 LLM、四组引擎—后端(覆盖 CPU、GPU、NPU)的 12 个任务中取得 75% 的端到端成功率。成功标准包括编译通过、设备端执行,以及输出 logit 与参考实现一致。 其核心思路是将可复用的引擎与硬件知识从模型特定实现中分离,构建具备推理栈层级感知的引擎索引,并用 builder 和 auditor 两个角色协调跨层改动与设备端验证调试。
AI 根据报道生成 · 57 分钟前更新
最新进展11月11日 13:00
EngineAgent:具备推理栈层级感知与硬件能力感知的端侧 LLM 推理引擎智能体化方案报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- arXiv cs.AIEngineAgent:具备推理栈层级感知与硬件能力感知的端侧 LLM 推理引擎智能体化方案
EngineAgent 是一个自动化端侧 LLM 模型适配的智能体系统,其核心思路是将可复用的引擎与硬件知识从模型特定实现中分离,构建具备层级感知的引擎索引,并用 builder 和 auditor 两个角色协调跨层改动与设备端验证调试。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。