KAIROS:以智能体上下文为信号的功耗优化系统
热点事件持续更新
KAIROS:以智能体上下文为信号的功耗优化系统
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
密歇根大学研究者在 arXiv 发布论文,提出面向智能体 AI 推理服务的功耗优化系统 KAIROS,将智能体上下文作为一级控制信号,联合管理 GPU 频率、单实例并发与多实例请求放置。 该系统指出,智能体服务请求携带跨工具调用轮次演化的长期上下文,单纯降低 GPU 频率可能引发内存抖动。在软件与数据工程类智能体任务上,KAIROS 平均降低 27%(最高 39.8%)的功耗,同时满足性能目标。
AI 根据报道生成 · 1 小时前更新
最新进展11月11日 13:00
KAIROS:面向智能体推理的有状态、上下文感知功耗优化系统报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- arXiv cs.AIKAIROS:面向智能体推理的有状态、上下文感知功耗优化系统
KAIROS 是一个面向智能体 AI 推理服务的上下文感知功耗优化系统,将智能体上下文作为一级控制信号,联合管理 GPU 频率、单实例并发与多实例请求放置。该系统指出智能体服务请求携带跨工具交替轮次演化的长期上下文,降低 GPU 频率可能引发内存抖动。在软件与数据工程智能体任务上,KAIROS 平均降低 27%(最高 39.8%)的功耗,同时满足性能目标。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。