跳到正文
热点事件持续更新

KAIROS:以智能体上下文为信号的功耗优化系统

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

密歇根大学研究者在 arXiv 发布论文,提出面向智能体 AI 推理服务的功耗优化系统 KAIROS,将智能体上下文作为一级控制信号,联合管理 GPU 频率、单实例并发与多实例请求放置。 该系统指出,智能体服务请求携带跨工具调用轮次演化的长期上下文,单纯降低 GPU 频率可能引发内存抖动。在软件与数据工程类智能体任务上,KAIROS 平均降低 27%(最高 39.8%)的功耗,同时满足性能目标。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    KAIROS:面向智能体推理的有状态、上下文感知功耗优化系统

    KAIROS 是一个面向智能体 AI 推理服务的上下文感知功耗优化系统,将智能体上下文作为一级控制信号,联合管理 GPU 频率、单实例并发与多实例请求放置。该系统指出智能体服务请求携带跨工具交替轮次演化的长期上下文,降低 GPU 频率可能引发内存抖动。在软件与数据工程智能体任务上,KAIROS 平均降低 27%(最高 39.8%)的功耗,同时满足性能目标。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。