研究提出按任务能耗选择LLM的交叉点框架

Sajid Siraj 与 Maria Barbati 在 arXiv 发表研究，提出按“每成功完成任务的资源消耗”而非单次调用来比较大语言模型的能效，并推导出两个模型效率排名随任务长度变化而互换的交叉点。 研究将智能体选择大语言模型建模为多准则决策问题，交叉点位置由各模型的每步可靠性和资源消耗决定。在一项使用 15 个开放权重模型、两个合成智能体任务、实测 GPU 能耗的初步实验中，88 个观测到的交叉点里有 72 个落在预测范围内。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。