跳到正文
arXiv cs.AI· Hardik Ruparel, Raj Kumar Pandey, Pramod Kumar·· 1 天前AI 评分35

GRaSP:面向地理分布式检索增强生成的延迟感知优化方法

GRaSP: Latency-Aware Optimization for Geo-Distributed Retrieval-Augmented Generation

AI 导读

arXiv 论文提出 GRaSP,一种无需重训练的重排序层,通过按延迟衰减相关性得分并可选加入成本惩罚来优化地理分布式 RAG 检索。

来源:arXiv cs.AI · arxiv.org