arXiv cs.AI· Hardik Ruparel, Raj Kumar Pandey, Pramod Kumar·· 1 天前AI 评分35
GRaSP:面向地理分布式检索增强生成的延迟感知优化方法
GRaSP: Latency-Aware Optimization for Geo-Distributed Retrieval-Augmented Generation
AI 导读
arXiv 论文提出 GRaSP,一种无需重训练的重排序层,通过按延迟衰减相关性得分并可选加入成本惩罚来优化地理分布式 RAG 检索。
来源:arXiv cs.AI · arxiv.org