跳到正文
arXiv · Machine Learning· Yijia Zheng, Marcel Worring·· 13 小时前AI 评分49

LatentRAG:面向高效智能体 RAG 的潜在推理与检索

LatentRAG: Latent Reasoning and Retrieval for Efficient Agentic RAG

AI 导读

LatentRAG 将智能体 RAG 的推理与检索从离散语言空间转移到连续潜在空间,并通过单次前向传播生成思考和子查询的潜在 token。在七个基准数据集上,其表现与显式智能体 RAG 方法相当,同时将推理延迟降低约 90%。

来源:arXiv · Machine Learning · arxiv.org