大型语言模型（LLMs）在生成文本时可能会产生错误信息，即“幻觉”问题。尽管检索增强的LLMs通过检索外部数据来减少这种幻觉，但现有的方法通常不考虑检索文档与LLMs之间的细粒度结构语义交互，这在处理长文档时尤其影响回答的准确性。
不同的检索增强方法范式，包括传统的检索器-响应器方法和增强检索器-重排序-响应器框架。强调了学习关键检索文档的排序结构的重要性，以帮助LLMs更好地处理与事实知识相关的用户查询。
为了解决这一问题，提出了一个新的大模型RAG框架R4：Reinforced Retriever-Reorder-Responder（增强检索器-重排序-响应器），它包含三个主要模块：
R4概览。文档顺序调整：根据反馈，文档在簇中的位置会动态调整。文档表示增强：文档表示会根据训练损失的权重梯度进行更新（彩色查看效果最佳）。
具体过程包括：
在R4框架内，查询和检索到的文档之间异构图构建过程的示意图。
实验使用了3类任务5个数据集，包括生成式问答（Generative QA）、多项选择问答（Multi-choice QA）和对话（Dialogue）任务。
R4模型在公共数据集上的总体结果。T检验表明，R4工作改进在统计上是显著的，p值<0.05。
Reinforced Retriever-Reorder-Responder for Retrieval-Augmented Large Language Modelscode：paper录用后会发布© 版权声明