Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
作者：Patrick Lewis、Ethan Perez、Aleksandra Piktus 等（2020，NeurIPS / arXiv:2005.11401）
论文讲了什么
论文提出RAG（检索增强生成）框架：让语言模型在生成前先从一个外部知识库检索相关内容，再结合检索结果生成答案。模型把“记住知识”的负担转移给可更新的检索库。
为什么经典
- 有效缓解大模型幻觉与知识过时两大难题
- 成为企业知识库问答、智能客服、AI 搜索等应用的主流技术底座
- 开启“模型参数之外的知识注入”研究路线，被广泛沿用至今
一句话导读：给大模型装上“外接知识库”，先查资料再作答——AI 落地企业的核心技术。
详细解读（中文）
一、论文背景：LLM 把知识存进参数，训练后知识固定、易过时、易幻觉，且无法精确检索最新事实。能否让模型在回答时”先检索、后生成”，把外部知识实时接入？
二、核心创新：RAG（Retrieval-Augmented Generation）把生成任务建模为”检索+生成”两阶段：①检索器（密集检索，DPR）从外部语料库（维基百科）检索相关文档；②生成器（seq2seq 模型，BART）以检索文档为条件生成答案。模型端到端训练，检索与生成联合优化。
三、关键技术细节：① 密集检索器用双塔编码器计算 query-doc 相似度，Top-k（如 5~10）文档作为上下文；② 生成器融合”文档+问题”生成答案，可分非参数记忆（检索文档）与参数记忆（模型知识）；③ 训练时可用”检索到的文档”监督（RAG-Sequence 与 RAG-Token 两种融合方式）；④ 在开放域问答（Natural Questions、HotpotQA 等）上显著超越纯参数模型，且答案可追溯来源；⑤ 2020 年发表于 NeurIPS。
影响与后续发展
RAG 确立了”检索增强生成”范式，成为解决大模型知识过时与幻觉的标准方案：被用于企业知识库问答、搜索引擎增强（如 AI 搜索）、法律/医疗事实核查等，其”外部知识接入”思想也启发了工具调用与 Agent 记忆系统。
查看原始论文（权威链接）
英文原文摘要（Original Abstract，节选）
Retrieval-Augmented Generation (RAG): Large pre-trained language models store factual knowledge in their parameters but struggle to access precise knowledge. We introduce RAG models, which combine a parametric memory (a pre-trained seq2seq model) with a non-parametric memory (a dense vector index of Wikipedia) accessed through retrieval. RAG achieves strong results on knowledge-intensive NLP tasks and is now the standard architecture for grounding LLMs with up-to-date knowledge.
提示：以上英文摘要为原文节选，完整论文请通过上方权威链接查看（原始论文版权归原作者/出版方所有）。