一文读懂RAG（检索增强生成）

RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合信息检索与自然语言生成的技术，通过检索外部知识库增强文本生成能力。

听起来有点复杂，我们不妨从为什么需要用到RAG开始。

为什么需要用到RAG

• 知识局限性问题：通用的大模型没有企业内部数据和用户数据，将私域数据上传第三方平台进行训练，存在着数据泄露的风险。从而导致大模型对一些内部数据无从学习，并不具备某一方面的知识，存在局限性。
• 幻觉问题：大模型底层的设计机制决定了它所生成的回答本质是基于概率而非既定事实的，导致只要大模型生成内容是符合它自己的语言逻辑的，就算内容与事实差了十万八千里，它也会毫不犹豫地输出。
• 时效性问题：模型知识的获取是通过使用训练数据集训练获取的，模型训练后产生的一些新知识，是没有学习的，而大模型训练成本极高，不可能为了弥补知识而频繁进行模型训练。

大白话解释RAG

▲RAG的大致流程

三、RAG流程

1、关键词检索

▲关键词检索的示例

2、相似度检索

使用各种不同的相似度算法（如欧氏距离、余弦等）进行数据检索的一种技术。简单理解，就是把问题Embedding为向量，去向量数据库中匹配与此问题相似度最高的几个内容片段。

相似度检索是RAG中常用的检索方式，接下来我们展开说说如何利用相似度检索完成RAG的整个过程。

首先对数据库中的内容进行处理，比方说：把非文本形式的数据转换为标准的纯文本数据。然后将知识内容进行分块，切分成更短的段落或句子，以便更有效地进行处理。其中知识分块的策略会对最终知识片段的检索起到重要的影响

▲知识切分

b）知识向量化存储

d）向量检索

被转换成向量的问题与向量数据库中存储的知识向量进行比较，找出与查询向量最相似的知识片段，这一步骤通常通过计算向量之间的距离（如余弦距离、欧氏距离等）来实现。

提取相似度得分最高的几个知识片段，这些内容可以作为额外的上下文信息，结合用户的原始提问构建成Prompt后，输入给大模型进行处理。

f）回答

将大模型输出的问题结果返回给用户。这个答案是从知识库中检索到的最相关信息生成，确保了准确性和相关性。

四、RAG存在的挑战

虽说 RAG 能够解决在大模型使用过程中遇到的部分问题，但它仍存在方方面的挑战，比如：

1、索引阶段

2、检索阶段

3、生成阶段

五、结语

作为AIGC应用方，通常以集成第三方向量数据库为主，这意味着把RAG技术应用在实际业务当中相对比较容易，但想做好仍然有很多的困难需要克服，每个步骤都有可能对最终效果产生影响。

下一篇文章，将通过一个案例与大家分享RAG在ToB Agent的探索与实践。

以上是笔者近阶段的学习与思考，希望能帮到你。