在现代世界中，大型语言模型（LLMs）通过其令人印象深刻的生成文本的能力，改变了世界。这些模型在创建新内容和给出智能回复等任务上表现出色，推动了AI领域的进一步发展。它们通过大量数据进行训练，但它们只知道数据中的内容，这使得它们很难提供最新的信息。这可能导致过时的答案或错误的信息，即所谓的信息幻觉。 为了解决这些问题，开发了一种名为检索增强生成（RAG）的动态框架。它结合了传统LLMs的优势和检索系统，扩展了这些模型的用例。

什么是RAG？

RAG是一种旨在提升LLMs性能的策略性增强。通过在文本生成过程中加入检索信息的步骤，RAG确保模型的回复准确和最新。 RAG已经有了显著的发展，形成了两种主要模式：

1. 初级RAG：这是最基本的版本，系统只是从知识库中检索相关信息，并直接提供给LLM生成回复。
2. 高级RAG：这个版本更进一步。它在检索之前和之后添加了额外的处理步骤，以优化检索到的信息。这些步骤提高了生成回复的质量和准确性，确保它与模型的输出无缝集成。

初级RAG

初级RAG是RAG生态系统最初设计的版本。它是一种将检索数据和LLM模型简单组合以为用户提供高效回复的方法。

基本系统包括以下组件：

1. 文档分块：

该过程从将文档分成较小的块开始。这是必要的，因为较小的块更容易管理和处理。例如，当您有一个长文档时，它会被分成段落，以便系统稍后更容易检索相关信息。

2. 嵌入模型：

嵌入模型是RAG系统的关键部分。它将文档块和用户查询都转换为数值形式，通常称为嵌入 (opens new window)。这种转换是必要的，因为计算机更容易理解数值数据。嵌入模型使用先进的机器学习技术以数学方式表示文本的含义。例如，当用户提出问题时，模型将该问题转换为一组数字，以捕捉查询的语义。

3. 向量数据库（MyScaleDB）：

一旦文档块转换为嵌入，它们就会存储在类似于MyScaleDB (opens new window)的向量数据库 (opens new window)中。向量数据库被设计为高效存储和检索这些嵌入。当用户提交查询时，系统使用向量数据库将查询的嵌入与数据库中存储的嵌入进行比较，以找到最相关的文档块。这种比较有助于识别与用户查询最相似的块。

4. 检索：

向量数据库识别出相关的文档块后，它们就会被检索出来。这个检索过程非常重要，因为它缩小了将用于生成最终回复的信息范围。它实际上充当了一个过滤器，确保只有最相关的数据传递到下一个阶段。

5. LLM（大型语言模型）：

一旦检索到相关的块，LLM接管。它的任务是理解检索到的信息，并对用户的查询生成一个连贯的回复。LLM使用用户查询和检索到的块来提供一个不仅相关而且上下文适当的回复。该模型负责解释数据并以用户易于理解的自然语言形式构建回复。

6. 回复生成：

最后，系统根据LLM处理的信息生成回复。然后将此回复传递回用户，以清晰简洁的方式提供他们所寻求的信息。

通过理解从用户查询到最终回复的数据流，我们可以欣赏到初级RAG系统的每个组件在确保用户获得准确和相关信息方面发挥的关键作用。

优点

1. 实施简单： RAG的设置非常简单，因为它直接将检索与生成相结合，无需复杂的修改或额外的组件，降低了增强语言模型的复杂性，无需复杂的修改或额外的组件。
2. 无需微调： RAG的一个重要优势是它不需要对LLM进行微调 (opens new window)。这不仅节省时间和降低运营成本，还可以更快地部署RAG系统。
3. 提高准确性： 通过利用外部的最新信息，初级RAG显著提高了生成回复的准确性。这确保输出不仅相关，而且反映了最新的可用数据。
4. 减少幻觉： RAG通过在过程中使用真实的、事实性的数据来缓解LLMs生成不正确或虚构信息的常见问题。
5. 可扩展性和灵活性： 初级RAG的简单性使其更容易在不同应用程序中进行扩展，因为它可以在不对现有检索或生成组件进行重大更改的情况下进行适应。这种灵活性使其可以在各个领域中进行部署，而只需进行最少的定制。

缺点

1. 处理能力有限： 直接使用检索到的信息，没有进一步的处理或改进，可能导致生成回复的连贯性问题。
2. 依赖于检索质量： 最终输出的质量很大程度上取决于检索模块找到最相关信息的能力。检索质量差可能导致不准确或不相关的回复。
3. 可扩展性问题： 随着数据集的增长，检索过程可能变得更慢，影响整体性能和响应时间。
4. 上下文限制： 初级RAG可能难以理解查询的更广泛上下文，导致回复准确但可能不完全符合用户意图。

通过研究这些优点和缺点，我们可以全面了解初级RAG的优势所在以及可能面临的挑战。这将为改进铺平道路，并为开发高级RAG的机会创造机会。

高级RAG

在初级RAG的基础上，高级RAG为整个过程引入了一层复杂性。与初级RAG直接整合检索信息不同，高级RAG涉及额外的处理步骤，以优化回复的相关性和整体质量。

让我们了解一下它是如何工作的：

检索前优化

在高级RAG中，检索过程甚至在实际检索之前就进行了优化。以下是这个阶段的具体操作：

索引改进

索引方法 (opens new window)在数据库中高效组织和检索数据方面起着重要作用。传统的索引方法，如B树 (opens new window)和哈希索引 (opens new window)，在这个目的上被广泛使用。然而，这些算法的搜索速度随着数据规模的增加而降低。因此，我们需要更高效的索引方法来处理更大的数据集。MyScale的MSTG（多策略树图） (opens new window)索引算法就是这样一种先进的方法。该算法在速度和性能方面优于其他索引方法。

MSTG合并了分层图 (opens new window)和树结构 (opens new window)的优势。通常，图算法对于未经过滤的搜索更快，但对于经过过滤的搜索可能不高效。另一方面，树算法在经过过滤的搜索方面表现出色，但对于未经过过滤的搜索速度较慢。通过结合这两种方法，MSTG确保了未经过滤和经过过滤的搜索的高性能和准确性，使其成为各种搜索场景的强大选择。

查询重写

在检索过程开始之前，原始用户查询经过多次增强以提高准确性和相关性。这一步确保检索系统获取最相关的信息。这里使用了查询重写、扩展和转换等技术。例如，如果用户的查询过于宽泛，查询重写可以通过添加更多的上下文或特定术语来改进查询，而查询扩展可能会添加同义词或相关术语以涵盖更广泛的相关文档范围。

Boost Your AI App Efficiency now

Sign up for free to benefit from 150+ QPS with 5,000,000 vectors

Free Trial

Explore our product

动态嵌入

在初级RAG中，可能会对所有类型的数据使用单个嵌入模型，这可能导致效率低下。然而，高级RAG根据特定任务或领域对嵌入进行微调和调整。这意味着嵌入模型经过训练或调整，以更好地捕捉特定类型查询或数据集所需的上下文理解。

通过使用动态嵌入，系统变得更高效和准确，因为嵌入更加贴近特定任务的细微差别。

混合搜索

高级RAG还利用混合搜索 (opens new window)方法，结合不同的搜索策略来提高检索性能。这可能包括基于关键字的搜索、语义搜索和神经搜索。例如，MyScaleDB支持过滤向量搜索 (opens new window)和全文搜索 (opens new window)，由于其SQL友好的语法，可以使用复杂的SQL查询。这种混合方法确保系统可以以高度相关的方式检索信息，无论查询的性质如何。

检索后处理

在检索过程之后，高级RAG并没有停止。它进一步处理检索到的数据，以确保最终输出的质量和相关性最高。

重新排序

在检索过程之后，高级RAG采取额外的步骤来优化信息。这一步骤称为重新排序，确保最相关和有用的数据优先。初始时，系统检索到可能与用户查询相关的多个信息。然而，并不是所有这些信息都同样有价值。重新排序有助于根据其他因素（如与查询的匹配程度和上下文的适应性）对这些数据进行排序。

通过重新评估检索到的内容，重新排序将最相关的部分放在前面。这确保生成的回复不仅准确，而且连贯，并直接回答了用户的需求。该过程使用各种标准，如语义相关性和上下文适应性，对信息进行重新排序。这种改进使得最终回复更加专注和精确，提高了输出的整体质量。

上下文压缩

在过滤掉相关文档后，即使使用了重新排序算法，仍然可能存在不相关的数据来回答用户的查询。我们将消除或删除这些多余数据的过程称为上下文压缩。这一步骤应用于将相关文档传递给LLM之前，确保LLM只接收到最相关的信息，从而能够提供最佳结果。

优点

为了更好地理解这两种方法之间的差异，让我们探讨一下高级RAG相对于初级RAG提供的具体优势。

1. 通过重新排序提供更好的相关性： 重新排序确保最相关的信息排在前面，提高最终回复的准确性和流畅性。
2. 动态嵌入提供更好的上下文： 动态嵌入根据特定任务进行定制，帮助系统更准确地理解和回应不同的查询。
3. 通过混合搜索提供更准确的检索： 混合搜索使用多种策略更有效地查找数据，确保结果的相关性和准确性更高。
4. 通过上下文压缩提供高效的回复： 上下文压缩去除不必要的细节，使过程更快，并产生更专注、高质量的答案。
5. 增强用户查询理解： 通过在检索之前重写和扩展查询，高级RAG确保充分理解用户查询，从而获得更准确和相关的结果。

高级RAG在生成的回复质量方面标志着重大改进。通过添加一个细化阶段，它有效地解决了初级RAG中存在的关键问题，如连贯性和相关性。

对比分析：初级RAG vs. 高级RAG

通过比较初级RAG和高级RAG，我们可以观察到高级RAG是如何在初级RAG的基础上进行扩展的。它引入了关键的改进，提高了准确性、效率和检索的整体质量。

标准	初级RAG	高级RAG
准确性和相关性	通过使用检索到的信息提供基本的准确性。	通过高级过滤、重新排序和更好的上下文使用提高准确性和相关性。
数据检索	使用基本的相似性检查，可能会错过一些相关数据。	通过混合搜索和动态嵌入等技术优化检索，确保高度相关和准确的数据。
查询优化	以直接的方式处理查询，没有太多增强。	通过查询重写和添加元数据等方法改进查询处理，使检索更精确。
可扩展性	随着数据规模的增长，可能变得不太高效，影响检索。	设计为高效处理大型数据集，使用更好的索引和检索方法以保持高性能。
多阶段检索	进行一次检索，可能会错过重要数据。	使用多阶段过程，通过重新排序和上下文压缩等步骤改进初始结果，确保最终输出准确和相关。

Join Our Newsletter

Subscribe

结论

在选择初级RAG和高级RAG之间时，考虑您的应用程序的具体需求。初级RAG适用于简单的用例，其中速度和简单的实施是优先考虑的。它在不需要深入的上下文理解的场景中提高了LLM的性能。另一方面，高级RAG更适用于更复杂的应用程序，通过额外的处理步骤（如精细的过滤和重新排序）提供了更高的准确性和连贯性，使其成为处理更大数据集和复杂查询的首选。

MyScale通过提供可扩展和高效的检索解决方案进一步提升了这些改进。其先进的索引 (opens new window)和数据处理技术提高了信息检索的速度和准确性，支持RAG系统的性能提升。通过利用MyScale，开发人员可以优化他们对高级RAG方法的使用，推动AI系统的改进，提供精确和相关的信息。