Skip to content

构建 LLM 应用程序#

欢迎来到《理解 LlamaIndex》的起点。这是一系列简短的、一口大小的教程,涵盖了构建 LLM 应用程序的每个阶段,让您熟悉如何使用 LlamaIndex,然后再深入了解更高级和微妙的策略。如果您是一位经验丰富的程序员,但对 LlamaIndex 感到陌生,那么这里就是您开始的地方。

构建 LLM 应用程序的关键步骤#

提示

如果您已经阅读了我们的高级概念页面,您会发现以下几个步骤中有一些内容是熟悉的。

构建任何由 LLM 驱动的应用程序都涉及一系列关键步骤,无论是回答关于您的数据的问题、创建聊天机器人,还是一个自主代理。在我们的文档中,您会注意到各个部分的排列顺序大致符合您在构建应用程序时执行这些步骤的顺序。您将了解到:

  • 使用 LLMs:无论是 OpenAI 还是您自己本地运行的模型,LLMs 在整个过程中都被使用,从索引和存储到查询和解析您的数据。LlamaIndex 配备了大量可靠、经过测试的提示,我们还将向您展示如何自定义您自己的提示。

  • 加载:从数据源获取数据,无论数据是非结构化文本、PDF、数据库还是其他应用程序的 API。LlamaIndex 在 LlamaHub 上拥有数百个连接器,可以连接到任何数据源。

  • 索引:一旦您获得了数据,就有无数种方式来构建对该数据的访问结构,以确保您的应用程序始终使用最相关的数据。LlamaIndex 内置了大量这样的策略,并可以帮助您选择最佳的策略。

  • 存储:您可能会发现将数据存储为索引形式或由 LLM 提供的预处理摘要更加高效,通常存储在一种专门的数据库中,称为“向量存储”(见下文)。您还可以存储您的索引、元数据等等。

  • 查询:每种索引策略都有相应的查询策略,有许多方法可以提高检索的相关性、速度和准确性,以及 LLM 在将其返回给您之前对其进行的处理,包括将其转换为结构化响应,比如 API。

  • 将所有内容整合起来:无论您是构建问答系统、聊天机器人、API 还是自主代理,我们都会向您展示如何将您的应用程序投入生产。

  • 跟踪和调试:也称为可观察性,对于 LLM 应用程序来说,能够查看内部运行情况以帮助您调试问题并发现改进的地方至关重要。

  • 评估:每种策略都有利弊,构建、发布和发展应用程序的关键部分之一就是评估您的更改是否在准确性、性能、清晰度、成本等方面改进了您的应用程序。可靠地评估您的更改是 LLM 应用程序开发的关键部分。

让我们开始吧!#

准备好了吗?前往 使用 LLMs