Skip to content

提示#

在LLM应用程序中,提示是任何LLM应用程序的基本单元。您可以完全围绕提示构建整个应用程序,或者与其他模块(例如检索)协调以构建RAG、代理等。

LlamaIndex支持LLM抽象和简单到高级的提示抽象,以实现复杂的提示工作流。

LLM集成#

LlamaIndex支持40多个LLM集成,从OpenAI、Anthropic等专有模型提供商到Mistral、Ollama、Replicate等开源模型/模型提供商。它提供了所有工具,以便围绕常见的LLM使用模式(包括但不限于异步、流式传输、函数调用)标准化接口。

这里是LLM的完整模块指南

提示#

LlamaIndex具有强大的提示抽象,可以捕获与LLM的所有常见交互模式。

这里是提示的完整模块指南

基本要求#

高级#

提示链和管道#

LlamaIndex具有创建顺序提示链的强大抽象,以及用于与任何其他组件协调提示的通用DAG。这使您可以构建复杂的工作流程,包括具有多跳查询理解层的RAG,以及代理。

这些管道已与可观察性合作伙伴集成在一起。

有关提示链和管道的中心指南是通过我们的查询管道