使用案例

以下部分介绍了常见的 txtai 使用案例。还提供了一套超过 50 个示例笔记本和应用程序。

语义搜索

构建语义/相似性/向量/神经搜索应用程序。

传统的搜索系统使用关键词来查找数据。语义搜索理解自然语言，并识别出具有相同含义的结果，而不仅仅是相同的关键词。

通过以下示例开始使用。

笔记本	描述
介绍 txtai ▶️	txtai 提供的功能概述
图像的相似性搜索	将图像和文本嵌入同一空间进行搜索
构建 QA 数据库	使用语义搜索进行问题匹配
语义图	探索主题、数据连接性并运行网络分析

LLM 编排

LLM 链、检索增强生成（RAG）、与您的数据聊天、与大型语言模型（LLMs）接口的管道和工作流。

链

集成 LLM 链（在 txtai 中称为工作流）、多个 LLM 代理和自我批评。

了解更多信息，请参见下文。

笔记本	描述
提示模板和任务链	构建模型提示并将任务连接在一起的工作流
集成 LLM 框架	集成 llama.cpp、LiteLLM 和自定义生成框架
使用 LLM 构建知识图谱	使用 LLM 驱动的实体提取构建知识图谱

检索增强生成

检索增强生成（RAG）通过将知识库作为上下文来约束输出，从而降低 LLM 产生幻觉的风险。RAG 通常用于“与您的数据聊天”。

txtai 的一个新颖功能是它可以提供答案和来源引用。

笔记本	描述
使用 txtai 构建 RAG 管道	检索增强生成的指南，包括如何创建引用
txtai如何实现RAG	创建RAG流程、API服务和Docker实例
通过图路径遍历实现高级RAG	通过图路径遍历收集复杂的数据集以实现高级RAG
语音到语音RAG ▶️	完整的语音到语音工作流程与RAG

语言模型工作流程

语言模型工作流程，也称为语义工作流程，将语言模型连接在一起以构建智能应用程序。

虽然大型语言模型（LLM）功能强大，但有许多更小、更专业化的模型在特定任务上表现更好、速度更快。这包括用于抽取式问答、自动摘要、文本到语音、转录和翻译的模型。

笔记本	描述
运行管道工作流程 ▶️	简单而强大的结构，用于高效处理数据
构建抽象文本摘要	运行抽象文本摘要
将音频转录为文本	将音频文件转换为文本
在语言之间翻译文本	简化机器翻译和语言检测