Skip to main content

Wren AI Service

ai

该图展示了由Wren AI提供的AI服务流程,该流程似乎涉及大型语言模型(LLM)(如OpenAI的GPT)与知识库的交互,以处理和回答查询。根据图表,以下是该过程的概述:

索引处理 :

该过程从将模型定义语言(MDL)重写为数据定义语言(DDL)开始,以帮助LLM更好地理解数据的上下文。

向量数据库:

向量数据库专门用于高效存储和搜索向量数据。向量数据以可被AI搜索的方式存储语义上下文。

RAG 管道:

  • 检索:这是Wren AI服务在向量数据库中搜索与用户查询相关的上下文的地方。
  • 提示: Wren AI 服务构建了一个提示,该提示包括查询和从向量数据库中检索到的上下文。此提示旨在促进 LLM 生成相关且准确的响应。
  • LLM: 大型语言模型接收提示并生成SQL和描述,以创建与用户初始查询相对应的结果。
info

我们当前版本使用的LLM:

  • 嵌入器: OpenAI text-embedding-3-large,维度为3072
  • 生成器: 您可以从以下模型中选择
    • OpenAI gpt-4o-mini
    • OpenAI gpt-4o

请期待未来版本,我们将提供更多的LLM选项。

输出处理:

  • 验证:由LLM生成的SQL经过验证,以确保其可执行。Wren AI服务与Wren Engine协作执行SQL并验证结果。
  • 修正: 如果在验证过程中检测到错误,或者SQL被认为“不够好”,系统会标记这一点,并提示LLM重新生成输出。

总体而言,Wren AI 服务结合了大型语言模型的自然语言处理能力与数据库查询和验证的精确性,提供了一个强大的 AI 驱动的查询回答服务。