Skip to main content
Open In ColabOpen on GitHub

Label Studio

Label Studio 是一个开源的数据标注平台，为 LangChain 提供了在标注数据以微调大型语言模型（LLMs）时的灵活性。它还支持准备自定义训练数据，并通过人类反馈收集和评估响应。

在本指南中，您将学习如何将LangChain管道连接到Label Studio，以便：

  • 将所有输入提示、对话和响应聚合在一个Label Studio项目中。这将所有数据整合在一个地方，以便更容易进行标注和分析。
  • 优化提示和响应，以创建用于监督微调（SFT）和人类反馈强化学习（RLHF）场景的数据集。标记的数据可用于进一步训练LLM以提高其性能。
  • 通过人类反馈评估模型响应。Label Studio提供了一个界面，供人类审查并提供对模型响应的反馈，从而进行评估和迭代。

安装和设置​

首先安装最新版本的Label Studio和Label Studio API客户端：

%pip install --upgrade --quiet langchain label-studio label-studio-sdk langchain-openai langchain-community

接下来，在命令行中运行label-studio以在http://localhost:8080启动本地LabelStudio实例。有关更多选项，请参阅Label Studio安装指南。

你需要一个令牌来进行API调用。

在浏览器中打开您的LabelStudio实例，转到Account & Settings > Access Token并复制密钥。

使用您的LabelStudio URL、API密钥和OpenAI API密钥设置环境变量：

import os

os.environ["LABEL_STUDIO_URL"] = "<YOUR-LABEL-STUDIO-URL>"  # e.g. http://localhost:8080
os.environ["LABEL_STUDIO_API_KEY"] = "<YOUR-LABEL-STUDIO-API-KEY>"
os.environ["OPENAI_API_KEY"] = "<YOUR-OPENAI-API-KEY>"

收集LLMs的提示和响应​

用于标记的数据存储在Label Studio的项目中。每个项目都由一个XML配置标识，该配置详细说明了输入和输出数据的规范。

创建一个项目，该项目接受文本格式的人工输入，并在文本区域中输出可编辑的LLM响应：

<View>
<Style>
    .prompt-box {
        background-color: white;
        border-radius: 10px;
        box-shadow: 0px 4px 6px rgba(0, 0, 0, 0.1);
        padding: 20px;
    }
</Style>
<View className="root">
    <View className="prompt-box">
        <Text name="prompt" value="$prompt"/>
    </View>
    <TextArea name="response" toName="prompt"
              maxSubmissions="1" editable="true"
              required="true"/>
</View>
<Header value="Rate the response:"/>
<Rating name="rating" toName="prompt"/>
</View>
  1. 要在Label Studio中创建一个项目，请点击“创建”按钮。
  2. 在“项目名称”字段中输入您的项目名称，例如My Project。
  3. 导航到 Labeling Setup > Custom Template 并粘贴上面提供的 XML 配置。

您可以在LabelStudio项目中收集输入的LLM提示和输出响应，通过LabelStudioCallbackHandler连接它：

from langchain_community.callbacks.labelstudio_callback import (
    LabelStudioCallbackHandler,
)
from langchain_openai import OpenAI

llm = OpenAI(
    temperature=0, callbacks=[LabelStudioCallbackHandler(project_name="My Project")]
)
print(llm.invoke("Tell me a joke"))
API Reference:OpenAI

在Label Studio中，打开My Project。您将看到提示、响应和元数据，如模型名称。

收集聊天模型对话​

您还可以在LabelStudio中跟踪和显示完整的聊天对话，并能够对最后的响应进行评分和修改：

  1. 打开Label Studio并点击“创建”按钮。
  2. 在“项目名称”字段中输入您的项目名称，例如New Project with Chat。
  3. 导航到标签设置 > 自定义模板并粘贴以下XML配置：
<View>
<View className="root">
     <Paragraphs name="dialogue"
               value="$prompt"
               layout="dialogue"
               textKey="content"
               nameKey="role"
               granularity="sentence"/>
  <Header value="Final response:"/>
    <TextArea name="response" toName="dialogue"
              maxSubmissions="1" editable="true"
              required="true"/>
</View>
<Header value="Rate the response:"/>
<Rating name="rating" toName="dialogue"/>
</View>
from langchain_core.messages import HumanMessage, SystemMessage
from langchain_openai import ChatOpenAI

chat_llm = ChatOpenAI(
    callbacks=[
        LabelStudioCallbackHandler(
            mode="chat",
            project_name="New Project with Chat",
        )
    ]
)
llm_results = chat_llm.invoke(
    [
        SystemMessage(content="Always use a lot of emojis"),
        HumanMessage(content="Tell me a joke"),
    ]
)

在Label Studio中，打开“使用聊天的新项目”。点击已创建的任务以查看对话历史记录并编辑/注释响应。

自定义标签配置​

您可以在LabelStudio中修改默认的标签配置，以添加更多的目标标签，如响应情感、相关性以及许多其他类型的注释者反馈。

可以从用户界面添加新的标签配置：转到Settings > Labeling Interface并设置一个自定义配置，包含额外的标签，如用于情感的Choices或用于相关性的Rating。请记住，任何配置中都应该包含TextArea标签以显示LLM的响应。

或者，您可以在项目创建之前的初始调用中指定标签配置：

ls = LabelStudioCallbackHandler(
    project_config="""
<View>
<Text name="prompt" value="$prompt"/>
<TextArea name="response" toName="prompt"/>
<TextArea name="user_feedback" toName="prompt"/>
<Rating name="rating" toName="prompt"/>
<Choices name="sentiment" toName="prompt">
    <Choice value="Positive"/>
    <Choice value="Negative"/>
</Choices>
</View>
"""
)

请注意，如果项目不存在，它将使用指定的标签配置创建。

其他参数​

LabelStudioCallbackHandler 接受几个可选参数：

  • api_key - Label Studio API 密钥。覆盖环境变量 LABEL_STUDIO_API_KEY。
  • url - Label Studio 的 URL。覆盖 LABEL_STUDIO_URL，默认值为 http://localhost:8080。
  • project_id - 现有的Label Studio项目ID。覆盖LABEL_STUDIO_PROJECT_ID。将数据存储在此项目中。
  • project_name - 如果未指定项目ID，则为项目名称。创建一个新项目。默认值为"LangChain-%Y-%m-%d"，使用当前日期格式化。
  • project_config - 自定义标签配置
  • mode: 使用此快捷方式从头创建目标配置：
    • "prompt" - 单次提示，单次响应。默认。
    • "chat" - 多轮聊天模式。

这个页面有帮助吗？