提示模板
提示模板有助于将用户输入和参数翻译成语言模型的指令。 这可以用来指导模型的响应,帮助它理解上下文并生成相关且连贯的基于语言的输出。
提示模板将字典作为输入,其中每个键代表提示模板中要填充的变量。
提示模板输出一个提示值。这个提示值可以传递给LLM或聊天模型,也可以转换为字符串或消息列表。存在这个提示值的原因是为了方便在字符串和消息之间切换。
有几种不同类型的提示模板:
字符串提示模板
这些提示模板用于格式化单个字符串,通常用于较简单的输入。 例如,构造和使用PromptTemplate的常见方式如下:
from langchain_core.prompts import PromptTemplate
prompt_template = PromptTemplate.from_template("Tell me a joke about {topic}")
prompt_template.invoke({"topic": "cats"})
API Reference:PromptTemplate
聊天提示模板
这些提示模板用于格式化消息列表。这些“模板”本身由一系列模板组成。 例如,构建和使用ChatPromptTemplate的常见方式如下:
from langchain_core.prompts import ChatPromptTemplate
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
("user", "Tell me a joke about {topic}")
])
prompt_template.invoke({"topic": "cats"})
API Reference:ChatPromptTemplate
在上面的例子中,这个ChatPromptTemplate在被调用时会构造两条消息。
第一条是系统消息,没有需要格式化的变量。
第二条是HumanMessage,将由用户传入的topic
变量进行格式化。
消息占位符
此提示模板负责在特定位置添加消息列表。 在上述的ChatPromptTemplate中,我们看到了如何格式化两条消息,每条消息都是一个字符串。 但如果我们希望用户传入一个消息列表,并将其插入到特定位置,该怎么办呢? 这就是如何使用MessagesPlaceholder。
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.messages import HumanMessage
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
MessagesPlaceholder("msgs")
])
prompt_template.invoke({"msgs": [HumanMessage(content="hi!")]})
这将生成两条消息的列表,第一条是系统消息,第二条是我们传入的HumanMessage。 如果我们传入了5条消息,那么它将总共生成6条消息(系统消息加上传入的5条消息)。 这对于让一系列消息插入到特定位置非常有用。
实现相同效果的另一种方法,而不需要显式使用MessagesPlaceholder
类的是:
prompt_template = ChatPromptTemplate([
("system", "You are a helpful assistant"),
("placeholder", "{msgs}") # <-- This is the changed part
])
有关如何使用提示模板的具体信息,请参阅相关操作指南。