概念#
提示是赋予LLM(大型语言模型)表达能力的基本输入。LlamaIndex 使用提示来构建索引、进行插入、在查询过程中执行遍历,并合成最终答案。
LlamaIndex 使用一组默认提示模板,这些模板可以直接使用。
此外,还有一些专门用于聊天模型(如 gpt-3.5-turbo
)的提示,可以在这里找到。
用户还可以提供自己的提示模板,以进一步定制框架的行为。最佳的定制方法是复制上述链接中的默认提示,然后以此为基础进行任何修改。
使用模式#
使用提示很简单。
from llama_index.core import PromptTemplate
template = (
"我们已经提供了下面的上下文信息。\n"
"---------------------\n"
"{context_str}"
"\n---------------------\n"
"根据这些信息,请回答问题:{query_str}\n"
)
qa_template = PromptTemplate(template)
# 您可以创建文本提示(用于完成API)
prompt = qa_template.format(context_str=..., query_str=...)
# 或者轻松转换为消息提示(用于聊天API)
messages = qa_template.format_messages(context_str=..., query_str=...)
更多详情请参阅我们的使用模式指南。
示例指南#
简单定制示例
提示工程指南
实验性内容