AI21LLM

这个示例介绍了如何使用LangChain与AI21模型进行交互。

安装

!pip install -qU langchain-ai21

环境设置

我们需要获取一个AI21 API密钥并设置AI21_API_KEY环境变量：

import os
from getpass import getpass
os.environ["AI21_API_KEY"] = getpass()

使用

from langchain_ai21 import AI21LLM
from langchain_core.prompts import PromptTemplate
template = """问题: {question}
回答: 让我们逐步思考。"""
prompt = PromptTemplate.from_template(template)
model = AI21LLM(model="j2-ultra")
chain = prompt | model
chain.invoke({"question": "什么是LangChain?"})

'\nLangChain是一个（数据库）\nLangChain是用于存储和处理文档的数据库'

AI21上下文答案

您可以使用AI21的上下文答案模型接收文本或文档，作为上下文，

然后提出一个问题，根据这个上下文完全返回一个答案。

这意味着，如果您的问题的答案不在文档中，

模型将指出这一点（而不是提供错误答案）

from langchain_ai21 import AI21ContextualAnswers
tsm = AI21ContextualAnswers()
response = tsm.invoke(input={"context": "您的上下文", "question": "您的问题"})

您还可以将其与链和输出解析器以及向量数据库一起使用

from langchain_ai21 import AI21ContextualAnswers
from langchain_core.output_parsers import StrOutputParser
tsm = AI21ContextualAnswers()
chain = tsm | StrOutputParser()
response = chain.invoke(
    {"context": "您的上下文", "question": "您的问题"},
)