Replicate
本页面介绍了如何在LangChain中的Replicate上运行模型。
安装与设置
- 创建一个Replicate账户。获取你的API密钥并将其设置为环境变量（
REPLICATE_API_TOKEN） - 使用
pip install replicate安装Replicate python客户端
调用模型
在Replicate探索页面上找到一个模型，然后以这种格式粘贴模型名称和版本：owner-name/model-name:version
例如，对于这个dolly模型，点击API标签。模型名称/版本将是："replicate/dolly-v2-12b:ef0e1aefc61f8e096ebe4db6b2bacc297daf2ef6899f0f7e001ec445893500e5"
只有model参数是必需的，但也可以以input={model_param: value, ...}的格式传入任何其他模型参数。
例如，如果我们正在运行稳定扩散并想要更改图像尺寸：
Replicate(model="stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf", input={'image_dimensions': '512x512'})
请注意，只有模型的第一个输出会被返回。 从这里，我们可以初始化我们的模型：
llm = Replicate(model="replicate/dolly-v2-12b:ef0e1aefc61f8e096ebe4db6b2bacc297daf2ef6899f0f7e001ec445893500e5")
并运行它：
prompt = """
Answer the following yes/no question by reasoning step by step.
Can a dog drive a car?
"""
llm(prompt)
我们可以使用这种语法调用任何Replicate模型（不仅仅是LLMs）。例如，我们可以调用Stable Diffusion：
text2image = Replicate(model="stability-ai/stable-diffusion:db21e45d3f7023abc2a46ee38a23973f6dce16bb082a930b0c49861f96d1e5bf", input={'image_dimensions':'512x512'})
image_output = text2image("A cat riding a motorcycle by Picasso")