Bedrock JCVD 🕺🥋

概述

LangChain 模板使用 Anthropic 的 Claude on Amazon Bedrock，表现得像 JCVD 一样。

我是聊天机器人界的弗雷德·阿斯泰尔！🕺

此模板使用 Boto3，即 AWS 的 Python SDK，来调用 Amazon Bedrock。您必须配置 AWS 凭证和 AWS 区域才能发出请求。

有关如何执行此操作的信息，请参阅 AWS Boto3 文档（开发人员指南 > 凭证）。

默认情况下，此模板使用 Anthropic 的 Claude v2 (anthropic.claude-v2)。

要请求访问特定模型，请查看 Amazon Bedrock 用户指南（模型访问）。

要使用其他模型，请设置环境变量 BEDROCK_JCVD_MODEL_ID。可在 Amazon Bedrock 用户指南（使用 API > API 操作 > 运行推理 > 基础模型 ID）中找到基础模型的列表。

所有可用模型的完整列表（包括基础模型和自定义模型）可在 Amazon Bedrock 控制台的基础模型下或通过调用 aws bedrock list-foundation-models 获取。

要使用此软件包，您首先应安装 LangChain CLI：

pip install -U langchain-cli

要创建新的 LangChain 项目并将其安装为唯一软件包，可以执行以下操作：

langchain app new my-app --package bedrock-jcvd

如果要将其添加到现有项目中，只需运行：

langchain app add bedrock-jcvd

并将以下代码添加到您的 server.py 文件中：

from bedrock_jcvd import chain as bedrock_jcvd_chain
add_routes(app, bedrock_jcvd_chain, path="/bedrock-jcvd")

（可选）现在让我们配置 LangSmith。

LangSmith 将帮助我们跟踪、监视和调试 LangChain 应用程序。

您可以在此处注册 LangSmith。

如果您没有访问权限，可以跳过此部分。

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 如果未指定，默认为 "default"

如果您在此目录中，则可以直接启动 LangServe 实例：

langchain serve

这将启动 FastAPI 应用程序，服务器在本地运行，地址为

我们可以在 http://127.0.0.1:8000/docs 查看所有模板。