Skip to main content
Open In ColabOpen on GitHub

Cloudflare Workers AI

Cloudflare, Inc. (Wikipedia) 是一家美国公司,提供内容分发网络服务、云网络安全、DDoS缓解和ICANN认证的域名注册服务。

Cloudflare Workers AI 允许你通过REST API在你的代码中运行机器学习模型,这些模型运行在Cloudflare网络上。

Cloudflare AI 文档列出了所有可用的文本嵌入模型。

设置

需要Cloudflare账户ID和API令牌。了解如何从此文档中获取它们。

import getpass

my_account_id = getpass.getpass("Enter your Cloudflare account ID:\n\n")
my_api_token = getpass.getpass("Enter your Cloudflare API token:\n\n")

示例

from langchain_community.embeddings.cloudflare_workersai import (
CloudflareWorkersAIEmbeddings,
)
embeddings = CloudflareWorkersAIEmbeddings(
account_id=my_account_id,
api_token=my_api_token,
model_name="@cf/baai/bge-small-en-v1.5",
)
# single string embeddings
query_result = embeddings.embed_query("test")
len(query_result), query_result[:3]
(384, [-0.033627357333898544, 0.03982774540781975, 0.03559349477291107])
# string embeddings in batches
batch_query_result = embeddings.embed_documents(["test1", "test2", "test3"])
len(batch_query_result), len(batch_query_result[0])
(3, 384)

这个页面有帮助吗?