Oracle 云基础设施 (OCI)
与Oracle Cloud Infrastructure相关的LangChain
集成。
OCI 生成式 AI
Oracle 云基础设施 (OCI) 生成式 AI 是一项完全托管的服务,提供一套最先进的、可定制的大型语言模型 (LLMs),涵盖广泛的用例,并通过单一 API 提供。使用 OCI 生成式 AI 服务,您可以访问即用型预训练模型,或基于您自己的数据在专用 AI 集群上创建和托管您自己微调的自定义模型。
要使用,您应该安装最新的oci
python SDK和langchain_community包。
pip install -U oci langchain-community
from langchain_community.chat_models import ChatOCIGenAI
from langchain_community.llms import OCIGenAI
from langchain_community.embeddings import OCIGenAIEmbeddings
OCI 数据科学模型部署端点
OCI Data Science 是一个 完全托管且无服务器的平台,适用于数据科学团队。使用 OCI Data Science 平台,您可以构建、训练和管理机器学习模型,然后使用 OCI Data Science 模型部署服务 将它们部署为 OCI 模型部署端点。
要使用,您应该安装最新的oracle-ads
python SDK。
pip install -U oracle-ads
from langchain_community.chat_models import ChatOCIModelDeployment
from langchain_community.llms import OCIModelDeploymentLLM
API Reference:ChatOCIModelDeployment | OCIModelDeploymentLLM