Skip to main content
Open on GitHub

LLMs

caution

您当前所在的页面是记录如何使用文本完成模型的文档。许多最新和最受欢迎的模型是聊天完成模型

除非您特别使用更高级的提示技术,否则您可能正在寻找此页面

LLMs 是语言模型,它接受一个字符串作为输入并返回一个字符串作为输出。

info

如果你想编写自己的LLM,请参阅此指南。 如果你想贡献一个集成,请参阅贡献集成

提供商
AI21LLMlangchain-ai21
AnthropicLLMlangchain-anthropic
AzureOpenAIlangchain-openai
BedrockLLMlangchain-aws
CohereLLMlangchain-cohere
FireworksLLMlangchain-fireworks
OllamaLLMlangchain-ollama
OpenAILLMlangchain-openai
TogetherLLMlangchain-together
VertexAILLMlangchain-google_vertexai
NVIDIAlangchain-nvidia

所有LLMs

名称描述
AI21 Labs请查看此页面以获取更新的ChatAI21对象。
Aleph AlphaLuminous 系列是一个大型语言模型家族。
Alibaba Cloud PAI EAS阿里云的人工智能机器学习平台是一个机器学习...
Amazon API GatewayAmazon API Gateway 是一项完全托管的服务,使得...
AnyscaleAnyscale 是一个完全托管的 Ray 平台,您可以在其上构建、部署...
Aphrodite EngineAphrodite 是开源的大规模推理引擎,旨在...
Arcee本笔记本演示了如何使用Arcee类进行生成...
Azure MLAzure ML 是一个用于构建、训练和部署机器学习的平台...
Azure OpenAI您当前正在查看有关使用 Azure OpenAI 文本的文档页面...
Baichuan LLM百川公司 (https 效率、健康和幸福。
Baidu Qianfan百度AI云千帆平台是一站式大型模型开发...
BananaBanana 专注于构建机器学习基础设施。
BasetenBaseten 是 LangChain 生态系统中的一个提供者,实现了 ...
Beam调用Beam API包装器以部署并随后调用...
Bedrock您当前正在查看有关使用Amazon Bedrock模块的文档页面...
BittensorBittensor 是一个类似于比特币的挖矿网络,包括构建...
CerebriumAICerebrium 是 AWS Sagemaker 的替代品。它还提供 API 访问...
ChatGLMChatGLM-6B 是一个基于通用语言的开源双语语言模型...
ClarifaiClarifai 是一个提供完整 AI 生命周期的 AI 平台...
Cloudflare Workers AICloudflare AI 文档列出了所有可用的生成文本模型...
Cohere您当前正在查看关于使用Cohere模型的文档页面...
C TransformersC Transformers 库为 GGML 模型提供了 Python 绑定。
CTranslate2CTranslate2 是一个用于高效推理的 C++ 和 Python 库...
DatabricksDatabricks Lakehouse 平台将数据、分析和人工智能统一在一个平台上...
DeepInfraDeepInfra 是一种无服务器推理即服务,提供访问...
DeepSparse本页面介绍了如何在L...中使用DeepSparse推理运行时。
Eden AIEden AI 正在通过整合最佳的人工智能技术来革新人工智能领域...
ExLlamaV2ExLlamav2 是一个用于在本地运行LLM的快速推理库...
Fireworks您当前所在的页面记录了Fireworks模型的使用...
ForefrontAIForefront平台使您能够微调和使用ope...
FriendliFriendli 提升AI应用性能并优化成本节省...
GigaChat本笔记本展示了如何使用LangChain与GigaChat。
Google AI您当前正在查看关于使用Google模型的文档页面...
Google Cloud Vertex AI您当前正在查看有关使用Google Vertex文本的文档页面...
GooseAIGooseAI 是一个完全托管的 NLP 即服务,通过 API 提供。Goose...
GPT4AllGitHub:nomic-ai/gpt4all 一个由开源聊天机器人训练的生态系统...
GradientGradient 允许通过简单的...微调并获得LLMs的完成。
Huggingface EndpointsHugging Face Hub 是一个拥有超过 12 万个模型、2 万个数据集的平台...
Hugging Face Local PipelinesHugging Face 模型可以通过 HuggingFacePipelin 在本地运行...
IBM watsonx.aiWatsonxLLM 是 IBM watsonx.ai 基础模型的封装器。
IPEX-LLMIPEX-LLM 是一个 PyTorch 库,用于在 Intel CPU 和 GPU 上运行 LLM (e...
Javelin AI Gateway Tutorial这个Jupyter Notebook将探讨如何与Javelin A...进行交互
JSONFormerJSONFormer 是一个封装本地 Hugging Face 管道模型的库...
KoboldAI APIKoboldAI 是一个“基于浏览器的前端,用于AI辅助写作...
KonkoKonko API 是一个完全托管的 Web API,旨在帮助应用程序开发...
Layerup SecurityLayerup Security 集成允许您保护对...的调用
Llama.cppllama-cpp-python 是 llama.cpp 的 Python 绑定。
LlamafileLlamafile 允许您使用单个文件分发和运行 LLMs。
LM Format EnforcerLM Format Enforcer 是一个用于强制语言模型输出格式的库...
Manifest本笔记本介绍了如何使用Manifest和LangChain。
MinimaxMinimax 是一家中国初创公司,提供自然语言处理...
MLX Local PipelinesMLX 模型可以通过 MLXPipeline 类在本地运行。
ModalModal云平台提供了便捷的按需访问服务...
ModelScopeModelScope(主页 | GitHub)基于“模型即服务”的概念构建...
MoonshotChatMoonshot 是一家中国初创公司,为企业提供 LLM 服务...
MosaicMLMosaicML 提供托管的推理服务。您可以使用一个变量...
NLP CloudNLP Cloud 提供高性能的预训练或自定义模型...
NVIDIA这将帮助您开始使用NVIDIA模型。有关详细信息...
oci_generative_aiOracle 云基础设施生成式 AI
OCI Data Science Model Deployment EndpointOCI Data Science 是一个完全托管且无服务器的数据平台...
OctoAIOctoAI 提供便捷的高效计算访问,使用户能够...
Ollama您当前正在查看有关使用Ollama模型的文档页面...
OpaquePromptsOpaquePrompts 是一项服务,使应用程序能够利用 ...
OpenAI您当前正在查看有关使用OpenAI文本补全的文档页面...
OpenLLM🦾 OpenLLM 允许开发者运行任何开源的大型语言模型,与 OpenAI 兼容...
OpenLMOpenLM 是一个零依赖的 OpenAI 兼容的 LLM 提供者,可以...
OpenVINOOpenVINO™ 是一个开源工具包,用于优化和部署人工智能...
Outlines这将帮助您开始使用Outlines LLM。有关详细信息...
PetalsPetals 在家中以 BitTorrent 风格运行 100B+ 语言模型。
PipelineAIPipelineAI 允许您在云端大规模运行您的机器学习模型。它...
PredibasePredibase 允许您训练、微调和部署任何机器学习模型—从...
PredictionGuardPrediction Guard 是一个安全、可扩展的 GenAI 平台,用于保护...
PromptLayer OpenAIPromptLayer 是第一个允许您跟踪、管理和...
RELLMRELLM 是一个封装本地 Hugging Face 管道模型的库,用于 ...
ReplicateReplicate 在云端运行机器学习模型。我们有一个库...
RunhouseRunhouse 允许跨环境和用户的远程计算和数据...
SageMakerEndpointAmazon SageMaker 是一个可以构建、训练和部署机器学习的系统...
SambaNovaCloudSambaNova的SambaNova Cloud是一个用于执行推理的平台...
SambaStudioSambaNova的Sambastudio是一个平台,允许您训练、运行b...
Solar此社区集成已弃用。您应该使用 ChatUpstage ...
SparkLLMSparkLLM 是由...独立开发的大规模认知模型
StochasticAI随机加速平台旨在简化...的生命周期
Nebula (Symbl.ai)Nebula 是由 Symbl.ai 构建的大型语言模型 (LLM)。它经过训练...
TextGenGitHub:oobabooga/text-generation-webui 一个用于运行La...的gradio网页界面
Titan TakeoffTitanML 帮助企业构建和部署更好、更小、更便宜、更...
Together AI您当前正在查看Together AI模型使用文档的页面...
Tongyi QwenTongyi Qwen 是由阿里巴巴开发的大规模语言模型...
vLLMvLLM 是一个快速且易于使用的库,用于 LLM 推理和服务,...
Volc Engine Maas本笔记本为您提供了如何开始使用Vo...的指南。
Intel 仅权重量化使用 Intel 扩展对 Huggingface 模型进行仅权重量化...
Writer LLMWriter 是一个生成不同语言内容的平台。
Xorbits Inference (Xinference)Xinference 是一个强大且多功能的库,旨在为大型语言模型提供服务,
YandexGPT本笔记本介绍了如何使用Langchain与YandexGPT。
Yi01.AI,由李开复博士创立,是一家处于全球前沿的公司...
Yuan2.0Yuan2.0 是新一代基础大型语言模型开发...

这个页面有帮助吗?