WatsonX

IBM WatsonX 提供了一系列针对各种业务用例优化的企业级基础模型。该提供商支持来自 Granite 和 Llama 系列的多个强大模型，以及用于代码生成、多语言任务、视觉处理等的其他模型。

支持的模型

Granite 系列
- granite-20b-multilingual
- granite-34b-code-instruct
- granite-20b-code-instruct
- granite-8b-code-instruct
- granite-3b-code-instruct
- granite-8b-japanese
- granite-7b-lab
Llama 系列
- llama-3-2-90b-vision-instruct
- llama-3-2-11b-vision-instruct
- llama-3-2-3b-instruct
- llama-3-2-1b-instruct
- llama-guard-3-11b-vision
- llama-3-1-70b-instruct
- llama-3-1-8b-instruct
- llama3-llava-next-8b-hf
- llama-3-405b-instruct
- llama-3-70b-instruct
- llama-3-8b-instruct
其他模型
- allam-1-13b-instruct
- codellama-34b-instruct
- elyza-japanese-llama-2-7b-instruct
- flan-t5-xl-3b
- flan-t5-xxl-11b
- flan-ul2-20b
- jais-13b-chat
- llama2-13b-dpo-v7
- mistral-large-2
- mixtral-8x7b-instruct
- mt0-xxl-13b

前提条件

在集成 WatsonX 提供商之前，请确保您已具备以下条件：

IBM Cloud 账户：您需要一个 IBM Cloud 账户以获取对 WatsonX 模型的 API 访问权限。
API 密钥和项目 ID：从您的 IBM Cloud 账户中获取您的 API 密钥、项目 ID 和服务 URL。

安装

要安装 WatsonX 提供商，请按照以下步骤操作：

安装必要的依赖项：

npm install @ibm-cloud/watsonx-ai ibm-cloud-sdk-core

设置必要的环境变量：

export WATSONX_API_KEY=your-ibm-cloud-api-key
export WATSONX_PROJECT_ID=your-ibm-project-id

或者，您可以直接在配置文件中配置 API 密钥和项目 ID。

providers:
  - id: watsonx:ibm/granite-13b-chat-v2
  config:
    apiKey: your-ibm-cloud-api-key
    projectId: your-ibm-project-id
    serviceUrl: https://us-south.ml.cloud.ibm.com

使用示例

配置完成后，您可以使用 WatsonX 提供商根据提示生成文本响应。以下是使用 Granite 13B Chat V2 模型回答问题的示例：

providers:
  - watsonx:ibm/granite-13b-chat-v2

prompts:
  - "Answer the following question: '{{question}}'"

tests:
  - vars:
      question: 'What is the capital of France?'
    assert:
      - type: contains
        value: 'Paris'

支持的模型​

前提条件​

安装​

使用示例​

支持的模型

前提条件

安装

使用示例