Portkey AI 集成

Portkey 是一个包含提示管理功能的 AI 可观测性套件。

要在 Portkey 中引用提示：

设置 PORTKEY_API_KEY 环境变量。

使用 portkey:// 前缀加上 Portkey 提示 ID。例如：

prompts:
  - 'portkey://pp-test-promp-669f48'

providers:
  - openai:gpt-4o-mini

tests:
  - vars:
      topic: ...

来自 promptfoo 测试用例的变量将自动插入到 Portkey 提示中作为变量。生成的提示将被渲染并返回给 promptfoo，并用于测试用例的提示。

请注意，promptfoo 不会遵循 Portkey 中设置的温度、模型和其他参数。您必须在 providers 配置中自行设置这些参数。

使用 Portkey 网关

Portkey AI 网关直接受 promptfoo 支持。另请参阅 Portkey 关于集成 promptfoo 的文档。

示例：

providers:
  id: portkey:gpt-4o-mini
  config:
    portkeyProvider: openai

还支持更复杂的 Portkey 配置。

providers:
  id: portkey:gpt-4o-mini
  config:
    # 可以替代设置环境变量，例如 PORTKEY_API_KEY
    portkeyApiKey: xxx

    # 其他配置选项
    portkeyVirtualKey: xxx
    portkeyMetadata:
      team: xxx
    portkeyConfig: xxx
    portkeyProvider: xxx
    portkeyApiBaseUrl: xxx

使用 Portkey 网关​

使用 Portkey 网关