Skip to main content

自定义脚本

您可以将任何 shell 命令用作 API 提供者。当您希望使用 promptfoo 不直接支持的语言或框架时,这尤其有用。

虽然脚本提供者特别适用于评估链,但如果它们是用 Python 或其他语言实现的,通常也可以用来测试您的提示。

tip

Python 用户:有一个专门的 python 提供者,您可能会发现它更容易使用。

Javascript 用户:请参阅如何实现 ApiProvider

要使用脚本提供者,您需要创建一个可执行文件,该文件将提示作为其第一个参数,并返回 API 调用的结果。该脚本应能够从命令行调用。

以下是如何使用脚本提供者的示例:

providers:
- 'exec: python chain.py'

或在 CLI 中:

promptfoo eval -p prompt1.txt prompt2.txt -o results.csv  -v vars.csv -r 'exec: python chain.py'

在上面的示例中,chain.py 是一个 Python 脚本,它将提示作为参数,执行 LLM 链,并输出结果。

有关脚本提供者的更深入示例,请参阅 LLM 链 示例。