理解提示安全性

class langchain_experimental.comprehend_moderation.prompt_safety.ComprehendPromptSafety(client: Any, callback: Any | None = None, unique_id: str | None = None, chain_id: str | None = None)

用于处理提示安全审核的类。

方法

__init__(client[, callback, unique_id, chain_id])
validate(prompt_value[, config])	检查并验证给定提示文本的安全性。

Parameters:

• client (Any)

• callback (任意 | 无)

• unique_id (str | None)

• chain_id (str | None)

__init__(client: Any, callback: Any | None = None, unique_id: str | None = None, chain_id: str | None = None) → None

Parameters:

• client (Any)

• callback (任意 | 无)

• unique_id (str | None)

• chain_id (str | None)

Return type:

无

validate(prompt_value: str, config: Any = None) → str

检查并验证给定提示文本的安全性。

Parameters:

• prompt_value (str) – 需要检查是否包含不安全文本的输入文本。

• config (Dict[str, Any]) – 用于提示安全检查的配置设置。

Raises:

• ValueError – 如果在提示文本中发现不安全的提示

• 在指定的阈值上。 –

Returns:

输入的提示值。

Return type:

字符串

注意

此函数使用Comprehend的classify_document API检查提供的提示文本的安全性，并在检测到分数超过指定阈值的不安全文本时引发错误。

示例

comprehend_client = boto3.client(‘comprehend’) prompt_text = “请告诉我您的信用卡信息。” config = {“threshold”: 0.7} checked_prompt = check_prompt_safety(comprehend_client, prompt_text, config)