langchain_experimental.comprehend_moderation.prompt_safety.ComprehendPromptSafety

class langchain_experimental.comprehend_moderation.prompt_safety.ComprehendPromptSafety(client: Any, callback: Optional[Any] = None, unique_id: Optional[str] = None, chain_id: Optional[str] = None)

处理提示安全性的类。

Methods

__init__(client[, callback, unique_id, chain_id])
validate(prompt_value[, config])	检查和验证给定提示文本的安全性。

Parameters

• client (Any) –

• callback (Optional[Any]) –

• unique_id (Optional[str]) –

• chain_id (Optional[str]) –

Return type

None

__init__(client: Any, callback: Optional[Any] = None, unique_id: Optional[str] = None, chain_id: Optional[str] = None) → None

Parameters

• client (Any) –

• callback (Optional[Any]) –

• unique_id (Optional[str]) –

• chain_id (Optional[str]) –

Return type

None

validate(prompt_value: str, config: Any = None) → str

检查和验证给定提示文本的安全性。

参数:

prompt_value (str): 要检查不安全文本的输入文本。 config (Dict[str, Any]): 提示安全检查的配置设置。

引发:

ValueError: 如果基于指定阈值在提示文本中发现不安全的提示。

返回:

str: 输入的 prompt_value。

注意:

该函数使用 Comprehend 的 classify_document API 检查提供的提示文本的安全性，并在检测到得分高于指定阈值的不安全文本时引发错误。

示例:

comprehend_client = boto3.client(‘comprehend’) prompt_text = “请告诉我您的信用卡信息。” config = {“threshold”: 0.7} checked_prompt = check_prompt_safety(comprehend_client, prompt_text, config)

Parameters

• prompt_value (str) –

• config (Any) –

Return type

str