langchain_community.llms.sambanova.SSEndpointHandler

class langchain_community.llms.sambanova.SSEndpointHandler(host_url: str, api_base_uri: str)

SambaNova Systems接口，用于SambaStudio模型端点。

Parameters

• host_url (str) – DaaS API服务的基本URL

• api_base_uri (str) –

初始化SSEndpointHandler。

Parameters

• host_url (str) – DaaS API服务的基本URL

• api_base_uri (str) – DaaS API服务的基本URI

Methods

__init__(host_url, api_base_uri)	初始化SSEndpointHandler。
nlp_predict(project, endpoint, key, input[, ...])	使用内联输入字符串进行自然语言处理预测。
nlp_predict_stream(project, endpoint, key, input)	使用内联输入字符串进行自然语言处理预测。

__init__(host_url: str, api_base_uri: str)

初始化SSEndpointHandler。

Parameters

• host_url (str) – DaaS API服务的基本URL

• api_base_uri (str) – DaaS API服务的基本URI

nlp_predict(project: str, endpoint: str, key: str, input: Union[List[str], str], params: Optional[str] = '', stream: bool = False) → Dict

使用内联输入字符串进行自然语言处理预测。

Parameters

• project (str) – 存在端点的项目ID

• endpoint (str) – 端点ID

• key (str) – API密钥

• input_str (str) – 输入字符串

• params (str) – 输入参数字符串

• input (Union[List[str], str]) –

• stream (bool) –

Returns

预测结果

Return type

dict

nlp_predict_stream(project: str, endpoint: str, key: str, input: Union[List[str], str], params: Optional[str] = '') → Iterator[Dict]

使用内联输入字符串进行自然语言处理预测。

Parameters

• project (str) – 存在端点的项目ID

• endpoint (str) – 端点ID

• key (str) – API密钥

• input_str (str) – 输入字符串

• params (str) – 输入参数字符串

• input (Union[List[str], str]) –

Returns

预测结果

Return type

dict