`langchain_community.llms.sambanova`.SVEndpointHandler¶

class langchain_community.llms.sambanova.SVEndpointHandler(host_url: str)[source]¶

SambaNova Systems接口用于Sambaverse端点。

Parameters: host_url (str) – DaaS API服务的基本URL

初始化SVEndpointHandler。

Parameters: host_url (str) – DaaS API 服务的基本URL

Attributes

API_BASE_PATH

Methods

`__init__`(host_url)	初始化SVEndpointHandler。
`nlp_predict`(key, sambaverse_model_name, input)	使用内联输入字符串进行自然语言处理预测。
`nlp_predict_stream`(key, ...[, params])	使用内联输入字符串进行自然语言处理预测。

__init__(host_url: str)[source]¶

初始化SVEndpointHandler。

Parameters: host_url (str) – DaaS API 服务的基本URL

nlp_predict(key: str, sambaverse_model_name: Optional[str], input: Union[List[str], str], params: Optional[str] = '', stream: bool = False) → Dict[source]¶

使用内联输入字符串进行自然语言处理预测。

Parameters

project (str) – 存在端点的项目ID
endpoint (str) – 端点ID
key (str) – API密钥
input_str (str) – 输入字符串
params (str) – 输入参数字符串
sambaverse_model_name (Optional[str]) –
input (Union[List[str], str]) –
stream (bool) –

Returns

预测结果

Return type

dict

nlp_predict_stream(key: str, sambaverse_model_name: Optional[str], input: Union[List[str], str], params: Optional[str] = '') → Iterator[Dict][source]¶