langchain_core.callbacks.manager.CallbackManagerForLLMRun

class langchain_core.callbacks.manager.CallbackManagerForLLMRun(*, run_id: UUID, handlers: List[BaseCallbackHandler], inheritable_handlers: List[BaseCallbackHandler], parent_run_id: Optional[UUID] = None, tags: Optional[List[str]] = None, inheritable_tags: Optional[List[str]] = None, metadata: Optional[Dict[str, Any]] = None, inheritable_metadata: Optional[Dict[str, Any]] = None)[source]

LLM运行的回调管理器。

初始化运行管理器。

参数：

run_id（UUID）：运行的ID。 handlers（List[BaseCallbackHandler]）：处理程序列表。 inheritable_handlers（List[BaseCallbackHandler]）：

可继承的处理程序列表。

parent_run_id（UUID，可选）：父运行的ID。

默认为None。

tags（Optional[List[str]]）：标签列表。 inheritable_tags（Optional[List[str]]）：可继承的标签列表。 metadata（Optional[Dict[str, Any]]）：元数据。 inheritable_metadata（Optional[Dict[str, Any]]）：可继承的元数据。

Methods

__init__(*, run_id, handlers, ...[, ...])

初始化运行管理器。

get_noop_manager()

返回一个不执行任何操作的管理器。

on_llm_end(response, **kwargs)

当LLM运行结束时运行。

on_llm_error(error, **kwargs)

当LLM出现错误时运行。

on_llm_new_token(token, *[, chunk])

当LLM生成一个新的令牌时运行。

on_retry(retry_state, **kwargs)

在重试事件上运行。

on_text(text, **kwargs)

当接收到文本时运行。
Parameters

  • run_id (UUID) –

  • handlers (List[BaseCallbackHandler]) –

  • inheritable_handlers (List[BaseCallbackHandler]) –

  • parent_run_id (Optional[UUID]) –

  • tags (Optional[List[str]]) –

  • inheritable_tags (Optional[List[str]]) –

  • metadata (Optional[Dict[str, Any]]) –

  • inheritable_metadata (Optional[Dict[str, Any]]) –

Return type

None

__init__(*, run_id: UUID, handlers: List[BaseCallbackHandler], inheritable_handlers: List[BaseCallbackHandler], parent_run_id: Optional[UUID] = None, tags: Optional[List[str]] = None, inheritable_tags: Optional[List[str]] = None, metadata: Optional[Dict[str, Any]] = None, inheritable_metadata: Optional[Dict[str, Any]] = None) → None

初始化运行管理器。

参数：

run_id（UUID）：运行的ID。 handlers（List[BaseCallbackHandler]）：处理程序列表。 inheritable_handlers（List[BaseCallbackHandler]）：

可继承的处理程序列表。

parent_run_id（UUID，可选）：父运行的ID。

默认为None。

tags（Optional[List[str]]）：标签列表。 inheritable_tags（Optional[List[str]]）：可继承的标签列表。 metadata（Optional[Dict[str, Any]]）：元数据。 inheritable_metadata（Optional[Dict[str, Any]]）：可继承的元数据。

Parameters

  • run_id (UUID) –

  • handlers (List[BaseCallbackHandler]) –

  • inheritable_handlers (List[BaseCallbackHandler]) –

  • parent_run_id (Optional[UUID]) –

  • tags (Optional[List[str]]) –

  • inheritable_tags (Optional[List[str]]) –

  • metadata (Optional[Dict[str, Any]]) –

  • inheritable_metadata (Optional[Dict[str, Any]]) –

Return type

None

classmethod get_noop_manager() → BRM

返回一个不执行任何操作的管理器。

返回：

BaseRunManager：空操作管理器。

Return type

BRM

on_llm_end(response: LLMResult, **kwargs: Any) → None[source]

当LLM运行结束时运行。

参数:

response (LLMResult): LLM的结果。

Parameters
Return type

None

on_llm_error(error: BaseException, **kwargs: Any) → None[source]

当LLM出现错误时运行。

参数：

error (Exception或KeyboardInterrupt)：错误。 kwargs (Any)：额外的关键字参数。

  • response (LLMResult)：在错误发生之前生成的响应。

Parameters

  • error (BaseException) –

  • kwargs (Any) –

Return type

None

on_llm_new_token(token: str, *, chunk: Optional[Union[GenerationChunk, ChatGenerationChunk]] = None, **kwargs: Any) → None[source]

当LLM生成一个新的令牌时运行。

参数：

token (str): 新的令牌。

Parameters
Return type

None

on_retry(retry_state: RetryCallState, **kwargs: Any) → None

在重试事件上运行。

Parameters

  • retry_state (RetryCallState) –

  • kwargs (Any) –

Return type

None

on_text(text: str, **kwargs: Any) → Any

当接收到文本时运行。

参数:

text (str): 接收到的文本。

返回:

Any: 回调的结果。

Parameters

  • text (str) –

  • kwargs (Any) –

Return type

Any

Examples using CallbackManagerForLLMRun