langchain_community.llms.sagemaker_endpoint.LineIterator

class langchain_community.llms.sagemaker_endpoint.LineIterator(stream: Any)

解析字节流输入。

模型的输出将采用以下格式：

b’{“outputs”: [” a”]}

‘

b’{“outputs”: [” challenging”]}

‘

b’{“outputs”: [” problem”]}

‘

…

通常，事件流中的每个PayloadPart事件将包含一个带有完整json的字节数组，但不能保证所有的json对象都会完整地出现在PayloadPart事件中。

例如：

{‘PayloadPart’: {‘Bytes’: b’{“outputs”: ‘}} {‘PayloadPart’: {‘Bytes’: b’[” problem”]}

‘}}

该类通过连接通过’write’函数写入的字节，并暴露一个方法，该方法将通过’scan_lines’函数在缓冲区中返回行（以’

‘字符结尾）。

它维护上次读取位置的位置，以确保不再次暴露先前的字节。

更多详情请参见： https://aws.amazon.com/blogs/machine-learning/elevating-the-generative-ai-experience-introducing-streaming-support-in-amazon-sagemaker-hosting/

Methods

__init__(stream)

Parameters

stream (Any) –

Return type

None

__init__(stream: Any) → None

Parameters

stream (Any) –

Return type

None