非结构化URL加载器

class langchain_community.document_loaders.url.UnstructuredURLLoader(urls: List[str], continue_on_failure: bool = True, mode: str = 'single', show_progress_bar: bool = False, **unstructured_kwargs: Any)

使用Unstructured从远程URL加载文件。

使用非结构化分区函数来检测MIME类型并将文件路由到适当的分区器。

您可以在两种模式之一中运行加载器：“single”和“elements”。 如果使用“single”模式，文档将作为单个langchain Document对象返回。如果使用“elements”模式，unstructured库将文档拆分为诸如标题和叙述文本等元素。 您可以在模式之后传入额外的unstructured kwargs以应用不同的unstructured设置。

示例

从langchain_community.document_loaders导入UnstructuredURLLoader

loader = UnstructuredURLLoader(

urls=[“”, “”], mode=”elements”, strategy=”fast”,

) docs = loader.load()

参考文献

https://unstructured-io.github.io/unstructured/bricks.html#partition

使用文件路径进行初始化。

方法

__init__(urls[, continue_on_failure, mode, ...])	使用文件路径进行初始化。
alazy_load()	一个用于文档的懒加载器。
aload()	将数据加载到Document对象中。
lazy_load()	一个用于文档的懒加载器。
load()	加载文件。
load_and_split([text_splitter])	加载文档并将其分割成块。

Parameters:

• urls (列表[字符串])

• continue_on_failure (bool)

• mode (str)

• show_progress_bar (bool)

• unstructured_kwargs (Any)

__init__(urls: List[str], continue_on_failure: bool = True, mode: str = 'single', show_progress_bar: bool = False, **unstructured_kwargs: Any)

使用文件路径进行初始化。

Parameters:

• urls (列表[字符串])

• continue_on_failure (bool)

• mode (str)

• show_progress_bar (bool)

• unstructured_kwargs (Any)

async alazy_load() → AsyncIterator[Document]

文档的懒加载器。

Return type:

AsyncIterator[Document]

async aload() → list[Document]

将数据加载到Document对象中。

Return type:

列表[Document]

lazy_load() → Iterator[Document]

文档的懒加载器。

Return type:

迭代器[文档]

load() → List[Document]

加载文件。

Return type:

列表[文档]

load_and_split(text_splitter: TextSplitter | None = None) → list[Document]

加载文档并将其分割成块。块以文档形式返回。

不要重写此方法。它应该被视为已弃用！

Parameters:

text_splitter (可选[TextSplitter]) – 用于分割文档的TextSplitter实例。 默认为RecursiveCharacterTextSplitter。

Returns:

文档列表。

Return type:

列表[Document]

使用UnstructuredURLLoader的示例

• URL

• Unstructured