langchain_community.document_loaders.url.UnstructuredURLLoader¶
- class langchain_community.document_loaders.url.UnstructuredURLLoader(urls: List[str], continue_on_failure: bool = True, mode: str = 'single', show_progress_bar: bool = False, **unstructured_kwargs: Any)[source]¶
使用`Unstructured`从远程URL加载文件。
使用非结构化分区函数来检测MIME类型，并将文件路由到适当的分区器。
您可以以两种模式之一运行加载程序：”single”和”elements”。如果使用”single”模式，文档将作为单个langchain Document对象返回。如果使用”elements”模式，非结构化库将文档拆分为诸如Title和NarrativeText之类的元素。您可以在模式之后传递额外的非结构化kwargs以应用不同的非结构化设置。
from langchain_community.document_loaders import UnstructuredURLLoader
- loader = UnstructuredURLLoader(
urls=[“<url-1>”, “<url-2>”], mode=”elements”, strategy=”fast”,
) docs = loader.load()
https://unstructured-io.github.io/unstructured/bricks.html#partition
使用文件路径进行初始化。
Methods
__init__(urls[, continue_on_failure, mode, ...])使用文件路径进行初始化。
一个用于文档的惰性加载器。
aload()将数据加载到文档对象中。
一个用于文档的惰性加载器。
load()加载文件。
load_and_split([text_splitter])加载文档并分割成块。块作为文档返回。
- Parameters
urls (List[str]) –
continue_on_failure (bool) –
mode (str) –
show_progress_bar (bool) –
unstructured_kwargs (Any) –
- __init__(urls: List[str], continue_on_failure: bool = True, mode: str = 'single', show_progress_bar: bool = False, **unstructured_kwargs: Any)[source]¶
使用文件路径进行初始化。
- Parameters
urls (List[str]) –
continue_on_failure (bool) –
mode (str) –
show_progress_bar (bool) –
unstructured_kwargs (Any) –
- load_and_split(text_splitter: Optional[TextSplitter] = None) List[Document]¶
加载文档并分割成块。块作为文档返回。
不要覆盖此方法。应该被视为已弃用！
- 参数：
- text_splitter: 用于分割文档的TextSplitter实例。
默认为RecursiveCharacterTextSplitter。
- 返回：
文档列表。
- Parameters
text_splitter (Optional[TextSplitter]) –
- Return type
List[Document]