新闻URL加载器#

class langchain_community.document_loaders.news.NewsURLLoader(urls: List[str], text_mode: bool = True, nlp: bool = False, continue_on_failure: bool = True, show_progress_bar: bool = False, **newspaper_kwargs: Any)[source]#

使用Unstructured从URL加载新闻文章。

Parameters:

urls (List[str]) – 要加载的URL列表。每个URL都会加载到其自己的文档中。
text_mode (bool) – 如果为True，从URL中提取文本并将其用于页面内容。否则，提取原始HTML。
nlp (bool) – 如果为True，对提取的内容进行自然语言处理（NLP），例如提供摘要和提取关键词。
continue_on_failure (bool) – 如果为True，即使加载某个特定URL失败，也继续加载文档。
show_progress_bar (bool) – 如果为True，使用tqdm显示加载进度条。需要安装tqdm，pip install tqdm。
**newspaper_kwargs (Any) – 传递给 newspaper.Article() 的任何额外命名参数。

示例

from langchain_community.document_loaders import NewsURLLoader

loader = NewsURLLoader(
    urls=["<url-1>", "<url-2>"],
)
docs = loader.load()

Newspaper reference:: https://newspaper.readthedocs.io/en/latest/

使用文件路径进行初始化。

方法

`__init__`(urls[, text_mode, nlp, ...])	使用文件路径进行初始化。
`alazy_load`()	文档的懒加载器。
`aload`()	将数据加载到Document对象中。
`lazy_load`()	一个用于文档的懒加载器。
`load`()	将数据加载到Document对象中。
`load_and_split`([text_splitter])	加载文档并将其分割成块。

__init__(urls: List[str], text_mode: bool = True, nlp: bool = False, continue_on_failure: bool = True, show_progress_bar: bool = False, **newspaper_kwargs: Any) → None[source]#

使用文件路径进行初始化。

Parameters:

urls (列表[字符串])
text_mode (bool)
nlp (bool)
continue_on_failure (bool)
show_progress_bar (bool)
newspaper_kwargs (任意)

Return type:

无

async alazy_load() → AsyncIterator[Document]#

文档的懒加载器。

Return type:: AsyncIterator[Document]

async aload() → list[Document]#

将数据加载到Document对象中。

Return type:: 列表[Document]

lazy_load() → Iterator[Document][source]#

文档的懒加载器。

Return type:: 迭代器[文档]

load() → List[Document][source]#

将数据加载到Document对象中。

Return type:: 列表[文档]

load_and_split(text_splitter: TextSplitter | None = None) → list[Document]#

加载文档并将其分割成块。块以文档形式返回。

不要重写此方法。它应该被视为已弃用！

Parameters:: text_splitter (可选[TextSplitter]) – 用于分割文档的TextSplitter实例。默认为RecursiveCharacterTextSplitter。
Returns:: 文档列表。
Return type:: 列表[Document]

使用 NewsURLLoader 的示例

新闻网址