PullMd Loader
PullMd 是一项将网页转换为Markdown格式的服务。
langchain-pull-md
包利用此服务将URL,特别是那些使用React、Angular或Vue.js等JavaScript框架渲染的URL,转换为Markdown,而无需本地渲染。
安装与设置
要开始使用 langchain-pull-md
,你需要通过 pip 安装该包:
pip install langchain-pull-md
查看使用示例以获取详细的集成和使用说明。
文档加载器
PullMdLoader
类在 langchain-pull-md
中提供了一种将 URL 转换为 Markdown 的简便方法。它特别适用于从现代 Web 应用程序加载内容,以便在 LangChain 的处理功能中使用。
from langchain_pull_md import PullMdLoader
# Initialize the loader with a URL of a JavaScript-rendered webpage
loader = PullMdLoader(url='https://example.com')
# Load the content as a Document
documents = loader.load()
# Access the Markdown content
for document in documents:
print(document.page_content)
此加载器支持任何URL,特别擅长处理使用动态JavaScript构建的站点,使其成为数据处理工作流中用于提取markdown的多功能工具。
API 参考
有关所有可用函数及其参数的全面指南,请访问API参考。