Skip to main content

Git

Git 是一种分布式版本控制系统,用于跟踪任何一组计算机文件的更改,通常用于协调在软件开发过程中共同开发源代码的程序员之间的工作。

这篇笔记展示了如何从 Git 仓库加载文本文件。

从磁盘加载现有仓库

%pip install --upgrade --quiet  GitPython
from git import Repo
repo = Repo.clone_from(
"https://github.com/langchain-ai/langchain", to_path="./example_data/test_repo1"
)
branch = repo.head.reference
from langchain_community.document_loaders import GitLoader
loader = GitLoader(repo_path="./example_data/test_repo1/", branch=branch)
data = loader.load()
len(data)
print(data[0])
page_content='.venv\n.github\n.git\n.mypy_cache\n.pytest_cache\nDockerfile' metadata={'file_path': '.dockerignore', 'file_name': '.dockerignore', 'file_type': ''}

从 URL 克隆仓库

from langchain_community.document_loaders import GitLoader
loader = GitLoader(
clone_url="https://github.com/langchain-ai/langchain",
repo_path="./example_data/test_repo2/",
branch="master",
)
data = loader.load()
len(data)
1074

过滤要加载的文件

from langchain_community.document_loaders import GitLoader
# 例如,仅加载 Python 文件
loader = GitLoader(
repo_path="./example_data/test_repo1/",
file_filter=lambda file_path: file_path.endswith(".py"),
)

Was this page helpful?


You can leave detailed feedback on GitHub.