neo4j-semantic-ollama

这个模板旨在通过使用基于 JSON 的代理 Mixtral，实现与 Neo4j 这样的图数据库进行交互的代理。语义层为代理提供了一套强大的工具，使其能够根据用户的意图与图数据库进行交互。在相应的博客文章中了解更多关于语义层模板的信息，以及关于Mixtral 代理和 Ollama的具体内容。

工具

该代理利用多个工具与 Neo4j 图数据库进行有效交互：

1. 信息工具：

   • 检索有关电影或个人的数据，确保代理能够获取最新和最相关的信息。

2. 推荐工具：

   • 根据用户的偏好和输入提供电影推荐。

3. 记忆工具：

   • 在知识图谱中存储有关用户偏好的信息，实现多次交互的个性化体验。

4. 闲聊工具：

   • 允许代理处理闲聊对话。

环境设置

在使用此模板之前，您需要设置 Ollama 和 Neo4j 数据库。

1. 按照这里的说明下载 Ollama。

2. 下载您感兴趣的 LLM：

   • 该软件包使用 mixtral：ollama pull mixtral

   • 您可以从这里选择多个 LLM

您需要定义以下环境变量

OLLAMA_BASE_URL=<YOUR_OLLAMA_URL>
NEO4J_URI=<YOUR_NEO4J_URI>
NEO4J_USERNAME=<YOUR_NEO4J_USERNAME>
NEO4J_PASSWORD=<YOUR_NEO4J_PASSWORD>

数据填充

如果您想使用示例电影数据集填充数据库，可以运行 python ingest.py。

该脚本导入有关电影及其用户评分的信息。

此外，该脚本创建了两个全文索引，用于将用户输入的信息映射到数据库。

使用方法

要使用此软件包，您首先需要安装 LangChain CLI：

pip install -U "langchain-cli[serve]"

要创建一个新的 LangChain 项目并将其安装为唯一的软件包，可以执行以下操作：

langchain app new my-app --package neo4j-semantic-ollama

如果要将其添加到现有项目中，只需运行：

langchain app add neo4j-semantic-ollama

并将以下代码添加到您的 server.py 文件中：

from neo4j_semantic_layer import agent_executor as neo4j_semantic_agent
add_routes(app, neo4j_semantic_agent, path="/neo4j-semantic-ollama")

（可选）现在让我们配置 LangSmith。

LangSmith 将帮助我们跟踪、监控和调试 LangChain 应用程序。

您可以在这里注册 LangSmith。

如果您没有访问权限，可以跳过此部分

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 如果未指定，默认为 "default"

如果您在此目录中，则可以直接启动 LangServe 实例：

langchain serve

这将在本地启动 FastAPI 应用程序，服务器正在运行的地址为

http://localhost:8000

我们可以在http://127.0.0.1:8000/docs上查看所有模板

我们可以在http://127.0.0.1:8000/neo4j-semantic-ollama/playground上访问 playground

我们可以通过以下代码访问模板：

from langserve.client import RemoteRunnable
runnable = RemoteRunnable("http://localhost:8000/neo4j-semantic-ollama")