MCP-LLM Bridge

MCP-LLM Bridge

site icon
2025.03.16 606
TypeScriptAI 助手工具集成本地模型开发效率内容生成交流协作
ollama-mcp-bridge 是一个 TypeScript 实现的桥梁服务,用于连接本地大型语言模型(通过 Ollama)和 Model Context Protocol (MCP) 服务器。该桥接器使开源模型能够使用与 Claude 相同的工具和功能,从而构建强大的本地 AI 助手。
View on GitHub

Overview

基本能力

产品定位

ollama-mcp-bridge 是一个桥梁服务,旨在将本地大型语言模型与 MCP 服务器连接起来,提供类似于 Claude 的功能,包括文件操作、网络搜索、GitHub 交互、Google Drive 和 Gmail 集成、内存/存储以及图像生成等。

核心功能

  • 多 MCP 支持:动态工具路由,支持多种 MCP 服务器。
  • 结构化输出验证:对工具调用进行验证,确保输出格式正确。
  • 自动工具检测:根据用户提示自动检测并调用合适的工具。
  • 强大的进程管理:管理 Ollama 进程,确保稳定运行。
  • 详细的日志记录和错误处理:提供详细的日志和错误处理机制。

适用场景

  • 文件系统操作:创建、删除、移动文件或文件夹。
  • 网络搜索:通过 Brave Search 进行网络搜索。
  • GitHub 交互:与 GitHub 进行交互,如提交代码、查看仓库等。
  • Google Drive 和 Gmail 集成:管理 Google Drive 文件或发送电子邮件。
  • 图像生成:使用 Flux 生成图像。
  • 内存/存储:提供持久化存储功能。

工具列表

  • Filesystem operations (@modelcontextprotocol/server-filesystem):文件系统操作。
  • Brave Search (@modelcontextprotocol/server-brave-search):网络搜索。
  • GitHub (@modelcontextprotocol/server-github):GitHub 交互。
  • Memory (@modelcontextprotocol/server-memory):内存/存储。
  • Flux image generation (@patruff/server-flux):图像生成。
  • Gmail & Drive (@patruff/server-gmail-drive):Gmail 和 Google Drive 集成。

常见问题解答

  • 如何配置 MCP 服务器:通过 bridge_config.json 文件配置 MCP 服务器和 LLM 设置。
  • 如何获取 API 密钥:需要设置 BRAVE_API_KEYGITHUB_PERSONAL_ACCESS_TOKENREPLICATE_API_TOKEN 等环境变量。
  • 如何授权 Gmail/Drive MCP:运行 node path/to/gmail-drive/index.js auth 进行授权。

使用教程

使用依赖

  1. 安装 Ollama 并拉取所需模型:
ollama pull qwen2.5-coder:7b-instruct
  1. 安装 MCP 服务器:
npm install -g @modelcontextprotocol/server-filesystem
npm install -g @modelcontextprotocol/server-brave-search
npm install -g @modelcontextprotocol/server-github
npm install -g @modelcontextprotocol/server-memory
npm install -g @patruff/server-flux
npm install -g @patruff/server-gmail-drive

安装教程

  1. 配置环境变量:
  2. 设置 BRAVE_API_KEY 用于 Brave Search。
  3. 设置 GITHUB_PERSONAL_ACCESS_TOKEN 用于 GitHub。
  4. 设置 REPLICATE_API_TOKEN 用于 Flux。

  5. 授权 Gmail/Drive MCP:

node path/to/gmail-drive/index.js auth
  1. 配置 bridge_config.json 文件,定义 MCP 服务器和 LLM 设置。

调试方式

  1. 启动桥接器:
npm run start
  1. 可用命令:
  2. list-tools:显示可用工具。
  3. 常规文本:发送提示给 LLM。
  4. quit:退出程序。

示例交互:

> Search the web for "latest TypeScript features"
[使用 Brave Search MCP 查找结果]

> Create a new folder called "project-docs"
[使用 Filesystem MCP 创建目录]

> Send an email to [email protected]
[使用 Gmail MCP 发送电子邮件]

许可证

该项目遵循 MIT 开源许可条款,请参阅 MIT 了解完整条款。