Lightweight LLM-MCP Orchestrator (LLMO)
2025.04.17
1
TypeScriptLLM协调器MCP管理开发效率
LLMO（Lightweight LLM-MCP Orchestrator）是一个可配置的后端服务，用于协调LLM API与微能力协议（MCP）服务器之间的交互。它具备动态工具发现、强大的进程管理以及流式响应支持等功能，适用于需要集成多种LLM和MCP工具的场景。
View on GitHub
Overview
基本能力
产品定位
LLMO是一个轻量级的LLM-MCP协调器，旨在管理和协调LLM API与MCP服务器之间的交互，提供动态工具发现和流式响应支持。
核心功能
- 动态工具发现：自动从每个MCP服务器发现可用工具
- 配置驱动：通过简单的配置文件管理LLM提供商和MCP服务器
- 强大的进程管理：可靠的MCP进程生命周期管理，支持优雅关闭
- 弹性通信：通过stdio JSON-RPC进行通信，具备全面的错误处理
- 工具调用协调：顺序执行工具调用，并提供详细的错误报告
- 流式支持：支持服务器发送事件（SSE），提供流畅的用户体验
- 结构化日志：详细的上下文日志，便于调试和监控
适用场景
- 需要集成多种LLM和MCP工具的应用
- 需要动态发现和管理工具的后端服务
- 需要流式响应和实时交互的应用
工具列表
- filesystem：文件系统工具，用于管理文件
- calculator：计算器工具，用于执行数学运算
常见问题解答
- MCP_UNAVAILABLE：MCP进程不可用
- MCP_COMMUNICATION_ERROR：stdio通信错误
- MCP_TIMEOUT：MCP响应超时
- MCP_INVALID_RESPONSE：MCP返回的JSON-RPC响应无效
使用教程
使用依赖
- Node.js 18+ (LTS)
- npm或yarn
安装教程
- 克隆仓库：
bash git clone [repository-url] cd llmo - 安装依赖：
bash npm install - 复制并配置环境文件：
bash cp .env.example .env # 编辑.env文件，添加API密钥 - 更新
config.yaml文件，配置LLM提供商和MCP服务器。
调试方式
- 构建项目：
bash npm run build - 启动服务器：
bash npm start - 开发模式下自动重载：
bash npm run dev