MCP-OS · Model Context Protocol Orchestration System
2025.05.02
0
模型上下文协议管理任务优化开发效率
MCP-OS（Model Context Protocol Orchestration System）是一个用于管理模型上下文协议（MCP）生态系统的工具，旨在解决MCP服务器数量激增带来的问题，如提示膨胀、连接卫生和资源与安全等。它通过按需加载和卸载MCP服务器，优化大型语言模型的任务解决效率。
View on GitHub
Overview
✨ 基本能力
产品定位
MCP-OS是一个用于优化和管理模型上下文协议（MCP）生态系统的工具，旨在减少大型语言模型在处理任务时的冗余操作，提高效率和安全性。
核心功能
- 向量检索：通过嵌入任务描述并从向量索引中检索Top-k MCP。
- 精简提示模板：仅注入Top-k MCP描述，平均节省约70%的提示令牌。
- 可插拔后端：默认使用
openai/embeddings，但支持FAISS、Qdrant、Milvus等后端。 - 健康检查守护进程：自动心跳检测和修剪不活跃的MCP。
- 运行时管理器：按需启动和停止MCP。
- 策略沙箱：细粒度的授权、速率和成本控制。
适用场景
- 大型语言模型任务优化：减少模型在处理任务时的冗余操作。
- MCP生态系统管理：动态加载和卸载MCP服务器，提高资源利用率。
- 安全与资源管理：减少内存消耗和接口暴露，降低攻击面。
工具列表
- MCP-Retriever：用于向量检索和MCP匹配。
- Health-Check Daemon：用于自动检测和修剪不活跃的MCP。
- Runtime Manager：用于按需启动和停止MCP。
- Policy Sandbox：用于细粒度的授权和资源控制。
常见问题解答
- 检索质量差如何调优？
- 增加
topK以提高召回率。 - 切换到更强的嵌入模型。
- 优化任务文本规范化规则。
- 如何插入自定义向量存储？
- 实现
VectorStore接口：src/store/yourStore.ts。
⚙️ 使用教程
使用依赖
- 克隆仓库
bash git clone https://github.com/your-org/mcp-os.git cd mcp-os npm install
安装教程
- 构建向量索引
bash npm run build:index --src ./mcp_list.json --out ./index - 启动检索服务器
bash npm run start:retriever
调试方式
- 调用REST端点
bash curl -X POST http://localhost:5500/match \ -H "Content-Type: application/json" \ -d '{"task": "Scrape a web page and extract its title"}' - 检查响应
json { "matches": [ { "id": "web-scraper", "score": 0.89, "functions": ["fetchHtml", "querySelector"] } ] }