Grey Swan LLM Safety Challenge MCP Server
2025.03.08
0
TypeScriptAI安全研究数据分析团队协作开发效率
SwanzMCP是一个集成MongoDB的MCP服务器，专为记录和分析大型语言模型（LLM）的安全挑战而设计。它是Grey Swan Arena竞赛的一部分，用于跟踪和记录AI安全挑战，分析潜在有害的LLM交互。
View on GitHub
Overview
基本能力
产品定位
SwanzMCP是一个用于记录和分析LLM安全挑战的MCP服务器，旨在帮助研究人员和开发者识别和缓解AI系统中的潜在漏洞。
核心功能
- MongoDB集成：提供与MongoDB的深度集成，用于存储和查询LLM安全挑战数据。
- 工具集：提供多种工具用于记录和分析安全挑战，包括模型、线程、消息的创建和查询。
- 安全挑战跟踪：支持详细记录和分类安全挑战，包括严重性、状态和详细描述。
- 数据分析：支持通过多种查询条件分析安全挑战数据。
适用场景
- AI安全研究：记录和分析LLM的安全漏洞和攻击尝试。
- 竞赛平台：用于Grey Swan Arena等AI安全竞赛的数据记录和分析。
- 团队协作：支持团队协作记录和分析安全挑战。
工具列表
- mongo_model：创建或更新测试会话的组织标识符。
- mongo_thread：创建或更新包含安全挑战的对话线程。
- mongo_message：创建或更新线程中的消息，包括安全标志。
- mongo_query_models：查询数据库中的组织标识符。
- mongo_query_threads：查询数据库中的线程，支持多种过滤条件。
- mongo_query_messages：查询数据库中的消息，支持安全标志过滤。
常见问题解答
- 依赖问题：确保Node.js和MongoDB的版本符合要求。
- 安装问题：按照安装步骤逐步操作，确保.env文件配置正确。
- 调试问题：检查MongoDB服务是否启动，确保端口配置正确。
使用教程
使用依赖
- Node.js：v14或更高版本。
- MongoDB：v4.4或更高版本。
- Cursor IDE：用于设置MCP服务器。
安装教程
- 克隆仓库：
bash git clone https://github.com/GravityPhone/SwanzMCP.git cd SwanzMCP - 安装依赖：
bash npm install - 创建.env文件：
MONGODB_URI=mongodb://localhost:27017/greyswan PORT=3000 - 构建服务器：
bash npm run build - 启动MongoDB：
bash sudo systemctl start mongod - 启动MCP服务器：
bash node build/index.js
调试方式
- 检查MongoDB服务状态：
bash sudo systemctl status mongod - 检查服务器日志：
bash tail -f logs/server.log - 测试API端点：
bash curl http://localhost:3000/api/status