README
🚀 OmniLLM: 多语言模型通用桥接器(Claude版)
OmniLLM 是一个 MCP 服务器,它能让 Claude 调用并整合其他大型语言模型(LLM),如 ChatGPT、Azure OpenAI 和 Google Gemini 的响应。通过提供统一的访问接口,OmniLLM 可以满足用户所有的 AI 需求。
🚀 快速开始
OmniLLM 允许 Claude 调用并整合其他大型语言模型的响应,为用户提供统一的访问接口。按照以下步骤,您可以快速使用 OmniLLM。
✨ 主要特性
- 查询 OpenAI 的 ChatGPT 模型
- 调用 Azure OpenAI 服务
- 获取 Google's Gemini 的响应
- 比较所有 LLM 模型的回复结果
- 查看已配置并可用的 LLM 服务列表
📦 安装指南
1. 先决条件
- Python 3.10 或更高版本
- Claude Desktop 应用程序
- 所需 LLM 服务的 API 密钥(如 ChatGPT、Azure OpenAI、Google Gemini)
2. 安装步骤
# 克隆或下载本仓库
git clone https://github.com/yourusername/omnillm-mcp.git
cd omnillm-mcp
# 创建虚拟环境
python -m venv venv
source venv/bin/activate # Windows 系统请使用:venv\Scripts\activate
# 安装依赖项
pip install mcp[cli] httpx python-dotenv
3. 配置步骤
创建项目根目录下的 .env 文件,添加您的 API 密钥:
OPENAI_API_KEY=your_openai_key_here
AZURE_OPENAI_API_KEY=your_azure_key_here
AZURE_OPENAI_ENDPOINT=your_azure_endpoint_here
GOOGLE_API_KEY=your_google_api_key_here
您只需添加计划使用的 LLM 服务对应的密钥。
4. 集成到 Claude Desktop
- 打开 Claude Desktop 应用
- 进入 设置 > 开发者 > 编辑配置
- 在
claude_desktop_config.json文件中添加服务器信息:
{
"mcpServers": {
"omnillm": {
"command": "python",
"args": [
"path/to/server.py"
],
"env": {
"PYTHONPATH": "path/to/omnillm-mcp"
}
}
}
}
将 path/to/server.py 替换为您实际的 server.py 文件路径。
4. 保存配置文件并重启 Claude Desktop
💻 使用示例
基础用法
一旦连接到 Claude Desktop,您可以使用类似以下的语句:
- "如果想要一次冒险徒步旅行,推荐哪些最佳去处?请 ChatGPT 提供建议。"
- "学习编程的最佳方法是什么?请教 Gemini 得出意见。"
- "比较构建 Web 应用的不同框架,并同时获取 ChatGPT 和 Azure OpenAI 的输入。"
Claude 将自动识别何时需要使用多 LLM 代理工具来增强其响应。
📚 详细文档
可用功能
query_chatgpt- 使用自定义提示词查询 OpenAI 的 ChatGPTquery_azure_chatgpt- 调用 Azure OpenAI 的 ChatGPT 并提供提示词query_gemini- 获取 Google's Gemini 的响应并指定提示词query_all_llms- 查询所有可用 LLM 模型,返回全部结果check_available_models- 查看哪些 LLM API 已正确配置
常见问题解决
- 确保
.env文件中 API 密钥设置无误 - 检查 claude_desktop_config.json 中的路径是否正确
- 若出现连接问题,请确认网络配置和服务器状态
⚠️ 重要提示
如需更多帮助或遇到其他问题,请参考项目文档或联系支持团队。
Scan to contact