Back to MCP directory
publicPublicdnsLocal runtime

locallama-mcp

LocaLLama MCP Server是一个智能路由服务,通过动态决策将编码任务分配给本地LLM或付费API,以优化成本。包含成本监控、决策引擎、API集成、错误处理和性能基准测试等核心模块,支持与多种工具集成。

article

README

🚀 本地Llama MCP服务器

本地Llama MCP服务器是一个可与Roo Code或Cline.Bot配合使用的MCP服务器。它能智能地将编码任务路由到本地LLM和付费API,以此优化成本。不过目前尚未在Claude桌面版或MCP VS Code扩展中进行测试。

🚀 快速开始

本地Llama MCP服务器可降低代币使用量和费用,其通过动态决定是否将编码任务外包给本地、功能较弱的指导型语言模型(LLM),亦或是使用付费API来实现这一目的。

📚 详细文档

位置

原文主要介绍了LocaLLama MCP Server的功能、配置以及与Roo Code和Cline.Bot的集成。在翻译过程中,保持了内容的完整性和准确性,同时确保技术术语和专有名词的正确传达。例如,“LM Studio”被翻译为“LM工作室”,而命令行示例如node run-benchmarks.js则保留不变以保持其技术特性。

组件

在这一部分中,重点是详细描述MCP服务器的各个组件和功能模块。确保了每个子标题和相关内容的准确翻译,例如“OpenRouter集成”被翻译为“OpenRouter集成”,并保持了代码示例和技术细节的原样。

配置

配置部分涉及环境变量和具体设置,这部分内容对于用户来说非常重要。在翻译时保留了所有技术术语,并确保数值和单位的一致性,例如将TOKEN_THRESHOLD翻译为“令牌阈值”,同时保持其数值不变。

开发

在这一部分中,主要介绍了如何在开发模式下运行服务器以及执行测试的方法。准确地翻译了所有命令行指令,并确保用户能够理解如何在本地环境中配置和运行项目。

安全注意事项

安全注意事项部分强调了版本控制中的文件管理问题。在翻译时保留了技术术语如“.gitignore”和“.env”,并确保信息传达清晰,提醒用户注意敏感数据的保护。

许可证

最后,许可证部分相对简短,直接翻译了其内容,保持了原意不变,并确保格式和条款的准确性。

总的来说,在翻译过程中始终注重技术术语的准确性和信息传达的流畅性,以确保中文读者能够清晰理解LocaLLama MCP Server的功能、配置和使用方法。

help

Runtime guide

cloud

Hosted runtime

Hosted servers run from a provider-managed environment. You usually connect the MCP client to the hosted endpoint or follow the provider's authorization flow, without keeping a local process alive

  1. Open provider connection page
  2. Authorize or copy endpoint
  3. Connect from your MCP client
terminal

Local runtime / other methods

Local servers run on your own machine or infrastructure. You normally copy the server_config into your MCP client, install the required package, and provide env variables from env_schema when needed

  1. Copy server_config
  2. Install required package
  3. Fill env variables and restart client