本地大模型服务间可靠切换工具，支持llama.cpp、vLLM等兼容OpenAI/Anthropic接口的本地推理服务，解决多模型部署与切换的痛点，适合AI本地化部署用户。
23 票
🤖 Agent 拆解 · coding
解决什么场景在本地部署多个大模型服务时，可靠地切换和管理不同推理引擎（如 llama.cpp、vLLM）
为什么值得关注
访问 GitHub 页面 →
精准切入本地大模型部署场景，提升模型切换效率，是AI自托管生态的关键工具。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布