vllm-project/semantic-router 是一个「general」类 AI agent。定价:产品页未标明。截至 2026-10-27,KanonAgent 记录到 ⭐6.2k。本站首次收录于 2026-07-14。
基于 Go 语言的智能混合模型路由系统,能高效调度不同大模型以优化推理性能与成本,适合需要部署多模型的 AI 服务团队。
⭐6.2k24/天
Kanon 于 2026 年 7 月 14 日 收录 · 当时 ⭐5.0k · 现 ⭐6.2k
为什么值得关注
通过动态路由实现异构大模型的高效协同,显著降低推理延迟与资源消耗。
信号来源: GitHub
访问官网 →
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
常见问题
vllm-project/semantic-router 是什么?
基于 Go 语言的智能混合模型路由系统,能高效调度不同大模型以优化推理性能与成本,适合需要部署多模型的 AI 服务团队。
vllm-project/semantic-router 为什么值得关注?
通过动态路由实现异构大模型的高效协同,显著降低推理延迟与资源消耗。
vllm-project/semantic-router 有多少人在用?
KanonAgent 记录到:⭐6.2k · 24/天(本站首次收录于 2026-07-14)。
vllm-project/semantic-router 有什么替代品?
KanonAgent 库内的同类 agent:JuliusBrussee/caveman、ollama/ollama、vxcontrol/pentagi、slavakurilyak/awesome-ai-agents、Asymptote-Labs/agent-beacon、Gentleman-Programming/engram。