EN
~/home / GitHub
GitHub · Go

vllm-project/semantic-router

vllm-project/semantic-router 是一个「general」类 AI agent。定价:产品页未标明。截至 2026-10-27,KanonAgent 记录到 ⭐6.2k。本站首次收录于 2026-07-14。
基于 Go 语言的智能混合模型路由系统,能高效调度不同大模型以优化推理性能与成本,适合需要部署多模型的 AI 服务团队。
⭐6.2k24/天
Kanon 于 2026 年 7 月 14 日 收录 · 当时 ⭐5.0k · 现 ⭐6.2k
为什么值得关注

通过动态路由实现异构大模型的高效协同,显著降低推理延迟与资源消耗。

AI推理优化Mixture-of-Models基础设施
信号来源: GitHub
访问官网 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

常见问题

vllm-project/semantic-router 是什么?

基于 Go 语言的智能混合模型路由系统,能高效调度不同大模型以优化推理性能与成本,适合需要部署多模型的 AI 服务团队。

vllm-project/semantic-router 为什么值得关注?

通过动态路由实现异构大模型的高效协同,显著降低推理延迟与资源消耗。

vllm-project/semantic-router 有多少人在用?

KanonAgent 记录到:⭐6.2k · 24/天(本站首次收录于 2026-07-14)。

vllm-project/semantic-router 有什么替代品?

KanonAgent 库内的同类 agent:JuliusBrussee/caveman、ollama/ollama、vxcontrol/pentagi、slavakurilyak/awesome-ai-agents、Asymptote-Labs/agent-beacon、Gentleman-Programming/engram。

vllm-project/semantic-router 的替代品 · 同类 AI agent

JuliusBrussee/cavemanollama/ollamavxcontrol/pentagislavakurilyak/awesome-ai-agentsAsymptote-Labs/agent-beaconGentleman-Programming/engram

同一类的 agent 都在这些页

自主 / 通用 AI agent 合集