EN
~/home / GitHub
GitHub · Go

vllm-project/semantic-router

vllm-project/semantic-router 是一个「general」类 AI agent。定价:产品页未标明。截至 2026-09-11,KanonAgent 记录到 ⭐5.7k。本站首次收录于 2026-07-14。
基于 Go 语言的智能混合模型路由系统,能高效调度不同大模型以优化推理性能与成本,适合需要部署多模型的 AI 服务团队。
⭐5.7k🔥 +188 近1日
Kanon 于 2026 年 7 月 14 日 收录 · 当时 ⭐5.0k · 现 ⭐5.7k
为什么值得关注

通过动态路由实现异构大模型的高效协同,显著降低推理延迟与资源消耗。

AI推理优化Mixture-of-Models基础设施
信号来源: GitHub
访问官网 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

常见问题

vllm-project/semantic-router 是什么?

基于 Go 语言的智能混合模型路由系统,能高效调度不同大模型以优化推理性能与成本,适合需要部署多模型的 AI 服务团队。

vllm-project/semantic-router 为什么值得关注?

通过动态路由实现异构大模型的高效协同,显著降低推理延迟与资源消耗。

vllm-project/semantic-router 有多少人在用?

KanonAgent 记录到:⭐5.7k · 🔥 +188 近1日(本站首次收录于 2026-07-14)。

vllm-project/semantic-router 有什么替代品?

KanonAgent 库内的同类 agent:Tencent/WeKnora、vxcontrol/pentagi、weave-os/router、esengine/DeepSeek-Reasonix、Wei-Shaw/sub2api、ollama/ollama。

vllm-project/semantic-router 的替代品 · 同类 AI agent

Tencent/WeKnoravxcontrol/pentagiweave-os/routeresengine/DeepSeek-ReasonixWei-Shaw/sub2apiollama/ollama

同一类的 agent 都在这些页

自主 / 通用 AI agent 合集