vllm-project/semantic-router

基于 Go 语言的智能混合模型路由系统，能高效调度不同大模型以优化推理性能与成本，适合需要部署多模型的 AI 服务团队。