EN
~/home / GitHub
GitHub · Python

sgl-project/sglang

高性能大模型与多模态模型推理服务框架，支持高并发、低延迟部署，面向AI平台开发者与企业级应用团队
⭐30.9k73/天
为什么值得关注

在推理性能与扩展性上表现突出，填补高性能服务框架的开源空白

AI基础设施服务框架
访问 GitHub 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

1c7/chinese-independent-developerbojieli/ai-agent-bookvirgiliojr94/book-to-skillayghri/i-have-adhdpaperswithbacktest/awesome-systematic-tradingbradautomates/claude-video