EN
~/home / GitHub
GitHub · JavaScript

vllm-project/recipes

vLLM 的常用使用范例集合，帮助开发者快速部署与优化大语言模型推理服务。
⭐9396/天
为什么值得关注

降低 vLLM 使用门槛，加速大模型在生产环境的落地部署。

AI大模型推理工具
访问 GitHub 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

affaan-m/ECCmnfst/awesome-free-llm-apisJuliusBrussee/cavemanearthtojake/text-to-cadpbakaus/impeccableLeonxlnx/taste-skill