In-House LLM Serving at Netflix

Netflix 内部自建的大型语言模型服务系统，专为内部研发和生产环境提供高效、安全的 LLM 推理与管理能力，支持多模型、高并发、低延迟的部署需求。