专为 Apple Silicon Mac 设计的 LLM 推理服务器，支持连续批处理与 SSD 缓存，通过菜单栏轻松管理，显著提升本地大模型运行效率。
⭐18.8k57/天
Kanon 于 2026 年 8 月 16 日 收录 · 当时 ⭐18.8k · 现 ⭐18.8k
为什么值得关注
在 M1/M2/M3 芯片上实现低延迟、高吞吐的本地大模型推理，让开发者无需云端即可高效运行 LLM。
信号来源: GitHub
访问官网 →
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
常见问题
jundot/omlx 是什么?
专为 Apple Silicon Mac 设计的 LLM 推理服务器，支持连续批处理与 SSD 缓存，通过菜单栏轻松管理，显著提升本地大模型运行效率。
jundot/omlx 为什么值得关注?
在 M1/M2/M3 芯片上实现低延迟、高吞吐的本地大模型推理，让开发者无需云端即可高效运行 LLM。
jundot/omlx 有多少人在用?
KanonAgent 记录到:⭐18.8k · 57/天(本站首次收录于 2026-08-16)。
jundot/omlx 有什么替代品?
KanonAgent 库内的同类 agent:yt-dlp/yt-dlp、public-apis/public-apis、google-research/timesfm、usestrix/strix、THUDM/slime、unslothai/unsloth。