~/home / Hacker News
Hacker News · Show HN

RunNburn – Run a 295B Moe from a 98GB GGUF on a 64GB RAM Desktop

RunNburn 是一个轻量级工具,可在仅 64GB 内存的桌面设备上运行 295B 参数的 Moe 模型(基于 98GB GGUF 格式),适合本地部署大模型的开发者与 AI 爱好者,支持高效内存管理与推理优化。
▲31/天
为什么值得关注

在资源受限的消费级硬件上实现超大规模模型的本地运行,突破了大模型部署的硬件门槛,满足隐私与低延迟需求。

AI开发者工具本地推理效率
访问 Hacker News 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

I was tired of opening 2 tabs for every HN link, so I made a userscriptOpen-source engine running Gemma 4 26B in 2 GB RAM on any M-series MacCheapFoodMap – A map of good meals under $10Firemaps Spain – Live wildfire map with wind flow for ES and PTXY – A Fast, composable, GPU-accelerated interactive plotting libraryRun Full Kimi K3 with 29 GB of RAM