RunNburn 是一个轻量级工具,可在仅 64GB 内存的桌面设备上运行 295B 参数的 Moe 模型(基于 98GB GGUF 格式),适合本地部署大模型的开发者与 AI 爱好者,支持高效内存管理与推理优化。
▲31/天
为什么值得关注
访问 Hacker News 页面 →
在资源受限的消费级硬件上实现超大规模模型的本地运行,突破了大模型部署的硬件门槛,满足隐私与低延迟需求。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布