该工具可在Mac上用4.3GB内存运行800亿参数的Qwen模型,甚至在iPhone上运行350亿参数模型,极大降低了大模型本地部署的硬件门槛
▲19011/天
Kanon 于 2026 年 8 月 4 日 收录 · 当时 ▲4 · 现 ▲190
为什么值得关注
突破了大语言模型在消费级设备上的运行限制,推动了本地化AI应用的普及
信号来源: Hacker News
访问官网 →
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
常见问题
Run an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone 是什么?
该工具可在Mac上用4.3GB内存运行800亿参数的Qwen模型,甚至在iPhone上运行350亿参数模型,极大降低了大模型本地部署的硬件门槛
Run an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone 为什么值得关注?
突破了大语言模型在消费级设备上的运行限制,推动了本地化AI应用的普及
Run an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone 有多少人在用?
KanonAgent 记录到:▲190 · 11/天(本站首次收录于 2026-08-04)。
Run an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone 有什么替代品?
KanonAgent 库内的同类 agent:Nightcrawler – A local AI pentesting agent running on a smartphone、Isopolis – Isometric pixel map of SF、A Handwritten Blogging Platform、We Fixed UniFi's Slow PPPoE Performance with PPPoE Half-Bridge、ssh ssh.place、Shitty – fast terminal. Memory-unsafe and faster than yours。