~/home / Hacker News
Hacker News · Show HN

Llm.c ported to Mojo with Metal kernels, 1.72x faster than PyTorch MPs

将 Llm.c 移植到 Mojo 语言并使用 Metal 加速,性能比 PyTorch MPs 快 1.72 倍,是轻量级大模型推理的新标杆。
▲1
为什么值得关注

在不依赖 GPU 的情况下实现极致推理速度,为边缘设备部署大模型提供新可能。

AI性能优化基础设施ML
访问 Hacker News 页面 →
分享到 X
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布

同类产品

Yap – OSS on-device voice dictation for macOS with no model to downloadScala Tutorials – interactive Scala 3 lessons in the browserFeyNoBg – Automatic background removal model and training libraryLet's Seal – Let's Encrypt for document signing, free and self-hostedGeoImageTagger – AI image geotagging and metadata editorXY – A Fast, composable, GPU-accelerated interactive plotting library