Rust 编写的 LLM 本地推理工具,一键检测你的硬件能运行哪些大模型与服务商,极大简化本地部署门槛。
⭐30.6k104/天
为什么值得关注
访问 GitHub 页面 →
本地运行大模型门槛高,此工具自动适配硬件,让开发者快速找到“能跑的模型”,加速 AI 实验。
手机端点「分享」直达微信/朋友圈/小红书;桌面端用「复制文案」后到 App 内粘贴发布
本地运行大模型门槛高,此工具自动适配硬件,让开发者快速找到“能跑的模型”,加速 AI 实验。