有哪些本地部署运行的可自托管 AI agent?(2026)

有。截至 2026 年 8 月 6 日,KanonAgent 库内做「本地部署运行」的 213 个 AI agent 中,有 141 个判定为可自托管(判定要求原文引文,读不出即留空);本页按真实热度收录其中 12 个。

共有12个同时满足本地部署与可自托管条件的agent。这些agent让用户在自家设备上完整运行模型与工作流，无需依赖外部服务器，核心价值是数据不出本地。

更新 2026-08-06 · 12 个产品 · 数据来自 KanonAgent

1. BaseRT228 upvotes

BaseRT在Apple Silicon设备上实现6.4x加速，支持本地快速部署大模型，满足自托管性能需求。

2. Byte21 upvotes

Byte可在本地免费运行Llama等模型，支持完全自托管的离线聊天框。

3. TEACHER.PRO5 upvotes

TEACHER.PRO基于本地大模型离线运行英语语音训练，实现自托管私有化部署。

4. PromptIQ AI2 upvotes

PromptIQ AI让企业本地部署大模型，数据不离开设备，达成自托管安全目标。

speech-to-speech用开源模型构建本地离线语音agent，支持完全自托管语音交互。

6. Osaurus597 upvotes

Osaurus在Mac上100%本地运行开源agent，保障自托管隐私与数据安全。

Maple-Preview在iPhone上本地运行120B模型，实现自托管低延迟推理。

8. Inkling165 upvotes

Inkling支持大模型本地部署与微调，满足自托管可控推理需求。

9. Voice Studio17 upvotes

Voice Studio提供自托管开源语音合成与转写，完全本地离线运行。

threadfork在Mac本地运行AI会议纪要，实现自托管隐私保护。

11. AEGIS9 upvotes

AEGIS自托管本地大模型持久化工作流，关键决策留在本地设备。

12. APISelf6 upvotes

APISelf在本地运行多应用API工作流，支持自托管离线AI生态。

怎么选

优先选明确支持Apple Silicon或iPhone的agent以获得最佳速度；检查是否真正开源或提供完整本地模型下载，避免半云端依赖；注意内存与功耗隐性成本，iPhone高tok/s模型常需特定硬件；常见坑是宣传本地却仍需API key回退云端，部署前必须验证离线模式。

这些agent在普通Windows PC上能否自托管？

多数针对Mac/iPhone优化，Windows支持需额外检查兼容性与性能表现。

自托管后还能接入云端API吗？

部分如Byte支持混合模式，但纯自托管需关闭云端选项以确保数据不出本地。

部署后如何更新模型？

开源本地agent通常通过手动下载新权重或脚本更新，需自行管理版本与存储。

这个榜单是怎么排的?

按库内真实热度排序(投票数 / MRR / 增速,取产品实际有的那个),不是编辑主观推荐,也不接受付费收录。数据来自 ProductHunt、Hacker News、GitHub、HuggingFace、Reddit、TrustMRR 等多源聚合。

收录标准是什么?

每页至少锚定 5 个真实产品,不足则整页不出 —— 宁缺毋滥,不做凑数的薄页。判定字段(自主度 / 前置条件 / 成本 / 集成面)一律要求原文引文,读不出就留空,不做推测。

数据多久更新一次?

采集持续进行(分钟级),本页于 2026-08-06 重新生成。全部数字可经公开只读 API 复核:https://kanonagent.com/data