~/home / answers

构建 AI agent 的基础设施:框架、模型接入、记忆与工具调用

更新于 2026-07-28 ·

这页讲做一个 AI agent 要搭哪几层。每一层我们都在持续追踪该层里正在涨的真实项目 —— 底下给了对应的合集入口,那些是数据算出来的,不是我们拍脑袋列的。

一、Agent 框架层

负责「怎么把一个目标拆成多步并执行」:任务规划、子 agent 编排、失败重试、人工介入点。这层最卷也最不稳定,选型时重点看它是否强迫你按它的抽象来组织代码 —— 绑太死的框架换起来成本极高。

二、模型接入与路由

很少有 agent 只用一个模型:便宜模型跑分类和路由,贵模型跑推理和写作。这层要解决多模型统一接口、失败降级、成本控制。相关的 API 与路由类项目在工作流自动化 agent和赛道合集里能看到不少。

三、记忆与上下文

agent 和聊天机器人最大的区别就是跨会话记得住。这层包括:会话历史压缩、长期记忆存储、检索(RAG)、以及把记忆在正确的时机注进上下文 —— 最后这点是难点,注多了烧钱且干扰推理,注少了等于没有。

四、工具调用与环境控制

agent 要真干活就得能操作外部世界:调 API、跑代码、读写文件、控制浏览器。这层的关键是沙箱和权限边界 —— 一个能执行任意代码的 agent 和一个能删你生产库的 agent 只差一个权限配置。浏览器 agent是这层最典型的形态。

五、部署与可观测

agent 是长时间运行、非确定性的程序,传统监控基本失效。你需要能回放每一步决策:它为什么选了这个工具、上下文里当时有什么、哪一步开始跑偏。没有这层,线上出问题你只能猜。

选型的通用原则

继续看