AI 网关解决模型调用这一层:统一接入多个模型、分配额度、记录调用、常配私有化部署。执行治理平台解决的是调用之上的那一层:项目工作区、文件与上下文、Agent 能做哪些动作、谁来审批、人走了怎么交接。卡在账单和密钥就先上网关;卡在项目、权限和交接就需要治理层。两者不冲突,可以叠加。

把问题分成三段看

企业 AI 落地的问题通常出在三段不同的位置,用错层的产品解决不了另一层的问题。

第一段:模型调用

多个厂商的 API 各自接入、密钥散在人手里、账单只有总额、某个渠道挂了没有兜底。这一段是 AI 网关的主场:统一入口、多模型路由、按人或部门分配额度、调用日志、以及私有化部署把日志留在内网。

第二段:项目与执行

文件、上下文和结果散在个人账号里;Agent 能读写代码库和业务系统,却没有独立身份;任务失败、重试和人工接管没有记录;项目结束或人员变动时权限收不干净。这一段网关管不到——它看到的是一次次调用,不是一件事的全过程。

第三段:岗位与方法

员工不知道该怎么用,同类任务每次从零开始。这一段靠工作流、按角色分工的 AI 团队和可复用模板,属于前两段之上的增值层。

两类产品的覆盖范围

要解决的问题AI 网关执行治理平台
多个模型统一接入是取决于接入方式,可保留已有网关
按人或部门分配额度是是,并归集到项目和任务
调用日志是(按请求)是(按任务,含失败、重试与人工接管)
项目工作区与文件上下文否是
Agent 的动作级权限与执行前确认否是(取决于所选 Agent 是否支持)
申请审批与权限回收一般不含是
人员变动时的交接否是,工作区属于项目
私有化部署常见是

这张表按两类产品通常覆盖的范围写,不代表某一家具体产品的功能清单;真要选型,以各家公布的文档为准。

怎么判断自己该先上哪一层

  1. 最难回答的问题是「这个月的 AI 账单怎么分摊」「密钥在谁手里」——先上网关。
  2. 最难回答的是「这件事是谁让 AI 做的、它动了哪些数据、结果交给了谁」——需要治理层。
  3. 两个问题都在,但预算只够一件事:先把能造成事故的那一段管住,通常是权限和执行记录。
  4. 已经有网关:不用拆,治理层管理接入并获得授权之后的能力、权限和执行记录。

叠加使用时的分工

网关继续负责模型路由、额度和调用日志;治理层负责项目、人、权限、审批、交接和任务级记录,并把用量按人、项目、模型归集。两边都记录,但记录的粒度不同:一条是请求,一条是一件事从发起到验收的全过程。

具体到权限怎么设计,见AI Agent 权限与审计怎么设计;用量怎么归集,见多模型用量、额度与成本怎么管。

常见问题

已经上了 AI 网关,还需要治理平台吗?

看你现在卡在哪一段。如果账单和密钥的问题已经解决,剩下的是项目、权限、审批和交接,那是网关覆盖不到的一层。已有网关可以保留。

AI 网关能替代执行治理平台吗?

不能完整替代。网关看到的是一次次模型调用,还原不了一件事从发起、授权、执行到验收的全过程,也不处理项目工作区和人员交接。

两套系统会不会重复记录?

会各记各的,但粒度不同:网关记请求,治理层记任务,包含失败、重试、人工接管和最终交付物。对账时以任务为单位更有意义。

只有十几个人,需要哪一层?

人数少、任务不接触内部系统时,先把顺手的工具用好。多个团队共用模型、AI 开始接触公司数据或费用要分摊时,再按上面的判断顺序选。

说说你现在卡在哪一段

把现在最难回答的那个问题讲清楚——是账单、密钥,还是责任和交接,我们按这个确定要不要做、从哪做起。

咨询试点方案