把问题分成三段看
企业 AI 落地的问题通常出在三段不同的位置,用错层的产品解决不了另一层的问题。
第一段:模型调用
多个厂商的 API 各自接入、密钥散在人手里、账单只有总额、某个渠道挂了没有兜底。这一段是 AI 网关的主场:统一入口、多模型路由、按人或部门分配额度、调用日志、以及私有化部署把日志留在内网。
第二段:项目与执行
文件、上下文和结果散在个人账号里;Agent 能读写代码库和业务系统,却没有独立身份;任务失败、重试和人工接管没有记录;项目结束或人员变动时权限收不干净。这一段网关管不到——它看到的是一次次调用,不是一件事的全过程。
第三段:岗位与方法
员工不知道该怎么用,同类任务每次从零开始。这一段靠工作流、按角色分工的 AI 团队和可复用模板,属于前两段之上的增值层。
两类产品的覆盖范围
| 要解决的问题 | AI 网关 | 执行治理平台 |
|---|---|---|
| 多个模型统一接入 | 是 | 取决于接入方式,可保留已有网关 |
| 按人或部门分配额度 | 是 | 是,并归集到项目和任务 |
| 调用日志 | 是(按请求) | 是(按任务,含失败、重试与人工接管) |
| 项目工作区与文件上下文 | 否 | 是 |
| Agent 的动作级权限与执行前确认 | 否 | 是(取决于所选 Agent 是否支持) |
| 申请审批与权限回收 | 一般不含 | 是 |
| 人员变动时的交接 | 否 | 是,工作区属于项目 |
| 私有化部署 | 常见 | 是 |
这张表按两类产品通常覆盖的范围写,不代表某一家具体产品的功能清单;真要选型,以各家公布的文档为准。
怎么判断自己该先上哪一层
- 最难回答的问题是「这个月的 AI 账单怎么分摊」「密钥在谁手里」——先上网关。
- 最难回答的是「这件事是谁让 AI 做的、它动了哪些数据、结果交给了谁」——需要治理层。
- 两个问题都在,但预算只够一件事:先把能造成事故的那一段管住,通常是权限和执行记录。
- 已经有网关:不用拆,治理层管理接入并获得授权之后的能力、权限和执行记录。
叠加使用时的分工
网关继续负责模型路由、额度和调用日志;治理层负责项目、人、权限、审批、交接和任务级记录,并把用量按人、项目、模型归集。两边都记录,但记录的粒度不同:一条是请求,一条是一件事从发起到验收的全过程。
具体到权限怎么设计,见AI Agent 权限与审计怎么设计;用量怎么归集,见多模型用量、额度与成本怎么管。
常见问题
已经上了 AI 网关,还需要治理平台吗?
看你现在卡在哪一段。如果账单和密钥的问题已经解决,剩下的是项目、权限、审批和交接,那是网关覆盖不到的一层。已有网关可以保留。
AI 网关能替代执行治理平台吗?
不能完整替代。网关看到的是一次次模型调用,还原不了一件事从发起、授权、执行到验收的全过程,也不处理项目工作区和人员交接。
两套系统会不会重复记录?
会各记各的,但粒度不同:网关记请求,治理层记任务,包含失败、重试、人工接管和最终交付物。对账时以任务为单位更有意义。
只有十几个人,需要哪一层?
人数少、任务不接触内部系统时,先把顺手的工具用好。多个团队共用模型、AI 开始接触公司数据或费用要分摊时,再按上面的判断顺序选。