先算四项成本:多模型接入与稳定性、权限与审计、用量归集与对账、长期跟进模型和 Agent 的变化。只有第一项是一次性的,后三项是持续投入。团队有稳定的人力负责后三项,并且需求确实特殊,自建成立;否则采购更划算,把人力留给业务本身。

四项成本分开算

一、多模型接入与稳定性

接入几个模型的 API 不难,难的是渠道故障切换、重试策略、不同厂商计费单位的换算,以及新模型上线后的适配。这一项是一次性开发加持续小修。

二、权限与审计

这一项的工作量通常被低估。要做的是执行身份、按项目和动作收敛的权限、敏感动作的执行前确认、凭据托管、日志脱敏和保留期限。写出来是几行需求,做成能过审计的系统是另一回事。

三、用量归集与对账

把每次调用关联到人、项目、模型和任务,设置分层额度与预警,再和月度账单对上。口径一旦定错,后面每个月都要手工修。

四、长期跟进

模型、Agent、CLI 工具和它们的接口每个月都在变。自建意味着这些变化由你的团队跟。没有固定的人负责,系统会停在某个版本,然后慢慢没人用。

什么情况下自建成立

  • 已有平台团队,并且能长期分出人力负责上面第二到第四项;
  • 权限或合规要求特殊到现成产品确实满足不了,并且这个判断是逐条核对过的,不是印象;
  • AI 能力本身是你们的产品一部分,控制权必须在自己手里。

什么情况下采购更划算

  • 目标是让业务团队尽快用上 AI,不是建一套内部基础设施;
  • 最急的是权限、审计和对账,而不是模型路由;
  • 没有人能长期维护,自建会变成「上线即遗留系统」;
  • 需要私有化部署——这不等于必须自建,采购同样可以部署在你们自己的环境里。

中间路线

常见的做法是:模型路由自建或沿用已有网关,项目、权限、审批、交接和执行记录用现成平台。已有的模型、知识库和代码助手都保留,接入之后由平台统一管理。

先用一项真实任务把成本算清楚,方法见企业 AI 试点怎么选任务、定基线和验收。

常见问题

自建成本到底高在哪?

高在权限与审计、用量对账和长期跟进这三项持续投入上,不在一开始接 API 的那几周。模型和 Agent 的接口每个月都在变,没有固定人力跟进,系统很快停在旧版本。

要求数据不出域,是不是只能自建?

不是。私有化部署和自建是两件事,采购来的平台同样可以部署在你们自己的环境里,由你们决定数据边界。

已经自建了一部分,还能接入吗?

可以。常见做法是模型路由沿用已有的网关或自建部分,项目、权限、审批、交接和执行记录用现成平台,接入范围在试点中逐项确认。

怎么判断我们这边属于哪一类?

看有没有人能长期负责权限审计、对账口径和模型跟进这三件事。有,并且需求确实特殊,自建成立;没有,自建通常会变成上线即遗留的系统。

先把一项任务的成本算出来

挑一个高频任务,我们和你一起列出接入、权限、对账和维护四项的实际工作量,再决定自建还是采购。

咨询试点方案