先算四项成本:多模型接入与稳定性、权限与审计、用量归集与对账、长期跟进模型和 Agent 的变化。只有第一项是一次性的,后三项是持续投入。团队有稳定的人力负责后三项,并且需求确实特殊,自建成立;否则采购更划算,把人力留给业务本身。
四项成本分开算
一、多模型接入与稳定性
接入几个模型的 API 不难,难的是渠道故障切换、重试策略、不同厂商计费单位的换算,以及新模型上线后的适配。这一项是一次性开发加持续小修。
二、权限与审计
这一项的工作量通常被低估。要做的是执行身份、按项目和动作收敛的权限、敏感动作的执行前确认、凭据托管、日志脱敏和保留期限。写出来是几行需求,做成能过审计的系统是另一回事。
三、用量归集与对账
把每次调用关联到人、项目、模型和任务,设置分层额度与预警,再和月度账单对上。口径一旦定错,后面每个月都要手工修。
四、长期跟进
模型、Agent、CLI 工具和它们的接口每个月都在变。自建意味着这些变化由你的团队跟。没有固定的人负责,系统会停在某个版本,然后慢慢没人用。
什么情况下自建成立
- 已有平台团队,并且能长期分出人力负责上面第二到第四项;
- 权限或合规要求特殊到现成产品确实满足不了,并且这个判断是逐条核对过的,不是印象;
- AI 能力本身是你们的产品一部分,控制权必须在自己手里。
什么情况下采购更划算
- 目标是让业务团队尽快用上 AI,不是建一套内部基础设施;
- 最急的是权限、审计和对账,而不是模型路由;
- 没有人能长期维护,自建会变成「上线即遗留系统」;
- 需要私有化部署——这不等于必须自建,采购同样可以部署在你们自己的环境里。
中间路线
常见的做法是:模型路由自建或沿用已有网关,项目、权限、审批、交接和执行记录用现成平台。已有的模型、知识库和代码助手都保留,接入之后由平台统一管理。
先用一项真实任务把成本算清楚,方法见企业 AI 试点怎么选任务、定基线和验收。
常见问题
自建成本到底高在哪?
高在权限与审计、用量对账和长期跟进这三项持续投入上,不在一开始接 API 的那几周。模型和 Agent 的接口每个月都在变,没有固定人力跟进,系统很快停在旧版本。
要求数据不出域,是不是只能自建?
不是。私有化部署和自建是两件事,采购来的平台同样可以部署在你们自己的环境里,由你们决定数据边界。
已经自建了一部分,还能接入吗?
可以。常见做法是模型路由沿用已有的网关或自建部分,项目、权限、审批、交接和执行记录用现成平台,接入范围在试点中逐项确认。
怎么判断我们这边属于哪一类?
看有没有人能长期负责权限审计、对账口径和模型跟进这三件事。有,并且需求确实特殊,自建成立;没有,自建通常会变成上线即遗留的系统。