“人工智能+”进入经营账:算力、数据与运营的三本账

企业 AI 正从 POC 走向生产系统,评价标准也从“模型能不能用”转向“能不能算清账”。算力利用率、数据供给质量和智能体运营成本,决定了 AI+ 能否持续。

“人工智能+”已经不只是技术部门的议题。国务院《关于深入实施“人工智能+”行动的意见》提出,到 2027 年新一代智能终端、智能体等应用普及率超过 70%,到 2030 年超过 90%。政策目标很明确,企业的动作也很快:搭平台、接模型、做知识库、上智能体。

但进入生产系统之后,问题会变得很具体:这一次推理要花多少钱?这个智能体替谁完成了什么工作?模型出错时谁负责?如果算不清这三笔账,AI 项目很难从“创新试点”变成“持续经营”。

一、第一本账:算力账,不是卡越多越好

智算中心的建设热潮,掩盖了一个事实:算力利用率并不天然很高。行业调研显示,全国智算中心的平均利用率大约在三成左右,部分地方平台更低;与此同时,头部企业的自建集群又接近满负荷。

差距不在卡的数量,而在算力能不能被有效调度和使用。企业算力账至少要算清楚:

  • 训练还是推理:训练看重吞吐和互联,推理看重时延和成本,两者的资源规划不同。
  • 峰值还是均值:按峰值买卡,平时会闲置;按均值买卡,峰值时又不够。
  • 自建还是租用:自建有固定资产和运维成本,租用有单价和锁定风险,需要按业务周期比较。
  • 电力与制冷:高密机柜的电力、制冷和机房改造成本,往往被低估。
  • 模型路由:不是所有任务都需要最贵的模型,小模型、缓存、批处理和路由策略可以显著降低成本。

算力账的核心,不是“买了多少卡”,而是“每单位有效任务花了多少钱”。

二、第二本账:数据账,质量比数量更贵

企业 AI 的瓶颈,越来越多地出现在数据侧。模型可以采购,算力可以租用,但高质量、可授权、可追溯的数据,往往需要自己积累。

数据账要算的不只是存储成本,还包括:

  • 数据采集、清洗、标注和更新的成本;
  • 数据治理、权限管理和安全合规的成本;
  • 知识库的构建、切分、向量化和维护成本;
  • 评测集的建设,以及模型效果验证的成本;
  • 数据失效、错误和泄露带来的业务风险。

一个常见的误区,是把“数据多”当成优势。对于 RAG 和行业模型来说,数据的相关性、时效性和权限边界,比总量更重要。把大量过期、重复、无授权的数据灌进知识库,只会让模型更容易给出错误答案。

AI 时代的数据账,算的是“可用数据”的成本,而不是“数据总量”的成本。

三、第三本账:运营账,智能体也要有岗位说明

智能体进入生产系统后,企业需要像管理员工一样管理它:它负责什么任务,向谁汇报,权限有多大,绩效如何衡量,出错时如何止损。

运营账至少包括:

  • 任务成本:每个智能体处理一次任务消耗多少 token、算力和人工复核时间;
  • 替代与增强:它替代了哪些重复劳动,增强了哪些岗位的能力,而不是简单地“替代人头”;
  • 质量与风险:准确率、人工接管率、越权次数、数据泄露事件;
  • 生命周期:上线、评估、迭代、下线,谁负责,按什么标准;
  • 供应商成本:模型 API、工具、插件和平台的总拥有成本。

如果只用“上线了多少个智能体”来衡量,很容易得到漂亮的数字,却看不到真实的业务结果。更有意义的指标是单位任务成本、处理时长、一次解决率、人工接管率和业务满意度。

四、组织账:谁对 AI 的运行负责

AI+ 落地到一定程度,会触及组织边界。业务部门提需求,IT 部门建平台,数据部门管数据,安全部门管风险,但谁来对“AI 在生产系统里稳定运行”负责?

比较可行的做法,是建立三层责任:

  1. 业务负责人:定义场景、目标和验收标准,对业务结果负责。
  2. AI 平台团队:提供模型、算力、工具链、评测和运营平台,对技术底座负责。
  3. 安全与运维团队:负责权限、审计、监控、应急和合规,对运行风险负责。

三层之间需要有明确的接口和流程,而不是把所有事情都压给“AI 小组”。当智能体开始调用生产系统,运维团队必须提前介入,把监控、告警、回退和变更管理纳入设计。

五、从 POC 到规模化:四道关口

企业 AI 项目常见的失败方式,是“POC 很成功,规模化很难”。要跨过这道坎,需要依次通过四道关口:

  • 场景关:选一个价值明确、数据可得、风险可控的场景,不要一开始就做“通用 AI 平台”。
  • 基线关:在上线前记录人工处理的成本、时长和质量,作为后续比较的基线。
  • 验证关:在真实业务流量下验证准确率、时延、成本和异常处理,不只看演示效果。
  • 运营关:上线后有明确的负责人、指标、预算和迭代节奏,能持续优化而不是一次性交付。

AI+ 的成败,不在于模型有多先进,而在于能不能把一次试点变成一条可持续的运行线。

对建设与运维团队的启示

  • 算力账要算单位有效任务成本,不只看卡数和峰值。
  • 数据账要算可用数据的成本,质量、时效和授权比总量更重要。
  • 运营账要像管理岗位一样管理智能体:任务、权限、质量、成本和生命周期。
  • 明确业务、平台、安全运维三层责任,避免“AI 小组”独自承担生产风险。
  • 用基线、验证和运营指标跨过 POC 到规模化的鸿沟。

参考来源

相关能力

返回洞察