很多公司手里已经有一堆 AI 试点,却说不清哪一个真正赚到了钱。财务看到的是逐月上涨的模型调用账单,业务汇报的是“效率提升”,两边的数字很少对得上。
问题通常不在模型。一个试点能跑通,不代表它能复制到更多业务单元;离线评估分数漂亮,不代表上线后有利润;某个团队省下了人力,也不代表企业已经有了可持续的 AI 商业模式。
企业级 AI 商业建模要回答的,就是这三个“不代表”之间的账。
一、试点能跑通,企业未必在变强
很多企业仍用传统数字产品的思路推进 AI:找一个痛点,做一个功能,用收入、活跃度或渗透率判断成败。
放到企业级 AI 上,这套思路会漏掉两件事。
第一,价值是分散的。客服自动化表面上是“降低人工成本”,真实收益还包括处理时长缩短、工单积压减少、等待时间下降、服务口径更一致。只看人力替代,会低估收益。
第二,成本也是分散的。模型调用费只是一部分,检索链路、知识库维护、安全审核、转人工流程、提示词和评估体系的更新,都会算进账里。只看调用费,会高估利润。
财务和业务的数字对不上,常见原因是口径。比如业务部门报告 AI 每月节省 4,000 工时,按每小时 80 元折算是 32 万元。但如果没有减少外包、没有放缓招聘、也没有把人转去做更有价值的工作,现金层面的节约是零。省下的时间去了哪里,要和省下多少时间一起报告。
成本曲线也和 SaaS 不同。传统 SaaS 上线后单位服务成本基本稳定,AI 却多了推理、上下文、检索、再训练和人工审核几项持续支出,还要承担模型漂移和治理带来的运营成本。这些支出随用量增长,毛利率因此往往达不到传统 SaaS 的水平,立项时就该写进模型。
所以企业级建模要同时回答两层问题:单个场景成不成立,企业整体是不是在变强。如果每个项目都独立清洗数据、独立接模型、独立做监控和权限,单点再成功,整体也无法规模化。
设想五个团队各自接入模型,各建一套日志和权限,审计口径就要对齐五次,每次换模型也要改五遍。共用一套之后,审计做一次,新团队接入从几周缩短到几天,换模型只改一处配置。
二、投资组合地图:三类投资,三种回报周期
把 AI 战略写成项目列表,是最常见的误区:今年智能客服,明年智能风控,后年内部 copilot。列表看着完整,却说明不了项目之间是否共享能力、谁先谁后。
更有效的是先画投资组合地图,按价值创造的性质分三类。
效率与自动化型。 文档摘要、工单分类、知识检索、客服辅助、流程路由。见效快,业务方容易理解,最容易拿到“第一笔可见价值”。只停在这一层,AI 就只是降本工具。
体验与增强型。 企业级 copilot、动态推荐、工作流建议、个性化界面、决策辅助面板。它影响留存、员工吞吐和服务质量,回报在中期,评估也更难,需要实验和行为数据支撑。
战略型。 专有领域模型、面向客户的 AI 原生产品、行业数据平台、合作伙伴能力开放。投入最大、见效最慢、风险最高。只有企业确实握有数据和行业位置时,这里才会形成长期壁垒。
“我们有数据优势”是战略型投资里最常见、也最少被检验的说法。三个问题可以快速检验它:这些数据竞争对手能否在一年内用钱买到或自己积累?数据是否在持续产生,还是一次性的历史存量?客户是否同意、法规是否允许把它用于训练和推理?三个问题里有两个答“否”,壁垒多半只是想象。
三类投资的回报周期大致可以这样估(经验口径,仅作参考):自动化型 3 到 6 个月回本,KPI 是单任务成本和处理时长;增强型 6 到 18 个月,KPI 是留存、吞吐和一次解决率;战略型通常要 18 个月以上,KPI 是新收入占比和客户的付费意愿。
周期不同,止损线也应该不同。自动化型项目连续两个季度单任务成本不降,就该停;战略型项目更该看的是阶段性学习目标有没有达成,比如头部客户是否愿意签付费试用。
三类投资不能用同一把尺子量。要求所有项目“六个月见 ROI”,战略型项目会被扼杀;所有项目都按“长期能力”包装,自动化项目又会失去纪律。
排序口径:四个维度
横向比较时,可以给每个试点在四个维度上各打 1 到 5 分:
优先级 = 价值 × 可规模化程度 × 能力复用度 ÷ 风险与治理成本
举个例子:试点 A 是合同条款抽取,价值 4、可规模化 4、复用度 4、风险 2,得分 32。试点 B 是面向客户的投资建议助手,价值 5、可规模化 2、复用度 2、风险 5,得分 4。
B 听起来更有想象力,A 却更值得先做:它沉淀的文档解析和评估集,会压低后面三四个相邻场景的成本。分数本身不精确,它的用处是逼团队把“为什么先做这个”讲清楚。
B 也不必直接否掉。价值高、风险也高的场景,适合放进更长的周期:先做只给内部投资顾问看的辅助版本,由人审核后再发给客户,等错误率和投诉数据积累到足以说服合规部门,再讨论面向客户开放。
场景建模工具在这一步能把价值、风险、时间和资源放进同一个决策画面,避免 AI 战略变成一份技术愿望清单。
三、真实 cost-to-serve:重试、转人工和治理都要算进去
AI 的 ROI 很难用一个公式回答,先要把成本拆开。规模扩大以后,很多成本不会自动下降,反而会上升。
一个够用的单任务成本式:
单任务成本 = 推理成本 + 检索成本 + 转人工率 × 人工单价 + 治理分摊
假设某客服场景每月 20 万张工单,全人工处理每张 8 元。接入 AI 后,每张推理加检索 0.15 元,转人工率 30%,日志、审核和评估的治理成本每月 6 万元,摊到每张 0.3 元。
单任务成本 = 0.15 + 0.3 × 8 + 0.3 = 2.85 元。每月节省 (8 减 2.85) × 20 万,约 103 万元。
再看敏感性。转人工率从 30% 升到 60%,单任务成本变成 5.25 元,月节省缩到 55 万元。模型调用价格翻倍,单任务成本只多 0.15 元。
结论很直接:这个场景的利润主要由转人工率决定,调用单价反倒是小变量。很多团队盯着模型报价谈判,真正该盯的是失败率:转人工率每下降 10 个百分点,单任务成本少 0.8 元,按 20 万张工单算,每月多省 16 万元。
推理成本本身也要拆到 token。假设输入每百万 token 10 元、输出每百万 token 40 元,一次请求输入 8,000 token、输出 500 token,成本是 0.08 + 0.02 = 0.10 元。把上下文压缩到 2,000 token,成本降到 0.04 元,少了六成。上下文长度往往比模型单价更值得先优化。
四个成本杠杆
模型路由。 不是每个请求都需要最强模型。简单请求交给小模型,只让困难样例升级,平均推理成本可以大幅下降,质量几乎不受影响。
缓存。 系统提示和知识片段往往高度重复。主要 API 厂商对命中缓存的输入都按远低于标准价的价格计费。假设缓存读取只收基础输入价的十分之一,输入里 70% 是可缓存的固定前缀,输入成本约降到原来的 37%(0.7 × 0.1 + 0.3)。不着急的批量任务也可以走厂商的批处理接口,通常比实时调用便宜。
上下文管理。 很多浪费来自把冗长历史反复塞进上下文。压缩、摘要、只检索相关片段,能在效果不变的前提下明显缩短输入。
检索与提示质量。 检索越准、提示越稳,失败重试和转人工就越少。上面的例子已经说明,这一项往往最值钱。
成本分布同样要看。企业内部的 LLM 用量通常高度集中,少数重度用户产生大部分开销,按人头平均摊成本,会把他们的账算到所有人身上。
以内部 copilot 为例:覆盖 2,000 名员工,月均调用成本 5 万元,人均 25 元。假设 20% 的用户产生八成开销,400 名重度用户人均约 100 元,其余 1,600 人人均约 6.25 元。预算和配额应该按这两类人分别设计。
自建还是调用 API,也是一道可以算清的题。比如私有化部署每月固定成本 25 万元(算力、运维、许可),API 按量每单 0.15 元,盈亏平衡点约为每月 167 万单。月调用量长期低于这个数,私有化部署主要买到的是数据驻留和合规上的确定性,买不到成本优势。还要算上价格趋势:如果 API 单价两年内减半到每单 0.075 元,同样的固定成本要每月约 333 万单才能打平,自建的成本理由只会更弱。
价格本身也在快速变化,同等能力的模型调用价这几年一直在大幅下降。对建模的含义是,不要按今天的调用价锁死三年预算,每年至少重估一次。
上线前还应该做一次成本压测。做法可以是:把流量按高峰期的 3 倍回放,同时让检索服务人为超时 5%,观察重试是否引发连锁调用。很多账单失控并非来自正常增长,而是来自一次故障里的重试风暴:每个失败请求重试 3 次,调用量瞬间变成 4 倍。给重试设上限、给每个租户设配额,比事后对账便宜得多。
成本排查决策树:单位服务成本偏高时,按顺序检查
- 第一步:失败重试和转人工多不多?多,就先修检索和提示质量,这通常是 cost-to-serve 里最大的隐性来源。
- 第二步:是不是所有请求都在用最强模型?是,就上模型路由,简单请求交给小模型。
- 第三步:重复或高度相似的请求多不多?多,就加缓存(结果缓存加检索层缓存)。
- 第四步:单次输入的上下文是不是太长?是,就压缩、摘要、只检索相关片段。四项都排除后,注意力该转到收益侧或场景取舍,继续硬压成本的回报很低。
四、收益要绑到 KPI,离线分数不等于线上利润
企业级 AI 的收益有四个层次:直接成本节约,生产力收益(吞吐量、周期、错误率、排队时间),战略收益(留存、交叉销售、合规风险、服务质量),以及新增收入。
常见的偏差有两种。一种只算前两层,后两层停在口号;另一种只讲战略收益,前两层从没落地。
观察窗口也要够长。短期实验里看起来有利的改动,用户适应几周到几个月后,效果可能缩小甚至反转。AI 功能的新鲜感尤其如此,头几周的使用量不等于稳定的价值。
成熟的做法是一项收益绑一个 KPI。“效率变高”落到平均处理时长下降多少分钟;“满意度更好”落到续约率或留存率提高多少;“有新收入机会”落到哪类客户愿意为哪种能力实际付费。
离线评估和线上收益之间还有一道落差:离线指标的提升,并不能稳定转化为业务收益。
原因有三层。生产环境的输入更脏、更长尾,用户会问出评估集没设想过的问题。数据分布会漂移,昨天有效的提示和阈值,今天可能就失灵。转人工、二次澄清、审核和回滚这些成本,只有上线之后才会出现。
更极端的情况是模型直接驱动交易,比如用模型给资产定价并据此买入。测试里可以接受的误差,放到真实市场的波动里,会直接变成资产负债表上的亏损。
收益和 KPI 的绑定,可以写成一张四行的卡片,每行都配一条护栏指标,防止一个数字好看、另一个数字变坏:
- 直接成本节约:单任务成本,基线为接入前 3 个月均值;护栏是一次解决率不下降。
- 生产力收益:平均处理时长;护栏是重复来电率不上升。
- 战略收益:续约率或 90 天留存;护栏是投诉率和合规事件数。
- 新增收入:AI 功能的付费转化率;护栏是该功能的毛利率不低于事先设定的下限。
新增收入这一行最容易算错,因为 AI 功能的成本随用量变化,价格却常常按席位固定。假设 AI 助手按每席位每月 50 元收费,平均每席位调用成本 12 元,毛利率 76%;但如果 10% 的重度席位每月消耗 80 元,这些席位每个亏 30 元。按席位收费时,配额或超额计费几乎是必需的,否则用户越喜欢这个功能,企业亏得越多。
常听到的另一种声音是:先把规模做起来,账以后再算。这个说法有它的道理。试点阶段的单位经济往往被小批量、未优化的流程拖累;模型价格又在每年大幅下降,今天亏钱的场景,一年后可能自然转正;等算清楚再动,竞争对手可能已经占住了客户的工作流。
这个观点在两种情况下成立:亏损主要来自调用价,而调用价正在快速下降;或者场景的价值来自先占住入口,比如嵌入客户日常工作流的工具。如果亏损主要来自转人工率和重试率,价格下降救不了它,规模只会把亏损放大。
所以归因要有对照。保留一个不接入 AI 的对照团队或对照时段,往往比复杂的统计方法更能说明问题。从受控试点到灰度放量,再到业务影响追踪和长期回归分析,这条通道要一直开着。
比如两个规模相近的客服中心,一个接入 AI,一个保持原流程,并行 6 周。如果接入方平均处理时长下降 18%,对照方因为季节因素也下降了 6%,AI 带来的效果约为 12 个百分点。只看接入方的前后对比,会把季节效应也算成 AI 的功劳。
五、从试点到规模化:第二阶段最难解释,也最不该省
很多企业在试验阶段停留太久。做了几个 demo、几个 PoC,个别团队效果不错,却迈不过组织层面的门槛。瓶颈通常在路线设计,技术反倒很少卡住。
第一阶段:试验与能力发现。 目标是学习,规模化还不是重点。要尽早分清:哪些流程只是看起来适合 AI,实际没有稳定的输入和清晰的结果标准;哪些价值高但合规风险太强,不适合做第一批;哪些不够性感,却能最快积累能力资产。
这一阶段宜短不宜长。常见的节奏是同时开 3 到 5 个试点,每个限期 8 到 12 周,期满必须给出“继续、调整或停止”的结论。试点数量太多,团队会把精力花在演示上,很少有试点被认真地停掉。
第二阶段:系统化。 重点从“项目成不成立”转向“能力能否复用”:向量库(vector store)、模型登记表、评估框架、特征库(feature store)、数据治理、漂移(drift)检测、权限和审计。
做过生产系统的团队都有体会:真实的机器学习系统里,模型代码只占很小一部分,周围的数据、配置、监控和服务设施才是大头。第二阶段建的,正是这些大头。
它的复利来自复用。第一个场景沉淀出可靠的评估集、清洗过的特征和一套漂移检测之后,第二个相邻场景就不必从零开始。粗略估计,首个场景平台投入 6 个月,第二个相邻场景若能复用评估集和数据管线,上线周期可能缩到 2 到 3 个月。
跳过这一层,项目越多,重复搭建的底座越多,治理口径越不一致,运营和审计成本随规模一起膨胀。这一阶段的投入在财务上最难解释,因为它买到的是后续所有场景的单位成本。
第三阶段:规模化。 把 AI 嵌入多个业务单元和关键工作流,开始构建 AI 原生产品、领域平台和模型复用体系。能不能走到这一步,取决于前两个阶段打的底。
规模化阶段的典型做法是“模型家族”:同一个基础模型配几套针对不同业务的提示、检索库和评估集,各部门不再各接一个模型。设想一家保险公司的理赔、核保和客服三个场景共用一套文档解析和评估框架,各自只维护业务规则和知识库。新增第四个场景时,大部分工作是补业务数据,底座不用再搭一遍。
很多企业“AI 做了很多,结果却很散”,就是从 PoC 直接冲向规模化,最后只得到一堆互相割裂的局部成功。
阶段之间最好设明确的闸门,数字由企业自己定,下面是一组参考:
- 从试验进入系统化:至少一个场景在对照条件下证明了效果,单任务成本低于人工基线的一半,且有可复用的评估集。
- 从系统化进入规模化:至少三个场景共用同一套评估框架和数据管线,第二、第三个场景的上线周期明显短于第一个,漂移告警有人值守。
- 任何阶段的回退条件:转人工率连续两个月高于设定上限,或出现一次重大合规事件。
闸门的作用,是让“扩大”成为一个需要证据的决定。没有闸门时,扩大往往是项目组的默认动作。
六、能力和治理,都会改写单位经济
技术可以采购,平台可以集成,组织能力却买不来。能力没有形成,AI 就走不出“少数专家驱动”的阶段,核心人员一走,系统就暴露脆弱性。
少数派 2025 年 8 月的长文《万字长文:AI产品四层架构》把 AI 产品拆成基础设施层、模型层、应用层和用户层。用这四层盘点能力很顺手:每一层由谁负责,能否被下一个场景复用,缺口在哪里。
模型层的选择本身就影响成本。少数派那篇文章提到,DeepSeek-V3 采用混合专家(MoE)架构,每个 token 只激活部分参数。架构差异会体现在调用价和自建算力的需求上,选型时值得把它和场景的延迟、质量要求放在一起比较。
PM 层。 PM 要懂模型能力边界、数据质量信号、推理成本结构、评估方法和合规要求,把商业问题转化为可以建模、验证和运营的问题。
工程与 MLOps 层。 最怕的是系统无法稳定运行、监控、更新和回滚,单次模型失败反倒是小事。分布式推理、版本管理、可观测性、多模型切换,都是规模化的基本设施。
评估层。 要回答的是“怎么知道模型还值得信任”。判断标准很实用:模型悄悄变差的那一刻,企业能否察觉?固定的回归集、按错误类型分类的追踪、对幻觉和偏差的定期压力测试、清晰的阈值与告警,缺一不可。模型退化往往是无声的,等它变成客户流失或合规事故,已经晚了。
起步不需要很重。比如一个 300 到 500 条的回归集,覆盖主要意图和已知的难例,每周和每次换模型、改提示后各跑一次;错误率比基线高出 2 个百分点就告警,由场景负责人在 48 小时内给出结论。
组织学习。 内部 AI 学院、跨职能兴趣小组(guild)、共享知识库、实验手册,让 AI 从个人技能变成组织能力。
人在回路的成本可以提前算。假设一名审核员每小时能审 60 条输出,人力成本 60 元/小时,单条审核约 1 元。全量审核时,这 1 元可能比模型调用贵上十倍;改为高风险输出全审、其余 10% 抽检,平均每条约降到 0.1 到 0.3 元,具体取决于高风险输出的占比。
治理同样改写账本。可审计、可解释、可回滚都有成本:留痕占存储和工程,复核占人力,回滚占流程时间。试点阶段悄悄省掉这些,算出的单位经济性会很漂亮,进入正式业务后必须连本带利补回来。
两类风险最常直接变成成本。一类是用量失控:一个没有配额和速率限制的接口,可能被滥用或被循环调用刷出一张意外账单。另一类是错误承诺:聊天机器人对客户说错了退款或价格规则,客户和监管方很少接受“是机器人说的”这种解释。机器人说出口的话,企业要认账。所以退款、价格、合同条款这类回答,最好限定在知识库原文的范围内,并保留完整的对话记录,出了争议才有据可查。
风险要按类别建模:幻觉、数据隐私与驻留、模型漂移、对抗性滥用、偏差、负载波动带来的成本失控。它们会直接改变产品边界、定价方式和实施路径。一个在低风险场景里很经济的模型,进入高审计场景后,可能因为人工审核和责任机制彻底改变单位经济。
在中国,面向公众提供生成式 AI 服务,要遵守 2023 年 8 月 15 日起施行的《生成式人工智能服务管理暂行办法》,其中包括对生成内容进行标识。标识、留痕和投诉处理,都应该在设计阶段进入成本表。
面向欧盟或其他对 AI 有专门立法的市场时,高风险用例往往需要文档、日志、人工监督和上市前评估,各项义务的生效时间也在调整,立项时要按当地最新规定逐条核对。
对 ROI 测算的直接影响是:这些要求要作为明确的成本项写进立项时的模型,不能等批准后再追加。比如一个高风险用例要求人工监督全部输出,按上文每条约 1 元的审核成本,每月 10 万条输出就是每月 10 万元。这笔钱在立项表里就该出现,等上线后再追加预算,整个场景的 ROI 往往要重算一遍。
七、用一个季度重排试点组合
起点不必是宏大的转型计划。把现有试点逐个放进投资组合地图,按上面的四个维度打分,再用单任务成本式给每个试点算出真实的 cost-to-serve,重试、转人工和治理都计算在内。
设想一家企业有 12 个试点,打分和算账之后,5 个停掉,4 个并入共享平台,3 个追加投入。停掉的 5 个里,有 3 个的问题是转人工率居高不下,另外 2 个是业务方从未定义过成功标准。
排完通常会出现三类结论。有的试点应该停掉,因为规模越大,单位经济越差。有的应该并入共享平台,因为它沉淀的评估集和数据管线能压低下一个场景的成本。只有少数值得追加投入,进入规模化。
停掉试点往往比启动它更难。团队已经投入了几个月,演示效果也不错,于是“再给一个季度”成了默认选项。判断时只看未来:继续投入的下一笔钱,能不能换来比别处更好的回报。已经花掉的成本,不应该出现在这张表上。
对保留下来的场景,各指定一个能证明价值的业务 KPI 和一个对照基线,高风险用例的合规成本提前写进 ROI。
季度复盘的议程可以固定成四个问题,每个试点逐一过:
- 真实单任务成本是多少,比上季度升了还是降了,主要变量是转人工率、重试率还是调用价?
- 绑定的 KPI 相对对照基线变化了多少,护栏指标有没有被突破?
- 这个试点沉淀了哪些可复用资产,下一个场景能直接用上什么?
- 按闸门标准,它应该停、并入平台,还是追加投入?
一个季度后,如果每个保留下来的试点都能说清赚在哪里、亏在哪里,是转人工率还是调用价,开头那个“哪一个真正赚钱”的问题,财务和业务就不必再各自猜了。