一、什么是“上下文税”
假设员工让 AI 写一份客户方案。表面上只是输入一句话,但要生成一份真正能用的方案,系统可能还需要知道:
- 客户属于哪个行业和区域;
- 已经买过哪些产品,当前处于什么阶段;
- 公司最新的价格、交付周期和服务边界;
- 哪些案例可以公开,哪些资料不能给客户看;
- 方案要遵循什么模板、审批流程和品牌口径;
- 最终内容由谁复核,怎样进入 CRM 或项目系统。
这些信息如果已经结构化、可授权、能自动传入,AI 的调用就比较顺畅;如果散落在聊天记录、个人文件和旧表格里,员工就必须每次手工搜集、复制、解释和核对。
这部分耗费的时间、接口、系统改造和管理成本,就是企业为 AI 补充上下文的成本。它不一定出现在模型账单里,却会出现在员工加班、项目延期、重复返工和供应商报价里。
二、上下文税通常藏在四个地方
1. 数据上下文:先找到正确资料,再谈回答
企业资料往往不是“没有”,而是分散、重复、过期和互相矛盾。
知识库项目中常见的工作包括:
- 找出真正有效的版本;
- 删除重复文件和无效附件;
- 把扫描件、图片和表格转成可检索内容;
- 补充客户、产品、部门和时间等字段;
- 标记哪些内容只适用于某个区域、客户或合同;
- 让答案可以回到原文和原始记录。
如果这些准备工作没有完成,企业就会把“资料管理问题”误认为“模型效果问题”。换一个更强的模型,可能只是让它更流畅地引用错误版本。
2. 人的上下文:员工要不断解释自己想做什么
很多 AI 工具看起来很聪明,但每次都需要员工先补充大量背景:客户是谁、事情发生到哪一步、之前怎么处理、这次有什么限制。
如果这些信息没有从 CRM、工单、订单、项目或权限系统自动带入,员工就得重复输入。用得越多,员工越会发现:与其每次写一段长提示词,不如自己直接完成任务。
这也是“提示词培训”常常效果有限的原因。问题不是员工不会写提示词,而是企业把原本应该由系统提供的业务上下文,转嫁给了员工。
3. 系统上下文:AI 会建议,但不知道下一步怎么做
AI 输出一段看起来合理的内容,不代表它能完成业务闭环。它可能还需要:
- 查询最新订单或库存;
- 判断当前用户是否有权限;
- 把结果写入正确的系统和字段;
- 调用接口后处理失败、超时和重复响应;
- 触发审批、通知和后续待办;
- 将处理结果回写,供下一次使用。
如果 AI 和业务系统之间没有可靠接口,员工还要手工复制、确认和录入。系统没有减少流程,只是多了一层文本生成。
4. 治理上下文:每一次变更都要有人解释边界
企业业务不会静止。产品价格、合同条款、组织权限、客户政策和合规要求都会变化。AI 系统也会更换模型、提示、检索方式和工具。
每一次变化都需要有人确认:
- 哪些资料随之更新;
- 哪些用户权限需要调整;
- 哪些测试样本需要重跑;
- 哪些历史结果不再适用;
- 哪些动作应该暂时关闭。
没有治理责任人的系统,刚上线时可能表现不错,过几个月就变成一台带着旧知识和旧权限的自动化机器。
三、为什么模型越强,项目不一定越省钱
这听起来有点反直觉。更强的模型可以理解更长的内容、处理更复杂的任务,按理说应该减少人工工作。但企业实际成本还受到三个因素影响。
第一,能力越强,任务边界越容易扩大
一个原本只做知识检索的项目,看到模型能读长文档、分析表格、调用工具后,团队很容易追加销售分析、合同审查、自动发信和流程执行。
任务越复杂,需要的上下文越多,数据接口、权限控制和异常处理也越复杂。模型能力提升解决了“能不能生成”,却把“敢不敢让它执行”推到了管理层面。
第二,长上下文不等于正确上下文
把更多资料塞进请求,不代表模型更了解业务。无关、过期、重复和相互冲突的信息会增加判断难度,也增加调用成本。
企业需要的是相关、有效、有权限、可追溯的上下文,而不是无限增加文本长度。
第三,错误结果会带来更长的人工链路
如果一个更强的模型写出的内容更像最终答案,员工可能反而更晚发现问题。结果一旦进入报价、合同、客户沟通或业务系统,错误修复成本会高于早期草稿阶段。
所以模型能力提升后,企业不能只提高预期,还要同步提高数据、权限、审核和回滚能力。
四、老板要算的不是 Token 价格,而是有效任务成本
可以把 AI 项目的单个有效任务成本拆成:
有效任务成本 = 上下文准备 + 模型调用 + 检索与接口 + 人工复核 + 错误返工 + 运营维护 + 风险保障
其中:
- 上下文准备包括资料查找、字段补齐、提示整理和业务规则确认;
- 模型调用包括文本、图片、语音、向量检索和重试;
- 检索与接口包括数据库、业务系统、OCR、存储和网络;
- 人工复核包括检查、改写、审批和重新录入;
- 错误返工包括错答、漏答、重复动作和客户投诉;
- 运营维护包括知识更新、权限清理、版本回归和用户培训;
- 风险保障包括日志、监控、备份、降级和供应商替代。
举一个假设场景:某企业用 AI 生成客服回复。模型每次调用只花几分钱,但客服需要重新查询订单、核对价格、修改语气并手工录入工单,最终每条回复增加了 5 分钟。这个项目不能因为 API 便宜就被判定为省钱。
反过来,如果一个业务方案生成任务需要更高的模型费用,但它能自动带入客户上下文、引用有效资料、减少返工,并且经过人工确认后直接进入 CRM,整体成本可能更低。
五、怎样把上下文税降下来
1. 先缩小场景,不要一开始做“全公司 AI 助手”
选择一个资料边界清晰、用户相对固定、结果可衡量的流程。例如售后知识检索、销售方案初稿、工单分类或固定格式单据抽取。
第一期不需要接入全部部门和全部文件。范围越清楚,越容易知道哪些上下文真正有用。
2. 把上下文从聊天框移到系统里
客户名称、订单状态、产品版本、用户角色和流程阶段,不应该依赖员工每次手工复制。能从系统读取的,就通过可靠接口和权限规则自动带入。
这也是为什么 AI 项目最终会回到业务系统整合,而不是永远停在一个聊天页面。企业可以参考《2026 年企业上 AI Agent,老板别先买工具》的方向,把问答和实际流程分开设计。
3. 让资料有版本、负责人和失效时间
每类重要资料至少要有来源、版本、有效期、适用范围和维护人。模型拿到的不是“所有历史文件”,而是经过筛选、能解释来源的有效上下文。
4. 先把建议做成结构化输出
与其让 AI 输出一大段自由文本,不如让它先输出可校验的字段、分类、依据、风险和下一步建议。结构化结果更容易进入系统,也更容易做测试、统计和人工复核。
5. 把人工反馈变成产品数据
员工修改了哪一段、拒绝了哪一种建议、为什么接管、哪份资料被判定为过期,这些都应该进入反馈记录。否则每次错误只能靠口头抱怨,无法判断应该改数据、改流程还是改模型。
6. 为失败设置边界,而不是要求 AI 永远回答
资料不足、权限不够、版本冲突、接口失败和超出业务范围时,最省钱的行为可能是停止、转人工或要求补充信息。强行生成一份“看起来完整”的答案,往往会增加后续返工和责任风险。
六、什么时候值得支付这笔“上下文税”
上下文成本不是越低越好。关键是它是否换来了足够的业务价值。
值得投入的场景
- 任务发生频率高,重复工作明显;
- 输入、输出和评价标准相对稳定;
- 资料可以规范化,权限边界清楚;
- 结果能减少大量人工时间或降低关键错误;
- 业务负责人愿意持续维护,而不是只做一次演示。
暂时不值得投入的场景
- 流程和规则每周都在变化;
- 每个客户都需要重新定制,无法形成重复能力;
- 资料没有负责人,错误也没有处理机制;
- 结果必须全量人工重做;
- 项目价值只能用“大家觉得先进”来证明。
企业不应该为了证明自己没有落后,给所有流程都加一层 AI。真正成熟的判断是:这笔上下文成本能不能换回明确的业务结果,而且结果能不能持续。
七、30 天做一次上下文成本审计
如果老板怀疑项目被隐性成本拖住,可以让团队在 30 天内做一份小审计:
第一步:抽取 50 个真实任务
不要只抽取成功案例,必须包含资料缺失、客户追问、权限限制和接口异常的任务。
第二步:记录每个任务的上下文来源
标出资料由谁查找、花了多久、是否重复、是否过期、是否需要手工解释。
第三步:记录 AI 之后的新增工作
包括人工核对、复制粘贴、改格式、重新录入、审批、错误返工和客户沟通。
第四步:按业务结果重新计算成本
不要计算“调用次数”,而要计算“最终完成一个合格任务需要多长时间、多少费用和多少人参与”。
第五步:决定应该改哪里
- 资料问题就改知识和版本;
- 流程问题就改系统入口和责任;
- 权限问题就改身份和审批;
- 结果问题就改任务边界、模型或提示;
- 成本问题就改上下文筛选、缓存、重试和任务拆分。
审计结束后,可能得出的结论不是“继续换模型”,而是“先把客户数据接进系统”“先整理产品资料”“先砍掉高风险动作”。这才是成本分析真正有价值的地方。
八、老板要防止两种误判
误判一:模型便宜了,AI 项目就应该更便宜
模型价格下降可能降低一部分调用成本,但不会自动减少资料整理、接口开发、权限治理、人工复核和运维成本。企业还要看模型的稳定性、上下文窗口、工具调用、数据处理和迁移成本。
误判二:员工愿意试用,项目就已经成功
新工具的试用率会受到新鲜感影响。真正应该观察的是:员工是否在高频任务中持续使用,结果是否进入原有系统,人工复核是否减少,业务负责人是否愿意承担维护。
企业此前已经有关于 AI 投入和预算的讨论,可以结合《腾讯二季度 AI 投入推高资本开支:中小企业做 AI,怎样分阶段花钱》和《模型越来越便宜,企业 AI 项目为什么未必更省钱》一起看。本文补充的,是预算表里经常没有的一列:上下文成本。
九、从“模型项目”转向“业务能力项目”
AI 试点最容易被问成:“这个模型能不能做到?”
老板更应该问:
- 这条业务流程是否值得被改造;
- 哪些上下文是必要且可持续的;
- 哪些工作由系统完成,哪些仍然由人判断;
- 错误发生时谁接管,影响如何撤销;
- 成本随着规模增长时,企业是否仍然承担得起。
如果答案清楚,模型只是实现方案的一部分;如果答案不清楚,继续升级模型只会让企业更快地把问题做大。
“上下文税”并不是 AI 的反对词,而是提醒老板把看不见的工作算进项目。企业真正要追求的,也不是每次回答都像人,而是用可控的上下文换来可持续、可复盘、可负责的业务结果。
华茂思捷科技提供企业 AI 落地、知识库、自动化流程和业务系统整合服务。如果你发现 AI 项目一直在调模型,却没有形成真实闭环,可以先通过核心服务了解如何重新拆分场景和成本,也可以通过联系我们,先做一次业务流程与上下文成本评估,再决定下一步投入。

