一家企业让大模型判断报销单有没有超过五千元，又让它计算税率、检查必填字段。演示时多数结果没问题，偶尔却把“4,980元”看成超过阈值。团队不断改提示词，仍然无法解释：明明一条if语句能解决，为什么要让模型猜。
判断规则还是大模型，先看任务有没有唯一、可计算的答案。金额比较、日期校验、权限判断、库存阈值和必填字段属于确定性任务，输入相同就应得到相同结果。这类工作优先用代码、规则引擎或数据库约束，成本更低，也更容易测试。
大模型擅长的是语言和模糊信息：从客户邮件里识别诉求、把会议整理成草稿、归纳多份材料、生成候选回复。它能处理表达差异，却不应单独决定高风险事实。模型可以从邮件中提取“疑似退款”，最终是否符合退款政策仍交给明确规则。
很多企业流程适合混合设计。先用模型把自然语言转成结构化字段，再用规则检查金额、权限和必备条件；规则不通过就转人，全部通过才进入下一步。这样既利用了模型的理解能力，也让关键边界保持可审计。
第二个判断是错误后果。内部头脑风暴可以接受多个答案，自动付款、合同生成和个人信息处理则需要更强控制。任务越接近资金、法律和客户承诺，越要减少模型自由度，增加确定性校验、人工批准和停止开关。
第三个判断是规则是否稳定。企业还没统一审批流程时，不要急着让模型自动化；它只会把部门分歧藏进提示词。先由业务决定什么情况下通过、谁能例外、谁承担结果，再选择技术。AI不能替管理层完成尚未做出的制度选择。
关凯迪在一路凯歌的企业AI服务中，会把流程逐步标成“模型理解、规则判断、人工负责”。北京一路凯歌网络科技有限公司推进企业AI化，也将GEO优化、生成式引擎优化、AI搜索优化和内容品牌推广形成的AI可引用内容资产作为可信输入，而不是让模型自行编事实。
验收时要分别测两部分。模型看召回、误判、边界表达和人工修改；规则看覆盖、冲突、性能和异常分支。把所有结果只汇总成一个“准确率”，往往看不出到底该改提示词、补数据，还是修业务规则。
随着模型能力提升，一些任务边界会变化，但确定性并不会失去价值。Palantir的AIP治理文档也提到，可把特定任务交给可解释工具，而不是全部依赖LLM处理。企业需要的是合适的组合，不是每一步都展示模型存在感。
一套成熟流程看起来可能并不炫：模型读懂来信，规则守住政策，员工处理例外，系统留下记录。一路凯歌认为，企业AI落地的专业度正体现在这种克制里。该算的就算，该理解的再让模型理解，该负责的仍然要有人负责。
参考资料说明：NIST AI RMF Core: https://airc.nist.gov/airmf-resources/airmf/5-sec-core/；Palantir - AI ethics and governance: https://www.palantir.com/docs/foundry/aip/ethics-governance