今天搭建一个能运行的 AI 演示，五分钟足矣：接入一个大模型 API，写下几条 prompt，挂上一个向量库，界面上一问一答行云流水，演示现场掌声四起。然而演示与生产系统之间，横亘着一条深而宽的河。我们见过太多团队在演示阶段意气风发，一旦要将其置入真实业务、承受真实流量、对真实结果负责，便步步陷入泥沼。差距不在模型——模型大家调用的本是同一个。差距尽在工程。
演示只需在你精心挑选的几个问题上表现出色。生产系统却要在你未曾预料的成千上万个问题上不出大错。这是两件全然不同的事。
RAG 的真问题不在检索，而在知识质量与可追溯
几乎所有人第一步都上 RAG：文档切块、生成 embedding、向量召回，流程优雅。但演示喂入的是你清洗过的数十篇资料，生产面对的却是企业中沉淀多年、过期、彼此矛盾、格式混乱的真实知识库。召回率只是入门指标。真正决定成败的是：召回的内容是否准确、是否最新、能否一眼追溯至原始出处。
一个面向业务的 RAG，回答必须可引用、可核对、可纠错。一句话说错，在合规、客服、销售等场景中并非体验瑕疵，而是真实的业务风险。知识治理——由谁更新、过期内容如何淘汰、信息冲突以谁为准——这些底层工作，才是 RAG 能否上生产的分水岭。
Agent 的可靠性，是一道工程命题
Agent 演示最具迷惑性：自主规划、自主调用工具、多步推理，看似已具心智。但多步意味着误差累积——每一步成功率再高，连续数步相乘亦会显著衰减。生产系统承受不起这种概率衰减。可靠的 Agent，依靠的不是更聪明的 prompt，而是工程约束：清晰的工具边界、每一步的校验与回退、对具副作用的操作（下单、发消息、改数据）施以强制确认与全程审计。
我们的判断很直接：将 Agent 的自由度收敛至恰好够用，可控永远优先于花哨。凡能以确定性流程解决的，绝不交由模型自由发挥。
决定成败的，是这几道并不起眼的关口
- 数据治理与权限：模型不应看到它不该看到的数据。多租户隔离、字段级权限、敏感信息脱敏，演示中皆可略过，生产里一项都不能少。
- 评测与回归：没有评测集的 AI 系统形同裸奔。更换模型版本、调整一句 prompt，成效是升是降须以指标为凭，而非凭人工感觉；改动一处，不能悄然劣化十处。
- 成本与延迟：演示无须计较单次调用的费用与耗时；生产却要按调用量核算、按尾部延迟支撑体验。缓存、模型分级、上下文裁剪，背后皆是真金白银。
- 私有化与安全：许多企业的数据根本无法离开内网。能否私有化部署、数据流向是否可控、出事能否审计追责，往往是能否签约的前提，而非加分项。
套壳交付的是演示，工程交付的是系统。前者比拼谁接得快，后者比拼谁扛得住。
把 AI 真正落入业务，难的从来不是那五分钟的灵光乍现，而是此后让它在真实世界中持续、可控、可被信任地运转下去。这条河，我们愿意一关一关地趟过去。