水面之上是聊天框,水面之下才是真正的工程量.jpg
水面之上是聊天框,水面之下才是真正的工程量.jpg

前年部门立项做智能客服,老板第一句话是:"不就是接个 ChatGPT 吗,一周够不够?"

后来这个项目做了八个月。不是团队不行,是我们一开始就想错了方向——以为 AI 就是模型,接上 API 就万事大吉。

真正跑起来才发现,模型只回答得了"通识问题"。用户问"我上个月的订单为什么退款失败",模型一问三不知。答案在数据库里、在工单系统里、在知识库里,就是不在模型的参数里。这时候就需要 RAG(检索增强生成):先去查,再组织语言回答。说白了,就是给模型配了个资料员。

再往后,问题更细。用户说"帮我改一下收货地址",这就不是问答了,是一个动作,要调接口、走流程、处理失败重试。这是智能体(Agents)干的事:把模型从"会说"变成"会做"。

还有记忆模块。用户上周说过的事,这周不能装失忆,不然体验很差。安全防护更不用讲,客户数据不能漏,越权的动作不能执行,这类事故出一次就够了。最后是效果评估——你怎么知道这版上线后是变好了还是变差了?没有评估体系,每次迭代都是盲调。

六个模块像齿轮一样协同咬合

模型、检索、智能体、记忆、安全、评估——六个模块的咬合方式才是壁垒

模型、检索、智能体、记忆、安全、评估.jpg
模型、检索、智能体、记忆、安全、评估.jpg

这六个模块,单独拎出来都不难,网上教程一抓一大把。难的是协同:检索回来的内容怎么喂给模型才不被信息淹没;智能体执行出错时,谁来兜底;记忆该存多久、记什么、忘什么。每个衔接处都是坑,每个坑都得拿真实业务去填。

所以我现在的判断是:模型是买来的,能力是攒出来的。厂商发布会上的演示永远丝滑,但落到自己的业务里,那八成看不见的工程,才是壁垒本身。