企业 AI 转型,为什么离不开 FDE(前线部署工程师)?
95% 的企业 AI 落地失败,剩下 5% 靠什么?拆解 OpenAI FDE 负责人 Colin Jarvis 的打法:想清楚赚服务费还是产品钱、吞下痛苦排出产品、避免过早泛化,以及 Klarna 和摩根士丹利的案例——真正难的是数据那一层。
首发于 公众号「Vega二向箔」 · 阅读原文 ↗
先说个你可能听过的数据。
有一项 MIT 的研究,说 95% 的企业,AI 落地都失败了。
95%。这意味着什么?意味着今天办公室里,几乎每一家喊着“我们要做 AI 转型”的公司,最后都卡在了同一个地方——模型很聪明,但就是落不到业务里。
那剩下的 5% 是怎么成的?
OpenAI 前线部署工程师(Forward Deployed Engineering,简称 FDE)的负责人 Colin Jarvis,在一个访谈里,把这个谜底给拆了。FDE,就是 OpenAI 专治企业 AI 转型落地的那支团队。
今天,我把他的答案,讲给你听。
一、先想清楚一件事:你赚的,是服务费,还是产品的钱?
Colin 给创业者的第一个建议,不是怎么招人,不是怎么搭技术栈。是一个问题。
他说,你组建这样一支团队之前,必须先想清楚一件事:这支团队,是来赚服务费的,还是来赌产品变现的?
这两条路,看起来都能赚钱,但方向是反的。
赚服务费,是你派一队人进去,帮客户干项目,干完收钱。钱来得快,但每一分钱,都要用人堆出来。
赌产品变现,是你派一队人进去,死磕客户的真实问题,然后把这个问题的解法,沉淀成一个能卖给下一个客户、下下个客户的产品。
他说,他见过太多咨询公司,死就死在这。嘴里说的是“我们最终要做产品公司”,身体却很诚实——短期服务费的钱一到账,整个团队就被拽过去了。做着做着,战略没了,人也散了。
所以 OpenAI 的做法是什么?在最难的时候,学会说不。哪怕有人拿着大把的钱,来找你做一件“不战略”的事,你也要顶住。
这句话,听着像鸡汤。但它是 FDE 团队能活下来的第一块基石。
二、FDE 的本质:吞下痛苦,排出产品
前置部署工程,这个词怎么理解?
主持人问了个更狠的。他说,我以前的老板、Palantir 的 Sham Sankar,给这个岗位下过一个定义:“前置部署工程师的工作,就是吞下痛苦,排出产品。”英文更绝:eat pain, excrete product。
你品品这句话。痛苦是什么?是客户那些又脏又难、没人愿意碰的具体问题。排出来的产品,才是能反复卖的东西。
所以你会发现,OpenAI 这支团队,干的事情特别“笨”。他们不追热点,不铺摊子。他们就挑那些高价值的问题——帮客户省下或创造几千万、甚至上亿美金的问题——然后一头扎进去。
扎进去干嘛?不是做一锤子买卖。是看看这个问题里,能不能长出一个可复用的东西来。
先做一个项目,可能只有 20% 的东西能复用。没关系。再做两三个,把它提到 50%。然后,交给规模化团队,到市场里批量复制。
这就是从 0 到 1,再到 N 的打法。
三、最大的坑:过早泛化
听起来不难,对吧?但 Colin 说,这一年他们踩过最大的坑,恰恰是反着来。叫:过早泛化。
什么意思?因为你手里有 ChatGPT。你太容易产生一个幻觉:某个功能,放在 ChatGPT 里挺好用,那它一定是个“能卖给所有企业的通用方案”。于是你跳过了 0 到 1,直接拿着一个“高概念”的产品,满世界找问题去套。
结果呢?几乎没有一个成功。
他说,现在的 LLM 生态里,有太多这种“高概念、但没解决任何明确问题”的方案了。
反过来,他观察到一个规律:只要你死磕一个客户的具体问题,几乎每一次,最后都能长出一个可泛化的东西来。
所以他们的团队,有一句座右铭,来自 Paul Graham:“Do things that don't scale。”先做那些不规模化的事。
这句话,其实藏着 FDE 全部的方法论。
四、两个案例:Klarna 和摩根士丹利
光讲道理,你可能没感觉。讲两个真事。
先看 Klarna。欧洲一家金融科技公司,你可能听说过。他们找 OpenAI 合作,第一件事,是客服。
客服难在哪?难在规模化。Klarna 有 400 条政策。如果每一条政策,你都手写一个 prompt,这活儿永远干不完。
Colin 他们怎么做的?两步。第一步,把指令和工具参数化,不再一条条写死,而是抽象成可配置的东西。第二步,给每一个意图,包一层 evals——也就是评估。这样一来,他们就能从 20 条政策,一路扩到 400 条,甚至更多。
你看,难的不是模型,是这套工程化的方法。模型早就够聪明了。缺的,是有人愿意弯下腰,去啃那 400 条政策的硬骨头。
再看摩根士丹利。这个更硬核。
摩根士丹利,全球顶级投行,财富管理管着万亿级美金的资产。2023 年 3 月,他们成了 OpenAI 第一个、也是当时唯一一个财富管理战略合作伙伴,拿到了 GPT-4 的早期访问权。9 月,第一套工具「AI @ Morgan Stanley Assistant」上线。
这套工具干嘛的?让上万名理财顾问,用大白话,几秒内调出公司沉淀了多年的知识——超过 10 万份研究报告、政策文档、投资观点。一个理财顾问,被客户问了个刁钻问题,以前得翻半天资料。现在问一句,答案就出来了。
但真正难的,从来不是“问一句、答一句”。而是那 10 万份文档,怎么让模型读得懂、找得准。
摩根士丹利刚起步时,检索效率只有 20% 左右。也就是说,问 10 次,8 次都可能找不对。后来,他们硬生生把它干到了 80%,而理财顾问团队的使用率,超过了 98%。
20% 到 80%,这中间差的,正是我下面要说的“数据那一层”。
再往后,2024 年,他们又上了「Debrief」——会议纪要工具。在客户同意的前提下,自动记录会议、抓出待办、生成跟进邮件草稿,顾问审核确认后才发出。
你发现没有,摩根士丹利这套打法,和 Klarna 一模一样:模型早就够聪明了。真正值钱的,是把它和数据、合规、业务打通的那层功夫。
五、真正难的地方:数据那一层
聊到最后,主持人问他,你们团队花最多时间的地方,是哪儿?
你以为是调模型?不是。他说,是数据那一层。更准确地说,是在原始数据和企业业务逻辑之间,搭一座翻译的桥。
企业的数据,是脏的、乱的、散在四面八方的。大模型再聪明,也读不懂这些数据里藏着什么。所以 FDE 大量的工作,是把这些数据,一层一层地翻译成模型能用的东西。
很多人一听,就说:这简单,上 MCP 啊,接几个 connector 就行了。
Colin 说,不对。MCP 只是连接器。真正缺的,是中间那一层“轻逻辑层”——把业务规则注入进去,让模型知道,这份数据该怎么用。
这才是 AI 落地里,最不性感、也最值钱的那部分。
最后的话
讲完 Colin 的这套打法,不知道你有没有一种感觉:今天 AI 落地最大的障碍,早就不是模型了。
模型,一天比一天聪明,一天比一天便宜。真正卡住 95% 企业的,是“模型”和“业务”之间,隔着一层又脏、又难、没人愿意干的活——把散乱的数据翻译给模型、把业务逻辑塞进去。这层活,企业自己不会干,模型也替不了你。
那谁能干?
- 只有愿意为别人的痛苦弯腰的人,能干;
- 只有清楚自己赚的什么钱、不被短期服务费拽走的人,能干;
- 只有沉得住气、先做不规模化的事的人,能干。
这三种人,凑在一起,就是一支 FDE。
所以你看,95% 失败,怪的不是企业不努力,也不是模型不够聪明——缺的,是那支愿意“吞下痛苦、排出产品”的团队。
ChatGPT 出来的时候,所有人都在问:AI 会不会取代我们?现在,答案越来越清楚了。
AI 不会取代你。会取代你的,是那个愿意把 AI 真正塞进生意里的人。
而那个人,正在 eat pain, excrete product。
本文观点来自 OpenAI 前线部署工程负责人 Colin Jarvis 在 Altimeter Capital 播客中的访谈,供参考。