前沿部署工程师(FDE)到底在做什么
FDE 可能是当下 AI 行业最容易被误解的职位。这是我亲身经历的版本:一半是系统工程师,一半是翻译,对结果全权负责。
「前沿部署工程师(Forward Deployed Engineer)」听起来像是招聘经理不想说「顾问」时发明的头衔。但它不是。这个角色之所以存在,是因为「演示效果很好的 AI 产品」和「能在某个具体客户的世界里真正运行的 AI 产品」之间,有一道真实的鸿沟——客户的数据、权限、遗留系统,还有他们的人。
FDE 就住在这道鸿沟里。
三个循环
我的大多数工作周,都可以用三个以不同速度运转的循环来描述。
1. 需求发现循环(以周计)
写代码之前,我会先和真正使用系统的人坐在一起。不是高管赞助人,而是那个周五下午 4:50 会把问题粘贴进输入框的分析师。我想知道:
- 对他们来说,「好的答案」长什么样?能给我看一个吗?
- 他们信任哪些来源?又悄悄忽略了哪些?
- 现有流程在哪里会断掉?断掉时谁会被责怪?
这个循环的产出不是需求文档,而是一套黄金测试集:50 到 300 个真实问题及参考答案,和客户一起写出来。下游的一切都以它为标尺。
2. 集成循环(以天计)
这部分看起来最像传统的软件工程,只是每一个依赖都是别人的系统。身份认证服务、带着三代权限模型的文档库、在 JSON 字段里返回 HTML 的工单 API。
// 每一次检索调用都以调用者的有效权限为范围。
// 无法解析权限时,默认拒绝——绝不默认放行。
export async function retrieve(query: string, user: User) {
const acl = await resolveEffectiveAcl(user); // 用户组 → 文档范围
if (!acl.ok) throw new Forbidden("Could not resolve permissions");
return hybridSearch(query, {
filter: { scope: { $in: acl.scopes } },
k: 24,
rerank: true,
});
}这里的工程原则很简单:客户的安全模型就是需求规格。 如果模型知道了用户无权查看的内容,那么无论答案多好,系统都是坏的。
3. 评测循环(以小时计)
每一次 prompt 修改、检索器调整或模型升级,在任何人看到之前都要先跑一遍黄金测试集。看板刻意做得很无聊:忠实度、相关性、延迟、成本。当某个数字变动时,我们要在客户开口之前就知道原因。
| 指标 | 基线 | 加入重排序后 | 修复权限后 |
|---|---|---|---|
| 忠实度 | 71% | 88% | 94% |
| p50 延迟 | 9.2s | 6.1s | 6.0s |
| 单次回答成本 | $0.041 | $0.038 | $0.038 |
这份工作不是什么
- 它不是「AI 咨询」。我交付的代码会留在生产环境里,出问题会被叫起来处理。
- 它不是售前解决方案工程。我不是去签单的,我是签单之后、现实浮出水面时才出现的人。
- 它不是初级岗位。你需要有足够的深度去重新设计检索器,同时有足够的判断力告诉一位 VP:他最喜欢的功能会伤害到他。
反哺产品的反馈路径
FDE 做的最有价值的事情,发生在部署之后:带回一份精确、有证据支撑的清单,说明产品还缺什么——好让下一个客户在这部分不再需要 FDE。如果你的前沿部署团队没有随着时间推移缩小前沿部署的范围,那一定有什么地方出了问题。
如果你在考虑这个方向
如果你享受模糊性、宁愿看到系统被使用而不是被欣赏、并且能同时在脑子里装着两种语言——客户的语言和代码库的语言——你会喜欢这个角色。我恰好会三种。这很有帮助。
继续阅读