AI开发正在变成一场大型的“填空题”比赛

🔑 关键词:AI开发,大模型,技术泡沫,工程化,创造力的消失

📖 摘要:当所有人都在用同一种预训练模型做微调,AI开发的技术含量正在被稀释。这篇文章聊聊AI开发如何从创新滑向填空,以及被忽视的工程代价。

现在的AI开发圈子里有个很诡异的现象:大家引以为傲的"创新",本质上是在给同一个底座模型写填空题。OpenAI放出GPT-4,于是成千上万个基于GPT-4的"垂直应用"冒出来;Meta放出Llama,于是开源社区一夜之间长出一堆Llama的变体微调。你问这些开发者他们的核心壁垒是什么?十有八九会告诉你——prompt模板、专属数据、或者那点微调参数。这让我想起小学语文考试,题目是"我爱____",有人填"祖国",有人填"妈妈",但卷子底下那行小字写着:请勿离开横线范围。

图片

更讽刺的是,这种填空式开发正在制造一种新的技术依赖。团队不再关心模型是怎么推理的,不关心注意力机制的局限性,甚至不关心数据分布到底长什么样。出了问题怎么办?换更大的模型,或者加更多的示例。整个开发流程变成了一个黑箱调参循环:效果不好就调prompt,再不行就上RAG,还不行就微调——但没有人愿意倒回去重新审视问题的定义。我见过一个团队花三个月构建知识库问答系统,最后发现业务部门真正需要的是流程自动化,而不是一个会聊天的文档搜索框。AI开发被模型能力裹挟,很多人已经忘了"解决问题"才是起点,而不是"把模型接进来"。

图片

这种同质化的根源在于,AI开发的技术门槛正在被重新定义。以前要做一个图像识别系统,你得懂机器学习算法、懂特征工程、懂模型训练;现在只需要调用一个现成的API,扔几张标注好的图片。门槛降低带来了繁荣,也带来了一种危险的错觉——大家都觉得自己是AI开发者,但实际上只是API的使用者。这种错位在生产环境里会结出恶果:推理成本被严重低估,延迟问题被轻描淡写,数据隐私被一句"加密传输"带过。我见过不少项目,demo阶段惊艳全场,一上线就崩——不是模型不行,而是整个系统的健壮性、可观测性、灾难恢复机制全都是空白。AI开发变成了搭积木,但没人关心积木下面的地基是沙地。

图片

我觉得真正值得做的AI开发,不是继续在模型能力上堆叠新功能,而是把注意力转向那些"不性感"的工程难题:如何处理数据漂移?如何让模型在边缘设备上跑得既快又准?如何设计人机协作的反馈闭环?以及——如何承认AI在某些场景下根本不适用?这些问题的答案不会出现在任何模型卡的说明书里,也不会成为论文的卖点,但它们决定了AI系统能否在真实世界里活过一年。当整个行业都在追着SOTA跑的时候,反而是一些"退步"的尝试值得尊重:比如有人在用极小的模型解决具体问题,有人在做可解释的规则引擎和神经网络的混合架构。这群人才是真正的建筑师,而其他人只是拿着别人的图纸,在填色。

图片

我不期待AI开发变得简单,相反,它正在变得复杂——因为简单的路已经被走烂了。如果你正在做一个项目,请先问自己:如果没有大模型,这个问题会以什么形式存在?如果你怎么都答不上来,那你可能只是在给填空题填上了一个看似高分的漂亮答案。而真正值得做的,是去出题——哪怕那道题一开始没有标准答案。

图片