大模型是泡沫吗？

今天想聊聊这两年从事LLM工作的一些感悟，不谈技术，只谈感受。

说实话，对大模型的态度挺复杂的。毕竟，它确实把2023年之前积累的那些东西砸了个稀碎——以前在NLP领域苦心钻研的训练经验、模型结构、任务分类的精细化处理技巧，在ChatGPT面前几乎一文不值。

但事情总有另一面。技术积累被击碎的同时，工作内容也不再是一潭死水。以前做特征工程师，花几个月构造某个能力的数据特征，然后塞进模型里。领导说“再搞个新能力”，那就重复一遍，下一季度的OKR又填满了。这种节奏，我实在看不到对个人或公司有什么价值。

所以，作为一个曾经研究对话系统的NLP码农，哪怕过去的知识和经验极速贬值，也必须承认大模型的价值：它提升了程序员写代码的效率，催生了新的研究范式，给工作注入了新的活力，还掀起了全民技术浪潮。

LLM是生产力工具

不管多少人抨击ChatGPT的技术路线，也不管它未来会不会取代程序员，一个事实摆在那：ChatGPT已经是当前不可或缺的强力生产力工具。

不会前端？敢跟领导说“我做个简单demo”，而不是以前那样说“Django能不能做这个我不确定”。没学过Go？直接上手写上线代码。记不住的正则命令不用再搜了，pandas不用死磕了，shell冷门命令也能信手拈来——这些都是ChatGPT给的底气。

不只是程序员，只要涉及文本，ChatGPT都在改变工作方式。写新闻稿、小说不够好？让它写十篇你挑一篇，或者让它写个大纲自己修改。模型创作可能永远超不过人，但架不住它能量产啊。

卖账号的、调戏模型做视频的、用大模型生图的、大量生产文章的……很多人已经赚得盆满钵满。不会用大模型提效的人，真的会最先被淘汰。

LLM把所有人拉到了同一起跑线

2023年之前，没几个人用过Megatron、DeepSpeed，没几个人研究过DPO、PPO、MOE，没几个人知道Reward Model怎么训，也没几个方向的数据pipeline需要花大价钱清洗才能运转。就连“SFT数据要追求质量而非数量”这个共识，也是过了半年才达成。

在这个新技术范式下，新人可以跟工作十年的NLP从业者激烈辩论，小白可以跟大佬讨论对LLM的认知和实验结果。

去年最爱说一句话：“

今年这句话依然有用，但同时也意识到，2023年正在远去。凭借天赋、财力、努力，DeepSeek、Qwen等团队的同学已经明显开始拉开距离。每个LLM从业者都需要比去年更强的忧患意识：好不容易回到同一起跑线，怎么能再次被甩开？

LLM带来了黄金的技术时代

公司愿意花钱买卡、租卡让你实践学习；领导看到你工作时间读论文会满意；同事之间每天都在讨论新想法，或者Meta、OpenAI、Google的新技术报告。这种工作氛围，在ChatGPT出现之前，真没遇到过。

可惜，如今大部分公司开始拥抱应用，琐碎杂活又多了起来。如果觉得工作太忙、力不从心，从打工人视角出发，真心建议周末多学习、多跑实验。想一想，公司租着4万/月（1机8卡，粗略估算）的机器来培养我们的认知，哪还有比这两年更适合提升自我的时机呢？

这种黄金时代，在“人均只有十年的程序员生涯”中，恐怕很难再有。

LLM是泡沫？

回到正题——LLM会成为泡沫吗？这个问题反复被拿出来问，但对程序员来说真的重要吗？是不是泡沫又能怎样？毕竟，既不关心AIGC会通往何方，也不在乎LLM是不是正确的技术路线。

就算Google再提出新技术范式，各大公司会因为以前研究过LLM就不招人吗？他们一定还是会选“LLM工作做得最好的那群人”来组建新团队，去跟随前沿技术。

所以，

写在最后

还想额外分享一个观点：在LLM这个赛道，真没必要羡慕别人，做好自己的工作就行。

举个例子，文本方向的同学天天想：

• 做预训练的觉得自己的工作就是爬数据、洗数据，或者像工程一样不停优化训练框架；
• 做通用SFT的觉得跷跷板问题没法解决，评测集反映不出模型能力，羡慕领域模型不用管其他能力；
• 做领域SFT的又觉得自己没技术含量，想去搞跷跷板问题、训Reward Model；
• 做RLHF的觉得根本拿不到收益，动不动训练崩了，远不如SFT洗洗数据就能提好几个点。

图像方向的同学也在想：

• 做Stable Diffusion的认为多模态才是未来；
• 做图像文本多模态的觉得Sora太惊艳，一定是AIGC的未来；
• 做Sora的又觉得老板脑子有问题才会信OpenAI画的技术大饼。

说实话，别抱怨自己的工作。有卡用，就已经领先大多数同行。即便是当下含金量最高的“Pretrain / Scaling Law”工作，未来也可能在求职时一文不值——毕竟，以前有公司招NLP方向的人会要求训出一个BERT吗？以应用为导向会是LLM的必由之路。

在这场AIGC浪潮下，工作没有高下之分，眼下的工作大概率都会像BERT一样成为时代的眼泪。

最后，没卡的同学，建议多去找实习。大模型时代要多实践，