漫画：小学生都能看懂的LLM工作原理

最近关于人工智能的讨论铺天盖地——它的影响、引发的道德困境、以及应用它的利弊。但我身边那些非技术背景的朋友们，很少真正去了解这些东西究竟是怎么运作的。乍一看，这些概念确实挺唬人的，要搞懂大型语言模型（LLM）的能耐，好像得翻过一座大山。

但事情并没有那么复杂。推动这波人工智能浪潮的核心原理，其实相当简单。多年以来，在运营Anchor、在Spotify负责有声读物业务、以及撰写每周资讯的过程中，我一直在琢磨怎么为非技术背景的人把复杂的技术概念讲明白。所以，咱们别急，我保证不用任何技术术语和数学公式，就把LLM的工作原理说清楚。

这里用到一个大家都熟悉的东西：食物。在LLM的类比里，“菜肴”就是模型要生成的单词，而“一顿饭”就是模型要生成的句子。咱们这就开始。

01

菜单

想象一下：你在做一顿晚餐，但准备的菜不太够，得再加一道。说起来容易，做起来难。加什么菜得跟整桌饭菜搭得上。如果饭菜本就很美味，那配菜也得对得起这顿饭。要是桌上已经有沙拉了，就别再重复。如果这顿饭淀粉含量高，那加份烤蔬菜可能正合适。要是有一个能告诉我们该加什么菜的应用程序就好了。这个应用能考虑到你已经在做什么菜，然后给出最合适的配菜建议。

这个程序适用于任何一餐、任何菜肴和口味组合，无论是招待4个人还是40个人。

咱们就把这个应用做出来。只需两个简单的步骤。

第一步，先得搞出一种给食物分类的方法。毕竟计算机没有味蕾，没法直观地理解食物或者口味是怎么搭配的，它需要能接收“食物”这个新概念，并将其编码成某种数据。第二步，得让这个应用学会，在已有一组菜肴的基础上，生成一道新的菜。它不能只是记住以前见过的搭配，而是要能适用于任何菜肴组合，哪怕是它从没见过的新菜。所以，我们不光是给系统编程，而是要教会它如何生成合适的菜。

02

第一步：模拟三餐

我们首先要教计算机，把三餐变成可以处理的数据。但不是通过给它提供关于三餐的定性细节（比如味道或搭配）来实现。那是老式的机器学习方法——限制太多，还容易出错。相反，我们会给它提供海量的数据，内容就是人们过去习惯把哪些类型的菜肴搭配在一起。

以两类菜为例：凯撒沙拉和卡普雷塞沙拉。作为人类，我们知道这两道菜很像。都是意大利菜，都是沙拉，都含有蔬菜和奶酪……但计算机不需要知道这些，也能了解这两道菜有多相似。

在我们的海量数据中，凯撒沙拉很可能经常跟其他意大利菜一起出现。而且，如果一餐里已经有了凯撒沙拉，那这顿饭里多半也不会再有其他沙拉。卡普雷塞沙拉的情况也是一样：它们一般不跟其他沙拉一起出现，但常跟意大利菜做伴。

因为这两种菜经常跟同一类菜一起出现，我们就可以把它们归为“相似”。它们往往存在于同样的“环境”里。可以这么说：“一道菜的特点，是由它身旁的那些菜来定义的。”注意，我们并不是去找凯撒沙拉和卡普雷塞沙拉同时出现的情况，而是通过它们各自与哪些相同的菜一道出现，来判断它们是相似的。

换一种方式来理解：想象一下把所有的菜都画在一张图表上。

首先，我们把数据里发现的所有可能的菜，在图上随机画出来。

这里为了示意，只画了四道菜，但实际可以把所有菜都放进来。每次我们发现两道菜跟其他菜一起出现的频率很高，就把它们在图上拉得更近。比如，当看到不同类型的寿司都搭配同一种味噌汤时，就把这些寿司的坐标点互相靠近。

同样，看到披萨和意面经常跟大蒜面包一起出现，也让它们在图上靠近些。

重复这个过程非常多次之后（我的意思是成千上万次），神奇的事情就发生了。那些可以互相替换的菜，会紧紧地聚在一起，彼此看起来很接近（例如玉米卷和墨西哥卷饼）。而那些几乎没法替换的菜（比如汉堡和寿司），即使有交集，也相隔很远。

不过，现实情况里，光靠二维坐标是不够的。要把每道菜正确地分类聚类，我们需要一个由更多轴（成百上千个）构成的图表。这虽然超出想象，但基本原理是一致的。把所有的菜都散开，然后在它们与同类菜一起出现时，让它们彼此靠近。为了方便讨论，我把这个更大的多轴空间称为“用餐空间”。所有可能的菜都存在于这个用餐空间里，与可替换的菜紧密相邻，而远离那些完全不同的菜。

退一步看，这其实相当迷人。我们居然能搞出一个如此精准的菜肴模型，把相似的菜分在一起，不相似的菜隔得远远的。而这一切，都没有考虑食物的味道或成分。再加上我们是用海量数据训练的，所以实现了对食物的“计算”。

食物的计算？听起来有点玄乎。但可以确定的是，这个模型并没有听起来那么疯狂。实践证明，菜肴在用餐空间里的位置并不是随机的。相似的菜不仅挨在一起，它们与其他菜之间也存在着逻辑关系。比如，含面包的菜会聚在同一个“平面”上，咸味的菜有共同点，枫糖味的菜也有其数学上的联系。这就让我们能做食物的“计算”了。如果拿到墨西哥卷饼的坐标，减去玉米饼的坐标，最后就会非常接近墨西哥卷饼碗的坐标点。

再比如，取走鸡肉面汤的坐标，减去面条的坐标，再加上米饭的坐标，就会非常接近鸡肉米汤的坐标点。

菜肴在用餐空间里的位置不再是随机的了。事实上，存在着潜在的、隐藏的数学模式，这意味着每种菜肴相对于其他菜肴，都处于某种逻辑关系之中。

03

第二步：寻找模式

我们创造了一个用餐空间，让每种菜都与其他菜有了某种有意义的协同模式。然后呢？下一步，我们再次训练这个模型。只不过这次，我们喂给它的是所有“一餐”的数据——也就是我们见过的每一顿饭——并让它去寻找规律。具体来说，我们要训练程序来回答这个问题：如果一餐饭包含A、B、C，还有一个未知的D，那么最有可能的D是哪种类型的菜？

怎么做呢？其实就是问：A、B、C和未知的D，在用餐空间里是什么样子？比如，我们观察到很多餐饭，共享图表中这四个区域里的菜。

现在，我们可以忽略最初创造出这些模式的原始食物，直接归纳并考虑空间中的坐标点。可以得出结论：如果已经包含了这三个区域里的菜，那么最好的第四道菜，大概率会在最后一个区域里找到。

记住那句话：“一道菜是由它身旁的菜来定义的。”由于模型经过了训练，它考虑的是食物及其关系，而不是具体菜肴的成分和口味，所以它可以应对任何场景和任何口味组合，并找出加到一餐中的最佳菜肴。给定几个食物区域，它只需要找到下一道菜最常出现的区域。

这样一来，我们就完成了最初的目标：构建一个可靠的应用，能告诉我们哪些菜肴适合与一系列其他菜肴搭配。就是这么实现的。

04

用文字代替菜谱

要理解大型语言模型（LLM），只需把“三餐”这个概念换成“句子”，把“菜肴”这个概念换成“单词”。这个简单的替换，运用完全相同的框架和方法，就能帮我们理解基于文本的人工智能工具的工作原理。

训练一个模型，根据单词在相似语境中间出现的频率，来理解单词之间的关系。核心逻辑依然是：“一个词是由它身旁的词来定义的。”向模型投喂海量的人工写作数据（这里说的“海量”，基本上就是整个互联网），让它适当地调整单词的坐标。训练完成后，模型会输出一个向量空间。这和生成菜肴的原理一模一样。系统根本不知道任何单词的含义（就像它不懂菜的味道一样），它只知道这个单词在向量空间里，与所有其他单词的关系如何。

寻找模式。如果一个句子包含单词A、B和C，那么下一个最可能出现的单词是什么？如果它包含X和Y，它应该在向量空间的哪个区域去查找下一个单词？LLM在幕后做的，其实就是“下一个单词预测”，就像我们最初的类比进行“下一道菜预测”一样。

举个例子：我们给LLM一个提示：“告诉我你爱我。”它会尝试回答一个问题：哪个单词最有可能跟在“告诉我你爱”这个序列后面？换句话说，考虑到这个句子中单词的向量空间坐标，它在其他句子里看到了哪些规律，来确定下一个单词可能在哪里？模型找到的答案是“我”。确定之后，它把“我”加到原始提示的末尾，然后把整个句子再反馈给自己。那么现在，在“告诉我你爱我”之后，最可能出现的词是什么？当然是“爱”！把它粘上去，再把整个内容拿回来，继续反馈。然后呢？接下来可能是：“告诉我你爱我。我爱”……你应该明白了。

当然，这里面有一些细微差别，涉及到一些奇特的数学和复杂的计算。但基本原理，跟三餐的例子确实没什么两样。对我来说，这就是为什么我们正在经历的人工智能现象如此迷人——考虑到这项技术的变革性，它其实并没有那么复杂。一些简单的数学概念，海量的训练数据，再加上一点点“调味”，你就基本上为自己造出了一台思考机器。