语言的留白：颗粒度、空间与智能

做饭界有个梗：盐少许、糖适量、火候看着办。

刚学做饭的人最怕这几个字。少许是多少？适量又是多少？于是有人去翻西式菜谱，上面写得清清楚楚：盐3克、烤箱180度、22分钟。

可真照着做过就知道，即便精确如斯，也不保证好吃。锅不一样、炉子不一样、今天的土豆和上次的也不一样。倒是会做饭的人，看到“少许”一点不慌，观察一下环境和食材，心里就大概有数了。

最近常听到一个说法：语言不是智能的本质，因为语言没法1:1还原真实世界，用语言描述出来的世界，总有失真。

我突然觉得，“盐少许”就是理解语言和世界关系的一个例子。

一份菜谱要有颗粒度，先放什么后放什么、大火还是小火，得写清楚；但也不能细到每一粒盐，得留出空间，交给做菜的人去判断和发挥。

从这个角度看，也许智能的本质，正是留有恰当空间的颗粒度。

照这个思路，语言恰恰是对世界“留了空间”的描述，它的失真，也许不是缺陷，而正是它好用的原因。这也许还能解释，为什么这一轮AI的爆发，正是从语言模型开始的。

有了念头，我就让AI帮忙找了些资料，想看看有没有相关佐证。结果发现，从一百多年前的小说，到神经科学，再到大模型背后的理论，很多人从不同方向走来，殊途同归。

一张和国土一样大的地图

1893年，写《爱丽丝梦游仙境》的刘易斯·卡罗尔出了本小说，里面有个外国人吹牛：我们国家做过一张地图，比例尺一比一，一英里就画成一英里。

问他用过没有，他说还没展开过。农民们反对，说一铺开就把整片田盖住了，庄稼晒不到太阳。所以现在，他们干脆拿国土本身当地图，效果也差不多。

五十多年后，博尔赫斯把这个笑话写成了一段更冷的寓言，不到一页纸。某个帝国的制图师一心求精确，最后画出一张和帝国一样大、每一点都和国土重合的地图。后人觉得这东西没用，把它丢在西部沙漠里风吹日晒，后来那里只剩一些残片，住着野兽和乞丐。

两个故事讲的是同一件事：地图有用，是因为它省掉了大部分东西。比例尺越接近1:1，信息越全，离“有用”反而越远。

你打开手机导航，看到的是一条蓝线、几个路口、一个终点。路边有几棵树，哪家店换了招牌，它都没画。正因为没画，你一眼就看得懂。

波兰裔学者科日布斯基后来把这件事浓缩成一句话：地图不是疆域。

这话被引用了快一百年。今天说“语言没法1:1还原世界”的人，其实是在重复它，只不过他们把这当成语言的短处。而卡罗尔和博尔赫斯笑话的，恰恰是想要1:1还原的那份执念。

什么都记得，却没法思考

博尔赫斯还写过一个更极端的人物，叫富内斯。

富内斯年轻时从马上摔下来，醒来以后，再也忘不掉任何东西。他记得某天早上南边天空每一朵云的形状，还能拿它们去对照一本书封皮上的纹路。他甚至嫌“狗”这个词太笼统：三点十四分从侧面看到的那条狗，和三点十五分从正面看到的那条狗，凭什么叫同一个名字？

换作我们，大概会觉得这是天才。小说里的叙述者却怀疑，他其实不太会思考，因为“思考就是忘掉差异，去概括，去抽象”。富内斯的世界里塞满了细节，没有一样东西能被归到一起，二十出头就死了。

这篇小说写于1942年，那时候的神经科学还回答不了它提的问题。六十多年后，神经科学家奎罗加在癫痫病人的大脑里记录到一类神经元，它们只认“概念”：不管看到的是某位明星的正脸、侧脸，还是只看到她名字的几个字母，响的都是同一个神经元。

奎罗加后来专门在《自然》上写文章致敬这篇小说。他说，我们的大脑倾向于记住概念、丢掉无关的细节，而博尔赫斯早就凭直觉写准了这一点。

富内斯缺的不是信息，是空间，他什么都装进去了，就没地方再想事情了。

学习也一样，不能死记硬背

富内斯的毛病，在机器学习里有个专门的名字，叫过拟合。

上学时总有这样的同学：练习册上的题背得滚瓜烂熟，考试时试题稍微换个表达就不会了。模型也会这样。训练数据它记得一字不差，连里面的噪声和巧合都当成了规律，碰到没见过的情况，反而一塌糊涂。工程师想了很多办法对付它，说穿了是一个意思：别让模型记得太细，逼它去找更普遍的规律。

在机器这里，“不那么精确”是要专门去设计的。

再往深一层，有个越来越多人接受的看法：理解，本质上就是压缩。

2006年，计算机科学家马库斯·胡特设了一个奖：谁能把1GB的英文维基百科压得比上一个纪录更小，谁就拿奖金，奖池现在是50万欧元。一个压缩比赛，为什么挂在人工智能名下？胡特的理由很直接：压缩做得好，和聪明的行为密切相关。维基百科是人类知识的一个快照，想把它压得更小，就得真摸清里面的规律。

2023年，时任OpenAI首席科学家的伊利亚·苏茨克维在伯克利做过一次讲座，把这个思路用到了大模型身上。他的大意是：强的压缩器能找到数据之间共享的结构，预测和压缩本是一回事，大模型“预测下一个词”，其实是在逼近一个最优的压缩器。

把这几件事放在一起看：能找到规律的东西，一定扔掉了大量不重要的细节。训练好的模型里，存的主要是规律。你让它背维基百科某一段原话，它多半背不全；可你问它这一段讲的是什么道理，它答得上来。

这就是“有空间的颗粒度”在机器身上的样子：规律抓得很细，细节放得很松。

语言的模糊，是故意留的

那语言呢？

比如有个段子，领导问：“你这是什么意思？”小明说：“没什么意思，意思意思。”一个“意思”，一句话里换了好几种意思，可中国人一听就懂。

再看一个“打”字：打车、打饭、打电话、打酱油、打游戏，每个“打”干的事都不一样。要是从零设计一门“完美”的语言，大概会给每个动作单独造一个词，一点歧义都不留。

真实的语言为什么不这么干？

2012年，MIT的皮安塔多西和两位同事在《认知》期刊上发了一篇论文，专门回答这个问题。他们用信息论论证：只要上下文本身能提供信息，任何高效的交流系统都必然带有歧义。

道理不复杂，上下文已经交代清楚的，词就没必要再说一遍。歧义还有个附带的好处，那些短的、好念的词可以被反复拿来用。他们统计了英语、德语和荷兰语，结果和预测一致：越短、越常用的词，意思往往越多。

也就是说，语言的模糊，是给听的人留的位置。说话的人只说到够用为止，剩下的，交给对方结合上下文自己补上。

这和“盐少许”是一个道理。写菜谱的人敢写“少许”，是相信看的人尝得出咸淡。要是把每一步都写死，等于不相信对方，也替他把应变的余地拿走了。

再回头看“语言没法1:1还原世界”这个说法，它本身没错，只是语言从来没打算1:1还原任何东西。

它是人类在漫长岁月里打磨沉淀出来的一套有空间的颗粒度：该分清的分得极细，“堂哥”“表哥”“姐夫”在中文里绝不混用；不必说的则统统省掉，交给上下文和听的人去补。

大模型为什么从语言里长出来

写到这儿，有反差值得注意。

就是前面提到的那篇说“歧义是好东西”的论文，作者是皮安塔多西和吉布森他们。而2024年《自然》上那篇被反复引用、说“语言不是思考”的文章，作者还是这两个人，再加上一位MIT的神经科学家。

那篇文章的核心证据来自大脑：负责语言的那片网络，在人做算术、解逻辑题、揣摩别人心思的时候，基本不怎么活跃；有些重度失语的病人连完整的句子都说不出来，算数和推理却照样没问题。他们的结论是，语言主要是交流的工具，不是思考本身。

去年，一位叫本杰明·莱利的作者在The Verge上写了篇长文，拿这篇论文当论据：既然人的思考在很大程度上独立于语言，把语言建模做得再大，也未必造得出真正的智能。现在很多人说的“语言不是智能的本质”，源头大多在这儿。

可让AI去读原文和提取核心，发现同一篇文章里还有一层意思：语言是传递知识的强大工具，它很可能和人类的思考能力一起进化，它反映了人类认知的精密程度。

“反映”这两个字很关键。

语言不是思考本身，却是思考留下的痕迹，而且是被反复压缩过的痕迹。几千年来，人类把看到的、想明白的东西一遍遍压成文字，传给别人，别人消化以后再压一遍。今天互联网上的海量文本，就是这些压缩包堆起来的。

大模型学的，正是这些压缩包。它没有直接面对世界，面对的是人类已经替世界做好的一层抽象，该细的地方细，该省的地方省。语言模型能这么快跑起来，一个重要原因可能就在这里：它的起点，是人类几千年的压缩成果。

所以我想把开头的想法修正一下。

说“语言就是智能的本质”，可能说过头了，神经科学并不支持。更站得住脚的说法是：有空间的颗粒度，可能是智能的一个核心特征，而语言是人类沉淀出的、规模最大的一份反映这一特征的样本。大模型从里面学到的，不只是字词怎么搭配，还有这种“该细则细、该留则留”的组织方式。

当然，这只是原因之一，transformer架构、海量算力、精巧的训练设计，少了哪样都不行。与其说语言的特性解释了这轮爆发，不如说它解释了为什么是语言先跑了出来。

留白后，还要“补”

不过，光有留白还不够。

手机里的每张JPEG照片都是“有损压缩”，扔掉了大量人眼不敏感的细节，也算留了空间，可没人会说JPEG有智能。

差别在另一头。语言之所以好用，是因为听的人脑子里装着一个世界。你说“我刚从家出发，打车过去”，对方会自动补上：大概要等多久、路上可能堵在哪、大概几点到。这些你都没说，但对方补得出来，而且补得八九不离十。

人靠什么补？靠在真实世界里攒下的经验。摔过跤，知道地是硬的；端过热汤，知道碗会烫手。

大模型也在补。你丢给它一句含糊的话，它能猜出你大概想要什么，这正是它让人惊艳的地方。可它补的依据，是文本里的统计规律。补对了，我们说它聪明；补错了，还补得理直气壮，我们管这个叫“幻觉”。

所以更完整的说法也许是：智能，是知道哪里该说清、哪里该留白，并且能在留白的地方补得合理。

今年AI圈很受关注的一场分歧，就落在这里。图灵奖得主杨立昆去年底离开Meta，今年成立了AMI Labs，专做“世界模型”。他的观点一直很鲜明：大模型擅长摆弄语言，却没有一个关于物理世界的模型，比如它并不真正明白，杯子被推下桌会摔碎。他押的路线，是让AI从视频、从和真实世界的互动里学习。

这条路走不走得通，业内争议很大，不少人觉得他押错了方向。但放进“留白和补全”的框架里，这场争论就好懂多了：大模型已经证明，从语言里能学会怎么留白；接下来要关注的，是在“补”的时候，背后有没有一个真实世界兜底。

这也是我一直关注具身智能的原因之一：让机器人去碰、去摔、去端那碗汤、去摔倒然后再站起来，某种意义上，就是在给AI的“补全”能力打地基。

回到那句“盐少许”

同一句“盐少许”，到了老师傅手里刚刚好，到了新手手里可能就咸了。差别不在菜谱，在做菜的人有没有尝过做过足够多的菜。

地图省略了才好用，记忆会遗忘才能思考，语言有模糊才高效，模型放掉细节才能举一反三。从一张菜谱，到脑子里的念头，再到机器里的参数，好像都守着同一条规律：没人想把世界说尽，只说到刚好，再给理解留一块空地。

AI已经从语言里学会了怎么留白。它的下一步，是学会在留白的地方，补上一个真实的世界。

至于我们这些天天用AI的人，也可以适当借鉴：下次给AI和伙伴交代事情，定义好目标和边界，然后，留点空间。