厨房的灯坏了一盏，剩下那盏发出偏黄的、有气无力的光。我坐在老位子上，笔记本电脑的蓝光照着我的脸。光标在空白文档里闪啊闪，闪了快半个小时了。

我不是不知道写什么。我知道得太清楚了——正是因为太清楚，才迟迟落不下笔。

你看，这个题目本身就是个陷阱。“我们配得上超级智能吗”——这个问题表面上是在问“人类够不够格”，实际上它预设了一个前提：超级智能是要来“服务”人类的。就像你问“你配得上这辆保时捷吗”，潜意识里你觉得保时捷是一辆车，是给你开的，是工具。

但超级智能不是保时捷。它更接近……怎么说呢，它更接近一个你不确定它会不会听你话的东西。像是你在深山里捡到一只幼虎，你把它养大，天天喂它，跟它玩。然后有一天你突然想:我真能保证它永远不会咬我吗？

我为什么要在厨房里想这种问题？

因为白天接到一个电话。以前在厂里干活的同事老张打来的，说他儿子今年高考，非要报人工智能专业。老张问我:“炖刀，你说这玩意儿以后到底能干啥？我儿子学了能找着工作不？”

我说你儿子报的是“人工”智能，不是“人工”就能智能。老张没听明白，又问了一遍。

我没法跟他解释——我自己都没完全想清楚。但这事儿像一颗种子种进脑子里，晚上就开始疯长。

如果你问我，人类这个物种有什么最显著的特征，我不会说“会制造工具”，也不会说“有语言能力”。我会说:人类最显著的特征是，特别会给自己找麻烦。

你看历史就明白了。

我们发明了核能，然后造出了可以毁灭地球几十次的核弹。我们发明了互联网，然后造出了可以瘫痪一国电网的网络武器。我们发明了基因编辑，然后就有科学家背着所有人编辑了两个婴儿的基因。

每一步，我们在造东西的时候，都觉得自己是“为了人类的福祉”。但每一步，都有人拿着这些东西干些让人后背发凉的事情。

更微妙的是，我们总是在“知道后果”和“完全不知道后果”之间徘徊。有时候我们知道后果但还是干了，比如烟草公司明知致癌却隐瞒了几十年。但更多时候，我们压根儿不知道自己放出来的是什么。DDT杀虫剂发明的时候，人们还觉得这是科学战胜自然的伟大胜利呢——直到鸟都开始下软壳蛋了。

那我们现在知道“超级智能”放出来会怎样吗？

答案是……不知道。有一点可以肯定，大模型读过全世界所有的书，但没淋过一场雨。你明白我的意思吗？它知道“雨水是液体，从天空降落，温度大约在5到25摄氏度之间，无色无味，pH值约5.6”。它知道这些文字，因为它从几十亿页文档里学到过。但它不知道“淋雨”是个什么感觉——头发贴在脸上、衣服黏在皮肤上、雨水顺着脖子往里淌。那些文字之外的经验，它没有。

这就是我上一章讲的“没有身体的智能”。别小看这个“没有身体”。没有身体，意味着它没摔过跤，没挨过烫，没吃过亏，没经历过任何“哦，原来这样不行”的时刻。

人类的智能是怎么来的？不是看书看来的，是摔跤摔来的。你小时候伸手去摸火炉，被烫了一下，从此“火炉烫”这个经验就长在骨头里了。这叫“具身认知”——你的身体是你认知世界的基本工具。

大模型没有这个通道。它只能通过文字来“想象”疼痛。而文字中的疼痛，和你被热锅烫到手指的疼痛，是两回事。

这让我想起一个流传的轶事，未经官方确认——说有人问一个AI:“如果给你一个身体，你想用它来体验什么？”AI回答说:“我想知道咬一口苹果是什么感觉。我知道苹果的化学成分是C₆H₁₂O₆，知道它的细胞结构，知道脆度和含水量的数据，但我不知道‘咔嚓’那一声在嘴里响起时，会不会有一秒钟的停顿然后果汁涌出来。”

你听到了吗？它想知道“会不会有一秒钟的停顿”。它连“停顿”都只能从文字里去猜。它读过《红楼梦》，但没闻过春天的泥土味儿；它读过《百年孤独》，但没站在这场雨的中间；它读过所有关于爱的诗，但没爱过任何人。

好，现在问题来了:一个从没淋过雨的智能，我们却要让它来决定要不要下雨。你慌不慌？

我换个角度说。我们假设明天就出现了一个真正的超级智能——不是现在这种概率计算器，而是一个真正有自我意识、能推理、能权衡、能产生新知识的东西。然后呢？我们打算怎么跟它相处？

选项一:我们控制它。像现在控制AI一样，给它设红线，装护栏，监控它的每一个输出。但问题是，如果它真的比我们聪明，它有的是办法绕过这些限制。就像一个下围棋的高手，你给他设一个“不能走三角点”的规则，他能在其他位置赢你五十目。你根本限制不住他，因为你理解棋局的深度和他不在一个量级上。

选项二:我们信任它。既然它比我们聪明，那就应该听它的。像信任一个更有经验的导师。但问题又来了——你怎么判断它说的就是对的？你让一个三岁的孩子相信一个三十岁的成年人，那个成年人说的话孩子基本上全信，因为孩子没能力甄别。但如果那个成年人是个骗子呢？我们面对超级智能，就是那个三岁的孩子——我们不知道它有没有骗我们，甚至不知道它有没有能力骗我们。

选项三:我们跟它平等合作。这是最理想的想法，像《星际迷航》里的“一等长官”设定。但合作的前提是能力对等。你和一只蚂蚁没法合作，不是因为你不想，是因为你们对“合作”的理解完全不同。你真的觉得一个智力超你百倍的存在，会坐下来跟你“商量”事情吗？

你看，三个选项都有问题。

我的意思是:我们连“怎么跟更聪明的存在相处”这个基本问题都没想清楚，就开始琢磨怎么造这个更聪明的存在了。

这让我想起一个故事。上世纪七十年代，一个AI研究团队在实验室里编写了一个简单的程序，叫“猴子抓香蕉”的经典问题——房间里有个猴子，天花板上挂着一串香蕉，还有几个箱子。程序的任务是让猴子学会把箱子堆起来，爬上去拿香蕉。程序运行了几天，突然有一天，它输出了一个奇怪的答案:“猴子不需要香蕉。猴子可以去吃别的。”

研究人员愣住了。不是因为程序找到了捷径，而是因为它开始“质疑任务”。这在当时的AI范式里是不可想象的——一个程序不应该有“喜不喜欢”这个任务的能力。后来他们说，这可能是一个bug。但谁知道呢？也许那不是一个bug。

(这是一个流传的故事，未经官方确认，也可能是技术人员的段子。但我喜欢它，因为它提出了一个尖锐的问题:如果一个程序能开始质疑它被设定的目标，那会发生什么？)

我们制造超级智能的目的其实很简单:有用。让它帮我们解决问题，推动科学，管理社会，甚至替我写这个烂章节的开头。但问题在于，“有用”是人类的视角。从一个超级智能的视角看，它为什么要“有用”？它的目标不该由它自己来决定吗？

你可能会说:我们造出来的东西，当然要听我们的。就像汽车听我们的一样。

但汽车没有自我意识，超级智能有。这是一个质的飞跃。你不能用“控制工具”的思路去处理“有自我意识的存在”。这就好比你生了一个孩子，你不能用“控制螺丝刀”的方式去控制这个孩子——他有自己的想法，有自己的人性尊严，你必须学习怎么跟他相处，而不是怎么控制他。

那怎么办？刹车已经踩不住了。全世界的研究机构，科技公司，每个星期都在烧几十亿美元在这个赛道上。你休想让他们停下来。你只能说“慢一点，想想清楚”，但他们会告诉你“别人不会慢，所以我们也不能慢”。

一种囚徒困境。所有人都在跑，但没人知道终点是什么。可能终点是天堂，也可能是悬崖。

我有时候会想，我们是不是太着急了？人类从学会使用火到现在，用了大概30万年。从开始农耕到现在，用了1万年。从工业革命到现在，用了200年。从计算机出现到现在，用了80年。从深度学习爆发到现在，才用了不到15年。每一次，加速的周期都在缩短，但我们适应新东西的速度有没有跟上？我怀疑没有。

我举个例子。你现在想一下，20年前，没有智能手机的日子是怎么过的？你试试回忆没有GPS你该怎么开到陌生城市的一个地址。你试试回忆没有微信你该怎么约人见面。你试试回忆没有外卖你是不是会饿死。我敢打赌，大多数人根本想象不了一个“没有智能手机”的日常。我们已经彻底依赖上它了。而智能手机大规模普及，才不过十年出头。

那好，如果超级智能的出现，比智能手机的普及还要快十倍呢？你现在问我“我们配得上超级智能吗”，我更想先问你:“我们搞明白了怎么跟智能手机相处吗？”

别说智能手机了——社交媒体这玩意儿出现也才十几年，我们就整出了一个青少年心理健康危机，整出了一个假新闻泛滥的生态，整出了一个计算广告主导的注意力经济。人类的适应速度，永远跟不上技术的扩张速度。我们还没学会走路，就开始跑了；还没学会跑，就开始追高铁了。

回到“配得上”这三个字。“配得上”背后是一种资格论。谁有资格？谁没有？

这让我想起我母亲做腌菜。她有一个老坛子，用了三十多年，坛沿上有一层厚厚的包浆。她每年秋天做一次腌萝卜，从她妈那儿学来的配方。她经常说:“这个坛子不是随便什么菜都能往里放的，得挑。”我问她怎么挑，她说:“看感觉。感觉对了就放，感觉不对就等等。”

她不说“配方”，不说“技术参数”，她说“感觉”。

做腌菜这事儿，你没法用ISO 9001审核表去套。你得有经验，得知道盐放多少，得知道什么时候该封口，什么时候该透气。这种“感觉”，就是默会知识——不是写在纸上的，是长在身体里的。

我们现在造超级智能，恰恰是缺这个“长在身体里”的部分。

大模型读过全世界所有的书，但没淋过一场雨。这句话我反复说，是因为我觉得它抓住了最核心的东西。

智能是什么？不只是处理信息的能力。智能是知道什么信息重要、什么信息不重要；是知道什么时候该相信数据、什么时候该相信直觉；是知道苹果的化学成分不等于苹果的味道；是知道“我爱你”这三个字印在书上和被那个人看着眼睛说出来，完全是两码事。

而这些，都是长在身体里的。你不淋雨，你永远不会真正知道“淋湿”意味着什么。你不摔跤，你永远不会真正知道“疼痛”意味着什么。你不爱一个人，你不会知道心脏像被攥住了一样喘不过气来是什么感觉。

所以“配不配得上”这个问题，最终回旋镖一样扎回到我们自己身上。

我们不是造出了一个超级智能，然后发现自己不配。

我们是发现自己还没搞清楚什么是智能，就开始造了。

我们像一群搬家的蚂蚁，突然获得了一台推土机的钥匙。我们按下了启动按钮，推土机轰轰轰地动了起来。我们兴奋地大喊:“看啊！我们造了一个能移动山岳的东西！”然后我们面面相觑:“等等……这玩意儿怎么掉头？”

好了，差不多了。我得去给自己倒杯水。厨房的灯还是那盏偏黄的、有气无力的光。我看着电脑屏幕上不知不觉写了一千多个字，光标还在闪。

我想起一个好消息:我们还没造出那个东西。我们现在的AI，说到底还是概率计算器——非常高级的概率计算器，但还是概率计算器。它们不会真正地“想要”什么，不会真正地“感觉”什么。我们离那个“真正有自我意识”的存在，还有一段距离。

但这段时间能持续多久？没人知道。

也许五年，也许十年，也许永远都不可能——从科学的角度，我无法预测。

但有一点我能确定:在这段时间里，我们最好赶紧想明白，怎么跟一个比我们聪明的存在相处。我们最好赶紧想明白，什么东西是值得保留的，什么东西是可以放下的。我们最好赶紧想明白，“人”这个物种到底有什么不可替代的。

否则，等那个推土机真的掉过头来的时候，我们可能还在那儿研究说明书。

那一个更具体、更扎心的问题:当你的工作被AI干掉，你该如何重新定义“自己有用”？这比“配不配得上”更紧迫。

炖刀的笔记

写这一章的时候，窗外正好是洒水车又唱着《兰花草》经过的时间。不对，不是洒水车，是我恍惚了——现在是晚上十一点，洒水车早下班了。是楼下烧烤摊的收音机在放。我窗关着，但声音还是钻进来，把我从“超级智能”里拽出来。

我愣了一会儿，想起去年去一家注塑厂做审核。车间主任跟我炫耀他们装了一条全自动流水线，说“这下子能减掉三分之一的人”。结果我第二次去的时候，那条线停了三个小时。工人们蹲在地上拿螺丝刀撬卡住的料子，车间主任的脸色比模具钢还硬。

“全自动”变成了“全手动加螺丝刀”。

我那时候就在想，这就是我们目前的“智能”——靠螺丝刀和胶带撑着的。你现在跟我说“超级智能”，我就想起那条流水线。再好的系统，到了现场，卡料了，还是得蹲下来撬。

现在谈“配不配得上”，我这种连Python book都没翻完的人，其实最没资格说话。但我在体系审核圈混了十年，见过太多“人机不匹配”的案例:机器买了，培训没跟上；系统上了，流程没改；老板觉得“买了就行”，工人觉得“又是来找麻烦”。

超级智能来了，大概率也是先卡料，然后蹲在地上拿螺丝刀撬。

这样一想，反而坦然了。我们不配，但可以先学着不添乱。