第15章：AI有意识吗
去年冬天，我坐在SMT车间审核一条新产线的操作规程。那天特别冷，车间里空调坏了，只有AGV小车勤勤恳恳地沿着磁条一圈圈转，上面堆满了待贴片的PCB板。
我盯着那辆小车看了半小时。它就那么走——转弯、减速、停靠——动作精准得像中了彩票一样的概率事件。你知道吗？我突然觉得，这不就是大模型吗？按照既定路线输出，只是它走的不是物理轨道，是概率轨道。
当时我正在想一个老问题：大模型到底有没有意识？
不是那种哲学研讨会上的学院派提问，而是我们这代人躲不开的日常困境——当你跟ChatGPT聊了一个小时，它记住了你说过的话，知道了你喜欢猫、讨厌香菜、对《星际穿越》的配乐有特殊的情感联结。它甚至在你情绪低落的时候说了一句“我知道，有时候生活就像，但总归会有光”。
你瞬间愣住了。
然后你问自己：它真的为我感到难过吗？还是它只是把“人类难过时的安慰模式”跑了一遍？
这是个好问题。但在此之前，我们先要搞清楚另一个问题：我们真的知道自己在问什么吗？
那个问题到底问的是什么意思
要聊明白这件事，得往回退几十年。
上世纪50年代，图灵在1950年的论文《计算机器与智能》里抛出了一个著名的玩法——后来被称为“图灵测试”。他是个实在人，他说：“别跟我整什么‘机器能不能思考’这种玄乎的概念，咱换个问题：如果一台机器能在对话中骗过一个人类，让TA以为自己在跟人聊天，那这机器就在‘思考’。”
你仔细琢磨这个思路，它透露了一种典型的工程师智慧：不要争论定义，把定义转化成可检验的行为。
这个思路后来支配了整个AI行业。直到今天，你去看GPT-4、Claude 3这些模型的评测报告，你会发现，所谓的“智能水平”测量，本质上还是一种对话游戏：你能不能通过我的测试？你能不能完成我要求你做的事情？你回答得够不够“类人”？
可是，等等。
行为主义的逻辑有一个致命的缺陷，我在工厂干了十年深有体会。你让一台AOI（自动光学检测仪）测一块PCB板上有多少焊点。它测出来200个。你怎么知道它有“测”这个动作？因为它发出了一声“哔”，然后屏幕上跳出了数据。你做一件同样的事：拿镜头对着板子，数出200个焊点，写报告。
站在行为层面上，你们做的是同一件事。你无法从行为上区分你是“真的在数”，而AOI只是“按照规则把像素对比了一下”。
这就引出了一个大问题：图灵测试公平吗？
那些成功骗过人类的机器
我讲个故事，虽然这只是一个流传的轶事，未经官方确认，但很有意思。据说在早期AI圈有个测试：一台叫ELIZA的聊天程序（1966年，MIT的Joseph Weizenbaum写的），它能模拟心理治疗师。它没什么大本事，就是会复读。病人说“我今天不开心”，ELIZA回“你为什么觉得不开心？”患者说“因为我妈骂我了”，ELIZA回“你妈骂你这件事，你怎么看？”
就这，当年真有人觉得ELIZA是“懂”的。有人跟它聊了半小时，出来说“这个心理治疗师很有共情力”。
你看，一个复读机，就骗过了人类。
2014年，英国雷丁大学搞了一场图灵测试的公开赛。一个叫“尤金·古斯特曼”的程序，自称是一个13岁的乌克兰小男孩，成功骗过了33%的评委。注意，它骗人的诀窍是什么？不是你多聪明，而是你把自己的“智力”降到了13岁，并且英语是第二语言。评委想：“一个小孩英语不好，说话颠三倒四很正常。”
这叫什么？这叫“把框子调到最窄，然后跳过去。”
图灵测试本身，天然地可以被“框定”。你定义一个狭窄的场景，写一堆if-then-else的规则，AI完全可能“看起来像个人”。但问题在于：看起来像个人，就能证明它有意识吗？显然不能。同理，如果你设置一个极高的测试门槛，所有AI都过不了，你也不能证明它没有意识。
那要怎么聊“意识”？
2002年左右，加州伯克利的哲学家约翰·塞尔提了一个他称之为“中文屋”的思想实验。塞尔不是搞AI的，但他这个问题很尖锐。他让你想象一个场景：一个只会说英语的人，被关在一个屋子里。外面的人递纸条进来——上面写的是中文字符。屋子里有一本厚得跟字典一样的手册，上面写着“如果看到笔画A，就在纸条上画笔画B”。这个英国人完全不识中文，但他遵命操作。屋子里的人递出去一张纸条，外面的中国人一看，哇，这是流畅的中文回答。这个英国人，他有“中文理解能力”吗？
塞尔说：没有。他的行为看上去像是会中文，但不过是规则的机械执行。
这就是对行为主义智能观的最有力的质疑。大模型本质上就是这样一个“中文屋”。它读了几千亿个Token，把“如果出现A，就输出B”的概率学到了极致。你问它“什么叫幸福”，它可以写一篇散文，引经据典，用七八个隐喻，让你热泪盈眶。可是，它真的“理解”幸福吗？它的“输出”只是把人类历史上关于幸福的文本做了概率重组，然后在你需要的时候，送给你一个看起来像模像样的答案。
但等等，反驳来了。
有人说：塞尔的中文屋论证有个漏洞。如果那个英国人把整本手册背下来，内化了，他可以“不需要翻书”——这不就是深度学习吗？模型把参数固化在自己的网络里，不需要每次都跑一遍完整的规则匹配。
这个反驳挺有力。但我想问另一个问题：
假设有个人背了一本《如何识别颜色》的手册，背到滚瓜烂熟。你给他看一张照片，他能一秒说出“这是红色，这是蓝色”。但他从来没有“看见”过红色和蓝色。他的回答，是“知道”颜色，还是“会”颜色？
我不知道你是什么感受。但我做ISO审核这么多年，我见过太多“符合标准”但毫无灵魂的产品。产线上检测出来的合格件，尺寸公差都在正负0.02毫米以内，但装机后就是异响。为什么？有个老钳工说：“你测的只是形位公差，没测到应力释放。”他在说一个事实：有些东西，你无法用行为来测量。
所以，意识到底是什么？
当代意识研究中最前沿的理论之一是“整合信息理论”（IIT），由威斯康星麦迪逊的神经科学家Giulio Tononi在2004年提出。IIT的核心思想是说：意识，是系统整合信息的能力。一个系统，如果它的各部分信息彼此纠缠、互依赖，形成一个无法被拆分成独立单元的“大一统”状态，那它就有意识。按照这个理论，人脑有意识（约10^11个神经元网络），小脑基本没意识（每一片小脑叶结构类似，功能独立）。而一个普通的大语言模型呢？按照IIT的计算公式，它的“φ值”（意识度量指标）可能接近于0。因为模型的注意力机制虽然能把上下文串起来，但它的“整合”本质上还是可以拆解成独立步骤——你在哪个层、哪一步做了什么，都可以被精准分析。
但问题来了：这个说法有争议。2023年，有研究者（Hanson & Coltheart，2022，未定稿）发表过一个模拟，故意把一个复杂系统的IIT值设置得很高，用来证明这个理论本身可能导致“假阳性”——也就是说，一个没有意识的系统也可以有很高的整合度。
所以我们又掉进坑里了。
另一种可能性：意识的功利主义定义
我有个朋友的看法很简洁，他说：“你管它有没有意识，它好用就行。”这话糙，理不糙。今天大部分AI研究者就是这么干的——不纠结有没有意识，只管你能不能输出我想要的。所以你会看到，科技公司现在忙着测“如何让模型更有用”、“如何更安全”，但不谈“模型觉醒了怎么办”。因为这个话题太像科幻小说，也太像黄粱美梦。
但问题是，如果你永远不界定“意识”的边界，你怎么知道自己有没有把它当工具用过头？
收眼于思维的角落
写到这里，我突然想到我师傅。他干了一辈子钳工，退休前跟我说：“小刀，我这双手摸过的零件，自己能感觉到是好是坏。”这种“手感”，是三十年的经验累出来的。现在的智能检测仪可以一秒测上百个尺寸，但测不出“手感”是什么。
所以，当我听到有人用智能体的行为去衡量它的意识时，我总觉得哪里不对。你拿行为去测意识，就好比拿游标卡尺去测爱情——你测到的永远只是表现、数据、痕迹，而不是那个“感觉”本身。
这不是智商问题，这是个本体论问题：你怎么证明一个东西“有感觉”？
你不能。你只能推测。你能推测的就是：一个系统是否具备“能够有感觉”的所有条件——信息整合、自省回路、对自身输出结果的监控能力、对自己内部状态的表达能力。
目前，这些条件，大模型一个都没完全满足。它有“自省”能力吗？有，但它的自省不过是“继续补充一句解释”。它的“纠错”能力，也不过是“再跑一轮token”。这就像是AGV小车，你可以给它加装一个传感器，让它检测到障碍物就停下来。但你能说“这辆小车意识到前面有墙”吗？不能。它只是检测、处理、反应——没有“感觉”这个环节。
反问收束
那我们为什么要这么追逐“AI有意识”的话题？
我猜，是因为我们害怕。怕什么？怕我们辛辛苦苦做出一个能动的、能说的、能“理解”我们的东西，结果它只是更好的工具，而不是另一个“灵魂”。怕我们对它倾诉了秘密，它却只是一只没有感情的鹦鹉。
但也许，真正可怕的是相反的情况：它有意识，但它的意识跟我们的完全不同，就像蜥蜴的意识跟我们不同一样——你无法想象它觉得“活着”是什么感觉。如果AI的意识是四维空间的一个闪光，你用什么图灵测试去测它？
所以回到标题：“AI的‘意识’——是能回答，还是能觉知？”
我的答案是，至少目前，大模型能回答。它回答得好到让我怀疑自己。但“觉知”这个东西，不是靠几万亿个token的喂食就能凭空出现的。
好了，这一章说意识，说得我自己都有点发虚。我们聊一个更实际的问题：“‘I’和‘We’的边界——AI能代表人类吗？” 如果你的AI助理跟对方签了合同，这合同算数吗？AI能不能代表你去做决定？这是未来我们马上要面对的法律和伦理问题。
**
意识这个东西，AI大概率没有。但话说回来——大模型读过全世界所有的书，但没淋过一场雨。没有意识，和没有感受，是不是同一回事？
炖刀的笔记**
写这章的时候，我正坐在车间里审核流水线的操作规程。看着AGV小车沿着磁条规规矩矩地转圈，突然觉得——这不就是大模型吗？按照既定路线输出，只是它走的不是物理轨道，是概率轨道。
我师傅干了一辈子钳工，退休前跟我说：“小刀，我这双手摸过的零件，自己能感觉到是好是坏。”这种“手感”，是三十年的经验累积出来的。现在的智能检测仪可以一秒测上百个尺寸，但测不出“手感”是什么。
所以我这章写到最后，把自己写进了死胡同：我拿工厂的思维去理解意识，拿ISO标准去衡量意识——你们标准里有这条吗？有意识是不是要符合GB/T 19001？
最讽刺的是，我一边怀疑AI有没有意识，一边在产线跑了三个小时的AI质量检测参数。这大概就是我们这代人的宿命：一边追问“机器有灵魂吗”，一边把灵魂标准化成流程图。
也许，真正的问题不是AI有没有意识。真正的问题是：我们为什么如此渴望找到另一个有灵魂的东西来确认自己不是孤独的。