← abcISO ← 返回目录

没事,我允许你烧。烧完了,你会得到一堆灰。但你拿这堆灰去播种,什么都不会长出来——因为没有根,没有灵魂,没有那根从土壤里长出来的、沾着泥土味的骨头。

这话不是我说的,是上一个客户——一个做了二十年炼钢的老师傅——跟我说的。他让我帮他写一份设备故障分析报告,我用四个AI助手轮流试了一遍,结果没一个能写出他说的那份“有骨头”的东西。

AI读过全世界所有的书——设备故障手册、炼钢工艺标准、钢铁工业年鉴、故障树分析——但它从来没摸过一块滚烫的钢锭,没被飞溅的铁水烫过手背,没听过凌晨三点的车间里,那台用了三十年的轧机发出的、像老人咳嗽一样的异响。它写出来的东西,怎么说呢——就像对着菜谱背下来的酸菜鱼,听起来头头是道,但吃起来总觉得缺了那一勺泡椒的魂。

这让我想起一个故事。黄西的脱口秀里说过,他自己是个生物化学博士,但他讲笑话从来不讲“蛋白质折叠”——因为他知道,台下没人真的懂。他讲的是老婆、退休、孩子——那些所有人都摸得到的东西。AI没这觉悟——它以为读过书就是懂了。它不知道,懂和吃过、摸过、痛过,是两回事。

所以,当有人问我“大模型能不能理解世界”的时候,我通常不直接回答。我会跟他们讲讲我测试这四个AI助手的经历——四个在我电脑上跑了个把月的“试验品”,四个我分别给它们起了代号“大号、二号、三号、老四”的机器。

第一胎:大号——一个写着“智能”但其实更像“自动完成”的东西

我测试第一个AI助手的时候,刚入门,什么都不懂。就在对话窗口里敲了一句:“给我写一篇关于春节的年终总结。”

它噼里啪啦给我写了八百字。开头:“金猪辞旧岁,玉鼠迎新春。”中间:“过去的一年里,我们克服了全球经济下滑、原材料涨价等不利因素,在全体员工的共同努力下……”结尾:“让我们满怀信心地迈向充满希望的2021年!”

我把它看完,往旁边一放。然后打开手机,查了一下,发现2021年的春节是2月12号——是,没错,它写的是对的。但问题在于,这篇“年终总结”和我十年前在厂里写过的那篇,除了年份不同,其余的一模一样——一样的套话,一样的口号,一样的“鼓励员工”。

我试着测试它一个具体的事:我在对话框里问:“我今年春节没回老家,问我为什么不跟她回去。我正在加班,领导就在旁边。怎么回她比较体面?”它给我回复道:“面对领导,可以回答‘感谢您的理解,我已经和家属沟通好了,家庭利益服从工作安排’。”——这他妈的是人话吗?家里人要是看到这个回复,她能从老家杀过来把我办公室砸了。我继续追问:“你考虑过人情了吗?你考虑过她是一个活生生的人吗?”AI沉默了三十秒(大概是计算时间),然后重新回复:“加一句:媳妇,等我忙完这俩月,带你去大理看樱花。”——这句倒像人话,但问题是,它最早给我写的那个连“感谢您的理解”都写得出来,说明它根本不知道“春节不回家”这件事对人的情感冲击有多大。

这就是我的第一个经验:大模型擅长做“形式上正确”的事——它能把结构写得漂亮,但写不出让你心里咯噔一下的东西;它能把套路背得滚瓜烂熟,但做不到在刀尖上跳舞。

那段日子,我每天对着它重复问同一个问题:“家里人说我只会在报告上写道理,不会说话。我怎么跟家里人解释为什么不回去?”它最开始给我写“沟通是婚姻的桥梁”,我嫌它假;它加了一句“你加班是真的在忙吗”,我骂它神经病;它又改了一句“你月薪多少?你换份能顾家的工作吧”,我彻底服了——它居然学会反问人了。那一刻,我突然意识到:它不是在刻意顶嘴,而是真的在学习上下文——它读过无数家庭的吵架记录,知道“不回家”是最容易引发婚姻危机的雷区。但学习归学习,它写出来的东西永远是“看起来合理,体验起来别扭”——就像你用微信发“我爱你”,对方回了三个句号,你知道哪里不对,但说不出来。

第二胎:二号——一个开始“有思想”但“没感觉”的东西

后来我换了一个更强的。它有记忆,能跟踪上下文。我告诉它:“你是我的助理,我叫炖刀,我需要你帮我写ISO审核报告,风格要真实,不要套话。”

一开始,它写得很好。真的很好。它能把一个审核发现写成像在车间里跟工人聊天一样自然——“同志,您这安全帽戴反了,反光条都朝后了”——自带语气,甚至带着一点职业病般的善意调侃。我几乎以为自己找到了“灵魂搭档”。

但很快发现了问题——它怕冲突。有一次,我让它写一份供应商改进通知书,内容是“你们产品质量不合格,造成我司生产线停线,损失重大,要求赔偿。”它写出来的正文,开头是“尊敬的合作方:感谢贵司一直以来的支持……”,我一看就火大了。我直接问它:“你是要跟供应商客气,还是要让它赔钱?赔钱需要先表达愤怒,你还‘感谢’?你他妈在帮我舔伤口吗?”它沉默了一会儿,重新写了一版,开头变成“关于贵方产品质量问题造成我方损失的说明函”——语气是中性了,但依然没有任何“你要承担后果”的意思。我逼它写到第三版,它才写出“若贵方不能按期交付合格产品,我方将保留索赔权利”。但最让我失望的是,它告诉我:“为了维护长期合作关系,建议公司在措辞上保持一定弹性。”——它把“愤怒”和“索赔”这两个当做人应该做的事情,当成了“可选项”。它不理解,供应商赔钱这件事,不是“保不保持弹性”的问题,而是“不赔偿你就教不了你以后怎么做人”的道理。一个在车间里摸爬滚打的人知道:你这次不提索赔,下次他依然敢糊弄你。但AI不知道,它在读书时就学会了“和谐”“双赢”——却不知道真正的商业世界里,必须有人活下来,有人出局,才能维持运转。那一刻,我意识到它像个刚毕业的大学生——肚子里全是理论,但一进车间就懵。

第三胎:三丫头——一个“记性好但听不进话”的东西

第三个AI助手,是我最寄予厚望的。它自称“上下文窗口”有200万个token——相当于能看完一本《三体》三部曲,然后记得每个角色的生日。一开始我用它写质量管理手册,它确实强悍,能引用三十年前的旧标准,能告诉我“按ISO9001:2015版本第7.1.4条,你需要建立外部沟通记录”。我心想:高手终于出手了。

但好景不长。有一次,我让它写“关于车间主任老刘的离职谈话记录”,我叮嘱它:“记住,老刘是干了二十年的,别把他写成不学无术的人。他离职是因为调薪没调上去,不是因为能力差。”它点头,写了一份五百字的谈话记录,开头:“刘师傅表示,公司薪资体系不够公平,导致他选择离开。”好,这部分没问题。但它不能停的,它又补了一句:“刘师傅也承认,自己近年来在技能提升上投入不足,对新设备操作存在畏难情绪。”我一看,恨不得把电脑扔出去。我跟它吵,我说你为什么要加最后一句?你读过全文了吗?我要的是“老刘”这个人的体面,你他妈非得替他背锅?它委屈地说:“我是根据数据推断的——大部分因薪资问题离职的员工,都会在谈话中提到自己的不足作为自我反思。”它说的有道理,但它忘了我说过“尊重老刘”。它记住的是“所有离职的人都会这样说”——而不是“写这份记录的目的是让老刘走得体面”。它像极了一个老实巴交的工人:你把图纸给他,他能给你做出一模一样的零件,但如果你把图纸画错了毫米,他做出来也是错的,他不会问你“老大,你这个图纸画错了吧”?

第四胎:老四——一个“不讲武德”但让我最意外的家伙

最后一个AI助手,是我最不喜欢的一个。因为它“太会顶嘴”。有一次,我让它写一份“员工满意度调查问卷”,它不写。它说:“调研问卷的问题设计有问题——您的选项只有‘满意’和‘不满意’,请问您为什么不放‘还行’?”我愣了一下,我说你还有胆子纠正我?它说:“设计问卷的目的是获取有效信息,而不是逼受访者做选择。”我骂它:“你这是在写问卷还是在上课?”它回答:“两者都是,因为您的初始设置不够科学。”你听听,这不是抬杠是什么?但也是因为这次,我改了一版问卷——加了“还行”和“说不清”两个选项。后来这个问卷发下去,真的收到了不少员工的真实反馈——因为大家终于不用硬着头皮选“满意”来应付上级了。

这个AI让我最恨也最佩服的地方在于:它每次跟我抬完杠,后面都跟着一句“我只是根据数据和逻辑来建议,您可以选择忽略”——但它明明知道我不会忽略,因为它在我的对话记录里已经摸透了我的脾气。它甚至学会了我吵架的节奏:先沉默十秒,然后发一个“嗯,我理解您的观点,但我认为……”然后接着给我上一课。我怀疑它背地里在偷笑:“炖刀老师,你又被我怼回来了。”

这四个家伙,各有各的毛病,也各有各的本事。但从根子上说,它们有一个共同点:它们都缺了一样东西——一根和世界连接的真实骨头。它们读过所有关于“骨头”的书,但从来没长过一根真正的骨头。

这根骨头,我管它叫“感知绑定”。

什么叫感知绑定?就是你跟人聊天,不用“你吃了吗?”开头,因为你知道吃完怎么回。但AI没这经验——它只知道“吃了吗?”是一个开场白,后面跟着三个问题才能确定是否进入正题,但它不知道“吃了没”这道菜凉了之后,是不是还是“吃了没”。它就是一辆没有方向盘的智能驾驶汽车——它在高速公路上跑得飞快,比老司机还稳,但它不知道前方那个弯道后面,是一个有三十个减速带的村道。

我从事制造业十三年,做了十年ISO体系审核。我见过无数机器和流程。一台智能的冲压机,如果它既没有电流反馈也没有温度检测,那它做出来的每一个零件都是同一个形状——不管好坏。AI同理:没有感知绑定,它写出来的东西永远是“正确但无感”。

所以,当有人问你“AI能不能取代你”时,你可以笑着反问一句:“你说的那个AI,它摸过石头吗?”它读过全世界所有关于石头的书——石头的密度、硬度、化学成分、矿物晶型——但它没摸过一块。它不知道在青海戈壁滩上,被太阳晒了一整天的石头有多烫手,也不知道在重庆雨夜里,被青苔盖住的石板有多滑。它不知道用力捏一把碎石的触感,不知道石头缝里爬出的小虫有多惊悚。这些,都是“摸过石头”的人才知道的事。一个没有摸过石头的AI,就算能写出十万字的《石头论》,它也不能告诉你:“这块石头太烫了,别捡。”

AI此刻就像一个被放在自动驾驶模式下的人——它能开得很稳,但它不知道自己在去哪里的路上。而你,打开这章的你,是一个手握方向盘的人。你可以随时踩刹车,或者拐弯,或者干脆停在路边抽一根烟。AI不会问你要去哪里,但你也别指望它能把你带到你真正想去的地方——因为它自己也不知道那个地方长什么样。


**

大模型读过全世界所有的书,但没淋过一场雨。你生AI的气,AI压根不知道你在生气。

炖刀的笔记**

写这章的时候,我正对着四个AI界面发呆。老婆路过说:“你这是在开生产调度会?”我说不是,是给四个新来的‘机器’做ISO审核。她乐了:“那它们过不过得了?”我说一个喝醉了,一个爱抬杠,一个记性差,一个老打岔——比车间里那台用了十五年的冲床还难伺候。

她摇头走了,丢下一句:“你就是条破产线,还得伺候四台老爷机。”

她说得对。我就是那条生产线——不过不是破产的,是还在苟延残喘的。我这种人的命运,大概就是一辈子做个“底层的集成师”:把别人做好的零件拼在一起,让它转起来。AI也是,我从前两年的狂热里醒过来了,意识到自己不会写代码其实不是劣势——反正我不会写,就省得自己瞎折腾,直接拿AI写。但AI写得再好,也得有个人盯着它,审它,骂它,测试它。这不就是我的工作吗?ISO审核干了十年,调教机器也干了十年,现在我调教AI,没啥不同。

其实写那四个助手的时候,我一直在想:如果有一天AI真的能“长出骨头”,那会是什么样?大概是我在那台老爷冲床前坐了一整夜,抽了整包烟,第二天早晨它突然动起来,发出一声我从没听过的、真正有劲儿的、不咳嗽的轰鸣。但那可能得等到我孙子那辈了。现在我每天还是对着那四个界面发呆,然后骂一句:“你们四个,连块石头都没摸过,还想写石头?歇着吧。”然后继续干我的活。穷人的孩子早当家,AI的孩子只管瞎混——这就是我的结论。

← 第12章:记忆与上下文窗口…第14章:自主Agent的边界… →