从一条自动线说起

上个月在东莞，我蹲在一家精密模具厂的注塑机前，看一个干了二十年的老师傅调试机械臂。

机械臂要抓取一个刚刚脱模的工件，放在传送带上。按程序设定，它应该先转35度，下降30厘米，夹爪张开12毫米。但程序跑了两轮，夹爪直接拍在了模具上——就差两秒，整个模具差点报废。

老师傅关了机，从兜里掏出一支烟卷，叼着，不说话。过了三分钟，他朝操作面板喊了一嗓子：“你这AI也不行啊。”

我知道他说的是机械臂背后的那套视觉识别系统。那是去年上的新设备，号称基于深度学习，能自适应识别工件位置。结果呢？机器轰鸣了三个月，老师傅的手机里存了47个紧急停机记录。

你猜怎么着？老师傅后来自己画了张表格，把每种工件的偏移量写成口诀，贴在操作台上。每次机器卡住，他就凑过去看一眼，随手手动修正一下。用他的话说：“机器会骗人，工件不会。”

你看，这是个很有意思的现象。一个在ISO体系里泡了十年的老师傅，面对一台号称“智能”的设备，最后的选择是——相信自己的眼睛，不相信系统的判断。

这事儿和Agent有什么关系？关系大了。

我给你讲个真相

很多人问过我：为什么Agent（AI智能体）总是搞砸？不是已经有大模型GPT-4、Claude 3了吗？它们不是在各种考试里都能考过人类吗？

好问题。

我的答案是：因为它们读过全世界的书，但没摸过一块石头。

这句话不是比喻。是物理边界——所有智能体共同的底层天花板。

让我给你讲个真实场景。我让一个用户帮我写封邮件，回复客户的投诉。这是一封很简单的邮件，“您的意见我们已经收到，正在处理，将在3个工作日内给您答复。”但Agent跑了两遍，第一遍写成了“您反映的问题我们已经反馈给相关部门，请您耐心等待。”第二遍写成了“关于您的问题，我们的技术支持团队会在48小时内与您联系。”

你发现没有？它都写对了。但问题是，客户要的是一个确切的答复时间，不是模糊的“请耐心等待”或者“48小时内”。这事儿发生在真实业务里。企业买了个客服Agent，结果回复率上去了，客户满意度跌了。老板问我怎么回事，我说：“Agent的回复是标准的，但客户要的是被理解。Agent不理解。”老板瞪大了眼睛：“它不理解？它不是看过三十万封对话记录吗？”

我说：“看过不等于摸过。”

这就像车间里的自动线。自动线读过三万份加工记录，知道每道工序应该转几圈，切削深度多少。但它不知道：今天车间湿度大，刀具可能会打滑；毛坯件的表面硬度不均匀，加工参数要微调。自动线只负责执行，不负责理解。

Agent也一样。

从图灵到Agent，我们走了一条什么路？

1950年，图灵提出那个著名的问题：“机器能思考吗？”他设计了一个游戏——让一个人类裁判通过文字对话，判断另一边是人还是机器。如果裁判判断错了，说明机器有了“智能”。

这是“图灵测试”的雏形。你看，从一开始，人工智能的衡量标准就是“对话”——不是“干活”，是“说话”。

到了1966年，MIT的约瑟夫·魏岑鲍姆写了ELIZA程序，它能把“我头疼”这样的句子，用“你为什么头疼？”回应。这让当时很多人以为它有情感理解能力。魏岑鲍姆后来自己都吓到了——他说，“这个版本的程序如此简单，却能欺骗很多人。”

简单到什么程度？ELIZA本质上就是一套if-then-else的词组替换系统。你给我说“我xx”，我就回你“你为什么xx？”但就这，也有人说和它聊天“像真的一样”。

再往后，上世纪八九十年代，IBM的深蓝在国际象棋上打败了卡斯帕罗夫。这是个让人震撼的时刻——机器在逻辑推理上超越人类。但深蓝靠的是穷举计算，它不会“创造”新棋路，只是把每一步的可能性算得比人更快、更多。

直到2010年代，深度学习加上大模型，我们才进入了一个新阶段：机器会的，不仅是“算”，还有“说”。GPT-3在2020年表现出惊人的语言生成能力，ChatGPT在2022年底引爆全网。

然后，大家开始想：既然它能说，那能不能让它做？Agent的概念就这样诞生了。Agent=大模型+工具调用+记忆。你给它一个目标，它能自己规划步骤，用工具（搜索、计算、调用API），然后执行。

听起来很美，对吧？

问题是，它执行得怎么样？我记得在我之前那家厂里，有台五轴CNC加工中心，买回来第一个月就撞刀三次。我查了一下历史记录，每次撞刀的原因都一模一样——刀具补偿参数设错了。操作员说：“参数是大模型自动算出来的，应该没问题。”我蹲下去看刀尖，拿千分尺量了量实际偏移量，然后对他说：“数据是算出来的，但刀尖是被切的。算出来的东西可以很漂亮，但切出来的东西才是真实的。”

Agent也一样。它的“动作”是“算”出来的，不是“实践”出来的。它可以背出《机械手册》里所有加工参数，但它没摸过一把发烫的刀具。

它最大的问题不是“听不懂话”，而是“看不见真实”

我把Agent搞砸的场景归纳成了三类。你可以对号入座，用来判断你遇到的Agent问题属于哪一种。

第一类：工具认知错误

Agent调用了错误的工具，或者正确的工具但用了错误的参数。比如我让一个智能助手帮我充话费，它充值成功了，但充进了自己的测试账户。你说它是故意搞错吗？不是。它只是把“充值请求”和“账户充值”这两个操作在脑子里混淆了。

就像车间里的自动换刀系统：你告诉它换5号刀，它从刀库里取了一把6号刀装上。这不是它不认识数字，是它在“换刀”这个动作的认知链条里，把“刀具编号”和“刀具位置”搞反了。

在制造业里，这叫“工具链断裂”。老师傅一眼就能看出来，但Agent看不出来——因为它没有“亲眼看过”刀具长什么样。

第二类：逻辑链条断裂

Agent被要求完成一个多步骤的任务，比如“帮我查一下这个客户的订单状态，并确认发货时间”。它第一步做了：查到了客户的信息。第二步做了：查到了订单的发货时间。但第三步——把这两个信息关联起来并通知客户——它跳过了，或者说，它忘了。

这像什么？像车间的自动线上，送料机器人把工件放到了加工中心，但你发现加工中心的主轴没转，直接让工件撞了上去——因为“放工件”和“加工”这两个步骤之间的关联信号断了。在制造业，这叫“时序逻辑遗漏”。

第三类：常识缺失

这个最要命。Agent可以背诵三千页的医学文献，但它不知道“打针之前要先消毒”。它可以分析出一段对话中的情感倾向，但它不知道“看到一个人流泪时，不应该说‘你的泪水符合抑郁指标’”。

它没有身体。没有大脑以外的感知系统。你教它一万遍“水是湿的”，它永远不可能在水里泡过手。所以当你说“水很凉”的时候，它知道词语定义，但体验不到那种凉。Agent所有的“理解”，都是语言层面的——它把“水很凉”映射到词典里的“温度属性”，但它不知道温差会引起皮肤的血流变化。

这些缺失，在日常对话里表现不出来。一旦Agent需要执行真实世界的任务，就暴露了——它会困惑，会答非所问，会做出不负责任的决定。

它们会从这个困境里走出来吗？

这取决于你怎么定义“走出来”。

如果“走出来”的意思是“能跟人一样识别和处理真实世界的复杂性”，那我认为短期内很难。因为Agent的底层架构决定了它是一个“语言模型+工具链”的组合。它所有的知识来源，都是人上传的文本、图像、代码——这些数据是经过“抽象”的。真实的物理世界是连续的、非抽象的、带有海量噪音的。Agent在真实世界里，就像你的手伸进一个黑箱里，只靠耳朵听箱子里传出来的敲击声来判断形状。

如果“走出来”的意思是“在特定边界内做得比人类好”，那完全可以。比如，工厂里一条自动线，它不会关心车间里有没有老鼠，它只关心“工件在不在工位上，是的话就抓取、放上去、检测、输出”。

所以，问题不是Agent做不到，而是我们期望它做到的事情，超出了它的边界。你要让一条自动线帮你填报销单，它还得多接几根线，外加一个NLP处理器。

那我们的出路在哪里？

我有三个建议，不成熟，你随便听听。

第一个建议：承认Agent的盲区

不要假装它会思考、会理解、会感受。它就是一条自动线。你给它清洗参数它会执行，但你得先说出来。你不出声，它就等着。它不会你一个眼神就知道“该换夹具了”。

对Agent最好的心态，就是对“新员工”的心态——你带它上手，它犯了错你别急，先看日志。像车间里老师傅带徒弟那样。但不同的是，Agent不用休息，不会有情绪。

第二个建议：把Agent当工具，不是当灵魂

有人在Agent里嵌入大模型，告诉它能“自主决策、自我调节”。其实这是鼓励它犯错。你好好想过没有，在ISO体系里，我见过太多“优化”导致变更失控的案例。修改一个参数，结果整条线停了三天。

你让Agent“自由发挥”？那和让实习生直接操作加工中心一样，会出人命的。

第三个建议：用人类经验的边界来围堵Agent

我现在干的一件事，就是给大模型写“边界文档”——就像ISO体系里的“操作规程”。告诉它：“在这个任务里，你最多只能做这三步。第四步必须等我同意。”这不是限制，是对Agent的保护。你让它知道自己能做什么、不能做什么，它反而安全。

我们的出路，不是让Agent变得更像人，而是让人知道Agent像什么。它不是灵魂，是工具。不是替代，是延伸。不是另外一个你，是你手里的另一把刀，是你口袋里另一组扳手。

那我问你一个问题

你有没有遇到过Agent给你干了一件你没让它干的事？比如你在后台设置让它查天气，结果它顺手帮你订了个外卖？你是不是一边笑一边说“这机器也太蠢了”，然后自己动手把bug改了？

如果不是，你有没有想过：当Agent因为“太聪明”而搞砸的时候，谁会在现场擦屁股？

你猜对了，就是那个依然在车间里叼着烟、拿着手电筒、刷着手机里Agent日志的人。

而我，就是那个人。

我站在这条自动线前，手电筒光照亮刀库。背后有个声音问我：“如果Agent只是工具，那你算什么？”

我转身，看见之前那家厂的老板。他的问题，我答不上来。那：大模型会成为新的操作系统吗？还是说，它只是另一个界面工具？

##

大模型读过全世界所有的书,但没淋过一场雨。那个老师傅调试机械臂的手感,他读了再多书也学不会。

炖刀的笔记

写这章时，凌晨两点，我盯着窗外工厂区的路灯发呆。突然想点个外卖犒劳自己，手机显示欠费。查了查，原来白天我用Agent帮我充话费，它把充值号和查询号搞反了——给我充进了自己那个测试账户。我对着手机苦笑了一分钟。

在制造业干了十年审核，我太熟悉这种场景了：就像车间里的自动线，你给它编好程序让它换刀，结果它把刀库号跟工件号搞反了，直接把刀具装在了夹具上。Agent这东西，一条自动产线，LLM是那台加工中心。但产线跑偏了，总得有个老师傅拿着手电筒巡检。

我就是那个老师傅。每天帮它擦屁股，像给刚入职的年轻人做上岗培训——它今天搞错话费，明天可能搞错邮件地址。凌晨果然又惊醒了（心虚的深夜写稿人都懂），我突然明白：所谓的通用AI，大概就是终极的无人化车间。而我现在干的活，就是给这条产线开调试会。

但我又想了想，那条产线调试会上，老师傅总会说一句：“机器不行，人得行。”这话搁在Agent上，改成：“Agent不行，人得行。”

这大概是我能给出的、最诚实的回答。