CycleUser

前一阵在赵老师的Python群里面，有人聊起 AI 编程工具，说有了这东西，一个完全没学过编程的外行，配上各种工具和技能，能跟计算机本科毕业生干一样的活。甚至有人觉得 AI 彻底抹平了信息差，外行借助 AI 能达到硕士水平。

真的如此么？恐怕未必。

拿写代码来说

一个外行用 opencode 或者 Cursor，搭个简单的页面，写个一次性小脚本，确实能做出来。但稍微往外走一步，往真实的、复杂的业务环境里走一步，差距立刻就出来了。

现在短视频平台上经常刷到这样的内容：一个自称零基础的人，花了半天，用 AI 搭了个漂亮的网页。前端导航栏、卡片、按钮一应俱全，后端还能读写数据库，甚至接了个支付接口。评论一片"程序员要失业了""以后不需要学代码了"。几乎没人注意到一个问题：这个页面和后端用的全是假数据。那些好看卡片、表格、图表，填充的是 AI 随手编的示例——用户名全是"张三""李四"，数据曲线光滑得不像真实世界。在本机 npm run dev 看到的华丽，距离能上线的东西，中间隔着的东西多了去了。真数据一灌进去，字段类型对不上，null 值没处理，并发没考虑，错误路径一条没覆盖。

有人说那可以让 AI 继续改，agent 编排嘛，让 AI 自己检查、修、打磨。理论上是这样，外行实际操作起来是另一回事。他判断不了 AI 每一步输出的质量。AI 改了三轮，数据库结构变了一次，API 的返回格式调了两次，中间多了几个他没见过的配置文件。他问 AI"这些文件干嘛的"，AI 给了解释，他看着挺长挺专业，觉得大概没问题。这个"大概"就是裂缝的开始。

事情不是突然失控的。最开始他还能看懂 AI 在干嘛，毕竟一个单 HTML 页面的结构就那么几行。后来依赖越来越多，AI 加了中间件、配了缓存层、换了状态管理库。每一步都说得通，每一步都把他的认知范围往外推了一点。推到某个位置，他突然发现这个项目在跑什么他完全说不清楚了。他只是 AI 指令的传达者：AI 说装这个包就装，AI 说改那个配置就改，AI 说这个报错解决了它就解决了。他点头，但没真的看懂。

这种情况下如果出问题——比如线上某个接口莫名其妙报 500——他连该从哪里查都不知道。日志贴给 AI，AI 说大概是某个第三方依赖的兼容性问题，建议回退版本。他照做。好了一阵，又出别的问题。继续贴给 AI，AI 继续给方案。这个循环的终点，不是有一天他突然学会了，是有天连 AI 自己也绕不出来了——上下文塞满，bug 叠加 bug，之前的"修复"成了新问题的来源。到那个时候别说他，有经验的工程师接手也得头疼一阵。他以为自己是项目的主人，实际上他只是 AI 输出管道上的一个转发节点。而且他对这个处境毫无察觉。

这就是外行用 AI 最危险的状态。AI 会给他一种信心，让他以为自己控制住了一切。问 AI"这个架构合理吗"，AI 说合理。问"有没有安全问题"，AI 列了几条，他说修，AI 修完说修好了。全程他没有独立验证任何一件事的能力。但因为每一步都得到了肯定的回复，他觉得自己在掌控全局。这种信心是 AI 替他搭起来的——他每次问，AI 每次都给一个让他觉得没问题的说法。他对这些说法没有任何独立验证，但说得多了，他就信了。等他真把这个东西推到生产环境里，那些他"验证过"的安全问题、那些他"检查过"的边界情况、那些他"跑通过"的测试，每一项都是拿 AI 的回复当证据的。而他根本分不出那些回复里哪句是事实、哪句是 AI 在顺着他说的漂亮话。

说回来。外行人用 AI 写代码，缺的不是敲键盘的手速。工具已经很好用了，说话就写，报错就改，跑不通就调。缺的是判断力。AI 写完一段代码，你看不出它对不对。你能看懂的那部分，刚好在 AI 替你兜着的那条线以内。线外面的东西全是黑的。你不知道这个函数的边界情况该怎么测，不知道那个 SQL 查询数据量大了以后会不会崩，不知道它用的库是不是已经废弃了。AI 不会主动告诉你这些，除非你问。但你在不知道这些概念的时候，连问都不知道该问什么。

这还只是写代码，AI 做得最好的领域。

「最可能」不等于「最好」

目前这代 AI——Transformer 架构的大语言模型——本质上是个概率生成器。你问它一个问题，它给出的是基于训练语料统计出的最可能让用户满意的回答。这个差别在通用场景下不明显，在垂直专业领域就非常大。专业领域的"最优解"常常不在最流行的那些答案里，有时候还跟流行做法反着来。

它倾向于给你一个迎合的回答。你说的东西它顺着你说，给了个看起来头头是道的方案。你看得舒服，觉得它真厉害。但这个方案放在行业里，可能是五年前的思路，可能是大厂对新手的通用建议但完全不适合你的场景，甚至可能已经被更新的实践推翻——只是训练语料里旧内容太多，它没见过新的。

两个同学用同一个 AI 做同一个作业，给同样的问题，大概率得到很相似的答案。思路相似，结构相似，用语都相似。查重一过，两个人都傻了。他们没有互相抄，只是 AI 的输出池就那么大，概率最高的那条路，两个人一起走到头了。

坐标系

外行人缺的是一套坐标系。行业里的人，哪怕只是个刚毕业的本科生，四年下来至少建了一个知识框架：知道这个领域大概分哪几块，每块有哪些核心问题，什么方案在什么条件下成立，哪些结论有前提、换个场景就不对了。这些东西学的时候可能没觉得多有用——谁背地质年代表的时候不犯困——但它们是判断力的底盘。

有了这个底盘，AI 给你的东西你才能校准。它说了个方案，你能判断这个方案在你的场景下对不对。它列了参考文献，你知道哪篇是扎实的工作，哪篇是水文。它给了个看起来很厉害的实现，你知道少了一块——因为你清楚这个东西在实际工程里有哪些必踩的坑，AI 一个都没提。

外行人没这个底盘。AI 说什么就是什么。AI 错了他看不出，AI 偷懒了他发觉不了。他只能从"结果看起来对不对"来判断，但很多专业问题结果是看不出来的——系统跑了三个月才发现数据库设计有缺陷。三个月前那个"看起来对"一文不值。

反过来，如果两个人都是做这行的，一个经验浅一个经验深，AI 确实能拉近一些距离。经验浅的那个人知道自己要什么，只是手生，工具不熟，查文档慢。AI 帮他补了这部分——代码说话就写，文档不用查了直接问，调试报错贴回去它帮你分析。他能看懂 AI 给的方案的边界，能判断方向对不对，能识别出来 AI 是不是开始胡扯。经验深的那个老手只是比他快，但两个人看的是同一张地图。

AI 抹平的是技能熟练度，抹不平认知基础。工具越好用，对内行人越是放大器——知道往哪儿使劲的人越用越强。不知道往哪儿使劲的人，工具越好越容易被带跑偏。而且这个跑偏特别隐蔽，因为 AI 的回应永远是自信的、流畅的、裹在专业术语里的。对没有辨别力的人来说，自信和正确长得一模一样。

尺度

目前这代模型天然倾向于给出最大概率的、最不冒犯的、最中庸的回答。在写代码这种答案比较"硬"的场景——能跑就是能跑，报错就是报错——这个倾向的危害还算可控。在答案比较"软"的场景，比如做研究、做判断、做决策，问题就大了。很多专业场景下，最大概率的解就是最平庸的解，真正有价值的东西往往在长尾里。

拿地球科学来说。你能采到的样品在整个地球中占比微乎其微。某个岩体你打了几个钻孔取了几段岩心，这几段岩心在多大程度上能代表整个岩体？在一个侵入岩体里，矿物组合、结构构造、蚀变程度这些东西可能几米之内就全变了。人的取样永远有物理上限，根据这些取样得出的认识，本质上是一个带有很大不确定性的概率估计。

AI 不这么看问题。它基于已有的数据——那个岩体被文献记录过的描述——拼出一个"最可能"的样子，然后用相当确定的语气告诉你。外行人看了觉得好厉害、好清楚。懂行的人看了知道这份清楚是假的——模型把不确定性吃掉了，把本来应该老老实实写上"误差范围很大"的部分，换成了一个干脆利落的答案。

有些搞地球科学的人对 AI 预测未来这件事嗤之以鼻，原因就在这里。更不用说用 AI 推演宇宙演化、搞什么宿命论必然性了。连脚下这颗行星的三四成奥秘都没弄明白——这还是个粗略说法，不同学科不同层次比例不同——就敢用统计模型去外推几十亿年的宇宙史，这是对自己手里那点数据代表性能耐的盲目自信。

有跨尺度研究背景的人——搞天文地质的，时间跨几十亿年，空间跨全球到显微——对这个问题可能格外敏感。同一个规律在小尺度和大尺度上表现完全不同。地壳尺度的变形机制和矿物晶格尺度的变形机制差了十万八千里，用其中一套去套另一套，结果一定是错的。区分哪些规律是普适的、哪些是尺度绑定的、哪些在什么条件下可以从一个尺度平滑过渡到另一个尺度——目前的 AI 做不了这个。它训练数据里可能有这些内容，但它没有判断力去决定什么时候该用哪一套。有判断力的，是脑子里装着跨尺度框架的人。

而且目前的 AI 不仅跨不了尺度，它连"意识到自己在用一个尺度的规律去套另一个尺度的问题"这件事都做不到。它就是在自己的向量空间里找一个最接近的问法、拼一个最大概率的答法。给它一个具体的小问题，答得像模像样。给它一个跨尺度的大问题，也答得像模像样——因为它不知道自己不知道，它只是在生成。但那个答案，在懂行的人看来，是把多个不同层面的东西搅在一起，每一条单独拿出来可能都对，合起来完全不对。

AI 抹平不了外行和内行的差距。它抹平的是技能层面的熟练度差异——查文档的速度、写代码的速度、处理重复劳动的速度。它抹不平的是判断力，是那个在脑子里已经建好的、知道什么情况下什么方案靠谱什么方案不靠谱的坐标系。这个坐标系没有捷径，就是靠时间堆出来的——读书、上课、做实验、踩坑、改错、再做一遍。

学习还是有意义的

本科四年最大的价值，可能不是教会了哪门具体的课——大概率毕业没几年就忘光了。最大的价值是在脑子里搭了一个框架，让你遇到新问题的时候知道该往哪个方向找答案、怎么判断找到的答案对不对。外行人没有这个框架。AI 给不了这个框架。它只能给答案，给不了判断答案对错的能力。不仅如此，它还会给一种信心——让你误以为自己已经有了这个能力。这种误信比无知更麻烦，因为它让人敢于在自己完全不了解的领域里做决策。

人对世界的认知本来就很局限。地球科学搞了几百年，对自己脚下这颗行星的了解也只是个大概。人能采样的范围就那么点，钻孔能打下去的深度就那么浅，地震波反演来反演去也就是个模糊的影子。人在自然面前还渺小得很，别太把自己手里的统计模型当回事。