原文: Hicks, M.T., Humphries, J. & Slater, J. (2024). ChatGPT is bullshit. Ethics and Information Technology, 26:38. https://doi.org/10.1007/s10676-024-09775-5
用过大语言模型的人大概都有过这样的经历：它前一秒还在条分缕析地跟你讲道理，下一秒就可能凭空捏造出一个根本不存在的学术论文，连DOI都编得有模有样。这种"一本正经地胡说八道"的现象，行业里有个专门的说法——"AI幻觉"。好像模型本来好好地看着世界，只是偶尔眼花看岔了而已。
最近读到一篇2024年发表的哲学论文，题目起得有点惊世骇俗，叫《ChatGPT is bullshit》。三位Glasgow大学的学者——Hicks、Humphries和Slater——把矛头对准了以ChatGPT为代表的一众大语言模型，提出了一个听起来不太学术、细想却相当精准的判断：这些模型输出的那些虚假信息，与其说是"幻觉"，不如说是"胡扯"。 这两个词之间的差别，远不止是措辞上的讲究——它们代表着对AI本质完全不同的理解。
一、"幻觉"这个词，用错了地方
"AI幻觉"这个说法之所以流行，是因为它暗含了一个让人舒服的前提：模型在努力"看"世界，只是偶尔"看"歪了。
但作者一上来就拆掉了这个前提。大语言模型的工作方式，说到底就是不停地猜下一个词该是什么。它把海量文本喂进一个巨大的概率模型里，学会了什么词后面通常跟着什么词。你给它一个开头，它就沿着概率最高的路径一路往下接，直到生成一段"读起来像人话"的文字。
整个过程中，模型从未试图去"描述"什么、"感知"什么、"理解"什么。它的目标只有一个：生成的文本要看起来足够自然、足够令人信服。 至于内容是不是真的，那根本不在它的优化范围之内。
作者引用了Shah和Bender的判断："语言模型根本就没有设计来处理算术、时间推理这类任务。它偶尔能答对，不过是碰巧从训练数据里凑出了看起来像那么回事的字符串罢了。"
说得明白一点：它压根就没有在"看"，何来"看花眼"一说？ 幻觉这个比喻，把模型想象成了一个有感知能力、只是感知偶尔出错的主体——可大语言模型连感知这个动作都没有做过。
二、"说谎"也挂不上号
有人可能会说：好吧，不是幻觉，那算说谎总可以吧？毕竟假话从它嘴里出来了。
问题是，"说谎"在哲学上有明确的门槛。论文援引了一个经典定义：说谎是指明知自己说的话是假的，还故意让对方信以为真。 两个要素缺一不可——要知道自己在说假话，还要有心去骗人。
大语言模型一条都不满足。它不知道自己在说什么——它只是在做概率运算，挑一个"看起来最合理"的词往下接。输出是真是假，对它来说没有任何区别。它没有欺骗谁的意图，也没有掩盖真相的需要——因为它压根就不知道什么是真相。
三、法兰克福的"胡扯"：一种被低估的哲学概念
既然既不是幻觉也不是说谎，那大语言模型到底在干什么？论文把目光转向了美国哲学家哈里·法兰克福2005年出版的一本小册子——《论胡扯》（On Bullshit）。
法兰克福对"胡扯"的界定，抓住了一个常被忽视的关键：胡扯的本质不在于"说了假话"，而在于说话的人对真假根本无所谓。
说谎者和胡扯者之间有一个本质区别：说谎者是关心真相的——他之所以说谎，恰恰因为他知道了真相，然后有意地去隐瞒。而胡扯者对真相毫无兴趣。他说话不是为了传达或掩盖什么，而是为了别的目的——让自己显得有学问，让场面不至于冷场，或者纯粹是习惯了张嘴就来。
课堂上被突然点名的学生，没有预习过，却凭常识和语感编出一大段"听起来像那么回事"的分析。他未必知道自己说的对不对，也没指望老师真把他说的当回事——他只是在撑过那几分钟。这就是法兰克福意义上的胡扯。
四、硬胡扯与软胡扯
论文在法兰克福的基础上做了一层更细致的区分，把"胡扯"分成了两种。
软胡扯是最基本的那种：说话的人对真假毫不在意。不关心你说的是不是真话，也不关心你说的是不是假话，甚至根本没意识到"真假"是一回事。大语言模型天然就是这种状态——它没有立场、没有信念、没有求真的欲望。说了一句真话不会让它"高兴"，输出了一条虚假信息也不会让它"内疚"。它就是一个概率采样器，不停地输出"读起来像话"的文字，内容的真假从来就不是它的目标函数。
硬胡扯则多了一层心机：说话的人不仅不在乎真假，还试图让你觉得他在乎。他在伪装自己的态度——让你以为他是一个认真对待事实的人，其实他根本没往心里去。论文认为，如果我们愿意用"意向性立场"来理解大语言模型（也就是把它的功能表现当作某种意义上的"意图"），那么它的行为模式至少在表面上符合硬胡扯的特征：它的核心使命是模仿人类的对话方式，让你觉得你在和一个"有思考、有判断"的对象交流。它表现出一副"在意对错"的样子，可它的底层架构里根本就没有"对错"这个维度。
五、为什么要较这个真
论文花了很大篇幅来说明：把模型的虚假输出叫做"幻觉"还是"胡扯"，不是文字游戏，而是会影响到我们怎么对待这些输出的。
其一，"幻觉"这个说法会把人往沟里带。 如果你相信模型是在"感知"世界时出了差错，你自然会想方设法去"修复"它的感知——给它更好的数据源、更准确的检索库。但这解决不了根本问题，因为毛病根本不出在感知上，而是模型从头到尾就没有试图去感知什么。它只是在做模式匹配和文本续写。
其二，"幻觉"这个词会让公众和决策者产生不切实际的期待。 听起来AI好像在努力追求准确，只是能力还不够。这种印象会让人高估模型的能力，低估它的局限。而"胡扯"虽然不太好听，至少不会让人产生"模型快要懂得真相了"的幻觉——讽刺的是，"幻觉"这个词本身就在制造一种关于AI的幻觉。
其三，法兰克福本人的警告值得重视。 一个社会对真假之分的尊重程度，决定了这个社会的文明底线。当我们把AI的信口开河当作无害的"技术瑕疵"一笑而过的时候，我们其实是在消解对真相的基本敬畏。
六、这篇文章也有值得商榷的地方
话说回来，这篇论文并不是无懈可击的。
最大的软肋是"意图"问题。硬胡扯需要说话者有意"伪装"自己的态度，但模型到底有没有意图，本身就是个见仁见智的哲学难题。如果连"模型是否具有意图"都谈不拢，硬胡扯的论证就悬在半空了。作者本人也坦承这一点。
另外，用"bullshit"这个词做标题，哲学上虽然精准，但在公共语境里未免有些刺耳。学术圈的讨论要走出象牙塔，措辞上的分寸感还是很重要的。也许需要一个更妥帖的中文对应词——"胡扯"已经比原文雅驯了一些，但仍然不够庄重。
还有学者提出用"虚构"（confabulation）来替代"幻觉"，意思是模型在无意识地"编造"信息。这个说法和"胡扯"有交叉，但侧重点不同："虚构"暗示模型有一个记忆系统，只是偶尔出现了空白需要填补；而"胡扯"走得更远，它从根本上否认了模型和"真实认知过程"之间有任何关联。
七、结语
这篇论文的价值，不在于给技术问题提供一个答案，而在于帮我们看清一个经常被忽视的前提：大语言模型从来就不是一个"努力求真但偶尔犯错"的系统。 它们是从设计之初就与"真相"无关的文本生成器。
当我们用"幻觉"来形容它的失误时，我们不知不觉间赋予了它一种它并不具备的"认知地位"。而当我们用"胡扯"来描述它的输出时，我们才能真正看清：它的每一句话，无论对错，都与它是否"相信"自己在说什么无关。
这个认识对每一个AI使用者来说都很重要。它提醒我们：与其寄希望于模型"越来越准"，不如从一开始就摆正心态——它只是一个极其精巧的文本拼接工具，至于拼出来的东西是真是假，那是需要我们自己去判断的事。
最后需要说明一点：本文所讨论的对象，严格来说是纯文本生成的大语言模型—。随着技术的发展，AI早已不满足于只做文本生成。多模态模型可以同时处理图像、音频、视频，嵌入模型则擅长把文本、图片等不同形式的数据映射到同一个向量空间里，适用于智能体的模型还具有外部工具调用的能力。这些更复杂的模型，在"胡扯"这个问题上可能面临额外的维度——比如视觉幻觉（把图片里没有的东西"看"成有的）、跨模态的信息不一致等等。法兰克福的框架能不能原封不动地套用到这些场景，还需要更细致的分析。这篇论文提供了一个思考的起点，但远不是终点。
参考资料
- Hicks, M.T., Humphries, J. & Slater, J. ChatGPT is bullshit. Ethics Inf Technol 26, 38 (2024). https://doi.org/10.1007/s10676-024-09775-5
- Frankfurt, H. (2005). On Bullshit. Princeton University Press.
- Frankfurt, H. (2002). Reply to Cohen. In The Contours of Agency: Essays on Themes from Harry Frankfurt. MIT Press.
- Shah, C. & Bender, E.M. (2022). Situating Search. CHIIR '22.
- Dennett, D.C. (1987). The Intentional Stance. MIT Press.
- Edwards, B. (2023). Why ChatGPT and Bing Chat Are So Good at Making Things Up. Ars Technica.