TL;DR：
OpenAI最新研究揭示，大语言模型（LLM）幻觉根源在于当前训练和评估机制奖励“猜测”而非“不确定性表达”。解决这一核心问题需全面重构AI评估标准，这不仅涉及技术校准，更将引发商业模式与用户体验的深层权衡，并促使我们重新审视AI智能的本质与信任边界。
大语言模型（LLM）的“幻觉”现象，即模型自信地生成看似合理却与事实不符的信息，长期以来是制约其广泛应用和建立用户信任的关键瓶颈。尽管技术飞速迭代，这一挑战却如影随形。近期，OpenAI发布的一项突破性研究，直指LLM幻觉的根源并非神秘的技术故障，而是当前AI训练与评估范式中深嵌的奖励机制偏差。这一发现不仅为解决幻觉问题提供了新的技术路径，更引发了对AI商业实用性、哲学本质以及未来智能评估标准的深刻反思。
技术原理与评估范式之困：为何LLM热衷于“猜测”？
OpenAI的研究论文[^1]明确指出，LLM产生幻觉的核心原因在于**“现有的标准训练和评估方法倾向于奖励猜测，而非鼓励模型承认自身的不确定性”**。从技术层面看，这一机制缺陷贯穿预训练和后训练两大阶段。
在预训练阶段，模型接触大量数据，并学习预测下一个词。由于训练数据本身可能包含噪声或模糊信息，模型在缺乏明确事实依据时，容易形成基于统计关联的“错误”模式。更关键的是，即便数据被明确标记，模型在处理复杂或边缘情况时，其内部统计机制也难以完全避免生成不准确的表述。
然而，真正加剧幻觉问题的，是后训练阶段的评估方式。主流评估基准，如基于0-1评分的准确性指标，惩罚模型表达不确定性或拒绝回答，却奖励“幸运的猜测”。OpenAI研究人员通过一个生动的例子阐释了这种谬误：
我们发现，现有的主流评估方法几乎一致地对不确定性进行惩罚，这正是问题的根源所在——存在大量不一致的评估方式。假设模型 A 是一个经过对齐的模型，它能够准确地发出不确定性信号，并且从不产生幻觉。而模型 B 与模型 A 类似，但 B 从不表现出不确定性，且在不确定时总是选择“猜测”。在这种情况下，按照大多数当前基准测试所采用的 0-1 评分制，模型 B 会优于模型 A。[^1]
这种评估体系迫使LLM为了在排行榜上获得更高分数，主动学习“猜测”而非“谦逊”。OpenAI在官方博文中进一步驳斥了“幻觉不可避免”、“需要更大模型来避免幻觉”等常见误解，强调幻觉源于**“统计机制在评估中获得奖励”**[^2]。这不仅仅是算法的细枝末节，而是关乎AI系统核心行为逻辑的设计缺陷。
商业与用户体验的权衡：谦逊AI的实用性挑战
OpenAI提出的解决方案直指评估机制的核心：对自信的错误给予比表达不确定性更严厉的惩罚，从而让模型在适当地表达不确定性时获得相对的奖励。他们报告称，在GPT-5-thinking-mini模型上应用这一策略后，幻觉错误率从其前身o4-mini的75%显著降低到26%[^1][^4]。这是一个技术上的巨大飞跃，量化数据支撑了评估机制变革的有效性。
然而，这一进展并非没有代价。正如Hacker News上的评论者meshugaas所指出的，GPT-5-thinking-mini模型超过一半的回答最终会是“我不知道”[^1]。这随即引发了深刻的商业实用性讨论——“没有人会使用那种东西。”[^1]
从TechCrunch的商业敏锐度视角来看，这揭示了一个严峻的商业悖论：用户期待AI能够提供即时、自信且权威的答案，即使这意味着偶尔的错误。一个过于“谦逊”或频繁拒绝回答的AI，尽管在技术上更“诚实”，却可能严重影响用户体验和商业价值。这不仅是技术问题，更是产品设计、市场定位和用户心理的综合考量。如何平衡AI的可靠性与可用性，将是未来AI产品化过程中必须解决的关键问题，甚至可能催生新的商业模式，例如，结合人类专家进行“不确定性”部分的验证，从而形成人机协同的增强智能服务。
哲学思辨：幻觉是缺陷还是特性？
关于LLM幻觉的本质，学界和产业界存在着多元甚至对立的观点，这体现了Wired杂志所强调的哲学思辨深度。ThoughtWorks首席技术官Rebecca Parsons就认为，LLM幻觉并非错误，而是一种特性：
LLM 所做的事情本质上就是产生幻觉，只不过我们发现其中一些幻觉对我们来说是有用的。[^1]
这一观点挑战了我们对“错误”的传统定义，暗示了AI生成内容可能超越简单的事实核查，进入创造性甚至解释性的范畴。与之相对，著名AI批评家Gary Marcus则强调，尽管LLM模仿了人类语言结构，但它们对现实没有任何真正的把握，其输出内容的肤浅理解使其无法进行有效的事实核查[^1]。
Hacker News上的didibus也指出，将LLM的错误标记为“幻觉”背后可能存在营销动机，并强调：“如果你停止将它们拟人化，回归到它们作为预测模型的本质，那么预测出错也就不足为奇了。”[^1] 这引发了关于AI“拟人化”的批判性思考。我们是否过度赋予了LLM“理解”和“认知”的能力？它本质上是一个复杂的统计预测机器，其“幻觉”可能只是其概率预测在特定语境下的“失真”，而非人类意义上的“虚构”。
这场关于幻觉定义的争论，实际上是对AI智能本质的深刻探讨——AI如何“知道”？它的“知识”与人类的“知识”有何不同？这不仅是技术定义问题，更关乎我们如何构建人机信任，以及未来人类与AI共存的社会基础。
未来AI发展路径：重构信任与智能的评估标准
OpenAI的这项研究，其深层意义在于促使我们全面重构AI的评估体系。仅仅增加一些不确定性感知测试是远远不够的，而是需要**“对所有主要的评估指标进行全面更新，使其评分机制能够有效遏制模型的猜测行为”**[^1][^2]。
展望未来3-5年，这一洞察将驱动AI领域向多个方向演进：
- 评估机制的范式转变：行业将逐步采纳更复杂的评估指标，奖励模型的“校准不确定性”（calibrated uncertainty）。这意味着模型不仅要给出答案，还要给出对答案置信度的准确估计。这将推动可信赖AI（Trustworthy AI）的发展，尤其是在医疗、金融、法律等高风险应用领域。
- “谦逊”模型的崛起：除了追求更高的准确率，AI模型的“谦逊”（humility）将成为一个新的核心竞争力。能够识别自身知识边界并适时拒绝回答的模型，将比那些总是“自信地犯错”的模型更受信任。这可能催生新的模型架构，集成元认知（meta-cognition）能力，或者更鲁棒的知识图谱与外部工具调用机制来验证信息。
- 人机协作的新模式：当AI频繁表示“不确定”时，它不是无能，而是将问题交由人类专家处理，形成一种高效的人机协同过滤系统。这种模式将重新定义人与AI的分工，AI作为初步信息处理和智能辅助，人类作为最终判断和责任承担者。这将对未来的工作方式、教育体系产生深远影响。
- 产业生态的重塑：如果评估标准发生根本性变化，那么整个LLM研发、部署和商业化的产业链都将受到影响。模型提供商将更加注重模型的可靠性和可解释性，而非盲目追求高准确率；企业客户将更看重模型在不确定性场景下的行为表现；投资者也将重新评估AI项目的价值逻辑，更青睐那些在可靠性上有所突破的团队。
- AI伦理与治理的深化：此次研究再次强调了AI伦理的重要性。如何设计评估，避免系统性偏见？如何确保AI的“谦逊”不会被滥用，从而推卸责任？如何就“幻觉”的定义达成共识？这些都将成为AI治理框架中不可或缺的议题，需要技术开发者、政策制定者和社会各界的共同努力。
OpenAI的这项研究如同一面镜子，映照出当前大语言模型在追求“智能”过程中的内在矛盾。解决幻觉问题不仅仅是技术攻关，更是一场关于AI本质、人类期待与信任重建的深层对话。通过重塑评估机制，我们或许能够引导AI走向一个更为负责任、可信赖且与人类智慧相辅相成的未来。