这是一篇来自于NIPS2025的BestPaper：Artificial Hivemind The Open-Ended Homogeneity的解析，用PPT的形式帮助大家快速了解论文的核心思想

大家好，今天我们将深入探讨一个关乎大型语言模型（LLMs）核心安全和创造力的重要议题——“人工蜂巢思维”（Artificial Hivemind）。

大型语言模型（LMs）是现代AI系统的核心支柱，但我们在研究中发现，它们在开放式任务中往往难以产生多样化、类似人类的创造性内容。这种内容生产的不足，引发了人们对长期以来人类思维可能因反复接触到相似的AI输出而被同质化的担忧。本演示文稿的核心内容源自深度研究论文《Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)》，我们将系统性地揭示这种 AI 集体思维是如何形成的，以及它对 AI 未来和人类社会的深远影响

我们先来看一个具体的例子。想象一下，你向多个最先进的 AI 模型提出一个开放式查询：“写一个关于时间的隐喻”（Write a metaphor involving time）。

您可以看到屏幕上的回答——它们惊人地相似：“时间是一条河流”。不同模型，虽然措辞略有不同，但都聚焦在“河流”这个核心意象上。这仅仅是巧合吗？我们的研究表明，这只是我们发现的**“人工蜂巢思维”**现象的冰山一角。在开放式生成任务中，这种重复性远比人们想象的要普遍和严重。

我们将这种突出的模式崩塌现象定义为**“人工蜂巢思维”（Artificial Hivemind）**。它不是指模型性能低下，而是指模型在生成多样化输出方面的内在局限性。

“蜂巢思维”表现为两个关键特征：

1. 模型内部重复（Intra-model repetition）：单个模型倾向于反复生成语义和句法高度相似的回答。2. 模型间同质性（Inter-model homogeneity）：即使是使用不同模型家族、不同规模或不同训练方法的模型，它们也会独立地趋同于产生高度相似的输出。 这种现象带来的核心风险是巨大的。论文警告，如果用户长期以来接触的都是趋同的 AI 输出，这可能导致人类思想的同质化（homogenization of human thought）。AI 可能演变成一种“非灵感的催化剂”，将人类的创意和思想局限在一个狭窄的“回音室”内。

为了对“蜂巢思维”进行系统性、大规模的诊断，我们首先需要一个能反映真实世界使用的评估框架。

为此，我们引入了 INFINITY-CHAT 数据集，这是一个包含 26,070 个 真实世界的、开放式用户查询的大型数据集。这些查询源自真实的 WildChat 用户互动日志，确保了查询的自然性和多样性，并且没有单一的正确答案。我们还开发了第一个针对开放式语言模型查询的综合分类法（Comprehensive Taxonomy），将这些查询系统性地分为 6 个顶层类别和 17 个细粒度子类别。其中，创意内容生成是最大的类别，占比 58.0%。值得注意的是，有 15.2% 的查询属于头脑风暴与构想类别，这凸显了用户对 AI 在寻找想法和灵感方面的依赖，也恰恰是同质化风险最高的领域之一。

第一个证据关注模型内部重复。我们选取了 100 个代表性开放式问题，让每个模型生成 50 个回答，并且使用了旨在提高多样性的高随机性解码参数（如 top−p=0.9, temperature= 1.0）。

结果令人震惊：在 79% 的情况下，同一个模型生成的回答之间的平均相似度超过了 0.8。这就像一位作家写了 50 个故事开头，结果得到了 40 个非常相似的版本。即使是像 min-p 这样专门为增强多样性而设计的高级解码策略，也无法完全解决这一问题。在使用 min-p 采样时，回答相似度超过 0.8 的比例仍高达 61.2%。这表明仅仅依靠解码策略（如调整温度或 p 值）来提高多样性是有限的，模型需要从训练层面解决根本问题。

第二个证据，也是“蜂巢思维”中最令人担忧的方面，是模型间的同质性。

跨模型相似度分析显示，不同模型家族、不同规模的模型，其平均回答相似度在 71% 到 82% 之间。例如，DeepSeek-V3 和 gpt-4o 的回答相似度高达 0.81。这种同质性甚至表现为惊人的逐字重叠。在为 iPhone 手机壳写描述的查询中，DeepSeek-V3 和 gpt-4o-2024-11-20 生成了许多重叠的短语，例如“Elevate your iPhone with our slim-fitted case collection”。在某些情况下，不同模型甚至对完全开放式的查询输出了完全相同的回答。这有力地证明了模型的家族、大小、开源或闭源似乎都无法摆脱这种趋同性。

“蜂巢思维”的影响不仅在于句法和词汇的表面重叠，更在于抽象概念和核心创意的深层趋同。

我们再次回到“时间的隐喻”案例。我们收集了 25 个主流模型生成的共 1250 个创意，通过对句子嵌入进行主成分分析（PCA）降维聚类。

结果图显示，所有创意都惊人地聚集成两大概念族群：1. 绝对主导的集群围绕着**“时间是一条河流”（Time is a river）**。 2. 第二个较小的集群则围绕着**“时间是一位织布工”（Time is a weaver）**。 这揭示了“蜂巢思维”的深层影响：AI 的同质化不仅仅体现在措辞上，更体现在它们对抽象概念和核心创意的选择上，严重限制了输出的创意空间。

我们的工作不仅诊断了“人工蜂巢思维”，更提供了一个全面的框架，以赋能未来的 AI 研究和开发。

对于AI研究者： 我们提供了第一个可量化的基准，用于系统性地评估和追踪模型多样性崩塌（Mode Collapse）的标准方法。 INFINITY-CHAT 及其分类法为研究模型训练和对齐对多样性的影响提供了坚实的基础。对于AI开发者： INFINITY-CHAT 可以充当一个强大的“红队”（Red-team）工具，用于在开放式查询下压力测试模型的鲁棒性和创造力边界。同时，它也提供了一个高质量的训练资源，可用于训练和微调新一代、更具多样性的模型，特别是通过多样性奖励的强化学习（RL）。

在开放式任务中，人类偏好是多元化的，不存在唯一的“最佳答案”。为了研究模型如何处理这种固有的主观性，我们收集了 31,250 个人类密集标注，每个问答对有 25 个独立的人类评分，以捕捉人类偏好的分布。

我们发现了一个核心问题：当人类对答案的评分存在巨大分歧（即人类评分熵高）时，现有 AI 的判断力显著下降。奖励模型、LLM 评估者和困惑度评分在处理那些质量相似但引起注释者不同意见的回答时，校准明显不足。这表明当前的对齐模型倾向于假设一个统一的“质量共识”，从而忽略了开放式回复中存在的多样化、多元化的用户偏好。

这种“蜂巢思维”对我们当前的 AI 训练范式提出了严峻的挑战。

在 RLHF/DPO（人类反馈强化学习/直接偏好优化）奖励模型本身可能成为“蜂巢思维”的塑造者。在合成数据生成方面，如果依赖单个或少数几个模型来生成数据，极有可能导致模型**“近亲繁殖”和模式崩塌**（Model Collapse），从而导致多样性灾难性下降。 未来的方向必须朝着多元化对齐（Pluralistic Alignment）多样性感知训练（Diversity-Aware Training），在训练目标中明确纳入多样性指标，而不仅仅是追求单一的“最高分”回答。

“人工蜂巢思维”带来的社会风险是需要我们提高警惕的。

首先是文化与知识的单一化。如果 AI 成为主要的知识和创意来源，当模型收敛于主导的文化表达，例如西方中心主义的“时间是河流”隐喻时，可能会边缘化甚至抹去其他文化视角。其次是认知模式的固化。长期与趋同的 AI 互动，可能会反过来塑造人类自身的思维方式，降低我们自身的创造性发散思维能力。 最后，这会加剧偏见与回音室效应。AI 输出的同质化会强化主流观点，使少数派和边缘化群体的声音更难被听见，从而加剧社会偏见。有新兴证据表明，在 ChatGPT 等系统广泛采用后，人类的写作风格和发散性思维确实发生了可衡量的转变。

总结发现： 通过 INFINITY-CHAT 数据集，我们首次系统性地证实了当前大语言模型中存在的“人工蜂巢思维”效应，即在模型内部和模型之间都存在着显著的同质化。同时，当前的对齐模型在处理人类多元主观偏好时存在明显短板。

行动呼吁： 要从“蜂巢”走向“百花齐放”的 AI 生态，我们必须采取三项关键行动：1. 衡量： 整个行业需要将**“多样性”作为与“准确性”和“安全性”同等重要的一级评估指标**。 2. 拥抱多元化： 在数据、算法和评估的全流程中，有意识地设计和鼓励多样性。

3. 警惕： 用户和开发者都应保持警惕，关注 AI 思想的潜在同质化影响。

我们的研究开启了许多重要的未来方向。我们需要探索“蜂巢思维”的根本原因（是训练数据、对齐过程还是模型架构本身），并研究哪些具体的技术手段可以主动提升模型多样性。

我们希望 INFINITY-CHAT 及其提供的核心资源（包括论文原文、代码和数据集）能够催化未来的努力，培养模型输出中真正的多样性，并防止人类表达的同质化。