随机抽样在认知上是浅薄的：法学硕士中温度变化和模型多样性之间的维度差距

arXiv:2607.20464v1 公告类型：新 摘要：当语言模型在重复运行中给出不同的答案时，这种变化是否揭示了它不知道的内容？自我一致性通过多数投票将变化转化为每个问题的不确定性估计。但同样的变化是否揭示了交叉问题结构——相关问题翻转在一起，就像多样化的整体那样？我们对相同问题的两种方案进行比较：一个模型在 $\tau=1$ 下运行 $100$ 次，而由 $24$ 的 LLM 组成的整体在 $\tau=0$ 下运行一次。 Marchenko-Pastur 随机矩阵测试将信号与两侧的采样噪声分开。在任何单一模型中，至多一个维度在五个系列和三个基准（MMLU、HellaSwag、GSM8K）中超越噪音。在整个集合中，四个特征值消除了噪声边缘，而匹配难度的伯努利零值最多只产生 $500$ 蒙特卡洛抽奖中的一个。自我一致性给出了每个问题的准确不确定性，但没有可检测到的交叉问题结构；只有多样化的集合才能表现出模型不知道的东西。