不要被愚弄——法学硕士不会推理

这就是为什么许多关于 AlphaGo 与李的比赛的描述都将第 37 步描述为纯粹机器直觉的闪现。但这是一种误解。事实上，AlphaGo 的推理能力做出了这个创造性的选择——而这些正是当今人工智能所缺乏的能力。如果我们希望未来的人工智能系统在科学和医学等领域产生值得信赖的结果和真正新颖的见解，我们需要为它们配备这种真正的推理能力。 AlphaGo 由两个系统组成。第一个是其政策网络，经过训练可以猜测强大的人类会下什么棋。这个“直觉”部分认为第 37 步没什么特别的——这个棋法由人类专家棋手下出的几率大约为万分之一。 AlphaGo 选择它的原因是该程序的搜索机制，它超越了眼前的合理性，并权衡了拟议棋步的未来后果。它明确地构建并搜索了一个具有数千个分支的博弈树，每个分支代表一个不同的可能的未来。由丹尼尔·卡尼曼 (Daniel Kahneman) 推广的行为科学中的一个著名理论区分了人类思维的两种模式：系统 1 是快速的、本能的、毫不费力的；系统 1 是快速的、本能的、毫不费力的；系统2，缓慢、循序渐进、深思熟虑。 AlphaGo 提供了一个与这种分裂类似的引人注目的机器。它的网络提供了预感——这一举措看起来很有希望，这个位置看起来已经获胜了——而它的搜索提供了深思熟虑，根据接下来的举措和反措施来测试这些预感。正如人类认知一样，任何一半都不是单独运作的。仅靠直觉永远不会选择第 37 步，而暴力搜索则很难筛选出所有可能的步法。这与当今人工智能模型的工作方式截然不同。大型语言模型一遍又一遍地选择下一个标记。这相当于系统 1 的实际应用——快速、联想，并且在人们所写的几乎每个主题上都具有令人惊讶的良好模式完成能力。