探索大型语言模型灵魂的工具

伍迪·艾伦曾讲过一个老笑话，描述他作为一名大学生的经历：“我因形而上学考试作弊而被大学开除；我观察了坐在我旁边的男孩的灵魂。”如果伍迪·艾伦能够成功通过他的课程，他可能会领先于他的时代。形而上学正在成为当今的热门话题，似乎现在每个人都迫切希望在大语言模型（LLM）中寻找灵魂。去年四月，Anthropic 与宗教学者和哲学思想家举行了一次最近的会议，讨论了他们最新的克劳德模型的灵魂本质。看来他们需要达里奥·阿莫代无法提供的指导。现在似乎时机已经成熟，可以深入了解我们如何真正了解坐在您旁边的法学硕士的想法。有很多正在进行的研究；然而，同样的基础模型公司（其中包括 Anthropic 和 OpenAI）因将更多的计算资金投入到更好的模型而不是安全研究上而受到批评。机械可解释性是人工智能研究领域，致力于探索这些模型内部发生的事情，已经从 2021 年的少数研究人员发展到数百名活跃贡献者。然而，尽管存在资金缺口和缺乏更大规模的研讨会，研究界已经提出了一些有趣的见解和工具来帮助进行“对等”。我认为创建一个允许更多人加入的工具会很有趣，而不是坐在一旁思考如何做到这一点。这就是“TinyGPT Visualizer”开发的原因。我为此设定的目标很有限。我想要一个可以用来调查该领域并尝试实际技术以了解其工作原理的工具。作为一个视觉型的人，我开始考虑 X 光机——能够看到真实模型内部的东西。不是玩具模型。一个真实的，但足够小，可以在屏幕上看到它的所有工作部件。让我展示一下它的样子：您的浏览器不支持嵌入视频。下载视频。 TinyGPT Visualizer 演练：网络内部 我们可能想知道在我们的模型包含的数字矩阵集合中可以在哪里找到意识；数字就在那里可见。与人类的大脑不同，我们可以在思想形成时停下来观察这些数字，而不会杀死病人；而且，与人类的大脑不同，我们可以在这些数字中搜索模式和算法，以解释这些模型发出的结果，如格式良好的散文、代码、音乐和视频。我们会找到结构良好的情绪吗？如果是这样，他们将在数字中。哲学和宗教对我们有帮助吗？到目前为止，这些学科还不必依赖于数字和计算，但也许它们现在有了新的突破口。 TinyGPT Visualizer 是开源的。您可以在 GitHub 上找到代码、设置说明和文档：github.com/oshea00/tinygpt-viz。