人工智能启示录可能是这样的

利亚·费格：好的。这对我来说非常有帮助，我们将其分为这三类。 Zoë Schiffer：我喜欢水桶。 Leah Feiger：我喜欢水桶。我想逐一详细介绍这些内容。我想我的第一个问题是，核密码在哪里被按下，它们落入哪个桶？ Brian Barrett：这实际上是我们不必担心的，对吧？佐伊·希弗：是的。利亚·费格：告诉我更多。 Zoë Schiffer：你和人工智能研究人员交谈，如果你真的、真的向他们施压，你就可以得到我刚刚列出的三个桶。但如果你继续和他们交谈，他们会说，“嗯，还有其他一些场景，人工智能在机器人中，机器人四处走动，然后机器人可以以一种非常非常可怕的方式与物理世界互动。”但这有点遥远，他们会承认这有点牵强。 Brian Barrett：所以我认为，Zoë，就你的桶而言，我想在桶中切出一个子桶或一个小桶。 Zoë Schiffer：哇，一桶。布莱恩·巴雷特：不，因为你说人工智能创造了生物武器，人工智能破解了某些东西，人工智能什么的，所有这些：都是真的。但我认为人类引导的事情与人工智能自己做的事情之间存在区别。我想很多人都会想，“哦，人工智能如何释放生物武器？这太疯狂了。”是的，当然，很好。但世界上也有坏人可能会利用人工智能制造生物武器然后释放它，对吗？ Zoë Schiffer：哦，好吧，我的意思是，我认为这种情况是完全有效的。对我来说，如果你说让人们获得有关如何制造生物武器的信息，那么一定会有人足够愚蠢和鲁莽地真正做到这一点。我想，不，完全如此。人们一直在做各种可怕的、危险的、恶意的事情。 Leah Feiger：灵感来自互联网。佐伊·希弗：对。我认为这真的非常非常危险。人工智能完全独立完成这件事，我们将再次讨论这个场景，但在我看来，这有点牵强。 Brian Barrett：我可能会因此受到嘲笑，但我确实想带我们回到 1983 年的电影《战争游戏》。 Leah Feiger：不，我认为这正是我们应该讨论的。这是我的……是的。 WarGames 是……是的。布莱恩·巴雷特：因为事情是这样的，人工智能不会按下按钮或转动钥匙或其他什么，但在《战争游戏》中，基本上是关于人工智能的，一台几乎引发核战争的计算机，它更多的是让美国认为它受到了苏联核武器的攻击。那么，我想，我希望，我不是这里的专家，那么是否存在风险，我们有足够的保障措施，实际上不会发生这种情况，而且我们有足够的卫星技术能够确认各种事情。没关系。但我认为，可能值得关注的向量是人工智能触发某种警报，从而导致一系列灾难性事件。