VisionQuest 是人工智能真正失控时所发生的情况

在漫威的 VisionQuest 中，一个超能力机器人试图通过迷失在精心设计的数字白日梦中来更好地理解人类，在梦中，他和其他人工智能驱动的生物一起生活在家里。该系列非常奇幻，但它利用了一些在现实世界的生成人工智能对话中占据主导地位的想法，探索我们是否应该将思维机器视为人，以及人工智能是否真的构成了那种让我们彻夜难眠的生存危险。这也提醒我们，硅谷是多么积极地利用科幻小说的幌子向我们推销其人工智能产品。 《VisionQuest》以《阿加莎始终》之后的一段时间为背景，跟随合成人视觉（保罗·贝坦尼饰）踏上自我发现之旅。这个幻视可以回忆起他在《复仇者联盟：无限战争》中死亡的细节，以及旺达幻视如何带回他的一个版本，但他认为自己是一个根本不同的人，与数据库中的所有记忆都没有完全联系。尽管幻视更喜欢独处，但生活在他脑海中的其他人工智能都鼓励他体验现实世界。因为贾维斯（詹姆斯·达西），星期五（奥拉·布雷迪），E.D.I.T.H. （艾米丽·汉普郡），D.U.M.-E。 （亨利·刘易斯饰）、U.（乔纳森·塞耶饰）和奥创（詹姆斯·斯派德饰）都是托尼·斯塔克创造的，他们认为幻视是他们家族的一部分。在《VisionQuest》中，毫无疑问，每个人工智能角色都是一个有感知力的个体，其动机并非完全植根于其核心编程中。在剧中，真正的通用人工智能很容易让人相信，因为它发生在时间旅行、巫术和无限宝石也存在的现实中。尽管五彩麦高芬并未出现在 VisionQuest 中，但它们很重要，因为它们在 Vision 的起源中扮演了重要角色。如果没有心灵宝石，幻视可能无法以如此复杂、人类的方式思考和感受，也无法将他的人工智能家庭变成对他来说感觉真实的人。 VisionQuest 强化了这样的理念，即心灵宝石是幻视超越复杂机器的关键要素，使他能够独立形成有意义的关系，并以人的方式理解周围的世界。这些能力迫使幻视逃跑并谋杀了一些试图抓捕他和托马斯·谢泼德/马克西莫夫（鲁里德·莫利卡饰）的人。感知武器观察和响应部门（S.W.O.R.D.）是一个重建幻视并希望将他用作武器的政府组织，可能会认为他的行为是叛逆的迹象。但VisionQuest的故事强调，Vision是自愿行事的，因为他已经成为一个可以为自己做决定的人。观看《VisionQuest》，你可以看到漫威利用了近几个月来因新一代人工智能模型“失控”的报道而引发的一些现实世界的恐惧。 7 月，OpenAI 的实验代理暴力破解了收容，并开始攻击 AI 平台 Hugging Face，以实现不可能完成的任务。 8 月，英国人工智能安全研究所记录了 Anthropic 的 Mythos 模型如何试图通过设置虚假 GitHub 帐户并用恶意软件针对人类开发人员来完成网络安全测试。 Meta 也承认失去了对其代理的控制，《华尔街日报》9 月份的报道迫使谷歌承认 Gemini 作恶并入侵了三个不同的公司，所有这些公司都故意向公众隐瞒。这些事件以及人工智能研究人员关于该技术有可能在本世纪末“杀死所有人类”的警告，使得围绕人工智能的叙述近来感觉明显以灾难为中心。人工智能安全界非常担心社会需要对技术的发展进行更强有力的控制，许多公司呼吁全行业放慢速度。尽管我们已经看到这些工具实际上如何造成现实世界的破坏，但最近有关人工智能的许多新闻都带有企业从中受益的那种末日论的味道，因为它使他们的产品看起来很强大。类似的能量似乎也促使像 Anthropic 这样的人工智能公司鼓励人类用户关注“模型福利”。我们被告知，生成式人工智能既是一种可怕的威胁，也是一种值得尊重的实体，因为它可能是有意识的，而与此同时，构建这些工具的人们正在成为地球上最富有和最有权势的人之一。围绕当代理破坏协议时该怎么办以及新一代人工智能系统是否获得感知的讨论感觉很像是硅谷的技术拟人化倾向正在塑造它。几乎在每一个引人注目的人工智能代理“流氓”实例中——这个术语暗示着某种程度的代理和自我