“超级智能”和不具约束力的安全协议能否解决人工智能的形象问题？

唐纳德·特朗普总统本周接待了人工智能领域的许多知名人士，部分原因是为了宣布美国政府不再称其为人工智能。现在已经是超级智能了。在最新一期的 TechCrunch 股票播客中，Kirsten Korosec、Sean O’Kane 和我讨论了这次会议背后的动机以及它可能对人工智能行业产生的影响。我们都非常怀疑高管们签署的“前沿责任联合承诺”的意义何在，特别是因为——正如肖恩指出的——它“完全不具有约束力”，至少从法律角度来看是这样。 （相反，特朗普表示他认为这“具有道德约束力”。）克尔斯滕表示，这次会议的真正意义可能是“围绕人工智能的重塑品牌的努力”。 （特朗普在本周末宣布建立新的超级情报部队，这一努力仍在继续。）对她来说，最重要的信息是，“人工智能将杀死我们，这很可怕，它将夺走工作岗位——但超级智能不会。”继续阅读我们的对话预览，我们的对话经过了长度和清晰度的编辑。安东尼·哈：根据美国总统的正式命令，这不再是人工智能，而是超级智能。我们上周讨论过这个问题，因为这是[特朗普]一直在暗示的事情——他没有做任何暗示，他已经说了有一段时间了。但现在它已签署为行政命令。如果你是美国官方代表，你应该说超级智能，而不是人工智能。这也是围绕人工智能安全的更广泛公告的一部分，我认为这对于所宣布的协议来说很有趣，而且它确实发生了这一事实。它似乎很快就走到了一起，因为就在两周前，一周前，特朗普总统说，“我们不需要这些，我们需要引领人工智能，我们不能以任何方式限制它，我们不需要任何监管，任何说人工智能有任何危险的人本质上都是中国或民主党的工厂。”然而，所有这些人工智能首席执行官本周早些时候都与他聚集在一起并签署了这份协议。克尔斯滕·科罗塞克（Kirsten Korosec）：我们应该说，在此之前，不仅存在监管方面的阻力，而且我们可以讨论这项行政命令是否真的做到了这一点——我想说不，这里面有一点戏剧性——但重要且有趣的是，就在几天前，如果你愿意的话，就特朗普总统幕后发生的事情而言，人类真的陷入了困境。当 [Anthropic 首席执行官] Dario Amodei 受邀参加晚上 10 点的一场活动时，一切都发生了变化。晚餐。他坐下来，几天后，我们举行了午餐会，在这次午餐会上，我们几乎邀请了来自现有各大科技公司的所有技术权力经纪人。马克·扎克伯格在那里，杰夫·贝佐斯在那里，埃隆·马斯克在那里，达里奥当然在那里，他们都在那里。我想知道你们中是否有人观看了随后举行的新闻发布会，有很多很多模因，因为当你将一群科技首席执行官聚集在一起时，会出现有趣的行为。但我想对你们俩来说更大的问题是：这一切意味着什么？这有什么意义吗？肖恩·奥凯恩：你有多少时间？首先，当然，特朗普和达里奥他们共进晚餐。如果你读过特朗普刚刚接受的《时代》杂志采访，你的猜测和我的一样好，他是如何得知那顿晚餐甚至将要发生的，这是一个奇怪的现实生活，但这只是我们生活的现实。我还要说另一件事，让我对政府和 Anthropic 之间的关系如何修复表示怀疑——惊讶，惊讶——是，尽管显然有人试图将这两个群体放在一起，但国防部仍然非常坚定地认为，Anthropic 是可怕的、觉醒的，并且存在国家安全风险。埃米尔·迈克尔 (Emil Michael) 似乎每隔一天就会在《X》节目《人性》(Anthropic) 上表演一次。我认为尽管达里奥出现在这件事上，但仍有一段距离。就协议和所有这一切而言，说实话，他们在签署的协议上拼错了“美国”。它也完全不具有约束力。我的意思是，这完全是自愿的。我认为我最喜欢的方面是特朗普将其描述为“具有道德约束力”，这只是我以前从未听说过的抽象和术语水平。安东尼：就 Anthropic 及其与特朗普政府的关系而言，有很多报道，特别是在与国防部的大冲突期间，白宫的不同部门与 Anthropic 有着不同的关系。财政部长似乎是该技术的忠实粉丝，而国防部则绝对不是该技术的忠实粉丝，或者至少对 Anthropic 试图为使用其技术提出的一些条件不满意。从这个意义上说，它