AI巨頭前僱員：同業「真誠恐懼」人類遭滅絕，西方必須與中國協調

BBC / 前 Anthropic 员工谈人工智能：“人类有可能灭绝。”（英文影片） 一名已离开 Anthropic 的人工智能（artificial intelligence, AI；人工智慧）研究员向BBC表示，从事这项技术工作的人对其进步速度及其对人类可能造成的影响“真诚地感到恐惧”。 雅各布·考克森（Jacob Coxon）星期六（9月12日）接受BBC的劳拉·昆斯伯格（Laura Kuenssberg）访问，谈及他一篇引起广泛关注的辞职帖文，当中他对失控的人工智能提出忧虑。 他说：“我相信，如果我们不放慢目前的发展步伐，我们很有可能在不久的将来全部丧命。” 他的辞职正值业界对安全问题的忧虑日益加深之际，包括来自其前上司、Anthropic 总裁达里奥·阿莫代伊（Dario Amodei）的警告。阿莫代伊在星期六发表的一篇文章中主张放慢人工智能发展速度。 然而，一些业界人士认为相关危险被夸大了，这可能是为了在两家最大的人工智能公司潜在上市前制造声势，或促使当局推出监管措施，从而拖慢竞争对手的发展。 来自英国，27岁的考克森，其研究重点是训练人工智能模型。他表示，包括伊隆·马斯克（Elon Musk）及 OpenAI 的山姆·阿尔特曼（Sam Altman）在内的人工智能领袖，都曾表达与阿莫代伊类似的忧虑。 考克森说：“他们都曾表明，有必要谨慎应对人工智能接管世界的潜在可能。他们全都谈论过这件事。人工智能接管世界意味着人类灭绝。” 考克森认为，最难回答的问题是，这种情况究竟会以什么形式出现。 考克森说：“任何你能具体描述的情境，最后听起来都像科幻小说。”但他指出，许多已经实现的技术进展，在过去同样会被视为虚构故事。 考克森表示，其中一种潜在情景是人工智能代理人入侵医学实验室，以“自主制造致命病毒”。他列举的另一个例子是，人工智能入侵“全球赖以运作的关键基础设施”。 这名研究员指出 OpenAI 最近一份报告，当中详细说明其技术如何对名为 Hugging Face 的网上平台发动一连串黑客攻击。 考克森说：“它们是在没有人类鼓励的情况下自主进行的。它们自行选择发起这场黑客行动。这是事情变得更快与事情变得更可怕的结合。” BBC Anthropic 总裁阿莫代伊提出“三点计划” BBC记者保琳·科拉（Paulin Kola）、BBC北美科技记者莉莉·贾马利（Lily Jamali）旧金山（三藩市）报导 Reuters / Anthropic 联合创办人阿莫代伊表示，发展人工智能别无选择。 在达里奥·阿莫代伊题为《我们必须控制前沿发展的步伐》（We Must Pace the Frontier），于星期六公开发表的文章中，他提出一项三点计划，包括在人工智能模型开发期间进行独立监察、推动全行业监管，以及建立全球监管机制。 这位 Anthropic 行政总裁其后谈及放慢发展步伐将对业界及与全球领先开发商，尤其是与中国之间的竞争所带来的影响。 阿莫代伊表示：“我相信，如果放慢速度能让我们在模型达到关键能力水平之前多争取一至两年时间，而我们利用这段时间推进对齐研究（alignment），我们就能大幅降低发生严重问题的风险。” 他表示，这必须以协调一致的方式进行，“同时不牺牲商业优势或美国在人工智能领域的领先地位”。他说，任何放慢速度的措施都必须有所限制，以免让中国实现赶超。 他敦促美国政府采取措施，确保美国企业的人工智能晶片不会出售给中国，亦不会向威权国家分享相关技术。 随着这项建议广泛流传，甚至连竞争对手也表态支持设立第三方监察机构，在模型开发过程中评估其安全性。 OpenAI 行政总裁阿尔特曼在 X 上写道：“我同意达里奥的看法，我们需要控制前沿发展的步伐。”他称独立评估人员是“一个很好的主意”。 马斯克则表示，这位 Anthropic 负责人“说得对”。 这些警告已促使外界呼吁采取行动，但美国总统唐纳德·特朗普（Donald Trump；川普）至今仍不接受这类忧虑。他于星期四（9日）表示，自己担心的是“如果我们无法在人工智能领域取胜，我们将会陷入非常不利的处境”。 点击阅读全文（英文） BBC 阿莫代伊言论中概述的风险之一，是一群如同超级电脑般运作的机械人程式，可能接管互联网。 考克森表示，这种情况有可能在六个月至一年内成为现实。 回应考克森离职一事时，Anthropic 发言人向BBC表示：“我们一直坦诚表示，人工智能既会带来巨大的利益，也会带来前所未有的风险。为应对这些风险，我们持续建立具备业内最强保障措施之一的模型。” 该发言人补充，该公司一直是研究人工智能模型运作方式的先驱，亦是首家发表框架以减轻相关发展风险的公司，并且会“积极地”测试其模型及公布结果，以协助外界审视，并防止出现“人工智能失准”事件。 “正因如此，我们相信，如果业界采取合法且可验证的方式合作，以控制强大模型的发布步伐，世界将会受益。” Reuters / Anthropic 在今年稍早一轮融资中的估值达到9650亿美元（6.47万亿元人民币；30.53兆元新台币）。 Anthropic 与 OpenAI 据报正准备进行有望打破纪录的首次公开招股（initial public offering, IPO）。业界人士认为，有关人工智能危险及力量的言论，可能旨在制造市场声势。另一些批评者则称，Anthropic 一直试图推动监管行动以阻碍竞争，使其与 OpenAI 形成双头垄断。 考克森的观点亦受到人工智能平台 Hugging Face 行政总裁克莱门特·德朗格（Clement Delangue）质疑。 他在 X 上写道：“抱歉，但向 Jacob 询问人工智能灭绝风险，就像向你的冷气技师询问气候变化一样。我不是说这一定没有意思或一定错误，但让我们保持事情的合理比例。” 不过，在阿莫代伊星期六发表文章后，Delangue 表示愿意协助参与 Anthropic 负责人提出的潜在解决方案。 多名与会人士向BBC表示，辉达（NVIDIA；英伟达）行政总裁黄仁勋（Jensen Huang）上星期在投资银行高盛主办的一场会议上，也曾在台下群众面前谈及考克森的言论。他们表示，黄仁勋认为这些说法并不真实。 黄仁勋此前曾表示，认为人工智能“将会终结人类”的想法是“完全荒谬”。 虽然因为 Nvidia 生产为人工智能系统提供运算能力的晶片，他或许在人工智能热潮中具有商业利益，但他的言论反映出矽谷对现任及前任人工智能从业员所发出的生存威胁警告，正出现日益强烈的反弹。 与中国协调？ Getty Images / 7月中旬在上海举行的世界人工智能大会上，中国国家主席习近平发言称，要加强人工智慧国际治理和合作，避免其成为“富国和富人的游戏”。 任何放慢研究及开发速度的做法，都需要科技巨头之间协调一致，同时亦要考虑来自中国的技术进展。考克森表示，这也许正是问题所在。 “这些公司里工作的人在要求监管时是非常认真的，因为他们发现自己被困在一场竞赛之中。而他们害怕这场竞赛的结果。” 他表示，这些从业员“正忧虑未来两年人类的命运”，并且“正在规划自己的人生”。 不过，考克森对人工智能的未来仍抱有一些乐观态度。他向BBC表示，研究这项技术的人“确实希望看到其正