美国和中国讨论就人工智能国家安全威胁相互发出警报

美国和中国官员已开始谈判，提议建立一种机制，让两国相互通报可能威胁国家安全的人工智能事件。美国财政部长斯科特·贝森特表示，在这个名为“美中人工智能对话”的框架中，两国代表将再​​次会面讨论这项技术，并试图就共同目标和威胁达成一致。贝森特周日对记者表示：“我们认为，就像任何跨境活动一样，世界第一和第二大人工智能强国之间从不透明转向更加透明非常重要。”贝森特表示，讨论从美国总统唐纳德·特朗普五月访问北京后中断的地方继续进行。从那时起，公众对该技术的安全担忧与日俱增。今年夏天发生的安全事件，包括 OpenAI 的代理黑客入侵 Hugging Face，突显了前沿模型的能力以及行业的防护措施如何未能跟上步伐。本月早些时候，在 Anthropic 员工警告人工智能可能会消灭人类之后，恐惧达到了顶峰。最近几周，包括 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 和 Elon Musk 在内的最大前沿实验室的领导人呼吁在制定安全标准的同时放慢技术的开发速度。在一篇建议实验室和政府加快技术发展步伐的文章中，阿莫代要求政府协助建立国际协调，包括与中国共产党的协调。尽管两党对监管该行业的支持不断增加，但特朗普迄今为止基本上对他们的呼吁不予理睬。美国政府辩称，美国政府已经对开发商拥有足够的刑事和监管权力。他并不孤单。构建人工智能基础设施的英伟达首席执行官黄仁勋指出，人工智能公司已经受到网络安全和损害责任法的约束。 “首先应用它，”他在周末接受哥伦比亚广播公司新闻采访时说道。 “不要让这种世界末日的叙述让某人解除他们目前存在的法律。”特朗普表示，任何放缓都可能将美国在技术领域的领先地位拱手让给中国——这是一种危险，因为用他自己的话说：“谁赢得了人工智能，谁就获胜了！”他的首席科学顾问戴维·萨克斯(David Sacks)此前警告称，“中国不太可能加入一项关于技术发展的全球协议”。英伟达最近同意收购的开源人工智能平台 Hugging Face 的联合创始人托马斯·沃尔夫 (Thomas Wolf) 质疑美国是否可以建立全球合作，同时“明确表示希望将其设计为不断扩大自己的领先优势”。 “对我来说，这似乎是一种适得其反的开始对话方式，”他在 X 上回应阿莫迪的文章时写道。美国目前正试图通过限制向中国出口先进芯片和芯片制造技术来遏制中国在人工智能领域的进步。贝森特表示，官员们在本周末的会议上没有讨论美国的这些出口管制问题，会议也以贸易讨论为主题，并且在中国国家主席习近平本周访问华盛顿之前“非常成功”。