特朗普的人工智能安全“协议”是一个花哨的小指誓言

周二，谷歌、Anthropic、Meta、OpenAI、xAI 和 Nvidia 的高管都签署了“超级智能白宫协议”，该协议是在唐纳德·特朗普总统举行的午宴后宣布的。正如特朗普所说，这一努力是一种“巨大的自我监管”行为，但该协议并不是公司内部人士一直要求的全面的人工智能监管。虽然不履行这些公开承诺可能被视为对消费者非法撒谎，但即便如此也不足以引发大规模改革。该声明称，公司“应该实施”几件事：首先，他们应该确保拥有“强大的内部控制”来监控其模型的能力以及不以非预期方式进行欺诈或黑客攻击的能力。其次，他们应该“授权”内部团队来做这项工作（并在出现问题时进行补救）。第三，它鼓励他们与“有权”进行独立评估的外部监督员合作，以确保所有这些工作都在进行。最后，他们应该确保董事会设立了一个委员会来接收有关所有这些努力的报告。这些自愿承诺在一定程度上表明，前沿实验室正在努力研究如何生产对公众安全的产品。然而，如果美国政府对一揽子支持有任何希望，那么在联邦贸易委员会打算就潜在的消费者保护问题调查几家人工智能公司的消息传出后，这些希望很快就破灭了。该声明是围绕人工智能监管数周争论的高潮。此前，前沿人工智能实验室也在寻求反垄断豁免，以便他们能够在不受监管审查的情况下协调安全工作。 （值得注意的是，反垄断专家和从业者表示，这样的豁免是没有必要的，因为研究人员警告说，如果不采取任何行动，人工智能将终结人类，这可以说是反竞争的，因为人类是任何特定市场的重要组成部分。）这一特定声明已经有很多内容，但这并不是这些公司第一次与政府签署关于其人工智能安全实践的自愿协议。 2025年初，英国和韩国宣布了一套“前沿人工智能安全承诺”，其中包括承诺针对“严重和新颖的威胁”对人工智能模型进行内部和外部红队，以及就人工智能安全问题“努力实现信息共享”。谷歌、Anthropic、Meta、OpenAI、xAI 和 Nvidia 没有回应置评请求。白宫也没有立即回应。