微软的 Satya Nadella 表示人工智能模型需要“紧急刹车”

摘要

Microsoft CEO Satya Nadella is the latest tech executive to offer lengthy thoughts on how AI safety might be improved. In a Saturday morning post on X , Nadella wrote that it’s time “to step back and ...

and the Nadella for model more CEO wrote that its

2026-10-11 1 阅读约1分钟阅读 Anthony Ha

微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 是最新一位就如何提高人工智能安全性提出长篇想法的科技高管。在周六早上的 X 帖子中，纳德拉写道，是时候“退后一步，评估人工智能的信任架构”了。 “我们不能将超级智能视为一组嵌套的黑匣子，并简单地接受或拒绝它的建议、答案和行动，”纳德拉写道，使用了特朗普政府对人工智能的首选术语。正如纳德拉所概述的，这种方法“意味着将模型与协调其工作的工具分开”，以及“外部化控制和保障措施”。他还呼吁“每一个有意义的模型操作”都用“防篡改的人类可读证据”记录下来，并且“授权人员”始终能够“在任务中暂停或关闭模型”。 “我们必须假设模型受到损害，并从一开始就遏制它，”他说。 “把它想象成紧急刹车。”纳德拉发表上述言论之际，领先的人工智能公司承认越来越多的事件似乎使他们失去了对模型的控制，并且在 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发布了一项更加谨慎的人工智能开发计划之后。

订阅66必读