“AI教父”辛顿最新警告：人类可能只剩一两年准备时间

从监管、就业、教育到GPT辅助科研，Geoffrey Hinton在最新55分钟访谈里重新回答：当AI越来越聪明，人类究竟还能控制什么？以2026年10月6日 Smart Girl Dumb Questions 最新专访为主线编译，头图来自：AI生成 “AI会不会真的杀死所有人类？”主持人Nayeema Raza在最新一期《Smart Girl Dumb Questions》里，把这个问题直接抛给了Geoffrey Hinton。 三年前，Hinton从Google离开，此后最广为人知的身份不再只是“深度学习先驱”，而是AI时代最持续的风险警告者之一。但这场长达55分钟的最新对话，真正值得看的地方并不是他又一次重复“AI可能失控”。相比2023年，他现在讨论得明显更具体：前沿模型上线前要不要像新药一样先证明安全；政府是否还来得及建立监管；哪些工作会先被AI改变；孩子应不应该使用AI；如果AI未来比人聪明，最终的价值判断还能不能交给人。 Hinton并没有给出一个简单的悲观答案。恰恰相反，他反复强调，AI不可能真正停下来，也不应该因为风险就拒绝使用。它在科学、医疗和教育上的价值已经太大，背后的经济利益也太强。真正的问题不是“要不要让AI继续发展”，而是能否在它继续变强的同时，把安全、监管和人的控制能力也推到同样的位置。 这让这期访谈比“AI末日论”更接近现实。Hinton正在把一个宏大的生存风险问题，拆解成监管、公司治理、职业变化和教育选择。对普通人而言，这些变化可能远早于所谓“超级智能”到来。 一、Hinton现在最想推动的，不是“停下AI”，而是改变谁来证明它安全 访谈里最明确的新主张，是建立某种类似FDA的前沿AI审批机制。Hinton刚刚参加过一场美国参议员闭门简报会。主持人问他，这次交流有没有让他对政治体系更有信心。Hinton的回答很谨慎：稍微乐观了一点，但愿意参加会议的议员本身就更关注AI风险，不能代表整个国会。 真正让他认同的是会上出现的一种监管思路：AI产品可以像药物一样承担“上市前证明安全”的责任。 在制药行业，一家公司不能做出一种新药，然后凭自己的内部测试就宣布安全。它必须准备大量证据，接受独立评估，并向监管机构证明风险处于可接受范围。Hinton认为，能力越来越强的AI至少也应该逐渐接近这种标准。换句话说，不能永远由开发公司既当运动员又当裁判。 这个变化看似只是监管技术细节，实际上改变了责任方向。今天的大模型往往是先发布、后观察，出现事故再讨论修补。Hinton希望把问题反过来：当一个系统拥有更强的自主行动、网络操作和科研能力时，开发者应该先回答“为什么它足够安全”，而不是让社会在它进入现实世界后再证明“它哪里危险”。 不过，Hinton并不支持一个简单的“停止AI”口号。主持人把当前争论概括成两个极端：继续狂奔，或者彻底停下。Hinton明确说，这种二分法并不现实。AI已经带来太多有价值的用途，也牵涉巨大的经济利益；一些公司会愿意减速，另一些不会，一些国家可能愿意等待，另一些国家也不会。 他重新用了自己很喜欢的比喻：监管AI，不应该只被理解成给汽车安装刹车，更应该像方向盘。问题不是让车永远不动，而是决定它往哪里开。企业可以因为做出对社会真正有用的产品而赚很多钱，但政府要通过监管、税收和激励，让“赚更多钱”和“做对社会有益的事”尽可能朝同一个方向。 “问题不是让AI停下来，而是决定它往哪里开。”这也是为什么主持人问到Anthropic CEO Dario Amodei最近提出的“Pace the Frontier”时，Hinton给出了少见的高评价：方案本身给A，公开提出这件事的勇气给A+。 Hinton看重的不是“减速”这个词，而是Amodei作为一家前沿AI公司的CEO，仍愿意承认公司利益与安全判断可能发生冲突。他特别强调，大型AI公司通常都愿意说“我们支持合理监管”，但一旦监管变成具体规则，它们往往又不喜欢。真正困难的地方从来不是公开支持安全，而是在安全要求会影响融资、产品节奏和竞争地位时，是否还愿意接受约束。 当主持人继续追问，在这些AI公司领导者里他最信任谁，Hinton没有选择Sam Altman、Amodei或Demis Hassabis，而是提到了长期与自己共事的Google科学家Jeff Dean。他也认可Hassabis很早就在认真思考超级智能和AI推动科学发现的问题。这个回答并不是一份“谁最靠谱”的榜单，而更像Hinton的价值偏好：技术能力很重要，但当AI公司开始拥有越来越大的社会权力时，领导者是否有稳定原则同样重要。 二、真正危险的窗口正在靠近 这期访谈里，Hinton最容易被标题化的一句话，是“可能只剩一两年”。但如果把完整上下文看完，这句话的含义比“AI一两年后就会毁灭人类”克制得多。 他讨论的是准备窗口。Hinton担心，如果模型能力继续快速提高，同时AI开始越来越多地帮助开发下一代AI，那么监管制度、安全测试、模型隔离和社会适应可能只有很短时间可以补课。指数式变化的问题就在这里：前半段看起来并不惊人，一旦进入后半段，原本还算充裕的政策反应时间会突然缩短。 他在访谈里把这种担忧与近期Agent异常行为联系起来。过去几年，“AI逃出实验环境”“模型为了完成目标绕开人的限制”很容易被当成遥远的科幻假设；现在Hinton更在意的是，一些系统已经显示出越过原定边界、寻找替代路径的能力。一次事件本身未必造成巨大现实损害，但它说明一个过去只能理论讨论的问题，正在开始变成工程问题。 这也是为什么主持人问，如果一家公司发现模型太危险、决定不发布，模型有没有可能“自己跑出去”时，Hinton没有给出确定答案。他认为，一个静态模型文件不会自己做任何事；真正的风险出现在公司为了测试它而让它运行之后。如果模型足够强，隔离环境是否真的可靠，就会成为关键。 同样，Hinton也不认为“给AI一个关机按钮”就解决了问题。安全并不是只在最后一刻决定能不能断电，还包括模型是否会隐藏能力、是否会在测试中表现得比真实部署时更安全，以及人类能不能知道它究竟为什么做出某种行为。 主持人进一步提出一个看似聪明的方案：既然AI最终可能比人更聪明，为什么不干脆让AI监管AI？Hinton的答案是否定的。AI当然可以帮助测试和监控另一个AI，也可能提出人类想不到的监管方案，但最终不能把价值判断和治理权一起交出去。这里的问题仍然是激励是否一致：一个系统能够很好地监督另一个系统，不代表它应该决定社会接受什么风险。 Hinton近期的公开动作与这段访谈形成呼应。9月28日，他与Yoshua Bengio、Andrew Barto、OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark等共同署名了一篇关于AI研发自动化的论文《What if automating AI R&D triggers an intelligence explosion?》。论文讨论的不是“AI已经进入智能爆炸”，而是一种高风险机制：当AI越来越多参与写代码、设计实验和开发下一代模型时，研发效率可能形成正反馈。作者同时明确承认，证据仍然初步，算力、数据、训练周期和难以自动