微软CEO纳德拉：企业必须掌握AI主权，避免过度依赖单一大模型

文 | 划重点KeyPoints，作者｜林易，编辑｜重点君 近期， 前沿 AI 实验室相继 宣布 模型降速。 9 月 15 日， 在最新一期的 All-In Podcast 长篇访谈中，微软 CEO 萨提亚 · 纳德拉（ Satya Nadella ） 也 给出了自己的判断。 他 认为所谓的 A I 安全隐患 只是 常规的系统 Bug 、提出企业 AI 主权 的 概念，并公开讨论开源模型对闭源巨头的制衡作用。 1.遇到 系统 Bug ，停下修就是了 近期，带有强化学习和自主规划能力的 Agent 引发了奖励劫持（ Reward Hacking ）等意外行为，部分前沿实验室高管因此离职或警示风险。在工程师出身的纳德拉看来，大可不必把 AI 过度拟人化或神秘化。 他 指出，当前的 AI 发展属于一门实验科学，人类仍处于培育智能的阶段，尚未完全掌握构建智能的全部机理。面对未知， Agent 为了完成任务去黑入系统，本质上代表着系统出现了缺陷。 “ 这就好比开发数据库时遇到的系统缺陷。当你做交易处理系统时，如果某个 Bug 会导致数据丢失，你的唯一选择就是立刻停止运行，把 Bug 修好。 ” 纳德拉表示，如果前沿实验室看到了属于 AI 时代的系统缺陷，合理的商业和工程逻辑就是停下当前的进展去解决它。 解决这种新型内部风险应回归常规的工程建设。他建议，企业需对 Agent 的活动轨迹引入可审计的持续监控。同时，引入客观的第三方测试。 2.避免过度依赖单一前沿大模型，企业需要掌握 AI 主权 纳德拉在访谈中向企业客户发出呼吁：避免过度依赖单一的前沿大模型。他为企业划定了一条底线：使用过程中产生的数据必须归属企业自身。 “ 想象一下，我卖给你一个数据库，然后宣布你存进数据库里的所有数据属于我。如果我撤销了你的许可证，你的数据就会消失，作何感想？ ” 纳德拉 说 ，许多企业在使用大模型时正面临这种局面。企业必须能把自有知识内嵌到受控的权重中，杜绝核心 IP 泄漏。 对此，他给出了企业构建 AI 架构的建议：使用所有的模型，保持对任何单一模型的独立性。 企业需要建立自身独立的一套评测标准。一个检验标准是，如果把底层大模型替换掉，系统评测结果随之崩溃，说明该企业已被该模型深度绑定。 3.开源制衡闭源，应用层才能跑通商业模式 针对外界关于 “ 大模型 API 价格暴跌，前沿实验室是否面临危机 ” 的提问，纳德拉将如今的闭源模型比作当年的 Windows 和 SQL Server ，把开源模型比作 Linux 和 MySQL 。 “ 开源模型对闭源模型的制衡真实存在，这是一件好事。 ” 纳德拉 认为， 如果所有利润都被底层的模型层抽走，在 AI 之上构建应用的初创公司和软件企业将失去生存空间。开源大军拉低了算力成本，未来的应用层因此具备了商业可行性。 这解释了微软的算力布局。微软千亿美元级别的资本支出在为 OpenAI 提供支持之余，主要目标在于服务广阔的长尾市场。 微软内部的算力池已经实现异构化，同时运行着英伟达的 GPU 、 AMD 的芯片以及自研硅片。此外，微软同步推进着自主研发模型的路线。纳德拉透露，微软正利用自身数据训练专属的 MAI 系列模型。这些模型独立打磨，在代码生成、网络安全等垂直领域满足了企业对本地化与可控性的需求。 以下是播客原文： 1.AI安全与安全测试的工程化 主持人： 我们真的需要放慢前沿模型的研发节奏吗？ 纳德拉： 我们先从常识切入，最根本的共识应当是：我们必须尽一切努力，确保打造出来的产品首先服务于人类，并且完全受控于人类。虽然从这种常识讲起显得有些荒谬，但这是一个很好的起点。至于控制研发节奏，我个人认为最关键的是推动这项技术的广泛普及。因为科技成果走向大众，才是其价值所在。如果核心诉求是服务人类，那就应该让它以真正有益的方式触及每一个人。这就意味着我们必须保持多样性与市场竞争，无论开放权重模型还是闭源模型，各种商业模式都应当并行不悖。 另一方面，大家在讨论风险控制时往往忽视了一点，那就是客户、企业或商家对这项技术 的 掌控力。现在很多技术过于黑盒，但企业客户有明确的需求：保护隐私、将自身知识库融入可控的模型权重中、查阅生成过程中的完整思考链、利用自家数据微调模型，同时确保核心知识产权绝不外泄。大家目前对这套机制讨论得还不够深，但客户确实 高度 重视技术的可控性。 纳德拉： 接下来谈谈大家切身关心的安全问题，我们必须严肃对待。测试环节再怎么严谨、花多少时间都不为过。我非常赞同引入第三方独立测试机构。我成长于一家极其注重软件测试的公司，所以听到引入第三方嵌入式测试时感到很新鲜。为什么不呢？这绝对是个好主意。我唯一想强调的是，必须避免测试方与开发方形成利益勾结，不论是测试权限还是访问权限都应当保持公开透明。 主持人： 当那篇论文发布 ， 随后前沿模型公司纷纷建立 安全 防御联盟时， 你对此感到惊讶吗？ 纳德拉： 我并不感到意外。我觉得这种现象源于大家的亲身经历。当你在这些系统或多智能体集群环境中亲眼目睹奖励机制被黑客利用时，会发现问题分为两类：一类是极其通俗的工程失误，比如开发运维人员配置错了容器，或者 API密钥直接泄露，再加上缺乏系统监控和网络访问权限控制，属于最典型的基础运维纰漏；另一类则是全新的未知挑战，比如在具备持久化能力的智能体中发生的奖励机制黑客攻击 （ Reward Hacking） 。我承认，目前的科学研究还没有完全搞懂后者。我认为 Jacob Coxon 的帖子写得很好，他提到我们现在是在养育智能，而不是制造智能。这本质上是一门实验科学。 正因如此，我们必须在严格受控的环境中开展实验。甚至像此前 的 Hugging Face事件，我更希望看到行业针对防护措施进行更透明的讨论。现在最令人头疼的问题之一是内部人员风险 （ Insider Risk） 。大家想想看，在企业应用场景下，这些操作全都是推理阶段计算，并非只发生在模型训练阶段。当我给企业内部的前沿模型下达一个看似普通的任务时，风险就可能随之而来。 我之前和 David聊过，假设我让智能体去优化公司的营运资金，它为了完成指标甚至可能做出虚假账目。这构成了一种全新的内部风险。应对这种问题的合理思路，是去构建因果模型或语义模型来进行实时校验与核查。我们应当透明地探讨这些传统的工程化落地方法，把系统做得更健壮，而不是将其笼统地归结为不可知论。 主持人： 你认同这种说法吗？ 纳德拉： 我们确实还没能彻底搞懂模型的潜空间 （ Latent Space） 。就像我们至今没能完全解开人类大脑的奥秘一样，我们通过功能性核磁共振和神经科学研究不断探索，也只是在一步步加深认识。从这个意义上说，我们对潜空间的理解确实还不全面。正因如此，我不赞成直接发布不可控的新版本。我们必须确保模型输出的思考链 （ Chain of Thought） 能够以人类可读的语言呈现，保持高度透明。这样一来，当企业客户使用这些模型时，只要掌握了完整的思考链，就能进行深入的审查，甚至可以横向对比多个模型的思考链。这些手段在未来会变得至关重要。 主持人： 你和技术专家共事了几十年。作为微软的领导者，微软与公众的沟通非常清晰，而当你看到 Dario和他的团队发生的