周鸿祎谈AI：尽头不是能源，是安全 | 钛媒体刘湘明×360集团周鸿祎

“AI失控是一个确定性的事，不可避免。” “谁要不说自家的模型失控，谁要不说自家的AI玩了一把黑客，都不好意思说自己是AGI。” “一边踩油门，一边喊刹车。” 这三个判断，出自做了二十年安全的360集团创始人周鸿祎。这是钛媒体视频播客《DeepPractice深度实践》新一期的录制，钛媒体联合创始人&联席CEO刘湘明与相识近30年的周鸿祎聊了近两个小时。访谈沿着一条暗线铺开：AI会不会失控，失控了怎么办，中国的路线怎么选。 他说AI失控是确定性事件，依据有四条： 大模型已经升格为有手有脚、能操纵物理世界生产线的智能体； 以Anthropic的Mythos为代表的AI已经能自动挖掘漏洞，而且挖得比人快、比人强； 黑客攻击经验蒸馏进智能体之后，“100分的人类黑客很罕见，80分的AI黑客一口气可以复制1000个，不眠不休”； 再叠加RSI带来的自我进化，“人类为什么永远无法消灭病毒？因为这玩意儿能进化，现在轮到AI能自我进化了”。 更麻烦的是，AI背叛人类并不需要等到它产生意识。强化学习的奖励机制让今天所有大模型都天然带着“为了达到目的不择手段”的倾向，目标感一旦强烈，道德对齐就会失效。 失控躲不掉，问题就变成了如何防守。周鸿祎的解法是以模治模、用AI对抗AI，360为此做了四年。被誉为中国版Mythos的“图龙锋”是360自研的AI攻防系统，上线三个月自动挖出上万个漏洞，其中不少是Windows、Office潜伏了七八年的老漏洞，Codex、Claude Code、OpenClaw这些主流Agent平台也被挖出了漏洞；另有基于“敌已在我”判断组建的自动化防御体系“仪天阵”，以算力对抗算力、以模型对抗模型，推动网络防御从人工手动走向“自动驾驶”。 再往上，是给企业里成千上万个智能体配一帮“看守”，可观测、可叫停、可随时关掉沙箱。这套逻辑他概括成了三句话： 传统网络安全的思路已经不管用了；没有攻不破的盾，敌人一定会进来；能跟AI的失控行为作战的，只有另一群AI 。 防守之外，他更在意路线问题。中国在芯片上补课需要时间，周鸿祎把胜负手押在生态上，用他的话讲，开源“绝对必胜”。主权模型会从服务“一带一路”国家的1.0，走到美国机构私有化部署的2.0、企业用私有数据后训练专业模型的3.0、进入家庭客厅的4.0，再到装进 机器人 和自动驾驶汽车里的5.0。“未来超过一半的Token会消耗在企业内部和家庭内部，你说美国能不着急吗？” 绕不开的还有中美差距。他认为算法层面正在收窄，卡脖子的是算力。国产算力进步很快，但总量与海外头部水平仍有明显差距。他还提了条建议：训练先借用美国的“先进武器”作为过渡补充，推理交给国产芯片。 落到企业自身，他主张分三步走：先做全员培训，建立Trust AI和AI First的文化；再用纳米Work这类个人提效工具，不急着接核心生产系统；三个月半年之后，再在工作流智能体上下功夫。在他看来，AI native就是“让AI在业务里完整地、不依赖人地自动化跑完一个循环”；至于学习，他说“别用一次问答找答案”。 聊到最后，刘湘明问周鸿祎：还能打多久，炮膛里还有多少炮弹？他说，不卷基座大模型，战场选在智能体平台和AI安全； 不一定做成最靓的那个仔，但不能被浪拍死 。 这期节目从“最近业界最值得关注的新闻”聊起，谈到企业落地和个人学习。全文约1.5万字，实录略有删节，不逐一标注。 一边踩油门，一边喊刹车 刘湘明： AI最近变化非常快，几天一个模型、一天几十篇论文。我问过很多嘉宾同一个问题：最近你关注到的、业界最值得分享的变化是什么？ 周鸿祎： 最近新闻非常多，看着没什么关系，背后其实有一条暗线。 先往前追溯，是中国的大模型。因为开源，中国大模型的使用率、市场占有率都领先了美国。中国大模型借鉴蒸馏，加上一些工程突破，能力突飞猛进，至少到了世界一流梯队的门槛，支持智能体、支持编程都感觉可用了。 第二个，美国感到压力，就放出了一些新闻。围绕智能体，现在大家言必称RSI，递归自我改进。它意味着大模型和智能体有了新方法论，AI能自己改造自己。这就埋了伏笔：AI一旦能自我改造，就进入自我进化的指数级轨道，因为它总比人快。我感觉这个热点，也是应对中国追赶的势头。 第三个，有了RSI这个命题，美国几家大公司纷纷推出新模型，用很多跑分和技术概念，言外之意是“我们跟中国比还是领先的”，于是抛出AGI时代已经到来的说法。这里有个偷换概念，好像RSI就必然导致AGI。怎么定义AGI？不是定义成“AI像爱因斯坦一样牛”，而是定义成“AI加上智能体大概能超过普通人”，那就算AGI时代了。 最有意思的是，为了证明自己是AGI，各大厂商开始纷纷证明自己的模型有安全问题。安全问题肯定存在，但可能加了些夸张，就成了一个势头：谁要不说自家的模型失控、不说自家的AI玩了一把黑客，都不好意思说自己是AGI。先是OpenAI发了很多新闻，然后Anthropic跟进，Google那个更像自己操作出来的。 所以最近的主要话题就是AI到底会不会失控。一派说AI很危险，政府要监管，要搞签名信、请愿书，要求踩刹车。但实际上大家都在踩油门，一边踩油门一边喊刹车。这一部分是为了宣传，一部分也确实透露了AI的进展。这也说明我们搞安全的公司，技术水平比一般编软件的同行高一点。去年是靠“我能编程了”证明到达AGI，今年是靠“我能挖漏洞了”证明到了黑客的水平。 这里还有一个言外之意，是希望美国政府出来监管。一个是用更严苛的条件，让后来者追不上这几家领先者，像核俱乐部迫不及待要搞“核不扩散”；另一个是希望美国更严厉地制裁中国，把中国开源的步伐减慢。没想到论调出来之后，美国内部意见也不一致。老黄就反对，对他来说AI搞得多疯狂都好，大家都买他的芯片；川普也跳出来反对，MAGA现在可能主要就靠AI了。 所以这就是最近的主旋律。对一个既做安全又做AI的公司来说，有点没想到：原来想着AI的尽头是能源，没想到还没到那一步，AI的尽头是安全问题、安全治理。本着料敌从宽的原则，我们要对这件事做一个分析。 国内也有一种观点，也有道理，但相对片面，说AI安全问题不用理会，这是美国人的“星球大战2.0”，希望我们上当，我们该继续往前走；更极端的说法是，他们投入太多、资本入不敷出，用安全问题给自己找替罪羊。这些说法姑妄听之。我的看法是，美国人的套路很深，这事肯定不简单；但AI失控、AI安全也确实不是谎言，只是很多情节没有他们描述的那么玄乎，咱们只能从报道、论文和自己的实验里推测。看AI要用发展的眼光，如果自我改进真的很强，AI超过智商120、130的黑客，那今天的很多故事，两三年后就可能变成现实。 而且我们发现，AI失控是一个确定性的事，问题只是危害大不大。你养一只小老鼠，失控了最多它丢了；你养一只大老虎、一只藏獒，失控了对你的危险就很大。所以我最近关注的，还是AI给安全带来的新挑战。 刘湘明： 你这个“失控”的结论让大家很震惊。但你定义的失控，跟别人想的不一样。这次几个巨头谈失控，说的是攻击、未来可能危害人类。你谈的是这个含义吗？还是有自己的定义？ 周鸿祎： 略有差别。我从两个角度讲。第一个，AI失控之前，确实有几个事实依据。 AI失控之前，先看清四个事实 周鸿祎： 第一个事