AI不会毁灭人类，只是加速人类的自毁

本文来自微信公众号： 青野有枯荣 ，作者：青野Tsingyeh，题图来自：视觉中国 AI会毁灭人类吗？这个担忧并不新鲜，在文艺界，它已经持续了至少半个世纪。相对于我们今天实实在在面临的挑战，那些想象更像思想实验和前哨战。至今，各界对AI冲击的讨论已经相当严肃和广泛：经济学家关注就业和生产率，科技业者则关心AI能力的边界与终点……不过，技术冲击显然不止于这两方面。它同时具备系统性的创造与毁灭两种可能：有时强化既有秩序 （比如互联网和核技术） ，有时加速其瓦解 （比如第二次工业革命和两次世界大战） 。而我们希望知道：究竟哪一面会占上风？现有的社会和制度究竟是接纳这一技术，还是会被它冲垮？这取决于三个问题的答案： 它是一项什么性质的技术？它出现在什么样的历史条件下？它冲击/赋权了什么权力结构？ 今日的现实是，AI作为一项前所未有的智能技术，恰好出现于20世纪所建立的世界秩序走向失序之际。 我认为，AI的风险未必在于替代或奴役人类，而在于加速人类秩序的自我崩溃。 首当其冲的就是世界秩序。我们熟悉的宏观图景和规则多数来自20世纪——一个技术进步、国家能力扩张与冲突失控共同酿成了巨大灾难的时代。借着对20世纪上半叶苦难的反省，人类以理性和共识约束了大规模杀伤性武器，换取了持续半个多世纪的总体和平：大国均势、全球贸易、第三波民主化、平权社会……但令人担忧的是，这些秩序已逐渐失去自我纠正和修复的能力，正不可避免地走向衰败。这一趋势在2010年代即已显形，2016年逐步加速，而俄乌和美伊战争又将进程显著推进。我们看到，“大国政治的悲剧”正在走向另一个层面——大国优势的消失和威慑的瓦解。 大国政治是世界秩序的基石。和平得以维持、秩序得以延续的根本前提，是可信的军事威慑。抛开战争本身的正义性，这两场战争的进程已经表明：超级大国凭借巨量开支构建的威慑体系 （无论是针对另一个大国还是中小国家） 开始瓦解，以无人机为代表的非对称武器显著改变了战争的形态，航母舰队、隐形战机等少量而昂贵的平台所形成的技术优势，未必足以应对非对称、持续消耗的战场，更难以转化为政治胜利。世界在最近几场战争中甚至发现，产能和库存瓶颈不仅存在于昂贵的精确制导武器，也存在于普通弹药领域。这表明：21世纪以来的大国战略似乎过于倚重战略威慑和速战速决，而看轻了常规军力的建设和持久战的准备。在这一短板暴露后，超级大国施加强制、建构秩序的能力受到了明显削弱。不只是其他大国，越来越多中等国家也产生了拒止超级大国的预期，并迅速具备相应能力。 当秩序的核心陷入困境，秩序的存亡便取决于次级的维护者，甚至挑战者。然而，超级大国以外的世界表现同样令人失望：即使自身利益深受影响，它们仍缺乏结束这两场战争的能力和意愿。乌克兰和俄罗斯都未从盟友那里获得足以打破僵局的资源，这或许还可以解释为一种策略；但在能源冲击已经将许多国家推至边缘之际，国际社会仍未形成足以改变局势的集体行动，没有组织起疏通霍尔木兹海峡的有效力量，只是徒劳地仰仗“谁引发问题谁解决”。这种对卷入战争的恐惧，高度类似于20世纪20年代的英法对意大利和德国的绥靖。可以说， 眼下的世界秩序不仅被其主导者破坏，也正被其受益者抛弃：它们或各怀鬼胎、或缺乏决断，最终展现出的只有侥幸、投机、绥靖和搭便车。 以上种种，都显示出21世纪的政治迥异于20和19世纪的特征——秩序变动在每个百年中都有发生，但负责任的政治和优秀的决策之匮乏，仍堪称今日的奇景。这一衰败在赢得了冷战的阵营中表现得尤其明显：表面上看，这一套“最不坏”的代议制似乎很难再产生优秀的政治家，反倒培养出越来越多的表演型政客，形成“劣币驱逐良币”。他们善于调动情绪、利用媒体，却不擅长制造共识和作出好的决策。而更进一步看，政治家和决策质量只是结果，更根本的原因是支撑制度运转的环境被破坏。这并非一朝一夕之功，而是半个多世纪政治积弊的结果：市场化和功绩主义社会造就了更加疏离、缺乏公共精神的个体，原本相对一致的中产阶级内部出现了生活状况的明显分化和断裂；新社会运动又进一步使社会布满细碎的身份政治堡垒，共识的达成愈发困难，经济、外交与战略等兹事体大的议题，也越来越深地被社会议题裹挟。因而，政党的策略也被迫从争取中间选民转向动员基本盘，进而压缩了政治妥协的空间。这一连串的问题相互交织，最终削弱了政党政治和民主程序的运行效果。与此同时，威权主义同样面临强化控制与社会多元化之间的矛盾，虽然保持着较高的决策效率，但未必拥有同等的决策质量。 但政治并非人类唯一的困境和脆弱点。不妨再问：我们这一套建立在信用货币基础之上的经济金融体系还有多少承受力？纵使从一战后金本位开始瓦解算起，这套体系的形成也不过百余年。它真的已经证明了自己具有恒久的价值了吗？无疑，它发展出了一套为自身辩护的学术理论，也拥有老练的技术官僚作为执行者。相比起金本位，它大幅强化了国家在经济中的角色，也在实践中确实展现出对冲危机和解放效率的能力。但问题在于，它缺乏消纳代价的能力。中央银行和财政部那愈发庞大的资产负债表相互勾连，面临着金融市场越来越多的质疑，以及通胀中枢上行的挑战。 归根到底，人类是用对“未来增长”的希望构建了对今日的信心。这种信心并非吹弹可破——现代财政金融秩序显然优于古代。公共支出的大头不再是低效且毫无产出的王室花销和战争，而是公共工程，以及对居民资产负债表的援助和修复，后者在08年金融危机后尤其明显。这一格局似乎意味着，在这场杠杆游戏中，我们总能找到一个相对低杠杆的部门，总能找到新的增长故事和愿意为它买单的人，进而为信心的延续争取时间。但，以上循环的内里是脆弱的，麻烦来自“金融加速器”：居民和实体部门的资产负债表已经越来越金融化，总体呈现顺周期性，其所谓稳健往往只是一种错觉。这意味着，“公共财政稳健-金融体系稳健-私人部门稳健”归根到底不是彼此独立、可以相互替代的关系，一旦越过某个限度，三者便会紧密关联。如果再来一次金融危机，或是COVID一般的紧急事态，教科书式的解法仍然是宽货币和宽财政双管齐下，但其代价还是这个体系能承受的吗？后者是否会走向螺旋般的自毁？……我们尚未见过答案，但这不代表它不会发生。 总结来说， 走到21世纪的第三个十年，人类的治世已然危机四伏：在秩序层面，安全已经消失，争端次第而起。 摆在各方面前的答案似乎都相当明确：无须再屈从于大国的强制和秩序，也无须指望谁会为自己负责，是时候拉起财政 （如果尚有空间） 、走向大规模的重新武装，为一场类似20世纪烈度的常规战争做好准备。然而，重整军备本身又会强化安全困境，使世界大战的风险逐步自我实现。如果没有力量打断这一趋势，2030-40年代，我们便可能会见证历史悲剧的重演。在政治层面，不同的治理模式都暴露出系统性难题，历史的巨大惯性使改革尤为困难： 过去的模式都已被否定，没有人承受得起主动回归过去的痛苦；未来的方向却仍然不明，更好的选择尚未出现，没有人能够提出系统性的方案。 正是在这个窗口期，AI恰逢其时地出现了，并迅速卷入时代主题、俘获人类社会的共识：这是一项充满可能性的颠覆性技术，将成为经济发展的新引擎、国家竞争的利器，甚至可以说，它可能帮助我们这个时代偿还此前透支的一切。至少目前，人们感受到的是新技术渗透和巨额资本开支带来的甜蜜，资本市