人类，而不是流氓人工智能，仍然是能源系统最大的网络安全风险

在最近备受瞩目的黑客事件引发人工智能可能“杀死所有人类”的担忧之前，我们的能源系统已经非常容易受到网络攻击，而且这种风险正在不断增加。 “我们一直是猎物。我们只是为了满足捕食者的胃口而生存，”安全与技术研究所 (IST) 公共安全和复原力常驻主管约书亚·科曼 (Joshua Corman) 去年告诉我。当时，我正全神贯注地关注国土安全部的警告，称伊朗行为者和同情者可能会针对美国进行网络攻击。上周，我打电话给科曼，讨论最近发生的流氓人工智能代理精心策划复杂网络攻击的事件。甚至人工智能高管也在谈论他们正在开发的技术是否会失控，从而引发世界末日。如果像一些人工智能开发者所警告的那样，人工智能有一天有 10% 的可能性杀死所有人类，那么它肯定有可能同时熄灭我们的灯光吗？ “任何想要[攻击]的反社会者现在都比以前更强大。”但当我与科尔曼和其他网络安全专家交谈时，他们仍然更担心生成式人工智能落入坏人手中，而不是流氓特工。随着科技公司竞相构建更强大的人工智能模型，公用事业公司同样必须加强防御——无论是谁或什么发起了攻击。 “实际上，任何想要[攻击]的反社会者现在都比以前更强大，”科曼告诉我。 “这一直是一个力量倍增器，并且还在继续增长。”我们的许多关键能源基础设施——让家里的灯保持亮着、冰箱里的食物冷藏以及医院里的救生设备——从来都不是为了连接到互联网而设计的。发电厂的使用寿命通常长达数十年。美国核反应堆的平均寿命约为44年。它们在构建时并未考虑到当今的网络安全风险，因此很容易成为黑客的目标。最终，大部分基础设施确实连接到了互联网。从那时起，修复由此产生的任何网络安全漏洞就变得很困难。一些最初设计仍在电力行业使用的设备的公司已经倒闭，没有人留下来为这些孤立设备开发软件补丁。即使有可用的补丁，及时应用它也是另一个挑战。与 IT 软件升级不同，控制关键基础设施物理机械的运营技术 (OT) 系统可能仅设计为每季度或每年应用一次更新。规模较小的公用事业公司也可能缺乏使用最新防御措施的资源、人员和专业知识。 “与人工智能的真正区别在于，它让对手行动得更快，但对于那些保卫基础设施的人来说，要跟上这一速度是非常具有挑战性的，”保卫民主基金会网络和技术创新中心的研究员索菲·麦克道尔说。在评估生成式人工智能带来的风险时，意图是一个关键因素。当 OpenAI 模型成功突破公司的训练参数来攻击 AI 实验室 Hugging Face 时，“其中的一些复杂性和功能以及我们所看到的内容确实令人大开眼界，从某种意义上说，它们的有效性令人恐惧，”美国公共电力协会网络安全项目高级经理 Rob Denaburg 表示，该协会代表了 2000 个城市的社区公用事业。但德纳伯格指出，即使在“拥抱脸”黑客攻击和类似的人工智能代理闯入他们本来不应该瞄准的系统的情况下，流氓代理仍然专注于实现他们的训练目标。如果有人要训练一个模型来对能源基础设施进行攻击，并且代理在这种情况下突破沙箱，那么这可能会成为公用事业公司更大的担忧。同样，这涉及到具有恶意意图的人类对手。从历史上看，敌对民族国家在很大程度上被认为是对关键基础设施的最大网络安全威胁。科曼说：“他们将更加自律，”并且更有能力进行复杂的网络攻击。现在，人工智能使技术水平较低的对手更容易发起有效的攻击。 “坏人可以使用这些工具比他们自然地更好地攻击他们通常不知道如何做的事情……因为虽然他们可能不知道 OT 协议、OT 网络和 OT 策略，但法学硕士已经阅读了手册并且确实知道该怎么做，”Corman 说。公用事业公司必须做好更充分的准备，无论坏人是谁，防御策略都是相似的。 “无论是否有人工智能，归根结底，这仍然是一场网络攻击，”德纳伯格说。 “尽管人工智能可以帮助对手将漏洞链接在一起，并使某些流程自动化，但