人工智能打破了网络安全世界。接下来是什么？

今天，我将与 Cognition 首席安全官、长期网络安全专家亚历克斯·斯塔莫斯 (Alex Stamos) 讨论目前的网络安全状况有多混乱。本集是探讨现实生活中人工智能的特别系列的一部分。我一直很喜欢与 Alex 交谈，因为他非常直接，你会听到他说，我们所知道的价值数十亿美元的网络安全行业本质上已经过时了，因为人工智能推动的黑客、破坏和攻击浪潮层出不穷——而这只是人工智能改变安全性的开始。 Verge 订阅者，不要忘记，无论您在何处获取播客，都可以获得无广告解码器的独占访问权限。前往这里。还不是订阅者？您可以在这里注册。由于人工智能帮助他们同时检测和利用漏洞，私人行为者和俄罗斯或朝鲜等国家行为者都在闯入各地的系统。亚历克斯指出，它有一种真正的前沿感觉，就像 90 年代一样，当时永远在线的世界的整个想法都是全新的。如此多的破坏意味着坏人可以进入很多地方，而其他人则只能忙忙碌碌。从长远来看，亚历克斯并不是一个注定失败的人，但他确实认为，当我们试图弄清楚到底如何适应新时代时，我们正处于一个“黑暗时代”。这里发生了很多事情——我们甚至了解到如何在我们的社交网络上管理人工智能驱动的错误信息和言论。在我们开始之前，请帮我一个忙，订阅 YouTube 上的 Decoder，我们每周一和周四都会推出新剧集。好的：Alex Stamos 讲述人工智能如何颠覆网络安全。开始了。为了篇幅和清晰度，本次采访经过了轻微编辑。 Alex Stamos，您是 Cognition 的首席安全官。您还是斯坦福大学网络政策中心的讲师。欢迎回到解码器。嘿，谢谢你邀请我，伙计。我很高兴能和你说话。你和我已经很久没有在你所谓的互联网政策话语的“内容审核时代”聊天了。我觉得你和我谈论了很多关于这一切是如何运作的，关于选举安全，所有这些事情。我们正处于互联网面临重大问题的新时代，特别是在网络防御、网络安全方面。你已经思考了很多这个问题。您将过去几周称为“安全意识月”。告诉我发生了什么事。现在就给我了解一下情况吧。十月传统上是安全意识月。许多公司都会在内部举办活动和交易，然后告诉人们，“更改密码，使用多个密码，使用密码管理器。”上个月发生的事情是我们遇到了一些大错误，PHP、Node 等。较少讨论的是大量公司遭到入侵。一系列与人工智能相关的公司，例如neoclouds，都被相继攻破。币安遭受黑客攻击，这是人类历史上最大的抢劫案。光标事件中发生的事情之一是这些黑客被链接在一起。据我们目前所知，Fireworks 是被入侵的公司之一，它是一家为多家公司提供人工智能服务的著名提供商。在 Fireworks 黑客事件中，API 密钥被盗，从而使人们能够侵入 Cursor。一旦他们进入 Cursor，他们就会推送一个不良插件，该插件又传播到了另外 5,000 家公司，导致了 5,000 起潜在的违规事件。这正是整个科技行业正在发生的这种永久性的、持续的违规行为。我的一位 CISO 朋友对我们一群人说：“还有其他人累吗？”每个人都说是的，因为实际上我们整个 10 月份都在参加 DEFCON 2，现在已经进入 11 月份了。我要在这里问你一些非常愚蠢的问题。所有这些攻击的幕后黑手是谁？是俄罗斯吗？是朝鲜吗？我们知道吗？这是各种不同的群体。这不仅仅是因为对手已经做出了决定，而且从我的角度来看，我们正处于人工智能支持的对手能力起飞的开始，开放权重模型现在已经达到了可以自动化大部分杀伤链的程度。 “杀伤链”这个术语是我们从军方偷来的。在军队里，他们的意思是真正杀死一些东西。它们是你炸毁某些东西所采取的步骤。在网络中，杀伤链是指你为对目标产生影响而采取的行动。所以窃取信息，关闭某些东西，窃取金钱，窃取比特币。传统上，您会提前进行研究，查看一个软件，找到漏洞，编写漏洞利用程序，所有这一切都提前完成。然后你让一个人去拿你构建的东西并将其部署到任一目标 - 因为也许你是一个政府，你要对抗洛克希德·马丁公司，或者你要对抗另一个政府，或者你是一个勒索软件演员 - 然后你采取你所做的所有工作并部署它