随着企业急于保护其人工智能部署，HiddenLayer 获得了 1 亿美元

三年前，当人工智能安全初创公司 HiddenLayer 筹集 5000 万美元的 A 轮融资时，该领域的一大问题是，该初创公司所防范的人工智能威胁是否会以足够的数量出现，从而形成真正的市场。正如我的前同事凯尔·威格斯（Kyle Wiggers）当时指出的那样，很难确定大规模针对人工智能的攻击的真实例子。事情变化得多么快啊。安全公司现在正在争先恐后地开发产品，这些产品不仅可以监控代理，还可以监控他们使用的工具和附加组件。虽然关于特工被剥削的头条新闻还不多，但特工在制作过程中失控的风险却是真实存在的。因此，防止这种情况发生的工具市场出现了爆炸式增长：Gartner 估计，公司今年将在用于保护 AI 工具的产品上花费 28.3 亿美元，比 2025 年增加 83%，并预计明年的支出将达到近 47.8 亿美元。 HiddenLayer 开发了保护人工智能模型、代理和工作流程免受对抗性攻击、漏洞和恶意代码注入的工具，它已经能够充分利用这一转变。其联合创始人兼首席执行官 Chris Sestito 告诉 TechCrunch，该初创公司的年度经常性收入在过去一年增长了 10 倍以上。他拒绝透露具体数字，但表示 ARR 目前已达到“数千万”美元，其中 90% 以上的增长是由去年签约的新客户推动的。金融服务和构建人工智能产品的大型科技公司目前是该公司最大的垂直行业，并且还与国防部和情报界签订了合同。它的一个客户显然是一家“领先的前沿模型提供商”，拥有“每周超过 7 亿的用户”，这对我来说听起来像 OpenAI 或 Anthropic。为了充分利用这一势头，这家初创公司现已在由 Delta-v Capital 领投的 B 轮融资中筹集了 1 亿美元，参与方包括 Ten Eleven Ventures、摩根士丹利、微软的 M12、Booz Allen Hamilton 等。这家总部位于奥斯汀的初创公司在 2023 年的销售情况仍与过去一样，但 Sestito 告诉 TechCrunch，它必须做出的最大改变是扩展其现有产品（发现、运行时保护、攻击模拟和供应链安全），以解决即时注入、代理操纵和恶意工具使用问题。 “推理仍然是推理。因此，无论是在传统的机器学习模型上，还是在 Gen AI 上，无论是在代理工作流上，我们的很多技术仍然在应用。所以说真的，我们不必转向，但我们必须扩大我们的范围……从传统建模到 Gen AI 再到代理，”他说。 Sestito 强调，随着人工智能部署在企业中变得越来越普遍，运行时安全性尤其成为一个优先事项，并将其比作传统的端点检测和响应 (EDR) 解决方案，但专门针对人工智能。该公司的新产品反映了这种转变，Sestito 强调了攻击者利用开源模型的新机会。 “我们解析和扫描大约 50 个不同的 AI 文件框架，以确保，特别是在开源、开放权重模型的情况下，您正在使用的工具就是您所相信的那个工具，并且它是它声称的那个工具。我们正在研究诸如模型之类的东西，声称是一回事，但它们是另一回事——模型中隐藏的模型，”他说。该初创公司表示，新筹集的 1 亿美元将帮助其朝着这个方向发展，但更多地关注销售和分销，同时继续扩大其工程和研究。它还计划扩展到欧洲和欧洲、中东和非洲地区。不过，HiddenLayer 可能会发现自己正在利用这个宝箱来获得更多。思科、Palo Alto Networks 和 Check Point 等大型网络安全公司通常更愿意购买而不是构建此类技术，而 Noma 和 Zenity 等初创公司已各自筹集了超过 1 亿美元资金，以进军该领域的相邻或重叠领域。 Sestito 承认，他的公司提供的人工智能安全产品的某些部分最终可能会捆绑到微软、OpenAI 和 AWS 等公司构建的平台中。然而，他预计人工智能基础设施将朝着发现、身份和策略控制等治理功能发展，而不是他的公司构建的那种工具。他表示，目前 HiddenLayer 的工作是“与人工智能一起垂直扩展”，并最终横向扩展到越来越依赖人工智能的网络安全部分。这是一个雄心勃勃的目标，但初创公司首先必须证明，在行业其他公司迎头赶上之前，它能够将领先地位转变为持久的业务。