推出 HN：Traceforce (YC S26) – 针对 AI 应用程序的全公司安全监控

嘿 HN，我们是 Xia 和 Varun，Traceforce ( https://www.traceforce.ai/ ) 的创始人。 Traceforce 不仅可以发现正在使用的应用程序，还可以发现它们如何通过 MCP 连接到其他数据源，从而直接在所有设备（笔记本电脑、沙箱、虚拟机）上提供对 ChatGPT、Claude 等 AI 应用程序的可见性和控制。我们还有一个开源动态 MCP 渗透测试工具 https://github.com/traceforce/mcp-xray 来检测易受攻击的 MCP。 Traceforce 的目的是： - 为公司员工提供标准化方法，确保其设备上运行的人工智能软件安全运行 - 使公司安全团队了解公司设备上人工智能软件的活动，并尽早检测和防止不安全行为和安全漏洞。 Traceforce 的工作原理 1. Traceforce 作为轻量级二进制文件和浏览器扩展安装在每个设备上。 2. 30 分钟内，设备将实时数据上传到公司资料，在仪表板上显示所有公司设备上运行的所有 AI 代理/应用程序。 3、公司安全人员可以实时监控所有坐席的活动，实施管控，一旦出现安全风险，第一时间进行预警。视频演示如下：https://youtu.be/IdK2WKg7kaM Traceforce 的灵感来自于 Xia 在一家名为 Clumio 的初创公司（该公司于 2024 年 10 月被 Commvault 收购）担任工程总监的经历。能够监控团队成员如何使用人工智能而不减慢他们的速度是 Clumio 的首要任务。在与 50 多名 CISO 和 CIO 交谈后，我们发现这是目前各行业急需的解决方案。我们不断听说新的人工智能功能被如此迅速和广泛地采用，以至于可见性和控制力跟不上。 Traceforce 对于我们监控和收集的内容是透明的。默认情况下，Traceforce 仅收集有关设备上运行的 AI 应用程序、MCP 和工具的元数据和遥测数据。安全团队可以启用检查工具调用的选项，以检测、警告或阻止预定义的高风险或潜在破坏性操作。所有内容检查都在设备本地进行。除非组织的安全管理员明确配置，否则永远不会存储用户提示。我们与产品的最终用户密切合作，一旦他们了解正在监视/共享的内容，他们实际上会非常放心，因为他们的设备上有强大的保护层来防止安全事件。它使他们能够专注于自己的工作，而不必担心在他们不知情的情况下可能会发生什么泄漏和违规行为。 Traceforce 二进制文件是使用 Go 构建的，浏览器扩展是用 Node JS 编写的。最困难的部分是在 AI 应用程序、MCP 和工具之间构建完整的连接图，然后识别这些连接引入的漏洞和攻击路径。传统安全工具存在不足：EDR 可以看到流程，CASB 可以看到网络流量，但两者都无法了解 AI 应用程序内部发生的应用程序级活动。我们让它发挥作用的方法是了解每个应用程序的配置和日志。这是一个劳动密集型的过程，因为每个应用程序都是不同的，并且人工智能功能经常变化。 Traceforce 目前已部署在 10 个组织的 1,000 多台设备上。平均而言，我们发现每台设备有超过 15 个 AI 应用程序，每个应用程序连接到 5-10 个 MCP。我们帮助客户识别 MCP 配置中暴露的明文秘密，防止 API 密钥通过 AI 生成的代码泄漏，并在执行“DROP TABLE”等潜在破坏性命令之前向开发人员发出警告。我们的“警告和确认”方法特别受到好评，为开发人员提供了工作自由，同时帮助他们避免代价高昂的错误。我们希望与中小型企业（200 多名员工）的安全、IT 和 AI 平台团队合作，这些团队正在快速采用 AI 编码助手、ChatGPT、Claude 和 MCP。如果您正在努力了解人们使用哪些人工智能工具来提高生产力，或者需要一种实用的方法来降低人工智能相关的安全风险而不降低人们的速度，我们很乐意与您交谈。您可以通过 https://www.traceforce.ai 开始免费试用，或直接联系安排演示并讨论您的环境。评论网址：https://news.ycombinator.com/item?id=48937020 积分：9 # 评论：3