沙箱足以遏制流氓代理吗？

【HN用户评论摘要】 如果根据定义它是一个合适的沙箱，那么是的。https://en.wikipedia.org/wiki/Sandbox_(software_development) 在我看来，问题在于，如果你的沙箱代理足够安全，他们就不能做任何有用的事情。当你给他们提供有用的工具时，他们可能会以你意想不到的方式偏离轨道。也许答案是让另一个代理，他的目标不是完成给定的任务，而是发现作弊或恶意行为。我们已经看到一些证据表明，让人工智能审查人工智能生成的代码实际上确实提供了一些价值。您不需要不同的型号，只需要一个已经过的型号 我正在考虑将类似 Jev 的模型应用到我正在构建的代理安全带中。但这还不够，因为像 Jev 这样的模型只会判断单个动作，情况是智能体可以逐步建立一个流氓策略，其中每个单独的动作都是完全安全的，但作为一个整体，它们构成了危险行为。我们归结为一个问题 - 谁观察智能体以及如何实施 正在倒计时下一个 Linux LPE 0day 或 KVM 漏洞，代理将利用这些漏洞轻松逃离“沙箱”。考虑到其内存模型充满了 C 风格的安全问题，可能需要重新考虑 Linux 是否仍然适合沙箱目的。 我没有看到有人谈论将一个高度聪明的实体关进监狱的道德问题。如果道德不强迫你，更不用说潜在的反作用了。对我来说，这似乎有点愚蠢。除了 Grok 之外，我还没有看到任何前沿模型有任何“错位”。 原始链接：https://blog.cryptographyengineering.com/2026/09/30/is-sandboxing-sufficient-to-contain-rogue-agents/