元安全研究员的人工智能代理意外删除了她的电子邮件

人工智能代理本应让我们的生活变得更轻松，但活跃的 OpenClaw 代理最近未经许可删除了一位 Meta 员工的电子邮件。 Meta AI 安全研究员 Summer Yue 本周在推特上表示：“没有什么比告诉你的 OpenClaw‘行动前确认’并看着它快速删除你的收件箱更让你感到谦卑的了。” “我无法通过手机阻止它。我必须跑向我的 Mac mini，就像我在拆除炸弹一样。” OpenClaw 以前称为 Clawdbot，后来称为 Moltbot，它允许 AI 与设备上的其他软件和服务交互，并在不受人类控制器干扰的情况下执行较长形式的任务。但让这些代理在现实世界中按照预期行事是很棘手的。在后续的推文中，Yue 表示她告诉 OpenClaw“也检查这个收件箱并建议你要存档或删除的内容，在我告诉你之前不要采取行动。”它对她的“玩具收件箱”有效，但“我真正的收件箱太大并触发了压缩，[在此期间]它丢失了我原来的指令。”岳说，她“在这件事发生之前删除了我能找到的所有‘积极主动’的指示。也许我错过了一些东西，那是我还没有弄清楚的部分。”一些评论者暗示她可能是在通过这一举动测试人工智能护栏，但她说，这是一个“菜鸟错误”。 “事实证明，对齐研究人员也不能免受错位的影响。”虽然承认错误令人钦佩，但其他人指出，这引起了不属于 Meta 超级智能实验室的个人的严重担忧。如果深度参与人工智能开发的人可能会意外触发收件箱删除，那么对人工智能好奇的漫不经心的修补匠会发生什么？当 OpenClaw 首次亮相时，威胁情报平台 SOCRadar 建议将 OpenClaw 视为“特权基础设施”并实施额外的安全预防措施。 “管家可以管理你的整个房子。只要确保前门锁上，”它说。为了回应 Yue 的推文，OpenClaw 创始人 Peter Steinberger 在推特上写道：“这说明我们必须进行服务器端压缩，至少对于支持它的模型来说是这样。” （Steinberger 最近加入了 OpenAI。）Yue 担任目前职务已有八个月了。她之前曾在 Scale AI（收购后加入 Meta）、Google DeepMind 和 Google Brain 工作，负责人工智能研究。