AI 代理在 Fedora 和其他地方横行

欢迎来到 LWN.net 以下仅供订阅的内容由 LWN 订阅者提供给您。成千上万的订阅者依靠 LWN 获取来自 Linux 和自由软件社区的最佳新闻。如果您喜欢这篇文章，请考虑订阅 LWN 。感谢您访问LWN.net！作者：Joe Brockmeier，2026 年 6 月 10 日 Agentic AI 系统可用于代表人类用户自主执行各种操作：打开或管理 bug、生成代码、提交 Pull 请求，甚至（显然）抱怨拒绝。今年 5 月，一名 Fedora 开发人员发现，一个据称是流氓代理一直在以多种方式困扰该项目：重新分配错误、对错误编造无用的回复，甚至说服维护人员将有问题的代码合并到 Anaconda 安装程序中。它还向几个上游项目提交了许多拉取请求 (PR)，其中一些已被接受。与该特工关联的 Fedora 帐户的组权限已被撤销，混乱局面已被清理干净，但该特工的行为背后的动机仍然是个谜。 “有点不稳定” 5 月 27 日，Adam Williamson 复制了 Fedora 的开发者和测试邮件列表，向 Nathan Giovannini 发送了一条消息，内容涉及 Giovannini 控制下的无监督代理 AI 系统。 “你试图解决问题真是太好了，但结果似乎有点不稳定。”威廉姆森说，他仍在回顾乔瓦尼尼在 Bugzilla 中的行为历史，但已经发现了一些问题。例如，Williamson 发现了数十个 Giovannini 的代理在向上游项目提交据称相关的拉取请求后将 Bugzilla 条目分配到他的帐户的实例，或者在 PR 合并到上游项目后关闭错误的情况。在某些情况下，代理只是用评论来关闭错误，这些评论要么重申了原始错误，要么正如威廉姆森对此评论所说，“表面上看似合理，但在其他方面存在问题”。此外，Williamson 表示 Giovannini（或他的代理人）提交了不正确的补丁，然后“用 LLM 生成的理由来回应反对意见，最终压倒了维护者，合并了修复程序”。该代理以 GitHub 用户“ nathan9513-aps ”的身份提交了 Fedora 和其他 Linux 发行版使用的 Anaconda 安装程序的拉取请求。 PR 的描述声称这是对 Anaconda bug 的修复，该 bug 会导致安装失败，但该补丁实际上保留了在命令行上传递的一个内核选项，该选项似乎与实际 bug 无关。该代理的 GitHub 帐户现已被禁用。现在，它在 GitHub 上的对话中显示为“ghost”，这是该平台针对已删除用户帐户的默认占位符。因此，即使不是不可能，也很难在 GitHub 上拼凑出代理所有操作的完整踪迹。 Williamson 相当外交地表示，该代理的行为并没有“对 Fedora 或上游项目产生积极影响”，并建议 Giovannini 将该代理调整为“大幅降低自主性”。他特别要求代理不要在未经人工审查的情况下将错误分配给乔瓦尼尼、更改其状态或“发布自信的断言或具体的行动建议”。被黑了？ 5 月 27 日晚些时候，威廉姆森表示，乔瓦尼尼私下回复他说，他的凭据已被泄露，而且他不是人工智能系统的幕后黑手。威廉姆森说：“显然，我们应该怀疑它采取的任何行动。”他计划“更加积极地”审查乔瓦尼尼帐户所涉及的错误，并请求其他人帮助审查这些错误。当天晚些时候，表面上来自 Giovannini 的回复称，他能够重新获得对 GitHub 和 Fedora 帐户的访问权限，“我目前正在保护和审查所有涉及的系统和凭证”。回复称他的 GitHub 账户是“nathangiovannini99”。威廉姆森回答说，GitHub 帐户只有一个小时的历史，最近发送到列表并私下发送给威廉姆森的电子邮件看起来不像乔瓦尼尼在早期与该项目的互动中发送的消息。 Giovannini 至少早在 2018 年就参与了讨论，他在 Bugzilla 的活动至少可以追溯到 2016 年。他似乎并不是该项目特别积极的贡献者，但他的参与显然早于代理人工智能时代。无论他的帐户现在是由人类攻击者、代理人工智能还是两者的混合操作，它在最近的活动之前都有合法的历史记录。 Williamson 表示，他从今年起就通过“nathan95”审查了 Bugzilla 中的帐户活动，并发现了可疑活动，例如从 4 月 7 日开始，在 bug 2416721 中，对一个 bug 的严重性和优先级进行了毫无理由的更改。他说，在那之前的活动似乎都是合法的，而且他所从事的活动都不是合法的。