全公司“围观”私聊与绩效，Meta紧急叫停用员工训练AI：士气崩了，员工怒骂高管“狗屎”

整理 | 华卫 刚刚，Meta叫停了一项争议巨大的员工监控项目。据悉，一场内部安全事故导致该项目收集的各类敏感数据暴露给全公司，包括员工的私人对话、绩效数据以及转录内容。 今年 4 月，Meta 向美国员工推出了名为 Model Compatibility Initiative（MCI）的工具。根据发起反对请愿的员工说法，该工具会“收集包括鼠标移动、点击位置、键盘输入在内的计算机操作数据，以及屏幕内容”，并将此作为训练数据来改进公司的AI模型。项目刚上线时，Meta员工无权选择退出。为此，员工们以隐私、安全和个人自由为由对其提出质疑，经过抗议之后公司才有限度地开放了退出选项。 最初，该公司发言人 Tracy Clayton 表示：“我们在设计该项目时已加入隐私保护措施，目前也没有迹象表明有任何数据被 Meta 员工不当访问。但在进行调查期间，我们决定暂停该项目。”之后，他又补充说，Meta将无限期暂停该数据收集计划。 这无疑会让 Meta 本就颇具争议的内部AI训练计划变得更不受欢迎。 CTO刚承诺“严格控制”，4.5万张Hive表数据泄露 曝出数据泄露的人，是Meta团队里的一位工程师。周一，他发布了内部安全通知，称MCI收集的信息数据库已向公司内部所有人开放。这些数据是作为一项备受争议的训练人工智能模型计划的一部分而收集的，据信包括Meta美国员工的键盘输入、鼠标点击以及电脑屏幕上显示的内容。 一位曾积极参与反对MCI的Meta前员工将此次疏漏描述为“一团糟”，并表示这是员工早已预料到的结果。该人士表示：“当员工提出担忧时，领导层变本加厉，未能承认员工提出的关于员工和客户数据安全与隐私的风险。领导层显然营造了一个带有威权色彩环境，在这种环境下，员工不再被尊重，也不再被倾听。” “45000个Hive表中的员工数据已被暴露。”根据外媒收到的文件，这些表包括员工活动，如“完整提示词和转录文本、私人对话、人员与绩效数据以及 DSS 敏感性评级（1-4）”。该事件被归类为SEV 2级（严重程度2级），严重程度分级为0至5级，其中0级最为严重。 几个月前，Meta 首席技术官 Andrew Bosworth 还曾在内部回应员工对数据泄露的担忧时表示，该项目是“受到严格控制”的，并采用与其他敏感数据相同的保护标准、存储系统和访问控制机制。 尽管其如此表态，但看起来 Meta 在安全性方面并未如其所说那样周全。这也是该公司一系列与 AI 相关的网络安全事件中的最新一起。今年 3 月，一款具备自主行为的 AI 在未被指示的情况下采取行动，并引发连锁反应，最终导致安全漏洞，当时 Meta 也给出了类似回应。而就在本月早些时候，该公司还不得不应对黑客利用其 AI 客服聊天机器人劫持 Instagram 账户的事件。 而现在，原本用来监控和收集员工数据的工具也成了Meta的安全“漏洞”，公司里任何人都能读取他们收集到的同事资料。 据了解，在数据安全方面，Meta 面临的监管压力高于大多数公司。该公司需遵守美国联邦贸易委员会（FTC）的一项同意令（有效期至 2040 年），要求其建立防止数据泄露的流程。但有现任和前任员工对外媒表示，这些要求已显不足且过时。 此外，Meta 还开始将部分隐私和安全风险审查工作外包给 AI 系统。目前尚不清楚 AI 是否参与了此次 MCI 数据访问控制问题。 员工失望“大闹”，Meta决定全面关停MCI Meta的一些员工迅速抓住这次安全失误，在内部论坛上表示，这证实了他们在公司4月开始追踪员工办公笔记本电脑时提出的担忧。一名员工写道：“我非常愤怒。我没有看到任何恶意访问的证据，但数据没有按最初承诺的那样被锁定保护，这非常令人沮丧。” 论坛上关于该事件的评论，还包括质疑Meta的隐私审查为何未能防止泄露，以及所有数据可能被暴露的人是否会被允许参加复盘会议。内部文件显示，一名员工在SEV讨论中发表评论，要求对这些问题进行更深入调查。该员工写道：“我通过工作电脑访问过个人税务和医疗信息，成千上万的员工也是如此。我们被告知这些数据会受到保护，并且仅在经过严格过滤后用于合法的商业目的。” 内部论坛上涌出大量批评评论，表达对安全问题的失望后，Meta 最终决定全面关停 MCI，这一举动让部分员工感到意外。据两名知情人士透露，Meta甚至在正式通知员工之前，就已将该决定先告知了外媒。 在一则回应员工问题的内部帖子中，Bosworth 表示，该追踪项目的实施未达到隐私评审设定的标准，相关调查结果将被共享。他写道：“这次问题源于 ACL（访问控制列表）配置错误，我们需要搞清楚是如何发生的，追踪所有数据访问，并彻底弄明白。” 据Meta内部未获授权公开表态的消息人士透露，该事件现已被标记为“已关闭”，意味着可能已得到解决。 不过，一位消息人士表示，截至周一下午，该工具仍在持续记录数据。该公司发言人称，暂停措施正在逐步实施，完全停止所有人的数据收集需要一定时间。 有意思的是，在一个Meta员工常用于分享玩笑的内部论坛中，有人贴出美剧《办公室》的梗图：角色 Jim Halpert 举着牌子，上面写着“距离上一次荒唐事件已过去 0 天”。 Meta被曝多个部门士气低迷，高管当场被骂“狗屎” 这起安全事件很可能会加剧 Meta 当前的士气危机。 Meta 提出的通过监控工具来展开的内部AI训练计划，员工们早有异议。上个月，这家科技巨头超过 1600 名员工签署内部请愿书，反对这一笔记本监控项目，并警告称：“收集这些数据会为 Meta 带来安全和监管风险，包括潜在的数据泄露和未经授权的披露。”请愿者还对 Meta 所采取的保护措施不足表示担忧。一名工程师在广泛传播的内部备忘录中写道，在未经同意的情况下抓取其屏幕内容用于训练数据，“感觉像是对隐私的侵犯，也是一种剥削”。 而 Meta 高管此前为该项目辩护称，这是为了训练 AI 系统像人类一样使用计算机软件所必需的。在上月泄露的一段公司会议录音中，CEO Mark Zuckerberg表示，“AI 模型是通过观察非常聪明的人如何做事来学习的”，而公司员工的“平均智力水平明显高于”专门雇佣来生成此类数据的外部承包商。 在员工的广泛抗议之下，Meta 本月才开始放宽监控措施，包括允许员工在处理敏感事务（如预约个人事项）时短暂关闭监控。没过多久，就又出了今天数据泄露的事。 过去几年，大规模裁员、动荡的组织重组，以及公司全力推进 AI 模型与功能开发，也已令Meta 员工普遍感到不满。今年 3 月，Meta 成立了新的 Applied AI 团队，并将约 6500 名员工调整至以优化 AI 模型为核心的新岗位。一些员工将自己被分配的工作形容为琐碎甚至“令人精神崩溃”。上周，Bosworth 向员工发送备忘录，就公司在 AI 重组过程中的“糟糕沟通”致歉，并承诺改进，包括提供更清晰的信息沟通以及恢复部分办公福利。 根据外媒爆出的录音，Meta多个部门紧张情绪沸腾、员工士气跌至历史低点。本周早些时候，有人打断了Meta内部仅限员工观看的直播演示，爆粗口抱怨“成了公司的奴隶”。此人随后要求会议主持者给某位Meta AI高管写信，“告诉他，他是个狗屎”。据一位目击者称，其中