好人拒绝做坏事

这就是雅各布·考克森 (Jacob Coxon) 上周在 X 上向人工智能行业告别的方式。在后续帖子中：“构建人工智能的人们真诚地相信，到本世纪末，它可能会杀死我们所有人。这不是营销噱头。”雅各布·考克森不是明星。他不是首席执行官，不是著名科学家，也没有博士学位（是的，在美国，没有博士学位你也可以成为“人工智能研究员”）。他27岁加入Anthropic，主要是因为其安全声誉，而且他喜欢解决问题并“让世界变得更美好”。换句话说，他是一名工程师。就像我们大多数人一样。但他做了我们大多数人从未做过的事情：他在股权归属前两个月离开，并放弃发言。 “通过提高 Anthropic 的估值，我不再能获得任何好处……我在所有股权归属之前就离开了。”请注意，他并没有称人择为“邪恶”。他甚至告诉《华尔街日报》，他们的安全工作是真诚的。他的指责比这更冷酷：“如果你承受着比赛的压力，你就必须走捷径”。你可能会说反应太大了。一封辞职信，超过 1.15 亿的浏览量，工程师、企业家或普通人之间社交网络上的愤怒，以及立法者突然呼吁监管。但这正是重点：当一名工程师的离开震惊了整个世界时，它告诉你世界已经怀疑的事情：当机器内部的人说这个工程师很危险时，那么噪音更多的是一种症状，而不是糟糕的嗡嗡声。内部人士也亲自证实了这一点。 Anthropic 的对齐团队负责人 Evan Hubinger 写道：“Jacob 在这里是正确的——我们确实真诚地相信人工智能可以杀死所有人类！我个人认为，在未来十年内，这一数字将超过 10%。我相信 Anthropic 正在尽最大努力，但我们还没有解决超级智能对齐问题的计划，而且也没有明确的进展。”我们以前看过这部电影#五年前，另一位员工看了自己公司的内部研究，也面临着同样的选择。 《华尔街日报》的“Facebook 文件”披露了 Facebook 自己的幻灯片：“我们让三分之一的青少年女孩的身体形象问题变得更糟。”并且：“在报告有自杀念头的青少年中，13% 的英国用户和 6% 的美国用户将自杀的欲望归因于 Instagram。”弗朗西斯·豪根没有耸肩。她收集了文件，辞职，并在美国参议院作证。 2026年是考克森，2021年是豪根。不同的公司，但同样的举动：他们拒绝，他们离开，他们向外界发出警告。模式就是重点。在这两种情况下，公司都知道。而且，在这两种情况下，内部人员都必须决定知道是否就足够了。这种疾病#很容易将这种情况减少到少数邪恶的公司身上。看看喂养他们的文化（我们的文化）更不舒服，也更准确。今天的工程师被要求崇拜生产力并将质量视为一种奢侈。 2026 年一项针对科技工作者的大型调查用一位受访者的一句话总结了这一情况：“我可以做得更多、更快，但不能做得更好。”同一项调查将这种情况命名为：微笑疲惫。人们又开始发货了，补偿金也增加了，而且没有关闭开关。超过一半（53%）的科技工作者会引导新人离开自己的领域，但他们会留下来。另一份关于软件交付的报告发现，67% 的开发人员现在花费更多时间调试人工智能生成的代码。我们接受残渣，我们接受疲惫，我们接受关注我们自己的工作单的质量，所有这一切都是为了补偿。这不仅限于人工智能实验室。正是这种本能反应让工程师们耸耸肩，合理化监控产品、令人上瘾的算法、国防合同和机构工作：“如果我拒绝，更糟糕的人就会这么做”。我之前写过，舒适是技巧的敌人，但我太温和了，因为最后我们可以看到，舒适是责任的敌人。用士气换取金钱不是职业决定，而是交易。这是一种交易，你出售了你本应关心的那部分。经常这样做，它就不会再回来了。这不是倦怠，但它仍然是一种疾病。尽管像所有疾病一样，它会传播：首先传播到您的团队，然后传播到您的产品，然后传播到使用它的人。指控 # 那么，你为什么还在为他们工作？如果答案是薪水，请大声说出来，不要强迫自己找借口。如果答案是“更糟糕的人会取代我”，也说出来，而且声音更大。如果答案是“我可以从内部改变事情”，那么请告诉我你改变了什么。豪根尝试了里面。考克森尝试了内部。可惜最后里面还是没有动。我们生活在一个社会中，我们的一举一动都承载着责任。你可以忽略它，领取你的报酬，低下头，告诉自己你只是一个构建功能的工程师……但是，不要认为自己是人类的贡献者。你只是一个思考自己的人，而不是