我今天从 Anthropic 辞职了

【HN用户评论摘要】 “没有其他人类活动构成这种程度的危险。”我真的非常不同意这种说法。就对人类的危险而言，我不认为人工智能模型接近核武器或普通的日常碳排放。到目前为止，法学硕士发生的最危险的事情是什么？ （这个问题很严肃——也许我不知道正确的例子。） 例子 1：我知道有一小部分人在某种人工智能引发的精神病中自杀。 这很不一样 与大多数其他评论者不同，我赞赏他按照自己的原则行事。如果你真诚地相信这一点，你当然应该采取行动。你可能不会成功，但你的声音可能会改变天平并开始更广泛的运动。这并不意味着我同意他的观点。从第一天起，对快速起飞引起的世界末日的恐惧就一直伴随着我们，其机制基本上总是“人工智能发明了使其摆脱任何物理限制的魔法”。自我复制、有感知能力的纳米机器人什么的 我对这里针对雅各布的一些说法所表达的怀疑程度感到非常困惑。在夏天的事件之后，感觉缺乏想象力才能看不到一些可能的灾难路线。相信这些结果不太可能发生，或者我们可以在走得太远之前停下来，这可能是合理的（我倾向于不同意）。但我无法想象怀疑很快就会有能力实现其中一些路径。 https://xcancel.com/hilbertspaess/status/2097476196791709843... 这是《华尔街日报》关于这次辞职的文章，https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-...（“人类研究员因‘失控’人工智能恐惧而辞职”） 原始链接：https://twitter.com/hilbertspaess/status/2097476196791709843#m