我成熟过程中的三个重要步骤

我父亲最近去世了，他的年龄是我的两倍。我和他出生时的年龄差不多，我现在是“老一代”——我上面的一代已经没有人了。与此同时，我最近加入了一家比我年轻的公司。当我 2011 年加入 Google 时，我刚满 30 岁，属于 2011 年 Google 的主流人群。还有很多更资深的人员，其中非常资深的已经 50 多岁了，已经在贝尔实验室完成了工作。我钦佩很多这样的“灰胡子”（尽管这是一个性别歧视的术语——正确的女性对应词是什么？我很想把一些非常资深的女工程师也包括在内）。因此，也许我很自然地会反思“自 20 岁出头以来，我所做出的哪些重要认识对我看待世界的方式产生了深远的影响”？从某种意义上说：对于“成熟”的积极定义，我的哪些见解使我“更加成熟”？这篇文章试图列出它们。 1.了解你自己的激励结构的重要性，不要相信你所想的一切。我最近在 Twitter 上写了一篇关于这个话题的帖子。奥本海默在公开场合对核弹的制造感到内疚，冯·诺依曼在某个时候打趣道“有些人承认有罪，以声称自己有罪”。在我年轻的时候，尤其是当我遇到了其他人没有的 0day 时，我对 0day 所带来的责任感到痛苦。我应该修复它们吗？我应该永远使用它们吗？世界会因此受到伤害吗？还是那样？最后，事实证明，虽然个人很重要，但许多想法都有一个“成熟的时间”，而个人的行动并不比个人当时的想法重要。几乎没有办法预测你的行为将如何影响更广阔的世界。如果你被问到：“如果用这个0day来抓恐怖分子好不好？”你可能会说“这很好”。如果你被问到“如果用这个0day来抓人，然后对他施酷刑、水刑183次好不好？”，你可能会说“这不好”。那么如果你的0day被用来捕获KSM，那可能是好的？还是不好？事情很快就会变得非常复杂。关闭 0day 对社会有好处吗，因为它让一切变得更安全？或者它是否会造成压迫，因为有缺陷的系统更容易被绕过？没有好的答案，你自己的激励结构将极大地影响你如何选择你的信仰。最后，人们希望成为自己故事中的英雄，同时他们也有对认可、物质商品等的基本需求——因此他们会尝试构建一个叙事，让他们能够满足自己的基本需求，同时又保持自己传奇中的英雄的地位。对你的工作影响的焦虑是自我奉承，你必须认识到这一点，并加以控制——它是你自我的糖，但历史将在很大程度上绕着你转，因为虽然个人的决定在特定情况下很重要，但历史的整体流动对个人的敏感度并不像个人想象的那么高。不过，更广泛的教训是：不要相信你所想的一切。仔细检查你自己的激励结构。问问自己，你的行为和信仰可能有哪些替代叙述，尤其是当它们与你为自己构建的英雄传奇的叙述相矛盾时。仔细权衡“我如何成为这个故事中的反派？”这个问题。是一项重要且有价值的技能。同样，元认知——以一种超然的方式观察自己的想法，然后能够根据自己的激励结构来解释、分析和背景化它们，是一项需要培养的伟大技能。 2. 单因果决定论是一种幻觉，在计算机调试之外基本上不存在。年轻的计算机爱好者所习惯的单因果决定论是一种幻觉，一代又一代的电气和工艺工程师花费了一生的时间来完善和维护。正是因为这些工程师，计算机科学家在很大程度上可以在没有概率或过去任何经验基础的情况下逃脱。有一种观点认为，有如此多的自然科学家跨界进入人工智能领域，因为计算机科学教育长期以来过于关注确定性单因果幻觉中的推理。现实是：计算机是物理设备，包括磨损、物品之间的质量差异以及“概率确定性行为”，例如如果没有太大的动摇的话，大多数时候它都会显得是确定性的。如果稍微推动一下——无论是温度、电压、电磁场，甚至是对相邻 DRAM 行的快速内存访问——决定论往往会被抛到九霄云外，幻觉就会崩溃，我们面对的是一个完全不同的野兽。 FWIW - 这也让我对模型对齐感到好奇，因为即使是完美的