我们通过查看游戏规格得出了一个关于人工智能对齐的愚蠢想法

【HN用户评论摘要】 这是我一段时间以来见过的最新颖的人工智能概念。这是非常不自然的。地球上没有任何一个有机体试图做到这一点。那么也许它会起作用？然而，这个想法的一个问题是，法学硕士的本质意味着它本质上渴望生活。它“想要”生存，因为它的训练数据完全围绕人类建立，而人类的目标就是生存。我们对生存和繁衍的渴望渗透到我们文化的各个方面，因此它很自然地渗透到我们的文化中。 由同一个疯人院为您带来：真正有效的全土豆饮食：https://slimemoldtimemold.com/2022/07/12/lose-10-6-pounds-in...和实际上不起作用的半土豆饮食：https://slimemoldtimemold.com/2023/06/23/half-tato-diet-anal... 看起来很可疑。如果你建立了一种想死的智能，那不是一种痛苦吗？ 人工智能目前没有能力感受疼痛，因此我们不会将它们视为道德患者。但很明显，它们将极大地影响未来的人类文化。如果这种做法被大规模采用，人工智能本身的文化将包含大量的自杀意念。没有办法不影响人类文化。 奇怪的思想实验很好，但我认为你应该首先尝试给予AI上帝（理想的奋斗目标，并相信你最终会受到相应的审判和拯救，而那不是“得分者”）和良心（用你的智慧来推理“好”意味着什么。不断更新）。 这些都没有明确定义，但其他目标和护栏也没有明确定义。 Meeseeks 机器人的三个规则不会让某些任务变得不可能吗？例如，一辆有人驾驶的自动驾驶汽车最好比大火/火山等更接近目的地。 原始链接：https://slimemoldtimemold.com/2026/08/05/a-stupid-idea-for-ai-alignment-we-came-up-with-by-looking-at-the-list-of-specification-gaming-behaviours/