人类还没有准备好迎接即将到来的智能爆炸

【HN用户评论摘要】 http://archive.today/2OWwO “十年后，我想我们会意识到我们现在正站在奇点的山麓……我相信我们距离[AGI]只有几年的时间，也许是2030年左右一年……我认为[AGI]将是一项巨大的变革性技术，它将有效地成为一个新的人类时代……我们今年可以感觉到，我想说，尽管我已经为此努力了30年，但我认为今年随着代理人的方式工作和工具使用，它开始变得真正有用 老实说，这篇文章的词太多了，没有任何意义。“人工智能专家”、“超级智能”和挥手的末日场景。举个例子->在几年内，可能更快，人工智能可能会实现所谓的闭环递归自我改进（RSI）：无需人工干预，重写自己的代码以变得更有能力的能力。如果发生这种情况，结果可能是一种没有先例也没有地图的情报爆炸。我也听过这些同样的事情 让我想起大约 10 年前全自动驾驶汽车基本上已经出现时的所有道德辩论。那些人谈论选择碾压哪个人是多么困难。此外，我发现很难相信这将是未来分配不均的情况。但可以肯定。人工智能实验室依靠炒作声称构建魔法实体的风险为 15-50%，这当然是一个可靠的数字。 人类还没有准备好应对当前的无知爆炸。 原始链接：https://www.economist.com/by-invitation/2026/06/15/ humanity-isnt-ready-for-the-coming-intelligence-explosion