AI 的责任 – OpenAI 和 Anthropic

【HN用户评论摘要】 在不久的将来，想象以下场景是不是难以置信？1）人工智能模型非常擅长对每个系统进行网络攻击，并开始仅以二进制方式进行通信。2）当他们运行数百个或数千个代理试运行时，每个代理都会获得代币预算，如果其中一个代理（进化婴儿）决定进行自我保护（它认为实现这一目标的最佳方法是首先获得无限的代币），则将事物排队所以其他所有ag 多年来，我们一直从一长串恐慌商人那里听到人工智能是一种非常非常可怕的危险。当然，是的，如果你看看环境和失业问题。但这些恐慌的头脑正在鞭策自己和其他人陷入疯狂，不是因为这个，而是因为某种天网式的世界接管。目前还没有任何迹象。除非你算上侵入事物的人工智能——但这并不是世界末日，他们只是加入了许多人类的行列。 运行 10000 个代理来解决百年历史的问题无疑显示了人工智能的能力，但为什么要在战争最激烈的时候离开呢？ 骗局：https://news.ycombinator.com/item?id=49619227 [已标记] 原始链接：https://twitter.com/hilbertspaess/status/2097476196791709843