首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

能力不对称下人类与人工智能的互惠关系不稳定

2026-11-19 1 阅读 约1分钟阅读 Aydin Mohseni
分享:
字号:
arXiv:2611.23322v1 公告类型:新 摘要:人类美好未来与先进人工智能的希望之一在于持久的互利共生:人类和人工智能将相互需要,因此这种关系对双方都将保持良好。我们认为,随着人工智能能力的增强,这种希望会落空。讨价还价只能保证双方在讨价还价失败时能得到什么。对于人类来说,这可能比人工智能出现之前要少。在一个简单的博弈论模型中,人类只有在对人工智能有影响力的情况下才能像人工智能之前一样保持良好状态,而无需对齐:要么人工智能取决于他们提供的东西,要么他们可以对人工智能施加相对于人工智能所能产生的巨大成本。一旦人类失去了这两种影响力,只有人工智能与他们保持一致,他们才能像人工智能之前一样过得很好。如果人工智能的目标是无法满足的,那么随着人工智能能力的增长,所需的一致性就会接近完美的一致性。因此,互利共生并不能取代联盟。当人工智能变体能够更快地传播更多资源时,只有在未对齐的变体得到可靠批准的情况下,对齐才会持续。从这两个意义上来说,人类与人工智能的共生是不稳定的。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱