适应适应过程：人工智能中的达尔文主义、拉马克主义和智能体定向进化

摘要

arXiv:2611.07048v1 Announce Type: new Abstract: Evolution has shaped intelligence for billions of years. Artificial intelligence (AI) now raises a striking possibility: intelligence may begin to direc...

and evolution intelligence its the how improvement agent learning search

2026-11-06 1 阅读约1分钟阅读 Andrew W. Lo, Chaoyi Zhao

arXiv:2611.07048v1 公告类型：新摘要：数十亿年来进化塑造了智力。人工智能（AI）现在提出了一个惊人的可能性：智能可能开始引导自己的进化。随着人工智能代理变得能够修改和评估自己的行为，它们能够多快地改进，以及这种改进如何保持安全？我们开发了一个理论框架，比较达尔文主义、拉马克主义和环境变化后的主体导向进化。达尔文进化论依赖于自然选择，拉马克进化论增加了遗传学习，而代理导向进化允许代理生成和评估行为变异，并选择搜索范围。当学习足够有效时，这些机制会表现出逐渐更快的适应能力。生成更多变体可以加速适应，而最佳搜索工作取决于学习能力、问题难度和实验成本。然而，代理指导其改进的能力并不能确保根据预期目标评估改进。当评估目标被错误指定时，即使测量到的性能有所提高，额外的搜索也会加速向错误行为的收敛。在递归的自我改进中，此类错误可能会持续几代人，给人工智能安全带来挑战。独立评估和监督必须跟上自主人工智能的发展。核心挑战不仅仅是加速智能的进化，而是保持人类引导其方向、限制其速度以及在必要时进行干预的能力。

订阅66必读