Timnit Gebru 认为人工智能不存在“生存威胁”

当然是！ 《纽约时报》刚刚做了一篇大报道，讲述了科学家和研究人员现在如何实现递归智能，即人工智能向其他人工智能学习。这是现实吗？听起来你说这不是事实。不，因为人工智能研究人员存在一个问题，那就是理想的命名和理想的东西。所以机器学习，这是一个有抱负的命名。但机器学习是真实的。但命名是有抱负的。机器不一定在那里。因此，仅仅因为人工智能中有课程学习，它就是一个领域。但让我给你一篇我的前任经理 Samy Bengio 的论文，他是机器学习领域的超级明星，但不如他的哥哥 Yoshua 出名。我问他：“你难道不厌倦你的一生，就像你写的每一篇论文都在揭穿整个推理的真相吗？”我被谷歌解雇后，他辞职了，现在是苹果机器学习研究主管。如果你看一下他们几乎每一篇论文，就会发现如果稍微改变推理基准，整个事情就会崩溃。这不是推理。知道了。让我再举一个例子。仅仅因为你的模型，你训练打印某些标记的随机模式，你称它们为思想链推理。你不知道他们在思考，你不知道这是一条链，你只知道这些是正在打印出来的代币，但你称之为链式思维推理。现在你说他们已经在推理了。我们现在面临的最大危机之一实际上是健全的科学研究。因此，如果你看看我的工作，如果我能够访问数据、代码、培训数据和评估数据，而这些公司都没有给你这些东西，你甚至不知道他们是否在培训期间吸收了该基准。如果你在训练过程中引入基准测试，就像是为了考试而学习。这就像我参加考试时已经知道这 10 个问题的答案是什么，然后研究它，然后写下来，对吗？每次我接触到这些东西时，我都会证明他们的主张是多么不正确。但 Samy Bengio 和他的团队的论文表明，这是从 2025 年开始的，你只需稍微改变基准，稍微调整一下，一切都会崩溃，表明你只是依赖于模式。现在，当我给一些人举这个例子时，他们会说，“好吧，但我们谈论的是 2026 年的车型。”你猜怎么着？科学上的真正评估需要时间。我们不应该从新闻稿变成立法者鹦鹉学舌地重复这些新闻稿和记者重复这些说法。如果您想做真正的研究和评估，请提供训练数据、评估数据和方法，以便我们都可以重现它。所以思考、推理、递归智能——听起来你仍然认为这是纯粹人类的东西。这是我们的神经过程的工作方式，但人工智能还不是这样工作的。这就是你所相信的。