AI没有意图也没有动机

我们似乎非常担心人工智能失控的威胁，而且有很多例子表明它就是这样做的。然而，这些都是误传，因为人工智能没有意图，也没有动机。如果你认为当前的人工智能只是一只随机鹦鹉，那么就没什么可说的了——继续吧。如果你使用过任何当前的人工智能产品，你必须得出这样的结论：虽然培训机制让人相信这些法学硕士只是复杂的自动完成，但它们似乎确实有更多的东西。正如我多次指出的那样，训练语料库（即语言）对世界结构进行了足够的编纂，让法学硕士远远超出了你对随机鹦鹉的期望。他们并不聪明，但给人的印象却是聪明。那么我们应该担心即将到来的人工智能末日吗？许多人工智能研究人员——例如 Hinton、Hassabis 和 Bengio——都表示担心人工智能可能会消灭我们，但当你审视他们的言论时，你会发现这与非技术企业老板不太一样，他们大多只是把这个话题作为一种赚钱的方式。企业老板不是我们应该倾听的人，因为他们有太多的轴心要磨，因此有理由更喜欢人工智能无所不能且具有威胁性的场景。有一些专家，特别是吴恩达、LeCun 和布鲁克斯，他们认为我们过分夸大了当前人工智能的力量以及它需要多长时间才能达到超越人类智能的阶段。即使这是真的，也有一个更好的理由不用太担心——动机。考虑一个人。我们有各种各样的需求，因为我们是生物学的。我们受到生存需要的驱使，我们会做一些事情来确保食物、住所、安全和伴侣。我们受到生物学的驱动。人工智能的情况并非如此。我们使用的法学硕士都经过强化学习训练。如果你想以更人性化的方式表达这一点，他们会因正确完成训练任务而获得奖励。就我个人而言，我认为这是一种过于拟人化的做法，但也无害。一旦法学硕士接受培训，他们就不再接受强化学习。他们不再有任何动力。当他们回答问题时，他们不会得到奖励。他们没有需要或想要，即使有，也没有吸收奖励的机制。他们甚至没有任何可以代表对出色完成工作感到自豪的反馈。您是否尝试过告诉法学硕士，它很好地回答了您的问题。回复充其量只是平淡无奇，而且是由你和法学硕士之间的前端混乱所造成的。不仅如此，人工智能什么时候主动向你提出过建议？你什么时候打开一个窗口，发现人工智能输入“我有一个好主意......”，然后解释为什么这是一个好主意。法学硕士没有好主意——他们没有意图。当你用人工智能探索一个主题时，它似乎会暗示训练集中一些不寻常的东西，但这并不是没有创新的。我们通过输入由我们的需求驱动的问题来驱动人工智能。法学硕士没有动力做任何事情，甚至不回答你的问题。动机根本不参与其中。您输入一个问题，然后运行前向传播算法。无论答案是正确还是无用，LLM都不会得到奖励或惩罚。它也不是由人类所关心的任何问题驱动的——“我的晚餐从哪里来”、“我怎样才能从这份工作中晋升”、“约会的最佳方式是什么”……等等。人类是一个混乱的需求集合，而法学硕士则没有这些。为什么这意味着法学硕士是无害的？很简单，因为它实际上并不想要任何东西，但人类是如此需要，以至于他们无法想象这种状态下的任何东西。人工智能会消灭我们吗？为什么会这样？这样做会有什么收获呢？它甚至没有用于创建简洁逻辑的奖励循环——它没有任何奖励循环。如果人工智能决定消灭人类，那是因为人类询问了它如何去做，并以基于其训练集中所有人类表达的终结世界的方式做出了回应。是的，这是值得担心的事情，但这不是人工智能。它仍然是人类。相关文章杰弗里·辛顿（Geoffrey Hinton）和人工智能的生存威胁你怎么能不被人工智能打动呢？人工智能——一切从此开始走下坡路？人工智能可以有意识吗？如果您今晚睡得好，您可能还没有理解要了解 I Programmer 上的新文章，请订阅我们的每周时事通讯、订阅 RSS 源并在 Facebook 或 Linkedin 上关注我们。评论 使用 Disqus 发表评论或查看现有评论，或通过电子邮件将您的评论发送至：comments@i-programmer.info