不透明循环以及您可能应该知道的其他人工智能术语

人工智能正在重写世界，同时发明了一种全新的语言来描述它是如何做到这一点的。如今，参加任何产品会议、推介或小组讨论，你都会听到人们在 LLM、RAG、RLHF 之间翻腾——截至上周，“不透明递归”等术语是 OpenAI 新 Astra 模型中的推理技术，让人工智能安全研究人员感到不安。词汇的变化速度之快，甚至让科技界非常聪明的人都感到有点不安全。这个术语表是我们试图解决这个问题的尝试：为您最有可能看到的人工智能术语提供简单的英语定义，无论您是使用这些东西进行构建、投资，还是只是想通过阅读 TechCrunch 或收听相关播客来跟上潮流。随着该领域的发展，我们会定期更新它，因此可以将其视为一个动态文档，就像它描述的人工智能系统一样。通用人工智能（AGI）是一个模糊的术语。但它通常指的是在许多（如果不是大多数）任务上比普通人类更有能力的人工智能。 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 曾将 AGI 描述为“相当于你可以雇佣为同事的中等人”。与此同时，OpenAI 的章程将 AGI 定义为“在最具经济价值的工作中超越人类的高度自治系统”。 Google DeepMind 的理解与这两个定义略有不同；该实验室将 AGI 视为“在大多数认知任务上至少与人类一样有能力的人工智能”。使困惑？不用担心——人工智能研究前沿的专家也是如此。人工智能代理是指一种工具，它使用人工智能技术代表您执行一系列任务（超出了更基本的人工智能聊天机器人所能做的范围），例如报销费用、订票或餐厅餐桌，甚至编写和维护代码。然而，正如我们之前所解释的，这个新兴领域有很多变化的部分，因此“人工智能代理”对不同的人来说可能意味着不同的东西。基础设施仍在建设中，以实现其设想的功能。但基本概念意味着一个自治系统可以利用多个人工智能系统来执行多步骤任务。将 API 端点视为软件背面的“按钮”，其他程序可以按下该按钮来使其执行操作。开发人员使用这些接口来构建集成，例如，允许一个应用程序从另一个应用程序提取数据，或者使人工智能代理能够直接控制第三方服务，而无需人工手动操作每个接口。大多数智能家居设备和连接平台都具有这些隐藏按钮，即使普通用户从未看到或与之交互。随着人工智能代理的能力不断增强，它们越来越能够自行查找和使用这些端点，从而为自动化开辟了强大的（有时是意想不到的）可能性。给出一个简单的问题，人类大脑甚至不需要太多思考就可以回答——比如“哪种动物更高，长颈鹿还是猫？”但在许多情况下，您通常需要笔和纸才能得出正确的答案，因为存在中间步骤。例如，如果一个农民养了鸡和牛，它们总共有 40 个头和 120 条腿，您可能需要写下一个简单的方程式来得出答案（20 只鸡和 20 头牛）。在人工智能背景下，大型语言模型的思想链推理意味着将问题分解为更小的中间步骤，以提高最终结果的质量。通常需要更长的时间才能得到答案，但答案更有可能是正确的，尤其是在逻辑或编码上下文中。推理模型是从传统的大型语言模型发展而来，并通过强化学习针对思想链思维进行了优化。 （参见：大型语言模型）这是一个比“人工智能代理”更具体的概念，“人工智能代理”是指可以自行采取行动、逐步完成目标的程序。编码代理是应用于软件开发的专用版本。编码代理不是简单地建议代码供人检查和粘贴，而是可以自主编写、测试和调试代码，处理通常会占用开发人员一天时间的迭代、试错工作。这些代理可以跨整个代码库运行，发现错误、运行测试并在最少的人工监督下推送修复。可以把它想象成雇用一个非常快的实习生，他从不睡觉，从不失去注意力——尽管与任何实习生一样，人类仍然需要审查工作。虽然计算是一个多价术语，但它通常指的是允许人工智能模型运行的重要计算能力。这种类型的处理推动了人工智能行业的发展，使其能够训练和部署强大的模型。该术语通常是提供计算能力的硬件类型的简写，例如 GPU、CPU、TPU 以及构成现代人工智能行业基石的其他形式的基础设施。自我改进机器学习的一个子集，其中人工智能算法的设计是基于