打造更安全的自主工业人工智能之路

Arti：是的，所以我认为对我们来说，我们考虑围绕负责任的人工智能的三重任务，这意味着它是安全的，它是高效的，并且包括环境效率，然后它首先真正保护人类安全和人类监督。对我们来说，这就是我们负责任的人工智能的一些核心支柱所包含的内容。对我们来说，这意味着我们在构建工具时会在内部进行思考，这是一种多层治理方法，我们既要考虑公司如何使用人工智能，又要考虑如何将人工智能部署到我们的产品中。我们有一个类似的框架，可以在两者之间利用，这是一种联合治理模型，既围绕我们如何利用人工智能，也围绕我们如何将人工智能注入到我们的产品中，以允许我们的客户在他们的运营中利用人工智能。但我想说，所有这些背后的核心基本原则之一是，人类仍然以我们如何思考如何利用人工智能为中心。因此，人类的判断、人类的责任、人类的道德仍然是我们思考人工智能可以在哪些方面带来好处的核心，如果你愿意的话，我们更多地认为它是在关键决策循环中增强而不是取代人类。梅根：是的，这是一个非常重要的区别，不是吗？就下一阶段的发展而言，人们越来越认为代理人工智能将很快让这些工业系统更加自主地运行。我想知道，工业环境中的风险与纯数字环境中的人工智能风险有何不同？我想另一方面，同样的软件定义自动化有哪些好处和机会？ Arti：我认为我们可以从风险开始，然后再考虑收益。我认为最终，我想说工业环境中最大的风险是我们正在与真实的物理系统进行交互，通常是非常有能力提供重要成果以维持我们的世界运转的物理系统，无论是提供电力，还是开采自然资源。但通常情况下。这些物理系统也在危险环境中运行，设备本身也可能对人类安全产生影响。每当您将软件与可能产生现实世界后果的物理系统连接时，您都必须格外小心。我们从一开始就将这一点融入到 AVEVA 的 DNA 中，即关注最终用户和最终应用程序，而不仅仅是计算机屏幕上的东西。即使我们在过去几十年里已经将人工智能部署到我们的系统中，但我们通常倾向于真正尝试选择最适合的模型，真正理解该模型的行为（如果我们要使用的话），例如，我们有一个适用于许多操作环境的专有异常检测模型。现在，当我们思考一些较新的人工智能功能时，这些功能在设计上很难理解它们的行为方式，它们不能像我们过去思考人工智能或统计模型的方式从根本上解释，而且实际上，随着它们学习和适应新功能，它们的行为会随着时间的推移而改变。这确实是基于随着时间的推移而发展的功能来实现物理系统自动化的潜在风险，这是我们必须真正注意和深思熟虑的事情之一，我们愿意将一些增强的自动化付诸实践吗？但与此同时，我认为那里有一个真正的机会，因为我掩盖了这样一个想法：好吧，模型在进化，但人类也在进化，有时这是一件好事。我们谈论拥有专业知识的人类，他们在职业生涯中逐渐了解系统的工作原理。如果我们能够真正利用这些较新的人工智能功能中的一些能力，这些推理模型通常具有潜在的代理能力，能够更快地学习和收集经验，甚至更重要或更有价值的是，将在一个站点学到的经验应用于另一个站点，那么这就是一个真正的机会，可以利用我们已经知道的对人类有用的东西，也就是说，有时你只需要边做边学，并能够通过人工智能应用和扩展它。这就是我在这个领域看到潜在的真正机会的地方。在工业领域，我们真正意识到的一件事就是我们的劳动力正在发生变化。我认为近一半（不是完全一半）的工业劳动力将在未来五年内退休，而这意味着我们将在该行业失去大量的专业知识和经验。如果有办法确保我们能够以可行的方式捕捉到这一点，同时也可以帮助习惯以不同方式体验事物的新一代工人，应用这些专业知识，应用这些知识，那么我认为这在工业领域是一个巨大的机会。梅根：是的，绝对是。显然，那里有一些巨大的机会，特别是农业