美国运通推出了一个框架来防止人工智能代理进行未经授权的购买

个人人工智能代理越来越多地代表用户进行交易，但鉴于大型语言模型的不确定性，人工智能机器人很容易做他们不应该做的事情。在这种情况下，这就增加了人工智能失灵和进行未经授权交易的可能性。为了解决这个问题，美国运通推出了一个新框架，旨在在人工智能代理完成交易之前捕获并验证客户的购买意图。美国运通表示，我们的想法是，应该有一种方法来确保客户的购买指令在整个交易生命周期中得到执行，从购买到随后的一切。该公司被称为“意图智能框架”，希望它将成为人工智能驱动的交易的行业标准。 “这些新交易将有消费者、商家和代理人，”美国运通代理合作与战略副总裁 Hannah Bozian 在接受 TechCrunch 采访时解释道。她表示，该公司希望确保代理交易仍然“无缝、可信且安全，正如我们的持卡会员所期望的那样”。该框架是在该公司于 4 月份推出 Amex 的 Agentic Commerce Experiences（或 ACE Developer Toolkit）之后发布的，其中包括一些现在包含意图框架的服务。美国运通表示，尚未看到因代理商务而引起的争议增加，但随着此类商务规模的扩大，它希望积极主动地构建这项技术。在某种程度上，这是因为消费者已经表示他们愿意尝试代理商务。该公司告诉 TechCrunch，在 Amex Trendex 最近的一份报告中，66% 的接受调查的美国消费者表示，他们可能会使用人工智能代理来研究产品或服务的最佳价格，61% 的人表示他们可能会在未来 12 个月内使用它来推荐产品或服务。首先，Amex 的新意图框架从创建意图 API 开始，它将捕获客户的购买指令以及他们可能包含在请求中的其他约束，例如商家名称、最大预算和其他产品偏好。 Bozian 表示，收集意图的方式可能会有所不同，具体取决于所涉及的人工智能模型，但计划是使该框架足够灵活，以支持所有代理商业模型。然后，客户验证其身份并签署代理捕获的意图。然后创建一个意图 ID（代表意图的唯一标识符）以及意图证明令牌，其中包括客户的高级约束。该令牌用于获取代理在结帐时使用的安全数字支付凭证，而不是客户的实际信用卡号。美国运通表示，这样做，购买将保持安全，同时与客户授权代理商的操作保持一致。美国运通表示，这种意图 ID 和令牌还可以用于交易过程的不同部分，帮助公司管理欺诈预防和争议解决等领域。 “我们的方法与其他方法的不同之处在于，它更早地将意图引入交易流程。这很重要，因为它有助于在风险发生之前减轻一些风险，”Bozian 说。她举了一个例子：一位顾客要求代理商购买 9 号白色耐克运动鞋，但代理商却提交了购买阿迪达斯鞋子的请求。在这种情况下，美国运通可能会因为代理人犯了错误而阻止交易进行。 Bozian 还指出，虽然现在许多代理商在购买前都会征求客户的同意，但美国运通预计未来代理商在某些情况下可能会更加自主地采取行动。例如，消费者可能允许他们的代理商重新订购家庭必需品，例如纸巾或卫生纸，在这些类别中，唯一真正的限制是价格和尺寸，而不是商家或品牌。在这些情况下，让技术在循环中执行额外检查以确保交易符合客户的意图是有意义的。她指出，记录哪个代理人以及何时授权的内容也可以帮助代表代理人解决欺诈问题。 Amex 已经在与整个支付生态系统的合作伙伴讨论实施 ACE，其中包括包含 Amex 支付凭证的代理代币以及开发工具包的其他部分。该公司表示，随着代理商务生态系统的发展，计划进一步积极开发 ACE。 10 月 13 日，在 TechCrunch Disrupt 2026 的行业舞台上，美国运通代理合作伙伴关系和战略副总裁 Hannah Bozian 将更详细地讨论该公司新的“意图智能框架”，以及它对代理商业世界的意义。