我从协调超过 100B 的交易中学到了关于 AI Trust 的知识

一个多月前，我参加了开罗 AI Everything MEA 的一个小组，与两位投资者和业内最敏锐的科技记者之一讨论了人工智能领域的信任、透明度和问责制。我是舞台上唯一的操作员，是构建系统的人，而不是评估它们的投资机会和可行性。我想从内部讨论人工智能信任实际上是什么样子。改变对话的问题主持人迈克·布彻（Mike Butcher）提出了我经常听到的一个问题的一个版本：投资者在评估人工智能公司时应该寻找什么？投资者小组——来自 Flat6Labs 的 Yehia Houry 和来自 Enza Capital 的 Abdelrahman Hassan——就治理框架和创始人可信度提供了深思熟虑的见解。然后轮到我了。我决定从一个关于短信费用及其对计算每月活跃用户 (MAU) 的影响的故事开始。在我们这样的金融机构，客户每月根据中央银行设定的条件赚取利息。每个月初，系统会扣除该期间的短信通知费用，并过账同一期间的利息收入（如果满足条件）。这些是系统生成的交易——客户没有做任何事情。他们没有打开该应用程序。他们没有转账。他们没有购买。但是，如果您对“每月活跃用户”的定义是“至少进行过一笔交易的任何客户”，那么这些客户就会显示为活跃用户。这就是发生的事情。营销部门向董事会报告较高的月度活跃用户 (MAU)。产品查看相同的数据，发现参与度较低——平均交易价值下降，因为真正活跃的客户与基本上休眠的客户混合在一起。财务部门看到第三幅图景完全是因为他们正在跟踪创收活动，而这两项交易都不会创收。三队。相同的基础数据。三个不同的故事。不同的 MAU 定义（图片由 Claude 生成） 以下是对 AI 来说重要的部分：如果您在此数据之上构建流失预测、信用评分或个性化，AI 就会继承混乱。它通过短信借记方式对待休眠客户，就好像他们每天都在进行交易一样。每个下游模型都根据无人同意的定义做出决策。这不是模型问题。该模型完全按照您的指示进行操作。这是一个治理问题。它从一些简单的事情开始：“活跃”到底意味着什么？当我讲这个故事时，我能感觉到房间发生了变化。不是因为它很戏剧性，而是因为观众中的每一位创始人要么经历过它，要么正在忍受它。治理如何融入我们的架构 完整的监管链（图片由 Claude 生成） 在 Moniepoint，我们处理尼日利亚和英国多个实体的超过 1000 亿笔交易。我们的对账系统、分析平台、财务报告，所有这些都取决于数据的可信度。但我们并不是从治理策略开始的。我们从一个限制开始。在尼日利亚，大多数银行没有能够处理我们处理的交易量的 API（我知道这有点自夸，但这就是我们的现实）。因此，银行对账单必须手动上传到我们的对账系统中。这会立即产生信任问题：如果上传声明的同一个人也批准了该声明，那么您就无法进行验证。所以我们建立了一个制造商检查系统。上传者不能是审批者。这不是一个合规决定。这是运营上的需要。但它确立了一个原则，贯穿我们后来所建立的一切。结算报告将银行对交易的看法转化为与我们内部记录相当的形式，具有相同程度的可追溯性。当我们的系统自动协调交易时，它不仅记录匹配，还记录哪个管道做出了决定以及谁构建了该管道。如果数据工程师创建了标记逻辑，并且该逻辑以某种方式对事务进行了分类，您就可以对其进行追溯。这个结果的存在是因为这个人使用这个逻辑构建了这个管道。 Moniepoint 的每笔交易都有完整的监管链。从有人在终端付款的那一刻起，经过结算、对账，再进入我们的 ERP 进行财务报告和分析。我将其视为交易的生命周期。就像 RioPY 乐曲中的一个音符一样——从被敲击的那一刻到它消散的那一刻，每一次振动都是有意的。去掉一个舞台，和谐就会变成噪音。我们建造这个并不是因为监管机构告诉我们这样做的。我们建造它是因为尼日利亚的银行基础设施让我们别无选择。现在，世界正在呼吁人工智能治理、可追溯性、问责制和人工监督，我们已经在路上了。不仅仅是因为我们有远见，而是因为限制迫使我们拥有良好的架构。无人谈论的 SQL 问题