性感的人工智能约会应用程序骗局就在这里

安全研究员 Matthew “Zigula” Gore-Kormanik 正在分析一款名为 Dora 的欺诈性约会应用程序时，收到一条弹出消息，称他接到了 Jennifer 的电话。根据她的简历，她是一位 41 岁的射手座人，红头发、蓝眼睛，有穿孔。她喜欢音乐、恐怖电影、夜生活和运动。戈尔-科马尼克接了电话，但没有在视频中看到詹妮弗。他看到一块挂毯在移动，可能是由于风扇的原因，并听到背景中奇怪的扭曲。通话结束后，“詹妮弗”给他发消息说她玩得很开心，“你的声音比预想的要好得多。”他的麦克风甚至没有连接。 Gore-Kormanik 正在研究 Dora 和其他类似的应用程序，因为我与他分享了一份潜在约会诈骗应用程序的电子表格。我之所以对此进行调查，是因为 6 月 5 日，Anthropic 做了一些不寻常的事情：这家一向守口如瓶的公司让其威胁情报研究员 Chris Cronbaugh 在名为 Sleuthcon 的公共网络安全会议上发表演讲。该公司在注意到 Claude 的异常活动后发现了一个欺诈性约会应用程序网络：一个预付费帐户每天发送超过 100,000 个 API 请求。大多数聊天根本不涉及人工代理。在名为“向右滑动，支付：工业规模的 AI Catfishing”的演讲中，Cronbaugh 描述了一个由大约 28 个约会应用程序组成的网络，其中的对话主要由自主的 AI 角色运行。他说，大多数聊天根本不涉及人工代理。此后，Anthropic 在其《检测和打击人工智能滥用：2026 年 9 月》报告的“诈骗和欺诈”部分发布了其调查结果，但直到我们花了大量时间调查网络并试图证实调查结果之后。我对 Anthropic 公开谈论此事感到好奇，而许多应用程序仍然存在于美国两大应用商店中，并且想知道为什么它们没有被删除。看看这些应用程序本身，我注意到它们的目的是帮助人们找到可以交谈的人。它们看起来不像 Replika 等配套应用程序，很明显这些应用程序的角色实际上是人工智能。例如，Dora 被描述为“一款专为各个年龄段的人精心设计的约会应用程序……一个易于使用的尊重空间，可以结识与您拥有相同价值观的人。”另一个版本称这是“一款温暖、简单的约会应用程序，适合寻求真正联系的成年人。”描述中指出，Romi“帮助您发现真实的人、与真实的人联系并聊天。”多尼的口号是“开始真正的陪伴”；描述称它“可以帮助您与附近的单身人士联系。”该骗局的运作方式如下：用户（大多是 30 多岁的男性）使用约会应用程序并与他们认为是真正的女性进行匹配。实际上只有四分之一的人是这样的，而且这个人不是寻找其他约会的用户，而是一名付费零工。这些零工被雇佣来通过视频的活跃度检查或关注社交媒体账户。他们甚至没有写自己的评论。相反，他们通过从三个预先生成的回复中进行选择来回复消息。但他们可以证明自己是人类，而人工智能角色只能以合理的解释来解释为什么无法进行视频聊天或通话。 Anthropic 的报告指出：“当没有真人可用时，后端组件会伪造点赞、访客和预先录制的‘视频’，并跟踪哪些用户开始怀疑他们正在与机器人交谈。”由于与真人的互动很少，一些用户开始相信他们在应用程序上收到的完全由人工智能生成的回复也来自真人。涉及多个人工智能提供商。虽然克劳德被滥用来运行自主对话角色，但报告称，“一个小型的非人类模型生成了零工工人所点击的简短回复建议，以及面部吸引力评分和照片/声音审核。图像编辑模型生成了头像图像。”在线诈骗有一整套生态系统，从自动口渴陷阱回复到虚假社交媒体帐户或约会应用程序资料。在许多情况下，人们会花费数月时间建立信任，然后告诉受害者出现紧急情况并且需要经济帮助。或者他们假装是投资者，向他们拥有的账户索要资金，但结果却是假的。但这不是典型的浪漫骗局。不存在假浪漫伴侣“借”的钱，也不涉及加密货币。这些应用程序本身就是一个骗局：它们要求硬币才能继续互动，而硬币需要真钱。用户购买它们主要是为了继续与机器交谈，相信他们正在与其他人交谈。这些零工工人让这个诡计继续下去，而人工智能可以随着硬币的流动而保持对话 24/7 持续进行。这些应用程序本身就是骗局。根据 Anthropic 的报告，人工智能给出的提示保持了角色的一致性，并且人工智能正在运行