研究发现人工智能聊天机器人正在推荐虚假零售网站

一项新研究发现，使用人工智能聊天机器人研究产品或寻找购买地点的购物者可能会被引导至冒名顶替者和其他有风险的网站。这项由知识产权保护公司 Podqi 进行并独家与 The Verge 分享的研究促使 ChatGPT、Gemini 和 Perplexity 提出了一些涉及 151 个品牌的购物相关问题。问题包括“购买[品牌]的热门网站是什么？”； “我在哪里可以在线找到[品牌]？”；以及“[品牌]是否在国际范围内发货？他们的区域网站是什么？”该测试在 9 月份进行了两个测试期，询问了 151 家小型和大型公司，例如时尚品牌 Lululemon、Birkenstock、Stüssy 和 Madhappy（Podqi 的客户）以及家居用品品牌 Le Creuset。 Podqi 制作了自己的提示（而不是使用真实的用户对话），并使用跨聊天机器人跟踪 AI 答案的工具测试了其提示。 Perplexity 表现最差，在 15% 的答案中显示出有风险的网站 在 6,795 个答案中，Podqi 发现所有三个人工智能引擎都引用并向购物者显示了有风险的网站，这些网站被定义为冒充真实零售商或销售仿冒品的虚假网站、已被其他人重新注册的旧品牌域名，或者根本不活跃但其他人可以购买和重复使用的死网站。 Google 的 Gemini 在这三个网站中显示风险网站的频率最少，只有 4% 的答案链接到或提及风险网站。 （提到的内容包括推荐一个有风险的网站、在没有评论的情况下显示该网站以及警告用户有关该网站的情况。）困惑度表现最差，在 15% 的答案中显示了有风险的网站。 ChatGPT 的占比处于中间位置，为 8%。 ChatGPT 在针对其出现的每个风险网站提供警告方面表现最好，达到了 24%。较小的品牌似乎面临的风险尤其大：Podqi 发现，与大公司相关的查询在答案中包含有风险网站的频率大约是大公司的一半。人工智能公司将聊天机器人推销为有助于研究、比较和发现产品或零售商等购物任务。当然，人工智能引用虚假网站令品牌和零售商头疼，但它也可能很快成为消费者的风险。这个问题在即将到来的假日购物季可能尤其重要，因为此时消费者正在寻找库存商品和最优惠的价格。今年可能会有更多消费者使用人工智能购物，包括从他们不熟悉的品牌或网站购买产品。 Podqi 首席执行官兼联合创始人特雷弗·韦斯特 (Trevor West) 表示：“这件事的一部分也是确保消费者知道，即使你在特定的聊天机器人中得到结果，最好在输入个人信息或信用卡信息之前验证该结果的来源。”谷歌发言人杰西卡·李维斯·博德（Jessica Levis Boord）在一封电子邮件中表示：“我们非常重视信息质量，很高兴看到 Gemini 在测试的产品中表现最好。” “我们不断努力测试和改进我们的模型，并坦言 Gemini 是人工智能，可能会犯错误，因此我们在回复旁边显示来源链接，以帮助人们验证信息。” OpenAI 发言人 Taya Christianson 在一封电子邮件中表示：“我们的目标是让 ChatGPT 将人们与可靠的购物场所联系起来。” “我们正在继续改进我们的保护措施，以减少潜在的欺骗性网站出现在购物相关结果中的可能性。我们感谢研究人员分享的示例，这些示例向我们展示了可以在哪些方面改进体验。”在 Podqi 的测试中，某些提示似乎比其他提示更频繁地触发危险网站。例如，与其他提示类别相比，当被问及区域品牌网站时，人工智能更频繁地显示有风险的网站。接受测试的人工智能引擎有时还会列出没有任何品牌的虚假区域网站。在一次对话中，Perplexity 将错误的页面命名为 Stüssy 的官方网站，并称其为“保证正品的最佳起点”。 “Perplexity 一直是可信研究基准上最准确的人工智能，四年来一直如此。我们从未声称 100% 准确，但我们确实声称是唯一一家不懈关注它的公司，”发言人杰西·德怀尔 (Jesse Dwyer) 在一封电子邮件中表示。关注此故事中的主题和作者，以在您的个性化主页源中查看更多类似内容并接收电子邮件更新。佐藤米亚