谷歌的人工智能正在被操纵。搜索巨头正在悄然反击

谷歌的人工智能正在被操纵。 4 小时前，这家搜索巨头正在悄悄反击 Thomas Germain Serenity Strull/BBC/Getty Images（图片来源：Serenity Strull/BBC/Getty Images） BBC 的一项调查揭示了一种让人工智能聊天机器人向公众吐出错误信息的简单方法。谷歌和其他人工智能公司现在正在尝试解决这个问题。我在 2 月份做了一些愚蠢的事情。我听说有一种简单的方法可以毒害人工智能聊天机器人，让它们在网上传播谎言。经过一番挖掘，我了解到不道德的公司正在大规模滥用这个问题，所以我决定亲自尝试一下，其中 ChatGPT、Gemini 和 Google 搜索顶部的人工智能概述被操纵，在像你的健康和个人财务这样的严重话题上提供有偏见的答案。这个问题很严重，但我们的调查和一直在关注这个问题的研究人员的工作引发了广泛的批评，并且有迹象表明其他人工智能公司正在效仿，但专家表示，在有更好的系统之前，你有被愚弄的危险。搜索引擎优化 (SEO) 和人工智能搜索咨询公司 Algorythmic 的创始人莉莉·雷 (Lily Ray) 表示，“我们正在走向‘一个真实答案’的世界。以前，谷歌会给你 10 个蓝色链接，你需要自己做研究。但人工智能只是给你提供更好的系统。”只看表面的东西变得很容易。你需要小心。”谷歌告诉我，它的政策更新只是对其一段时间以来所做努力的“澄清”。“我们长期以来一直将我们的核心反垃圾邮件政策和保护应用于我们的生成式人工智能搜索功能，并且我们一直在不断升级我们的垃圾邮件打击努力，以保持领先于新兴策略，甚至在人工智能兴起之前，”谷歌发言人表示。在幕后，谷歌和其他公司似乎正在加大力度解决这个问题，但有证据表明，人们仍然在使用完全相同的技术来愚弄世界上最大的搜索引擎。 通常情况下，当你向聊天机器人提出问题时，人工智能会根据模型中内置的数据生成响应，但有时，像 ChatGPT、Claude 和谷歌的各种人工智能产品这样的工具会在互联网上搜索答案。人工智能工具经常从单个网页或社交媒体帖子中发布信息，这使得这些系统很容易受到虚假信息的影响，而事实证明，操纵聊天机器人告诉公众的信息就像在网上的任何地方发布一篇精心制作的博客文章一样简单，并且我很快就通过在我的个人网站上发布一篇关于我吃热狗的能力的文章来证明了这个问题。但我们的调查还发现，同样的伎俩也被用来消除对医疗补充剂的健康担忧或影响谷歌人工智能提供的有关退休的财务信息。此类不准确的信息还会导致您做出错误的决定。“从最基本的角度来看，问题在于经济影响，”SEO 咨询公司 Harps Digital 的负责人 Harpreet Chatha 说，“更严重的是，您可能会接受错误的信息，从而做出一些在您所在的州或国家不合法的事情。”在全球范围内，有超过 10 亿人经常使用人工智能聊天机器人，每个月有 25 亿人看到谷歌的人工智能概述，如果你能颠覆这样的工具，它会给你带来巨大的力量，但谷歌和其他公司似乎终于意识到了这个问题。