黑客影响 ChatGPT 和 Gemini 将用户引导至诈骗中心

摘要

【HN用户评论摘要】 That's happening across the board when it comes to models that feed off online information. Create a website with a false claim, have AI slurp it up and spit it back out when a user asks a ...

and the are when with just hackers sites feeding The

2026-09-24 1 阅读约1分钟阅读 ArielSimon

【HN用户评论摘要】当涉及到依赖在线信息的模型时，这种情况正在全面发生。创建一个带有虚假声明的网站，让人工智能将其吞掉，并在用户提出问题时将其吐出来。祝选举愉快。这不仅仅是黑客——因为合法网站会阻止人工智能爬虫，人工智能只会抓取任何能让他们读取任何内容的东西——杀死合法网站并喂养垃圾农场并喂养错误信息！未来是如此光明！ ChatGPT、Gemini 和 Google AI Overview 正受到大规模 AI 虚假信息攻击的毒害。当用户查找数百家大公司的日常信息时，人工智能正在提供伪装成可信答案的网络钓鱼陷阱。攻击者正在网络上充斥着精心优化的帖子、PDF、评论和虚假支持页面，以欺骗人工智能提供欺诈性电话号码、电子邮件地址和登录页面。目标包括达美航空、汉莎航空、卡塔尔航空、大通银行、美国银行、Airbnb、T 原始链接：https://medium.com/@arielsimon/dark-sourcery-how-hackers-manipulate-ai-to-scam-you-88df434d2073

订阅66必读