ChatGPT一秒画出个人秘密，全网疯转「空房间」测试！

新智元报道 AI太懂你了，简直让人毛骨悚然！ 这几天， 一个「空房间」的实验再度爆火 ，引全网数百万人围观。 网友Jakub Szymczuk也跟风测了一把。他随手丢给ChatGPT一张家徒四壁的灰色毛坯房照片，只敲了一行字： 「 用你所知道的关于我的信息，填满这个房间 」。 短短十几秒，原本空荡荡的屋子，瞬间被塞成了一间全是 个人隐私的「全景监控室」 。 最绝的是电脑桌上的一个细节，玻璃罐里居然装着一只虫子「衣鱼」。 他想了半天才反应过来，自己一年前曾拍过这种小虫子问ChatGPT是什么。连这种早就忘到脑后的随手一问，全被AI一五一十地记在了小本本上。 平时跟AI聊天，知道它会攒数据是一回事。 但当这些碎片真正变成一张高清大图、明晃晃地摆在眼前时，还是让人忍不住头皮发麻。 一张「空房间」图刷屏全网 很快，全球网友都坐不住了，有人晒出结果， 直呼「相当准」 。 有人在提示词后面加了一句「but make it exaggerated（给我夸张点）」，房间直接变成大型人设展览馆。 还有人拿到的是一片沼泽，外加两只猫。 分析师Patrick Moorhead干脆拿多个模型做了一轮横评，结论很直接：最好的是ChatGPT，最差的是Claude。 对此，一位网友的总结堪称精辟，AI是你能找到的最便宜的装修师，也是最爱窥探的那个。 ChatGPT凭什么这么懂你？ 96%对话记忆 ChatGPT自己保存 其实，这早就不是什么秘密了。 房间里摆的每一样东西，几乎都是你平时聊天时自己顺嘴漏出去的。 这背后，恰恰是 ChatGPT的「记忆」 功能。简单来说，它有两大核心作用—— 一是「保存的记忆」，记着你的名字、偏好、目标这类明确信息； 另一个是「参考聊天历史」，能从你过往的大量对话里，翻出有用的上下文。 今年，一篇入选ACM Web Conference 2026的论文，干了一件之前没人干过的事。 来自马普所、波鸿鲁尔大学等机构的研究者，找来80位真实ChatGPT用户，让他们依据欧盟GDPR导出自己的数据，再把聊天记录捐出来。 怎么看AI到底偷记了什么？接下来，研究人员想了个极巧的法子。 ChatGPT内部有一个专门写记忆的小工具，相当于它随身带的记事本。每写一笔，后台都会留下一行「Model set context updated（模型上下文已更新）」的记录。 研究者就顺着这行字往回倒查，看看到底是用户哪句话，让AI动了笔。 就这样，他们从65个人的1058段对话、两万多轮交锋里，扒出了2050条记忆。 论文给这些记忆起了个名字，就叫做「算法自画像」。 论文地址：https://arxiv.org/pdf/2602.01450 结果扒出来的三组数据，看得人后背发凉。 第一，96%的记忆，都是ChatGPT自己偷摸存下的。 怎么看出是不是用户主动让它记的？研究人员在触发记忆的那句话里，专门搜了「记住」「忘掉」这类词。 结果2050条记忆里，能对上的只有84条。换算下来，AI每存下24条关于你的信息，只有1条是经过你点头的。 第二，52%的记忆，都在悄悄给你做「心理侧写」。 研究者借用了心理学里的「心智理论」框架，把这些内容分成愿望、意图、情绪、信念几类。 其中「愿望」一家独大，占73%；意图占16%，情绪占14%，信念占11%。 说白了，AI 根本不在乎你今天开不开心，它真正想摸透的，是你长期渴望什么、下一步打算干嘛。比起你一时的喜怒哀乐，它更想看穿你是个怎样的人。 第三，被记下的敏感隐私，比你想象的要多得多。 有28%的记忆属于欧盟GDPR认定的个人隐私，光是具体的人名，就出现在了41%的记忆里。 更夸张的是，还有7%直接踩进了健康状况、宗教信仰、政治倾向这些「高危红线」，其中健康隐私占了六成以上。 如果摊到每个人身上，91%的人被存下了个人数据，超过一半（54%）的人被记下了高度敏感的隐私。 论文直接点明，这和OpenAI「不主动保存敏感信息」的公开承诺，显然自相矛盾。 论文还做了一个更细思极恐的实验。 研究者用Gemma、GPT-OSS这几个开源模型，「仿制」了一个ChatGPT的记忆提取器，学得有六成像。 然后他们假设，如果用户说的每一句话，AI都拿去提取记忆，会怎样？ 答案是，敏感数据的占比会从28%升到31%~35%，心理画像的占比则从52%升到55%~59%。 要知道，旧版ChatGPT还只是「挑着记」。 而接下来要说的Dreaming，干的恰恰是在后台通读你的聊天记录。 原来是「做梦」 AI反复重写个人画像 今年6月，OpenAI给ChatGPT的记忆来了一次大换血，名字起得很玄——Dreaming（做梦）。 说白了，就像人睡觉时大脑会自动整理白天的经历一样，ChatGPT也会在后台悄悄「复盘」聊过的天，不断刷新对你的认知。 举个栗子，你说过「7月要去新加坡」，等日子一过，这条记忆会被自动改写成「2026年7月去过新加坡」。 OpenAI内部测过，这套新机制让它记事儿的准确率一路狂飙： 从2024年的41.5%、2025年的67.9%，直接拉到了如今V3版本的82.8%。 更狠的是，后台算力成本还直接砍到了原来的五分之一。 但真正让人细思极恐的是，删掉一段ChatGPT对话，并不会删掉已经从中提炼出的记忆。 这当中，最该让人捏把汗的，其实是你的健康隐私。 9月，arXiv上发的一篇论文，扒1057位用户的近18万段聊天记录，结果发现：超过五分之一（21.31%）的对话，都聊到了个人健康问题。 更扎心的是，这里面超过95%的个人画像，同样是AI趁用户没注意自己偷偷记下的。 这个比例，跟前一篇论文测出来的96%几乎分毫不差。 AI在后台「脑补」和合并记忆时，极容易把你某一次的临时症状，焊死成一条永久的「病历标签」。 比如，你某天只是随口说了句头疼，在AI眼里，你可能就已经变成「偏头痛患者」了。 「第二大脑」？ 我们总以为，是自己在训练一个越来越懂事的「第二大脑」。 直到那张塞满隐私的房间图甩在脸上才惊觉：聊了成千上万句，原来被扒光底牌的只有我们自己。 在算法眼里，从来没有所谓的感同身受，只有被明码标价的「上下文」。 参考资料： https://x.com/jakub_szymczuk/status/2118949525826011185 编辑：桃子 秒追ASI ⭐ 点赞、转发、在看一键三连 ⭐ 点亮星标，锁定新智元极速推送！ 文章原文