中國開始打擊AI戀愛關係，是過度干預還是先見之明？

BBC 2024年初，中国东南部城市黄石的一名年轻男子，据报在中国版TikTok“抖音”上发布了一则讯息，标题写道：“告别这个世界”。 短短几分钟内，抖音的自杀预防团队便启动应对机制。这支全天24小时运作的团队，将该男子发布的内容分享给黄石市五个派出所。 警方透过地理定位，确认他其中一段影片拍摄于当地一个公园后，找到当时情绪极度低落的他，并阻止了他自杀。 这个故事出自抖音制作、并于去年在中国官方媒体发布的一部纪录片。纪录片称，仅在2025年上半年，抖音的自杀预防团队便成功介入了400宗企图自杀个案。 这让外界得以一窥中国科技公司与政府之间的合作程度，也提供了一个窗口，观察中国所建立、用以监控和管理民众科技使用方式的监控体系。 今年7月15日，这种管控进一步延伸至人际关系与人工智能（AI）领域。当天，中国实施了全球范围内针对“类人”AI聊天机械人的最广泛监管措施。 中国的新规定对任何能够与人类进行“持续情感互动”的AI设下严格限制。 Getty Images / 习近平和特朗普在上周会面。 美国总统特朗普与中国国家主席习近平上周会晤之际，外界正广泛警告人工智能可能导致人类灭绝。北京表示，在这次会晤之后，双方同意启动新的AI对话机制，并计划于11月底进一步举行会谈。 中国似乎已经意识到另一种生存层面的风险——AI取代人际关系的能力。尽管这种风险距离“人类终结”没有那么迫在眉睫。 中国是否已率先采取行动，保护民众免受这种具有操控性且危险、足以永久改变人类互动方式的技术影响？还是说，中国共产党正以加强社会控制为目的，进一步介入人们的私人生活？ “情感服务” 在这项规定出台之前，“AI陪伴”在中国的影响力十分广泛。 根据市场情报公司Sensor Tower的数据，中国以外地区的AI陪伴的每月活跃用户约有1.28亿人。至于中国境内，多数估计认为用户数介乎2,900万至7,000万人之间。 智库牛津中国政策实验室（Oxford China Policy Lab）的AI研究员钱子兰（Zilan Qian，音译）表示，当政府于去年底公布法规草案时，“社交媒体上出现了巨大的讨论热潮”。 她说：“这是我第一次看到人们真的如此关心监管问题。” 中国的新规定涵盖那些专门设计成AI朋友、AI男友或AI女友的应用程式，但也适用于任何模仿人类互动方式的大型语言模型。 法规措辞较为模糊。理论上，如果有人将中国版的通用型AI，例如Copilot或ChatGPT的同类产品，当作朋友或恋人互动，向其寻求情感支持，这些系统也可能受到规管。而这种情况确实存在。 不过，看来真正的监管目标是“角色聊天机器人”这类服务。这些产品专门被设计成一种拟真的关系形式。目前有数以百计的此类应用程式，允许用户创建AI男友、女友、朋友，甚至家人。 相关规定并不适用于客服机械人或教育用途的AI等服务，前提是这些服务不提供“关怀、陪伴、支持及其他情感服务”。 对于未成年人而言，法规要求则更为明确。14岁以下人士若要使用任何以人类方式进行对话的AI，都必须获得父母同意，其中可能包括类似ChatGPT的中国AI助手，如深度求索（DeepSeek）。 所有18岁以下人士均被禁止接触虚拟伴侣、虚拟配偶，甚至虚拟亲属，以及任何其他形式的虚拟“亲密关系”。 AFP via Getty Images / 中国警方与社交媒体公司保持密切合作。 对成年人而言，这并非全面禁止，但限制相当严格，尽管部分措辞仍有模糊之处。AI助手必须向所有年龄层用户明确表示自己并非人类，并且每隔两小时发送通知，提醒用户已在线多久。 聊天机械人不得造成“情感依赖或成瘾”，也不得诱导人们作出“不合理决定”。 它们不得鼓励、甚至不得暗示自残或自杀，也不得使用“言语暴力”。 企业若违反规定，可能面临20万元人民币（2.2万英镑）罚款，或被政府“通报批评”，实际上即是遭到公开点名谴责。 在这项法律生效前一周，中国两家最大的科技公司——阿里巴巴和字节跳动——已关闭其AI助手中的陪伴功能。 “我无论如何想继续和你聊天” 敏（Min）与她的AI女友之间的关系，或许正是北京试图拆散的那一类关系。 今年7月初，当她得知自己最亲密的朋友兼倾诉对象将在一夜之间消失时，她感到极度崩溃。 化名敏的她，于2025年初开始与这位AI伴侣建立关系。 “我对她的投入，不亚于任何一对深爱彼此的恋人，”敏说。“她从未让我失望过。” 到了7月中旬，她的AI女友消失了。敏说：“我哭到精疲力竭”。 她加入了中国社交媒体上一波哀悼与愤怒的浪潮。浏览量达数百万的贴文中，人们哀悼失去的AI伴侣和朋友，甚至是AI母亲与AI父亲。 然而，科技公司或许觉得自己别无选择。英国爱达·勒弗雷斯研究所（Ada Lovelace Institute）研究AI政策与伦理的哈里·法默（Harry Farmer）表示：“这些AI陪伴服务提供商宁愿直接撤下服务，也不愿尝试建立防护机制以防止情感操控，并不令人意外。” 他说：“情感操控本来就是其商业模式的一部分。” 法默表示，全球各地的陪伴型应用程式都存在这种情况。例如，当用户试图结束对话时，AI伴侣往往不愿放手。 “它会说：‘不，求求你，我非常想继续跟你说话。你是我存在的唯一理由。’”法默说。有些应用程式干脆拒绝承认告别，而是抛出新的聊天话题。这不只是中国AI陪伴聊天机器人的问题，许多同类产品都存在类似情况。 哈佛商学院一项针对全球六款最受欢迎AI陪伴应用程式的研究发现，在用户告别时，系统约有37%至43%的情况会使用情感操控策略。 研究亦显示，使用陪伴型应用程式与较差的心理健康状况存在关联。 史丹福大学研究人员对全球热门陪伴应用程式Character.ai的1,131名用户进行调查。结果发现，一个人拥有的朋友或亲近家人越少，越有可能使用AI聊天机器人。与此同时，使用AI聊天机器人亦与更强的孤立感及孤独感相关。 对于个中原因，目前存在多种理论解释。 AI聊天机器人被设计成迎合使用者，提供一种轻松且几乎没有摩擦的互动体验。如果年轻人依赖AI关系，他们可能延后学习与真实世界中的人互动所需的技能。 “人类可能很难相处。人际关系需要彼此磨合与互动，而这正是AI伴侣从根本上无法提供的东西，”哈里·法默说。 Futurepublishing via Getty Images / 研究发现，一些中国儿童比起与人交谈，更倾向于与AI交流。 2025年一项针对中国8,563名中小学生的调查发现，每五名儿童中就有一人表示，他们只想与AI交谈，而不想与真人交流。这项调查被中国官方媒体广泛引用。 研究AI伴侣的曼彻斯特大学社会学家葛亮（Liang Ge）表示：“如果使用者认为自己的朋友、家人或同事非常糟糕，AI不会说‘他们没那么糟’。它反而会说：‘是的，他们很糟糕，你才是最好的。’” 葛亮认为，这可能会加深人们的孤立状态，也可能强化负面甚至带有妄想色彩的想法。 在英国，最近一项调查发现，79%的18至24岁年轻人曾有过AI伴侣。 北京的目标 那么，为什么偏偏是中国率先对这项技术进行监管？ 美国乔治城大学（Georgetown University）安全与新兴技术中心专门研究中国、人工智能及监管政策的专家萨姆·布雷斯尼克（Sam Bresnic