欧盟希望打破儿童和他们的聊天机器人

欧盟计划禁止聊天机器人在与 18 岁以下任何人的互动中模拟情感或人际关系，以阻止儿童对这项技术产生情感依赖。这些规则将成为周四提出的《欧盟儿童法案》的一部分，其中包括对未成年人访问社交媒体和视频共享平台的类似限制。根据《连线》看到的立法草案，13 岁以下的儿童将被禁止在没有监护人监督的情况下使用聊天机器人，数字平台必须在其产品中内置儿童安全保护措施，否则将面临高达全球总营业额 6% 的罚款。根据新规则，在欧盟运行的聊天机器人也将不允许保留单独对话之间交互的记忆，因为委员会担心这可能会导致系统随着时间的推移积累未成年人的敏感数据，并可能强化有害的交互模式。拟议的法律还将规定，在线社交网站、视频共享平台和游戏的提供商不应自动激活或鼓励在其服务中使用人工智能聊天机器人。报告称，这包括不要将人工智能伴侣和一般对话聊天机器人固定在未成年人联系人列表的顶部——就像 Snapchat 所做的那样。该提案仅限于委员会认为对未成年人的健康、安全和福祉构成严重风险的人工智能伴侣和一般对话聊天机器人。总部位于布鲁塞尔的欧洲数字权利倡导组织的政策顾问西蒙·德布劳威尔 (S​​imeon de Brouwer) 对聊天机器人措施表示欢迎，但他告诉《连线》杂志：“将这些措施仅限于年轻人是没有意义的。” “我们难道不都应该受到保护，免受旨在让人上瘾的人工智能的侵害，免受产生情感依赖的人工智能的侵害，或者免受默认激活并推送给用户的人工智能功能的侵害吗？”欧盟表示，将于今年晚些时候公布的《数字公平法案》预计将提议更广泛地打击令人上瘾的设计。在《连线》杂志看到的文件中，欧盟委员会表示担心对聊天机器人的依赖可能会对儿童的发展及其与其他人类的关系产生负面影响。它还担心聊天机器人会向未成年人提供危险的建议，包括有关他们的心理健康和个人发展的建议，并称这些建议可能会塑造和鼓励危险行为。总统乌苏拉·冯德莱恩 (Ursula von der Leyen) 在周四的新闻发布会上表示：“平台一直在对儿童的心理健康进行随意的干预。”根据 Ipsos BVA 对法国、德国、瑞典和爱尔兰的调查，大约一半 11 至 25 岁的欧洲人曾与人工智能聊天机器人讨论过亲密或个人事务。澳大利亚和英国都试图通过社交媒体禁令来限制未成年人使用聊天机器人。它还强调了聊天机器人生成的深度伪造品的危害，冯德莱恩在周三的国情咨文演讲中对此表示赞同：“我们不必接受女孩的照片被用于人工智能生成的性感图像……欧洲有能力采取行动。”尽管欧盟人工智能法案自 8 月起就要求将合成内容标记为人工智能生成的内容，但该规则目前仅适用于为商业用途生成的深度伪造内容。委员会还将年轻人基本技能下降归咎于数字化干扰。经济合作与发展组织在 91 个国家进行的研究显示，自称使用人工智能聊天机器人完成学业的孩子的考试成绩低于那些没有使用人工智能聊天机器人的孩子。独立网络 EU Kids Online 的研究人员在一份报告中写道，对认知影响和去技能化的担忧“暴露了 GenAI 工具设计中缺乏儿童权利”。