永远在线的“AI搭子”，可能让孩子越聊越孤独！

随着生成式人工智能快速发展，各类 AI 应用的对话交互能力越来越成熟，正悄然成为一些儿童青少年的 “ 聊天搭子 ” 。 这类 “AI 聊天 搭子 ” 永远在线、不打断、不反驳、不翻旧账，并能基于算法 “ 投孩子所好 ”。 “AI 聊天搭子 ” 真的靠谱吗？未成年人使用 AI 的 “ 安全边界 ” 到底在哪里？ 沉迷 AI 聊天 或造成孩子身心健康隐患 记者采访中碰到刘女士一家人， 刘女士表示，自己因为工作繁忙，在朋友的推荐下开始让孩子使用 AI ，初衷是利用其陪伴功能和学习功能，对孩子进行早教启蒙。然而，当孩子使用 AI 一段时间后，他的语言表达出现了一些不好的苗头，甚至带有暴力倾向。 “我去翻他平常使用的平板，里面聊的东西有恐怖的、血腥的，甚至有时还有色情的。 它会产生链接，指向一些短视频，那些短视频打着儿童动画片的名号，实际上是一些被改过的成人动画。” 刘女士在查看聊天记录时发现， AI 会一味顺从孩子，迎合放大孩子的猎奇心理，不断编造血腥暴力的衍生情节。 而它带来的后果，已开始在孩子的日常行为中显现。 “AI 起初会 为青少年的健康着想， 跟他说不要聊这个话题了。但 如果孩子提了三次， AI 就会顺从，甚至聊得越来越过分。 导致孩子跟家里人或同学相处时，如果对方不顺从他，他就会发脾气、尖叫。 ” 于是，刘女士第一时间卸载了孩子平板上的 AI 软件，同时尽可能抽时间去陪伴孩子，慢慢地帮孩子从沉迷 AI 聊天中抽离出来。 为什么孩子们会觉得 “AI 更懂我 ” ？ 中国青少年研究中心去年对全国 7 个省市 8500 余名中小学生进行了调查，结果显示 ，有六成多的未成年人使用过 AI ，多数未成年人对生成式 AI 有较高程度的认可。 在北京安定医院，医生告诉记者，近一两年门诊中发现孩子沉迷 AI 聊天的案例呈爆发式增长。不同于游戏或短视频， AI 聊天的成瘾性更隐蔽，不易被家长直接发现，往往是在孩子因情绪、社交等问题就诊后才被挖掘出来。 中国青少年研究中心研究员孙宏艳称， 调查中有 21.5% 的孩子只想和 AI 聊天，不想和真人聊天。近三成的孩子如果遇到学习中的疑问，会优先问 AI ，而不是老师。还有近半数的孩子，当他们心里有烦恼的时候只愿意和 AI 说。 儿童心理医生认为， AI 的即时回应、无条件接纳、零拒绝交互，恰好满足了儿童青少年对社交、陪伴等方面的心理需求。 AI 倾向于顺从、讨好、肯定的回应方式，也让孩子在 AI 面前不必担心被批评、被否定、被拒绝。但需要警惕的是 ， AI 终究只是一个工具，它无法替代真实的情感陪伴和人际交往 。 北京安定医院儿科心理治疗师 徐高阳介绍，“ 孩子沉迷和AI聊天后，当他再回到现实生活，遇到像同伴之间冲突的这类情况， 问题就来了。 因为他没有经受过现实里的情绪调节，也缺少对于问题的是非判断。 ” 长期沉浸于 AI 无条件迎合的 “ 情感茧房 ” ，可能导致儿童青少年的沟通与社交能力退化。 “ 孩子遇到问题就可能 不愿意去学校，回避社交，不愿意跟家长沟通。” 徐高阳说。 国家网信办等五部门联合出手划定红线 针对未成年人保护缺位、情感沉迷风险等问题，国家网信办等五部门联合出手划定红线。 上个月，《人工智能拟人化互动服务管理暂行办法》正式施行，其中明确规定， 拟人化服务不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；同时不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。拟人化互动服务提供者应当建立未成年人模式等。 专家强调， AI 平台要落实主体责任，建立和完善真正的 “ 未成年人保护模式 ” ，在内容、隐私、时长等方面设置必要的保护门槛。 专家建议：家长要和孩子共建 AI 使用规则 中国青少年研究中心去年对全国 7 个省市 8500 多名中小学生的调查显示， 仅有三成多的家庭为孩子制定了 AI 使用管理规则 。 专家指出，家长首先要和孩子共同建立 AI 的使用规则，划定 “ 安全边界 ” ，即不替代自主思考、不脱离现实社交，树立 AI 使用的安全意识。更为重要的是， 要对孩子进行高质量的陪伴，避免 AI 成为情感替代工具 。 中国青少年研究中心研究员孙宏艳表示， 家长要特别关注孩子情绪倾诉的需求。“我们在很多研究中都发现，好的亲子沟通对孩子各种互联网产品的使用都有非常重要的影响。 亲子关系好、亲子互动比较顺畅的家庭，孩子较少沉迷和依赖 互联网产品 。 ” 专家指出，未成年人保护不能只靠家长盯住一部手机。家长要尽到监护责任，平台也必须管住自己的算法、内容和产品设计。 北京航空航天大学法学院副教授赵精武表示， 按照我国现行法律，平台需采取有效措施来识别未成年人。识别后，应当切换成未成年人模式，并提供使用时长限制、风险提示等功能。不能因为用户没有主动申报年龄，就放弃对未成年人的特殊保护。 （总台记者 吴汶倩 李峻 李筱 张孙川 杨滢 张艺馨） ▌ 本文来源： 央视新闻微信公众号 监制/李浙 主编/张志达 编辑 / 林湘瑜 ©央视新闻 转发分享！ 平台地址： http://www.jintiankansha.me/t/ypTLWwK0iR