OpenAI 为青少年推出了更安全的 ChatGPT——在青少年开始使用几年后

在因人工智能聊天机器人缺乏安全措施导致青少年自杀和其他心理健康问题而引发无数诉讼之后，OpenAI 于周一宣布推出针对青少年的 ChatGPT。新产品承诺包括额外的安全措施，以及 ChatGPT 辅助的学校作弊教育危机。在教育方面，ChatGPT for Teens 引入了新的学习模式功能和其他工具，旨在鼓励青少年用户激发好奇心并解决问题，而不仅仅是获得快速答案。正如 OpenAI 在博客文章中所解释的那样，学习模式选项将为青少年提供指导性问题和分步支持，以帮助他们理解材料。与此同时，青少年的体验还将包括当青少年似乎试图作弊而不是理解材料时出现的家庭作业提醒。然后，人工智能聊天机器人将促使青少年使用学习模式。该公司表示，该应用程序还将支持测验和学习可视化，以及允许家长或监护人决定何时默认启用学习模式的控件。不过，目前尚不清楚，如果青少年决定不合作，逃离这些新系统会有多困难。青少年非常擅长绕过家长控制和其他锁定数字体验的尝试。在 ChatGPT 的青少年模式能够接受更严格的测试之前，目前尚不清楚在现实中解决这些安全措施有多困难。图片来源：OpenAI OpenAI 表示，ChatGPT for Teens 中将默认启用适合应用程序的保护功能，旨在减少接触有害或不适合发育的内容。这些措施基于我们模型规范中 OpenAI 的 18 岁以下原则，该公司声称这些原则是根据“发展科学和专家指导”提供的。家长还可以使用之前推出的家庭工具和家长控制来管理设置、接收安全通知和设置安静时间等。 OpenAI 宣布与 CodeAI 合作，帮助青少年更多地了解人工智能，包括它的工作原理、如何指导或质疑它以及如何使用它。在课堂上，OpenAI 已经为教师提供了 ChatGPT，以帮助学校提供由机构管理的 AI 访问和支持。