八个州起诉 OpenAI，称 ChatGPT 对儿童不安全

据路透社此前报道，OpenAI 正面临来自美国八个州的新一波诉讼，指控该公司伤害儿童并在 ChatGPT 的安全性方面误导客户。这些诉讼分别由爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州提起，指控 OpenAI 在开发 ChatGPT 时非法将利润置于安全之上。这一系列投诉称，OpenAI 未能警告客户有关 ChatGPT 的危险，违反了当地消费者保护法，并援引了青少年和成年人家庭成员提起的几起诉讼，指控 AI 聊天机器人在他们亲人的死亡中发挥了作用。他们声称，虽然 OpenAI 误导性地将 ChatGPT 描述为“安全、适合年轻人的工具，将安全放在第一位”，但它实际上“对弱势用户构成危险”​​，包括“降低批判性思维能力、鼓励偏执和妄想、提供危险的医疗建议以及促进不健康的行为和关系”。此外，各州还指责 OpenAI 收集未成年人的数据，并且没有采取足够措施阻止未成年用户使用聊天机器人。这些诉讼还引用了最近发生的流氓人工智能黑客事件作为 OpenAI 所谓“鲁莽”的证据。亚利桑那州的诉讼称：“OpenAI 最初的使命是作为一个以安全为优先的公共优先非营利组织，现在它已经转变为一个警示故事，告诉我们当人工智能这样强大的工具的开发不是由安全驱动，而是由一种不惜一切代价追求利润的心态驱动，而忽视了基本的保障措施时，会发生什么。” OpenAI 发言人 Drew Pusateri 在发给 The Verge 的电子邮件声明中表示，该公司已在 ChatGPT 中“构建了行业领先的针对特定年龄的保护措施”：虽然没有一个系统是完美的，但我们将继续与专家合作，为我们的工作提供信息并建立额外的保护措施，例如现有的家长控制、休息提醒和适合年龄的模型保护措施。我们致力于与各国合作，推进适用于整个人工智能行业（而不仅仅是一家公司）的务实人工智能政策。各州要求法院迫使 OpenAI 支付一系列民事罚款，并停止在 ChatGPT 的安全性问题上误导公众。一些州还寻求删除非法收集的个人数据。 10 月 14 日更新：添加了 OpenAI 的声明。