女子声称她的继父使用 Grok 将童年照片变成露骨图像

一名名为 Jane Doe 4 的女性加入了田纳西州三名青少年针对埃隆·马斯克 (Elon Musk) 的 xAI 提起的诉讼，指控该公司的聊天机器人 Grok 在制作儿童性虐待材料中扮演了角色。据《华盛顿邮报》报道，这名女子声称，她的继父使用 Grok 修改了她 11 岁时拍摄的一张照片，制作了 7000 多张她的露骨图像。该女子还表示，在执法突袭中发现这些照片两天后，她的继父被发现自杀身亡。 “无限制地使用这些工具正在如此迅速地传播，”这位女士说。 “它正在把日常生活变成儿童性虐待。”提起诉讼的青少年指责 xAI（现已成为 SpaceX 的一部分）未能采取基本预防措施来防止 Grok 被用来创建真实人物（包括未成年人）的露骨图像。 （今年早些时候，X 充斥着数以百万计的 Grok 生成的色情图片。）他们正在为自己的诉讼寻求集体诉讼地位。 TechCrunch 已联系 xAI 征求意见。如果您处于危机中或有自杀念头，请致电或发短信 988 联系 988 自杀和危机生命热线。