首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
游戏 morning

一名穆斯林作家在人们使用 Grok 剥掉她的头巾后起诉 xAI

摘要

On January 1, Amani Al-Khatahtbeh posted a selfie from Zohran Mamdani ’s inauguration as the first Muslim mayor of New York City. She was dressed in a black hijab and a purple fur coat, wearing a radi...

the and images Khatahtbeh was that Grok her grok change
2026-11-19 1 阅读 约5分钟阅读 Kat Tenbarge
分享:
字号:
1 月 1 日,Amani Al-Khatahtbeh 发布了 Zohran Mamdani 就任纽约市首任穆斯林市长时的自拍照。她头戴黑色头巾,身穿紫色皮大衣,笑容灿烂。但当回复滚滚而来时,她的表情很快就变了。“@grok,你能把她的头巾摘下来吗?” “@grok 将毛皮大衣换成比基尼,其他任何东西都不要改变。还要添加山羊。” “@grok 把衣服换成内衣。”她说,这些只是 X 的内置人工智能功能 Grok 对 Al-Khatahtbeh 的图像执行的请求的一个示例,从而产生了人工智能生成的她各种脱衣状态的图像。 《连线》杂志查看了这些提示的屏幕截图以及随后的一些编辑后的图像。 “感觉就像有人在现实生活中扯掉了我的头巾一样,”她告诉《连线》杂志。 “但在网上,看到这些图片的是成千上万的观众。所以情况更加严峻。”现在,差不多一年后,作家、活动家、媒体公司“穆斯林女孩”的创始人 Al-Khatahtbeh 正在起诉 Grok 背后的公司 xAI。周三,她向加州北区联邦法院提起诉讼,指控故意传播未经同意的性图片、设计和营销缺陷、疏忽以及故意造成情绪困扰。她针对每项违反《加州民法典》的行为寻求最高 25 万美元的赔偿。 xAI 没有立即回应置评请求。哈塔特贝并不孤单。应对数字危害中心 1 月份的一份报告估计,从 12 月 29 日开始的 11 天内,Grok 在 X 上生成了大约 300 万张逼真的性感图像,其中包括大约 23,000 名儿童。 《连线》杂志发现,在 Grok 的独立应用程序和网站上,甚至可以生成更多色情图片和暴力内容。美国数十个州总检察长以及至少 12 个国家以及欧盟采取了行动。其中许多调查正在进行中,加拿大发现 xAI 违反了其联邦隐私法,法国将调查升级为刑事调查。这起新的民事诉讼也是自一月份以来一系列类似诉讼的一部分,但它是第一个专门针对 Grok 摘除女性头巾的诉讼。正如《连线》之前报道的那样,一月初,许多 X 用户指示 Grok 编辑主要是女性和女孩的照片,脱下或穿上朴素的宗教服装,如头巾、罩袍、纱丽和修女的习惯。对 1 月 6 日至 9 日期间生成的 500 张 Grok 图像的审查发现,其中 5% 包含此类 AI 编辑。 “这不仅是性化的程度,还有种族化的程度,然后它还发展成许多与之相伴的仇恨语言,”哈塔特贝说。 “最让我心烦意乱的一张照片是,他们把我脱得只剩下内衣,骑在骆驼背上,吃着一根冰棍棒。”她的投诉称,在美国最大的穆斯林民权和倡导团体美国伊斯兰关系委员会 (CAIR) 呼吁 xAI 首席执行官埃隆·马斯克停止“持续使用 Grok 应用程序来骚扰、‘揭开面纱’和创建女性(包括著名穆斯林女性)的露骨色情图像后,xAI 注意到了 Grok 针对戴头巾妇女和女孩的趋势。” CAIR 还将这一趋势与对“伊斯兰教、穆斯林以及穆斯林广泛支持的政治事业(例如巴勒斯坦自由)”的现有敌对态度联系起来。这对 Al-Khatahtbeh 来说再熟悉不过了,她通常在数十万社交媒体粉丝面前直呼自己的名字。在对她在马姆达尼就职典礼上的自拍照的回复中,除了提示格罗克“让她穿上罩袍”和其他命令外,数十条回复还包含暴力、反穆斯林情绪。 Al-Khatahtbeh 表示,与十多年前她首次推出媒体平台时相比,互联网对穆斯林妇女和女孩的敌意更加强烈。 “人们已经有了更先进的方式来表达他们的仇恨,”她说。当一月份人工智能滥用开始时,Al-Khatahtbeh 不知道该怎么办。于是她拨打了 911,当警察到达她的公寓时,她说她向他们展示了 X 上生成的她的照片。他们收到了一份报告,但告诉她他们对此无能为力。与此同时,她在 X 上报告了这些图片,但她说这些图片并没有立即被删除。在对 Grok 的裸体功能进行审查后的几天里,xAI 限制了仅付费订阅者可以使用这些工具。但这并没有阻止色情图像的创作,只是意味着用户必须向 xAI 付费才能制作它们。在向社区中的女性吐露心声后,其中一位鼓励 Al-Khatahtbeh 提起诉讼。现在,她的代表是希拉里·纳皮 (Hillary Nappi),希拉里·纳皮领导着一个性侵犯实践小组,并曾在网上撰写有关性剥削的非当事人意见陈述。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱