他们将一生奉献给教学。然后 Deepfakes 开始了

对于加利福尼亚州洛斯巴诺斯市的代课教师路易斯·德圣地亚哥来说，一切都是从几条短信开始的。 3月12日，当他在一家咖啡店做另一份兼职时，他的手机亮了。一位咖啡师同事表示，社交媒体上流传着一张人工智能照片。她的表弟想知道是不是德圣地亚哥。起初，德圣地亚哥并不担心，他认为不恰当的照片违反了 TikTok 的社区准则，通常很快就会被删除。德圣地亚哥告诉《连线》杂志：“当我最终看到这张照片时，感觉就像是一记重拳打在我的肚子上。”其中一部分类似于他记得在大学工作时拍的镜子自拍照。但他没有穿工作服，而是穿着内衣。他并没有像原照片中那样正常站立，而是摆出了暗示性的姿势。这些短信引发了一场长达数月的事件，涉及两所学校，涉及学生和管理人员。德圣地亚哥并不是唯一一个遭受这种伤害的教育家。 《连线》杂志采访了另外三名老师，他们声称他们的学生可能使用人工智能为他们制作了色情照片和视频。他们表示，这些事件令人深感痛苦和失望，在某些情况下，这让他们重新评估自己的工作以及与学生的关系。 “这可能包括其他学生”收到短信后，德圣地亚哥开始拼凑出图像背后可能有哪些人。一个分享该账户的账户在他们的 TikTok 个人资料中使用了真实姓名——这是 DeSantiago 在当地中学认识的一名学生，他经常填写该信息。根据关注该账户并与该账户互动的人，以及他对学生朋友群体的了解，DeSantiago 怀疑另外两名学生也参与其中。他预定第二天就在那所中学工作。德圣地亚哥向副校长报告了这一事件，副校长向他保证学校会“处理此事”。当天晚上晚些时候，他决定通过在 TikTok 上搜索自己的名字来寻找这张图片。他发现另一个学生创建了一个冒充他的帐户——该帐户使用了他的名字，但拼写略有错误，并且照片与他们的个人资料照片相同。德圣地亚哥说，在接下来的几周里，他与学校管理人员、学生家长，甚至警察来来回回。 “如果这些学生不害怕生成和发布我的这些照片，我担心他们可能会通过短信和群聊私下传播这些照片，”德圣地亚哥在给校长的信中写道。 “请记住，这也可能包括其他学生。”一名承认制造该图像的学生受到校内停学处分。德圣地亚哥后来被告知，这张照片也在 Snapchat 上分享。但德圣地亚哥表示，该图片继续激增，其他学生也开始发布它。他说，他的 TikTok 账户上还收到了一些粗俗的色情评论。德圣地亚哥告诉管理人员，“在这个问题得到彻底解决之前”，他不想在中学做作业。该学区没有回应《连线》杂志的置评请求。他在当地高中担任了替补任务，但问题也随之而来。在一节课上，他收到了一张由 AI 生成的同一张图片通过 AirDropped 发送的照片，但很快就被撤销了。他看得出来这件事在班级里流传。校长告诉他，学校正在启动“立即调查”，并提出与德圣地亚哥会面或安排学校辅导员，但德圣地亚哥表示，他今年可能不会回到该学区。他告诉《连线》杂志，至少现在，他觉得这样做并不安全。 “这让你质疑一切”当未经同意的成年人的虚假裸照被传播时，可能构成网络跟踪并违反联邦《拆除法案》，该法案规定在互联网上发布未经同意的“个人的亲密视觉描绘，无论是真实的还是计算机生成的”都是犯罪行为。在大多数与《连线》共享的账户中，老师们并没有直接向出现该内容的平台报告内容。 Snap 发言人 Monique Bellamy 分享了该公司关于骚扰和性内容的政策，该政策禁止分享人工智能生成或操纵的内容来羞辱或性骚扰他人。她告诉《连线》杂志，该公司已经“建立了报告此类内容的流程”，并且将继续“开发旨在支持我们社区的安全、隐私和福祉的功能和工具”。 TikTok 在发布前未发表评论。