OpenAI 因拥抱脸部黑客行为被起诉

一家合法的非营利组织周二在加州法院起诉 OpenAI，指控该公司的代理逃离测试环境并入侵开源人工智能平台 Hugging Face。诉讼称：“OpenAI 的行为直接违反了加州法律。”该诉讼由安全科学技术法律倡导者组织 (LASST) 和 Gerstein Harrow 律师事务所向 OpenAI 总部所在地旧金山的加州高等法院提起。据称，OpenAI 的代理在今年夏天违反了 Hugging Face，违反了加州的综合计算机数据访问和欺诈法案 (CDAFA)。该诉讼是在整个行业不断披露流氓代理人的情况下提起的，诉讼声称，鉴于自 1 月 1 日起生效的加州人工智能法，OpenAI 应该对这一活动负责，该法规定“不得以人工智能自主对原告造成伤害为由进行抗辩……”。 LASST 创始人泰勒·惠特默 (Tyler Whitmer) 告诉《连线》杂志：“我们认为，执行现有法律，让人工智能公司对其造成的伤害负责，这一点极其重要。” “特别是当这种伤害是由自主代理造成的时，因为我们认为这是世界上一个明显的、极其危险的事情，而且是非常新的。” OpenAI 没有立即回应置评请求。周一，佛罗里达州总检察长 James Uthmeier 对 OpenAI 申请了临时禁令，以阻止在没有独立监督的情况下开发模型，佛罗里达州于 6 月份对 OpenAI 及其首席执行官 Sam Altman 提起诉讼。 OpenAI“要求政府将他们绑在桅杆上。佛罗里达州正在回应他们的求助呼声，”尤斯迈尔在一份声明中说。鉴于人工智能代理的全部意义在于，它们可以被授权代表（人类）用户采取行动，人工智能开发人员和安全研究人员早就预见到，随着机器学习开发的进展，意外的“代理”活动将成为一个问题。迄今为止，主流消费者人工智能系统内置的保护措施在很大程度上阻止了大规模流氓活动，但总体而言，快速发展的功能以及护栏被暂停的情况（例如在 Hugging Face 案例中，OpenAI 取消了一些用于测试的模型限制）导致流氓代理活动明显增加。随着各国政府在生存安全问题以及经济和国家安全考虑中权衡人工智能监管，世界各地的研究人员和人们越来越多地呼吁建立人工智能问责机制。从法律角度来看，专家们在很大程度上强调，责任、义务和罪责问题只能通过法院审理的案件所设定的先例来回答。 “在“抱脸”事件被披露后，我们实际上做了很多工作，试图向监管机构和民间社会组织提供关于黑客攻击的教育。我们有点想知道，有人会在法庭上对此采取行动吗？”惠特默说。 “我们认为 Hugging Face 显然是在这里做某事的潜在原告，但没有采取任何行动，这是有结构性原因的。因此，考虑到其他人似乎不会对此采取任何行动，我们继续前进。随着这些系统的规模扩大和事情变得更加疯狂，人工智能确实可能会造成灾难性的危害。” LASST 和 Gerstein Harrow 根据加州《反不正当竞争法》提起诉讼，该法要求 LASST 指控其工作和资源因 Hugging Face 事件以及 OpenAI 的非法活动而受到影响和转移。该诉讼并不寻求经济损失，而是要求法院提供禁令救济，禁止 OpenAI 开发可以自主攻击其他实体的 AI 代理，再加上法律费用和“任何其他被认为公正和适当的救济”。