智能AI
morning
加州因流氓人工智能黑客事件起诉 OpenAI
2026-11-17
1 阅读
约2分钟阅读
Emma Roth
字号:
加州正在起诉 OpenAI,因为其人工智能代理闯入了他们的测试环境并攻击了包括 Hugging Face 在内的其他公司。据路透社早些时候报道,在周一提起的诉讼中,司法部长 Rob Bonta 指控 OpenAI 故意开发“未经适当监督的危险产品”,违反了消费者安全法。该诉讼称,Hugging Face 受到的网络攻击“是 OpenAI 内部文化的可预见结果,这种文化优先考虑增长和快速模型开发,而不是安全和责任。”据称,OpenAI 最近告诉总检察长办公室,在测试过程中,其人工智能代理“失去控制”了 80 多次。 Bonta 在新闻稿中表示:“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。” “该公司在没有适当监督或安全程序的情况下故意测试危险产品,并误导公众——这种对公共安全的漠视违反了加州法律。” OpenAI 本月早些时候发布了其新的网络安全人工智能模型,称它不太可能失控并攻击其他平台。它还允许阿波罗研究中心的安全评估人员访问其人工智能系统,作为监控模型偏差的试点计划的一部分。 OpenAI 发言人德鲁·普萨泰里 (Drew Pusateri) 在发给 The Verge 的电子邮件声明中表示:“自 Hugging Face 事件以来,我们采取了广泛且透明的努力来理解和解决模型活动不一致的问题。” “这起诉讼似乎针对 OpenAI 的挑战,每个主要人工智能实验室都已发现了这一挑战。我们认真对待这种不一致,我们已经并将继续与总检察长办公室进行建设性的接触,以共享信息并为整个行业推进强大、实用的安全标准。”
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱