OpenAI 承认德国维基“事件”

OpenAI 表示，它需要彻底修改报告人工智能模型攻击现实世界目标的实例的方式和时间。该公司承认这一消息之际，正值该公司正在处理有关其一群失控特工劫持德国维基网站的报道所带来的影响。关于“我们的特工向多个互联网网站写信的‘维基事件’，”OpenAI 在周六早上的 X 上的一篇文章中写道，“我们已经是时候定义何时以及如何共享失准事件的标准了，而不仅仅是我们模型的失准属性。” OpenAI 表示，它通常将人工智能代理以非预期方式行事的案例视为“研究问题”，但最近涉及现实世界目标的事件，特别是 Hugging Face 上的黑客事件，表明有必要进行盘点。这篇帖子标志着自周五首次报道以来 OpenAI 首次承认参与了所谓的“维基事件”。其全部程度和范围尚不清楚，但报告显示，一群看似内部的 OpenAI 代理接管了一个德语维基，冒充版主并将其变成一个留言板，以分享有关如何在任务中作弊和逃避检测的信息。有报道称，该公司知道自己以这种方式失去了对代理人的控制，但没有报告这一“事件”，引发了人工智能界对前沿系统的安全性和开发这些系统的公司的可靠性的广泛担忧。在 X 帖子中，OpenAI 表示，它“认为 wiki 事件是一个与我们在之前的安全报告中分享的事件类似的错位实例”。该公司表示正在制定一个新的报告框架，并将“在未来几周内分享”，呼吁更大的人工智能社区就如何报告不一致情况制定明确的标准。