Hugging Face 的政策负责人表示，嵌入式人工智能评估器不会是一个简单的解决方案

人工智能实验室将自己的声誉押在模型基准测试上，这是一种中立且准确的评估系统，旨在衡量一种人工智能产品是否比另一种更好。然而，Hugging Face 首席政策官艾琳·索莱曼 (Irene Solaiman) 在 TechCrunch Disrupt 上周的一次讨论中表示，这些评估背后的方法很复杂，而且仍在成熟中。如果行业未来要依赖测试，测试就需要整合成更加一致的科学。考虑到这一点，我们可以相信当前发布的测试吗？ “信任是一个如此重要的术语，”索莱曼说。 “就我们是否可以信任结果而言，其中一个重要部分是你能否重现评估结果？你是否具有模型本身所需的访问级别 - 这就是开放权重发挥重要作用的地方，”她补充道。模型评估的可重复性长期以来一直是基准测试中最棘手的方面之一，并且仍然是行业内备受争议的话题。除了单个测试的有效性之外，还存在一个额外的问题：该测试与其他评估相比如何。 “它们是一门不断发展的科学——我们不知道如何将它们进行有意义的相互比较，”索莱曼说。 “它们开始相对较快地失效，而且我们没有我们需要的蓬勃发展的生态系统，”她补充道。 “现在人们渴望嵌入式评估者生态系统，但决定谁是跨哪些任务的有效评估者的资格需要更多的标准化。”嵌入式评估器的想法——所谓的“中立”第三方观察员被安置在人工智能组织内部——在过去几个月中得到了普及，因为人工智能实验室正在努力应对一系列安全事件，这些事件引发了人们对其技术潜在危害的担忧。众所周知，“抱脸”是其中一起事件的目标。实验室并没有通过积极的政府监管来识别和减轻模型安全问题，而是推动了第三方解决方案。然而，人们对这些评估者的中立性和有效性仍然存在疑问。 Anthropic 聘请埃森哲作为其第一位评估员的决定引起了强烈反对，一些批评者嘲笑这家咨询公司有资格完成手头的任务。现在，评估正从仅仅对模型本身的测试转向对模型周围整个系统（包括线束和代理）的测试。 Soleiman 表示，具体而言，线束（或者用户用来访问模型的工具）与模型的性能有很大关系，较弱的模型如果具有更好的线束，可以轻松超越前沿模型。 “代理评估非常困难且非常昂贵，”索莱曼说。 “我们只是对模型进行了更多评估……我们对安全带没有那么多评估，我们正在为整体代理开发更好的评估——因为这就是很多人从中获得价值的地方，”她补充道。换句话说：评估空间目前有点混战，如果基准测试继续被视为行业领导者的有用工具，则可能需要一种更统一的全行业方法（每个人都在同一页面上）。