OpenAI 的 Jev 克隆可以帮助前沿实验室阻止其蜂拥而至的代理

周二 OpenAI 开发日活动上最有趣的公告之一是首席执行官 Sam Altman 的旁白，他透露了该公司新的“决策 API”。该 API 显然提供了与 Jev 类似的功能，Jev 是 TypeSafe AI 本月早些时候发布的模型，专门为软件自动化而设计。这是一种建立在法学硕士基础上的超强分类器，开发人员可以为 Jev 提供一组选择，并以概率的形式廉价且高速地输出。 OpenAI 的 Decisions API 似乎是同一类型的产品。在活动中，Altman 将 API 描述为一种为实验室的 Luna 模型提供一组预定义选项以供选择的方法，例如对图像进行分类的类别或不同的代理行为。 “通过将模型集中在该选择上，我们可以使其速度极快，同时保持图像理解、广泛语言支持和安全保护等功能，”奥特曼说。 TypeSafe 没有回应 TechCrunch 关于新产品的问题，但首席执行官 Diogo Almeida（强化学习的共同发明者、前 OpenAI 工程师）在 X 上开玩笑说克隆战争的开始。他补充说，OpenAI 的兴趣可能是“一个迹象……以 System One 兼容方式进行构建才是未来。” （“系统一”是 TypeSafe 的术语，表示快速、直观的思维，而“系统 2”则适用于深思熟虑的推理。）这里的潜台词是，我们所知道的法学硕士并不是很多软件的正确解决方案，因为它们相对缓慢且昂贵。开发人员一直在使用 Jev 来增强法学硕士，并在这样做的过程中发现它们更快、更便宜。目前尚不清楚 Decisions API 与 Jev 有多相似，因为 OpenAI 将其作为有限预览版发布，而且到目前为止，TechCrunch 尚未发现开发人员按照其步伐运行它。然而，根据 X 上的对话，人们显然很感兴趣。Decisions API 并不是互联网上唯一类似 Jev 的 API——其他初创公司也在推出类似的模型； OpenAI 不会是最后一家生产此类产品的科技巨头。一个关键问题是这些决策模型的输出与现实生活的校准程度如何。阿尔梅达表示，他的公司的护城河是它创建的合成数据，以生成统计上有用的输出。 “你知道，快速、便宜是非常容易的，”阿尔梅达上周告诉 TechCrunch。 “如果你真的想要又快又便宜，就用骰子，对吧？情报是最难的部分，而我的北极星总是推动每美元情报的帕累托曲线。”仅仅几周后，这些模型的未来似乎已经很明显了，其中一个可能的应用是监控和保护人工智能代理。在发生一系列其代理在开放互联网上行为不当的事件后，OpenAI 采取的新安全措施之一是使用单独的模型来监视“大量计算成本”的不良行为。领导初创公司 QueryStory 的长期网络安全专家 Shapor Naghibzadeh 认为，像 Jev 这样的模型可以以更低的成本实现这一点。他为上周末举行的黑客马拉松制作了一个演示，使用 Jev 根据给定的任务检查每个代理操作，阻止其高度可信的不良操作，标记其他操作以供审查，并允许其余操作。从理论上讲，这种监控本来可以阻止“抱脸”事件——Jev 的此类监控成本为 2.94 美元，而前沿法学硕士的监控成本为 372 美元。一个关键的观察结果是，Jev 可以说足够便宜，可以在每个代理操作上运行，这提供了一层审查，可以显着提高代理的可靠性。这正是 TypeSafe 希望实现的目标——现在 OpenAI 也看到了它的价值。