Jev 的纯决策模型将速度和成本转变为新的人工智能专业

NextFin News——一种拒绝聊天或编写代码的新模式迅速引起了开发者的关注。 TypeSafe AI 由前 OpenAI 研究员 Diogo Almeida 及其同事创立，于 9 月 15 日发布了 Jev，并于 9 月 21 日全面开放。该公司将该模型定位为系统一模型（System One Models）类别中的第一个模型——专为快速、低成本判断而构建的系统。 Jev 不生成自由文本的标记。给定提示和一组受约束的选项，它会返回三个结构化结果之一：在具有概率的候选者中进行选择、针对定义标准的分数或陈述为真的概率。客户服务系统可以向其提交投诉，并在一次通话中收到推荐的部门、紧急级别以及用户请求退款的确认。然后调用程序继续而不解析自然语言。实际吸引力在于经济。官方基准测试声称 Jev 的运行速度大约是前沿生成模型的 194 倍，成本约为合适任务的前沿生成模型的 1445 倍，且输出代币免费。 Vercel 报告称，近 13% 的付费 AI 网关团队在推出的第一天就尝试了该模型，比最近发布的几个大型模型的初始采用率更高。开发人员已经展示了只需几美分的批量电子邮件分类和浏览器控制循环，这些循环可以将 Jev 决策与偶尔对文本字段的生成调用交织在一起。该设计针对的是代理内部日益严重的瓶颈。即使完成一个简单的目标也可能需要数十个中间决策：调用哪个工具、结果是否足够、是否重试或终止。通过完整的生成模型来路由每一个微观判断都会增加延迟和成本。杰夫隔离了决策步骤，将生成留给真正需要语言的时刻。它不是传统的分类器。开发人员用自然语言描述新的判断任务，而不是收集新的标记数据并针对类别的每次变化进行重新训练。该模型保留了大型语言模型的语义灵活性，同时放弃了生成开销。准确性仍然受到所提供选项的限制；它无法在给定集合之外发明答案，但它仍然可以在该集合内选择错误的选项。早期的社区测试显示，对于明确的案例有很高的一致性，而对于模棱两可的案例则有更多的差异。使杰夫具有吸引力的压力在中国也很常见。国内平台长期以来一直优先考虑客户服务、内容审核和票务分类的低推理成本和大容量路由。字节跳动、阿里巴巴和腾讯的代理通常会根据任务做出数十个内部决策；任何能够减少这些步骤的延迟和费用的模块都适合现有的工程优先事项。中国开发人员已开始测试模仿受限输出模式的开源微调，出于数据安全原因，本地企业通常更喜欢可以在自己的网络内运行的模型。因此，快速、廉价的决策层面临着现成的需求和国内快速复制的前景。行业观察家看到了三个近期的支持者。个人开发人员可以将 Jev 插入现有代理循环中，以使用最少的代码进行工具选择和终止检查。一旦判断质量达到内部阈值，处理大量票据、评论或文档的企业就可以节省大量成本。具身智能团队需要在紧张的延迟预算下进行快速闭环决策，从长远来看，仍需要专门的验证。更广泛的含义是建筑。多年来，该行业的竞争主要集中在模型能力的上限上。 Jev 展示了一个互补的方向：针对主导实际工作负载的许多小决策，专门确定成本和延迟的下限。未来的代理系统可能类似于模型团队——一些模型针对深度推理或流畅生成进行了优化，另一些则用于校准、高频路由——而不是单个通用大脑。 Jev 本身是否保留先发优势并不重要，重要的是其基本理念的持久性。只要智能体继续对每个任务做出数十个中间判断，快速且廉价的决策层仍然有用。该模型不会取代生成系统；它只是停止要求他们做他们从来都不是最便宜的工具的工作。在已经重视效率的市场中，这种逻辑可能会迅速传播。