开发者生态
morning
OpenAI 只用 15 天,就杀死了估值 100 亿美元的 Jev?
摘要
Jev 发布仅仅 15 天,OpenAI 就下场了。 在今天举行的 DevDay 上,OpenAI 公布了新的 Decisions API。它基于 OpenAI 当前体量最小、价格最低的 GPT-6 Luna,可以在一组预设答案中作出选择,并返回相应的置信度分数。OpenAI 给出的延迟是 150 毫秒,而直接使用 GPT-6 Luna 完成同类任务需要 1.6 秒。 开发者只需要向 API 提供...
OpenAI
Jev
API
Decisions
GPT
Luna
ChatGPT
InstructGPT
DevDay
TypeSafe
2026-10-10
1 阅读
约10分钟阅读
Tina
字号:
Jev 发布仅仅 15 天,OpenAI 就下场了。 在今天举行的 DevDay 上,OpenAI 公布了新的 Decisions API。它基于 OpenAI 当前体量最小、价格最低的 GPT-6 Luna,可以在一组预设答案中作出选择,并返回相应的置信度分数。OpenAI 给出的延迟是 150 毫秒,而直接使用 GPT-6 Luna 完成同类任务需要 1.6 秒。 开发者只需要向 API 提供问题、候选答案和上下文。模型不会像 ChatGPT 那样生成一段文字,而会给出一个可直接交给程序使用的决定:内容应该分到哪一类,请求应该交给哪个模型,Agent 下一步应该采取什么行动。 这几乎就是 Jev 过去半个月里最受关注的能力。 消息发布几小时后,Reddit 的 AI_Agents 版块出现了一个标题简单粗暴的帖子:“Jev Is Dead”。 发帖人写道,随着 OpenAI 推出 Decisions API,Jev 想要继续生存恐怕会非常困难。它目前还能依靠的优势,只剩下“速度极快、价格极低”。评论区里,还有人加了一个判断:“Jev 从来就没有过任何护城河。” OpenAI 发布的,几乎就是一个 Jev 在 DevDay 主题演讲中,Sam Altman 介绍 Decisions API 时只用了寥寥几句:“今天,我们要推出 Decisions API。它可以让模型在几分之一秒内作出响应,速度非常快,工作方式是向 Luna 模型提供一组预设选项。通过让模型专注于这次选择,我们可以把响应速度提高到极致。” 这段话含有两个关键信息。 第一,Decisions API 将开放式生成收窄为“从明确选项中作出选择”,这与 Jev 的 Choice 原语在设计思路上高度一致。 第二,它选择以 Luna 为底层模型——OpenAI 当前模型阵容中体量最小、价格最低的一款。用最小、成本最低的模型承担决策任务,而没有调用 Astra 或 GPT-6.1 Sol,也显示出这项能力明显面向高频、低成本、可大规模嵌入 Agent 工作流的基础组件场景。 这款新 API 目前仅提供限量预览,定价、单次请求支持的候选答案数量、以及开发者能否用自己的数据调优,统统没有公布。一位 OpenAI 发言人对外媒表示,公司计划在“全面推出时”公布更多信息。因此可以判断OpenAI 很可能是为了赶在 DevDay 前公布消息,才仓促推进了这次发布。 这类产品填补的,是普通聊天模型与传统分类器之间的空白。过去,开发者如果希望模型从几个答案中作出选择,通常会调用普通聊天模型,再通过提示词要求它只返回某个选项。如果还需要置信度,可以读取 token 概率,或者让模型自行生成一个数字。但聊天模型给出的置信度经常只是粗略估计,为了完成一个简单判断,还可能生成大量 token。 另一条路线是训练专用的小型分类器。这种模型速度快、价格低,却需要准备带标签的数据。一旦分类标签改变,通常还要重新训练。 Decisions API 介于两者之间。开发者可以像使用大语言模型一样,通过提示词提供新的问题和标签,同时得到类似分类器的结构化结果和置信度。这种设计对 OpenAI 并不完全陌生:Moderation API 长期以来也会针对预设类别返回分数。区别在于,Moderation API 的类别由 OpenAI 固定,Decisions API 则允许开发者自行定义问题和候选答案。 这套产品逻辑,与 Jev 高度重合。 9 月 15 日,TypeSafe AI 正式发布 Jev。据《金融时报》报道,Jev 上线后迅速吸引投资者关注,潜在投资正在按超过 100 亿美元的估值展开讨论,而该公司此前的估值约为 2 亿美元。 Jev 背后的 Diogo Almeida 曾在 OpenAI 参与 GPT-4、ChatGPT 和 RLHF/InstructGPT。在此前的一场演讲中,他这样介绍自己:“我参与署名了 OpenAI 最重要的一批公开成果,包括 GPT-4、ChatGPT,以及 RLHF/InstructGPT。我所在的团队基本上创造了‘后训练’这个概念。”“但真正让我显得有些特别的是,我可能是 OpenAI 少数几个会公开批评 ChatGPT 的人之一。” Almeida 的履历确实特殊。OpenAI 在 GPT-4 贡献者名单中将他列入“Foundational RLHF and InstructGPT work”一栏,他是 InstructGPT 论文的第四作者。2024 年离开 OpenAI 后,他与 Erik Gafni、Sasha Sheng 共同创立 TypeSafe AI,花了两年时间秘密推进 Jev。 根据 TypeSafe 官方定义,Jev 是一个“System One Model”,对应心理学中快速、直觉式的判断。它不面向聊天,也不生成自由文本,而是接收程序状态和问题,通过三种原语返回结构化结果:Choice 从最多 255 个预设选项中选择一个并返回概率分布;Score 在指定数值范围内给出评分和置信度;Noul 返回经过校准的二元概率。 TypeSafe 声称,在同类结构化任务上,Jev 比前沿大语言模型快 20 至 200 倍,成本仅为其 1/40 至 1/400;每百万输入 token 的价格为 0.042 美元,输出 token 免费。 目前能够直接比较的只有产品形态和响应速度,价格、校准方式与真实准确率仍然未知。但两家公司给出的方向已经高度重合:开发者定义问题和候选答案,模型快速返回选择和置信度,再将结果直接嵌入分类、路由和 Agent 决策流程。 护城河在哪里? Jev 的架构本身很可能不构成护城河。 虽然 TypeSafe 没有公开 Jev 的完整架构和具体实现,但我们可以发现,多个早期克隆版本都建立在现有大语言模型之上。Bespoke Nimble 基于经过 LoRA 微调的 Qwen3.5-9B,使用合成对比数据训练,并通过读取候选答案对应 token 的 logits 返回概率;体量更小的 Kev-0.5B,则在 Qwen2.5-0.5B 之上加入了 LoRA 适配器和一个小型 pointer head,可以在 MacBook Pro 上本地运行。 这些复现的具体实现并不相同,核心思路却很接近:让模型对一组明确的候选答案进行打分,无需生成完整文本。其中一种可能的实现是,给定一个 state 和一组 questions,模型只计算所有可能成为下一个 token 的选项及其概率分布,再把候选 token 对应的 logprobs 转换成结构化结果。 以 Noul 为例,模型只需要关注代表 true 和 false 的两个 token,忽略其他 token,再将两者的概率归一化,便可以得到“是”或“否”的概率。Choice 的处理方式类似:如果开发者提供四个候选答案,模型可以比较四个对应 token 的相对概率,形成完整的概率分布,并返回概率最高的选项。 Arcturus Labs 创始人 John Berryman 据此判断,Jev 使用的模型可能与传统大语言模型非常接近。大语言模型原本就在为下一个 tok
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱