首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

随着决策模型的使用猛增,定制是下一个前沿吗?

2026-11-18 1 阅读 约5分钟阅读 Tim Fernholz
分享:
字号:
10 月份,Vercel 人工智能模型路由器上超过四分之一的请求发送给了决策模型,而不是法学硕士——这是一个月前发明的一种计算机化智能的巨大工作量。决策模型是不产生输出代币的法学硕士;相反,他们会利用自己的一般智能在预设选项之间快速、廉价地做出决定,同时记录其对选择的信心程度。它们在生产环境中非常有用,在生产环境中,快速决策可能比速度较慢且成本更高的前沿模型提供的推理更重要。 TypeSafe 在发布 Jev 系列模型后成为一家价值 75 亿美元的公司,该模型继续在使用中占据主导地位(至少我们可以看到来自 OpenRouter 等服务的指标,该服务上周处理了超过 15 亿次对 TypeSafe 模型的查询)。然而,制定决策模型很容易,Jev 之后发布了数十个模型。一位亚马逊工程师在周末制作了一个,很快每个超大规模企业都有了自己的选择。周二,微软首席执行官 Satya Nadella 表示,他的公司正在推出其决策模型 Microsoft-Decision-1.1,立即在 Azure 上广泛使用。这一行动正在生态系统的两端发生:Sqwish 是一家总部位于英国的人工智能初创公司,其背后的决策模型名为 kettei fat,今天宣布完成 300 万美元的种子前融资。联合创始人 Ushnish Sengupta 和 Federica Freddi 在剑桥研究生时期相识,当 Jev 来到现场时,他们一直在开发小型法学硕士,他们意识到他们的架构可以重新用作强大的决策模型。数据似乎是此类模型成功的关键——TypeSafe 首席执行官迪奥戈·阿尔梅达 (Diogo Almeida) 告诉 TechCrunch,构建 Jev 最困难的部分是使用经过统计调整的合成数据精细地校准其判断。 Sqwish 也一直在使用合成数据,但其独特的产品是内置的训练后工具,该工具使用客户自己的数据来改进模型的判断。 “我认为,我们之所以不是商品,是因为我们为客户提供了同样的能力……他们可以不断上传生产数据,就像我们训练模型一样,他们的模型也可以在他们关心的任务上不断做得更好,”首席执行官 Ushnish Sengupta 告诉 TechCrunch。尝试对决策模型进行排序是很困难的; Sqwish 的“kettei fat”模型在一些基准测试中表现良好,但大多数该技术的构建者表示,真正的证据只是布丁:开发人员通常很容易将一个模型替换为另一个模型,然后看看它在特定上下文中的表现。 “基准测试更多的是邀请我们尝试该模型,然后不断的调整才是他们应该坚持我们的原因,”森古普塔说。 Microsoft-Decision-1.1 模型也是该公司在成本、延迟、智能和校准之间仔细平衡的结果。领导该项目的工程副总裁 Achint Srivastava 也认为,过于关注基准测试是一个错误。斯里瓦斯塔瓦在一封电子邮件中写道:“我们看到,‘基准最大化’模型在实际企业使用中很快就会表现平平。” “我们的测试强调了在单一模型中提供准确性、可靠性、速度和成本效率是多么具有挑战性。Microsoft-Decision-1.1 和 Jev 是少数几个在所有四个维度上都表现强劲的产品之一,即使是在反映真实用例的“保留”或看不见的基准上进行评估时也是如此。”对于像 Sqwish 这样的初创公司来说,与超大规模企业和前沿实验室的竞争是一个机会。 Freddi 预测,未来的系统将看到所谓的系统一智能(如决策模型)与系统二智能(如前沿法学硕士)协同工作。 “即使在那样的未来,System One 也可能是一个 100 亿美元、500 亿美元的[机会],而 OpenAI 正在进行这次 IPO,你知道,你知道 1 万亿美元、2 万亿美元的市场价值,”她告诉 TechCrunch。 “这就是我们关心的一切;而对他们来说,这只是一个副项目。”
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱