智能AI
morning
思考的代价:作为特定于模型的 API 合约的推理工作
摘要
arXiv:2608.16956v1 Announce Type: new Abstract: API buyers purchase a dated contract, not a model name alone: the contract includes the requested and served model, reasoning-effort term or its omissio...
the
and
contract
model
effort
was
under
high
omitted
per
2026-08-19
1 阅读
约1分钟阅读
Yeabin Moon
字号:
arXiv:2608.16956v1 公告类型:新 摘要:API 买家购买一份有日期的合同,而不仅仅是模型名称:合同包括请求和服务的模型、推理努力项或其省略、输出轨道、服务产品、提示和价格表。我们通过显式高努力的 Sonnet 5 与省略努力的同一模型的注册配对对比来研究推理努力项,使用 30 个 AIME 2026 项目和每个项目 5 个调用。每次付费尝试都会被分配一个冻结的终端类别,推理会重新采样项目,同时保留其重复调用。在显式高额合约下,每次调用的平均交付成本比在省略合约下高出 0.01031 美元 [+\$0.00204, +\$0.01974]。对应的准确度对比为+0.0133[-0.0267,+0.0467];我们没有检测到精度差异,并且该区间允许增益高达 4.67 个百分点,而该设计不能排除这一点。根据注册点估计,在高努力合同下,每个正确答案的成本为 0.08665 美元,在遗漏合同下,每个正确答案的成本为 0.07662 美元。过时的合同普查、模型 API 元数据和预先注册的原始响应探针进一步记录了特定于模型的遗漏语义,包括在提供者内部;当原始结构不确定时,索赔仍处于文件级别。在检查结果之前,请求注册表、解析器、终端分类、统计计划和分析管道都被冻结;由此产生的声明与所研究的模型、任务和收集日期有关。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱