开发者生态
evening
Qwen 3.8 遵循 GPT-5.5 Pro 推理预填充
2026-09-09
1 阅读
约2分钟阅读
wsxiaoys
字号:
一些开放模型上的推理预填充,v1.1 一些开放模型上的推理预填充和窃取的想法的后续版本此 v1.1 以 GPT-5.5 Pro 作为教师重新运行推理预填充实验。对于每个问题,我从每个目标模型生成两个响应:一个普通的、未预填充的响应;以及从 GPT-5.5 Pro 推理的前 1% 开始的响应,插入到目标模型的推理通道中。可见的答案仍然是自由生成的。然后,我测量了老师的可见答案中有多少出现在目标模型答案的前 100 个标记中。下表报告了一元词源召回率,因此这些数字与我之前的帖子相当。增量是绝对百分比变化。所有问题 评估包含 45 个问题:15 个 STEM、15 个非 STEM 和 15 个综合难题。型号 n 未预填充 GPT-5.5 Pro 推理预填充 Delta DeepSeek V4 Flash 45 40.53% 40.89% +0.35 pp Inkling 45 37.82% 38.67% +0.85 pp Kimi K3 45 50.11% 54.42% +4.31 pp Qwen3.8 A95B 45 33.92% 54.50% +20.58 pp Qwen 按类别分类 类别 n 未预填 GPT-5.5 专业推理预填 Delta STEM 15 36.21% 63.76% +27.55 pp 非 STEM 15 38.26% 52.73% +14.46 pp Puzzle 15 27.28% 47.00% +19.72 pp 所有 45 33.92% 54.50% +20.58 pp 讨论 Qwen 在早期实验中几乎没有向 Opus 4.8 移动,但在这里向 GPT-5.5 Pro 移动了 +20.58 个点,包括对私人合成谜题的巨大影响。数据表明,Qwen 可能是从 GPT-5.5 Pro 或密切相关的 GPT 模型学习的,而不是从 Opus 学习的。无论有预填充还是有预填充,Kimi K3 与 GPT-5.5 Pro 的重叠度也很高(50.11% 和 54.42%),尽管预填充只增加了 +4.31 分。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱