首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于
智能AI morning

Inkling 2 迷你

摘要

Today we are releasing Inkling 2 Mini, a fast, powerful model that’s small enough to run on your laptop. Inkling 2 Mini is a looped transformer, running the middle layers of the model three times for ...

Inkling Mini Gemma Qwen3 the Tasks resolved Ripple 65B Preview
2026-11-21 1 阅读 约8分钟阅读 jasondavies
分享:
字号:
今天,我们发布了 Inkling 2 Mini,这是一款快速、功能强大的型号,其体积足够小,可以在笔记本电脑上运行。 Inkling 2 Mini 是一个循环变压器,为每个令牌运行模型的中间层三次。这使得模型能够应用更多的推理并用更少的标记得出正确的答案,特别是在依赖推理质量的代理编码等任务上。 Inkling 2 Mini 在 DeepSWE v1.1 (48.2%) 和 Vals Index v2.2 (46.5%) 等基准测试中以少于 100B 的总参数领先于所有开放权重模型。它的运行速度也比类似性能的模型更快。已解决的任务 (%) 0% 20% 40% 60% 5 10 20 50 100 已解决的任务 (%) 每秒理论令牌数(对数刻度) Ripple-65B(预览) Ripple-65B(预览) Gemma 4 31B Muse Glimmer Muse Glimmer Qwen3.8-27B Inkling 2 Mini Inkling 2 Mini Gemma 4 26B A4B Gemma 4 26B A4B 递归 Flint 递归 Flint 已解决的任务 (%) 0% 20% 40% 60% 5 10 20 50 100 已解决的任务 (%) 每秒理论令牌数(对数刻度) Ripple-65B(预览版) Ripple-65B(预览版) Gemma 4 31B Muse Glimmer Muse Glimmer Qwen3.8-27B Inkling 2 Mini Inkling 2 Mini Gemma 4 26B A4B Gemma 4 26B A4B Recursive Flint Recursive Flint SWE-bench Pro v2 Hard(51 项任务) 已解决的任务 (%) 0% 20% 40% 60% 80% 100% 5 10 20 50解决的 100 个任务 (%) 每秒理论令牌数(对数刻度) Ripple-65B(预览) Ripple-65B(预览) Gemma 4 31B Muse Glimmer Qwen3.8-27B Qwen3.6-27B Inkling 2 Mini Inkling 2 Mini Gemma 4 26B A4B Gemma 4 26B A4B Qwen3.6-35B-A3B Qwen3.6-35B-A3B 已解决的任务 (%) 0% 20% 40% 60% 80% 100% 5 10 20 50 100 已解决的任务 (%) 每秒理论令牌数(对数刻度) Ripple-65B(预览版) Ripple-65B(预览版) Gemma 4 31B Muse Glimmer Qwen3.8-27B Qwen3.6-27B Inkling 2 Mini Inkling 2 Mini Gemma 4 26B A4B Gemma 4 26B A4B Qwen3.6-35B-A3B Qwen3.6-35B-A3B 报告 100B 总参数下模型的编码分数。绿线是包含 Inkling 2 Mini 的边界,虚线是不包含 Inkling 2 Mini 的边界,阴影线是它添加的地面。解码速度的理论上限为 614 GB/s,BF16 权重和批量大小为 1,包括跨循环的重复读取。评估设置因型号而异。 Inkling 2 Mini 是一个混合专家模型,具有 26.4B 总参数、3.4B 活跃参数和每个令牌 5.4B 权重激活来解释循环。循环允许模型推理更长时间,而无需写下其推理,这对于监控很重要:我们通过阅读模型的思想链(CoT)来监督和理解模型的行为的能力。我们使用 Inkling 2 Mini 以及我们随其发布的特定于研究的可变循环变体测量了循环对性能和可监控性的影响。可变循环模型的无 CoT 时间范围从一次传递的 16 秒提高到三次传递的 37 秒,并且其在串行推理基准上的性能不断提高到十次循环,是训练时的两倍。该模型的思想链随着循环的增多而变得越来越短,但始终保持清晰。随着循环的添加,该模型在代理破坏测试中并没有出现更高的趋势。我们很高兴能为研究人员提供一些具有循环架构的首批模型。可变循环模型用于我们的可监控性实验,因为它允许在不同循环深度之间进行更清晰的比较。 Inkling 2 Mini 的大部分权重都在 NVFP4 中进行训练和本地部署,最后四层在 MXFP8 中。 Inkling 2 Mini 的总内存占用约为 20GB,使其可以在消费笔记本电脑和台式人工智能计算机等本地设备上运行。我们的研究人员将 Inkling 2 Mini 带到了飞机上,它在 MacBook Pro 上离线运行,并在几分钟内构建了一个可玩的飞行模拟器。演示神器 MacBook Pro (M5 Pro, 48GB) 飞行模式 加载飞行模拟器 Inkling 2 Mini 内置... 要试用飞行模拟器,请在桌面上打开此页面。使用 Inkling 2 Mini 搭建并飞行飞行模拟器。计时器显示实时时间;大部分录音以 15 倍速播放。 Inkling 2 Mini 已发布开放权重,今天可在 Tinker 上进行推理和定制。功能 Inkling 2 Mini 的优势与 Inkling 2 Small 的优势一致:它在长期代理工作上表现最好,并且在我们测量的大多数任务上是类似大小的开放权重模型中最好的。 Inkling 2 Mini 在代理编码基准(例如 DeepSWE v1.1 和 SWE-bench Pro v2)上的得分领先于所有类似模型,在其他模型上仅落后于 Qwen3.8-27B。在内核优化基准 PMPP-Hard 上,它的分数接近大得多的 Inkling 2 Small。虽然循环改进了模型的推理能力,但它并不能使其权重存储更多事实——知识主要是总参数计数的函数。 Inkling 2 Mini 在 AA-Omniscience(衡量真实性的指标)上的得分与其他相同尺寸的型号一致。通过研究可变循环模型,我们发现长上下文基准测试的性能随着 pa 的增加而提高。
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱