Qwen 3.8 27B 很优秀，但它默认想太多

Qwen 3.8 27B 非常出色，但它默认会过度思考。2026 年 8 月 16 日星期五的重大发布是 Qwen 3.8 27B，这是来自阿里巴巴 Qwen 研究实验室的 Apache 2 许可的 27B 参数视觉能力的 LLM。我一直很期待这款产品：27B 的尺寸非常适合在配置合理的笔记本电脑上运行模型，而它的前身 Qwen 3.6 27B 也令人印象深刻。 Qwen 对该模型的自我报告基准令人大开眼界。它们显示出 Qwen 3.6 27B 和封闭重量 Qwen 3.7-Plus 的提升，后者是今年 5 月 Qwen 任何尺寸中最强的型号之一。听听独立基准测试对该模型的评价将会很有趣。我一直在两台不同的机器上运行该模型：我的 128GB M5 Max MacBook Pro 和 NVIDIA DGX Spark。在两台机器上，我都运行 LM Studio 及其 17GB Q4_K_M 量化构建。我还尝试直接在 Spark 上使用 llama-server 。 Qwen 的文档将模型描述为默认为 xhigh 进行推理工作，而我一直在尝试保留该默认值：Qwen3.8 附带对 Reasoning_effort 的官方支持，可用于调整推理深度和控制成本： xhigh（默认）：用于需要彻底分析的复杂任务medium：平衡精度和速度 low：高效推理优化速度和成本这是一个搞笑的默认值。这绝对不是运行模型的好方法，尤其是在消费类硬件上。我发现结果非常有趣。我很快就遇到了 LM Studio 默认上下文限制 8,192 个令牌的问题 - Qwen 甚至在思考最平凡的问题时都用完了它们。我加载了完整的 262,144 最大上下文长度的模型，这个问题就消失了。这是我第一次尝试增加上下文长度时得到的鹈鹕骑自行车 SVG。生成耗时 21 分钟，使用 22,276 个推理标记生成 3,223 个输出标记。您可以在此处阅读推理轨迹。这是迄今为止我能够使用在本地计算机上运行的模型生成的最好的 pelican SVG，而且这个 Qwen 非常小，磁盘上只有 17GB 文件。这有很多值得喜欢的地方： 自行车车架的形状正确 自行车的两侧都有腿 - 这是非常罕见的 良好、透明的鹈鹕袋 翅膀延伸到可以接触车把！运动线在后面，而不是在前面。它有一个有品味的背景——美丽的阳光、云朵、山丘、花草。值得等待 21 分钟吗？绝对不是。这是在推理关闭的情况下运行的相同提示 - 文字记录在这里。这个生成了 3,715 个代币，花费了 137 秒——仅仅两分钟多一点。为了完整起见，我使用 OpenRouter 通过更大的 Qwen 3.8 2.4T-A95B（上周发布）运行相同的提示，并得到了这个时髦的动画 SVG：您的浏览器不支持 HTML5 视频。我说过xhigh的Qwen有想太多的倾向，但到底有多糟糕呢？我尝试了一个更简单的提示，再次使用默认的超高设置：绘制一个圆的 svg Qwen 的推理轨迹是这样开始的：用户要求绘制一个圆的 SVG。简单的要求——但我希望它是一件精心制作的作品。让我制作一些超越 的东西：一个带有字符的独立 SVG 文件 - 也许是几何“圆研究”，具有微妙的动画、分层环和独特的调色板。保持范围正确：他们要求提供圆形的 SVG。所以核心是一个圆。但我可以添加工艺：同心引导圆（如指南针/几何图形）、刻度线、主圆上的软渐变填充、受约束的环境运动（缓慢旋转的虚线环、脉冲发光）。尊重更喜欢减少动作？ CSS 的内容就更多了； SVG SMIL 或 SVG 中的 CSS 都可以。调色板选项：深青色墨水在温暖的纸上？或者是灰白色上大胆的朱红色圆圈，带有海军蓝的结构线条——包豪斯/指南针绘画氛围。让我采用“几何研究”外观：凉爽的石板背景，还是明亮的纸白色？如果不是奶油色和赤土色的组合，纸白色就可以了。 [...]几分钟后它就产生了这个绝对美丽的动画圈，这完全不是我所要求的！您的浏览器不支持 HTML5 视频。我强烈建议：忽略该默认值。最初在低推理水平甚至无推理水平上运行 Qwen 3.8 27B。这是一个很棒的模型，但是哇，默认设置是一个糟糕的起点。它非常擅长边界框测试视觉模型的一个有趣方法是看看它在照片中的项目周围返回边界框的效果如何。我看到之前的 Qwen 模型很好地处理了这个问题，所以我决定将其用于测试绘制一些鹈鹕周围的边界框。我过去见过要求 0-1000 范围产生良好的结果。我尝试了这个： llm -a https://static.inaturalist.org/photos/714731804/large.jpg \ -m lmstudio/qwen/qwen3.8-27b \ ' 返回这张照片中鹈鹕的 JSON 边界框，0-10