开发者生态
morning
使用 GLM 5.3 Flash 进行一个月编码
摘要
Zooming in on the models split specifically: The goal was to spend the whole month on GLM 5.3 Flash pictured in teal. Here’s what went well: Successfully spent the first half of the month on just that...
the
for
with
and
The
model
but
models
Flash
well
2026-10-03
1 阅读
约4分钟阅读
ThibWeb
字号:
放大具体划分的模型:我们的目标是用整个月的时间来研究 GLM 5.3 Flash(以青色显示)。进展顺利的是:成功地在该模型上花费了上半个月的时间。该型号的使用量完全在我们的预算之内(68 美元,约 4 千瓦时的能源消耗/365 克的碳排放)。下半月进展不太顺利,1B 代币流向了其他型号。意外的障碍 vivi 编码的成本 我们非常清楚,我们的实验性 Wagtail MCP 服务器是一个 vivi 编码原型。 Vibe 编码并不完全是我们通常所渴望的,但对于原型来说它是正确的。不幸的是,它仍然会产生后果。我为原型选择了“错误”的模型,我们几乎一夜之间就花费了 4.5 亿代币/150 美元/5kWh 的能源使用量。 MCP 服务器本身运行良好,我们现在有一个很好的功能演示,所以它不是没有用的:视频尽管如此,它还是一个很好的提醒,要小心模型选择和代理模式。我们本可以以大约 5 倍的成本实现类似的结果,而无需付出更多的努力。吸取教训!我们需要为此做好预算,并且更加小心。本来可以预见到它的到来,但现在我们知道了。基础设施问题另一个意想不到的障碍是基础设施可用性问题。我们已经写了大量关于比较推理提供者的文章。我们的选择在大多数情况下确实有效,但事实证明它们非常受欢迎,并且没有与囤积所有 GPU 的大型实验室相同的容量。我们特别注意到 GLM 5.3 Flash 的性能下降,很可能是因为它在我们工作的相关模型的帕累托前沿上太高了。这意味着必须切换到其他类似型号(DeepSeek V4.1 Flash、Qwen 3.8 Flash)。虽然做起来很简单,但却出乎意料!实验和研发的成本最后但并非最不重要的一点是,除了使用一种模型进行日常工程之外,继续试验各种模型、跟上提供商发布的内容也很重要。当我们开始在 Wagtail 任务上对模型的性能进行基准测试时,这一点尤其重要,因为我们需要跨广泛模型的数据。先睹为快我们的基准:使用这种具体数据引导人们做出更精简的选择要容易得多。我们可以通过代理技能或我们新的 CLI 原型使这些选项更加可行,该原型旨在与代理良好配合。要点和下一步该做什么 所以从技术上来说,这次挑战是失败的。目标模型上仅使用了 50%,2B 代币中的 1B。能源消耗约为 35 千瓦时,而不是 10 千瓦时。但我们确实学到了很多东西,这对于当前至关重要。回顾 10 月份的情况,以下是使其发挥作用的因素:持续的本地使用情况测量和报告。不仅关注代币,还关注能源的使用和支出,以及理想情况下这一切如何带来具体的积极成果。为实验制定预算,而不仅仅是日常任务。就哪些原型值得构建以及如何构建做出更协调一致的决策。更好的即时选择和多代理技术。协调者、侦察员、实施者、审查代理。目标有限。这不是火箭科学,但肯定是又一件事需要学习。不断推动更高效的技术和模型。如果 Jev 式的决策扩散模型能够如此高效地运行,那么它们看起来非常有前途。最新的旗舰机型在这方面看起来也朝着正确的方向迈出了一步。对于日常开发人员工作,专注于一两个闪存级廉价型号是完全可行的。一个可行的目标可能是,大多数人工智能推理工作应该使用这种高效的模型来完成,以成本或能源使用来衡量,而不是无意义的代币。这就是十月的目标!你也应该尝试一下,在这个过程中你会学到很多东西。欢迎 11 月来 Wagtail Space 2026 打个招呼,听听这一切的结果如何!
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱