亲身体验 AMD Ryzen AI Halo

【HN用户评论摘要】 如果您有 strix halo 桌面，强烈推荐柠檬水服务器。一直使用 Qwen3.6-35B @ Q_8 作为我的主要驱动程序，它的生成速度高达 60 TPS，非常棒。我偶尔使用 27B @ q6，但使用 MTP 生成时只能获得 20-25 TPS。 这更像是一则广告，而不是评论，读起来就像作者对他正在尝试的东西几乎没有任何经验。 Z Image Turbo 扩散模型也可以在许多消费级 GPU 上运行，并且以较低的价格获得更高的性能。误导。 不幸的是，如果不指定模型的量化，模型和每秒令牌数 (TPS) 以及首次令牌时间 (TTFT) 的表就没有帮助。 直到 RAM 价格下降并且可以经济地获得具有 256GB、512GB 和更高带宽的机器...坦率地说，我认为本地 AI 的故事对于大多数人来说仍然相当平静。我的 Spark 可以以 60 到 70 令牌/秒的速度执行 Qwen3.6 MoE A3B，这确实很好，但该模型的实用性受到限制。无论如何，它对编码没有用处。一旦人们可以以较低的数量运行 GLM 5.2 之类的东西（512GB 可以完成还过得去的工作），那么我认为故事会发生变化。我们是否会看到 原始链接：https://www.microcenter.com/site/mc-news/article/amd-ryzen-ai-halo-review.aspx