Apple Silicon 的成本高于 OpenRouter

离线代理编码第 3 部分：Apple Silicon 的成本高于 OpenRouter。发布时间：2026-05-17 Apple 芯片成本高于 OpenRouter。在负载功率约为 50-100 瓦、每千瓦时约为 0.20 美元的情况下，我的 M5 MacbookPro 每小时的成本为几美分。由于缩短设备寿命而导致的加速折旧（如果有的话）将比电费更昂贵。以每秒几十个代币计算，每百万代币的摊销成本约为 1.50 美元。同类型号的 Openrouter 价格仅为其 1/3，速度约为其 2 倍。电力 在弗吉尼亚州北部，我上次的电费是每千瓦时 0.18 美元。我们四舍五入为每千瓦时 0.20 美元。 EIA 预计 2025 年美国平均住宅成本为每千瓦时 0.1730 美元。 https://www.eia.gov/electricity/monthly/epm_table_grapher.php?t=table_5_03 在约 50-100 瓦和 0.18 美元/千瓦时，即每小时 0.009 美元或 0.018 美元。每小时 0.02 美元。每天 0.48 美分，用于推断 100% 运行的电力。硬件 目前，配备 M5 Max 和 64 GB 内存的 14 英寸 MBP 在苹果网站上的售价为 4299 美元。 128 场演出会花费更多，但 64 场演出应该运行像 Gemma 4 31b 这样的模型，这几乎是人为十四行诗的性能水平。对于成本分配，我们考虑该硬件的使用寿命为 3 年、5 年或 10 年。每年的费用分别为 1433 美元、860 美元或 430 美元。因此，3 年、5 年和 10 年的每小时成本为： $0.16358 $0.09815 $0.04908 根据使用寿命，我认为 5 年是正常使用的合理估计。 7或10是非常合理的。最大推断 3 年也可能是一个合理的估计。代币经济学 最大的问题是每小时可以从本地模型中获得多少代币。对于像 Gemma4:31b 这样的严肃模型，我的 M5 Max 测试似乎在每秒 10-40 个令牌范围内。如果每秒 10 个令牌，则每小时 36000 个令牌。在 3-10 年的生命周期内，每小时 36000 个代币，每千瓦时 0.18 美元，每百万代币的高端价格为 1.61 美元至 4.79 美元。以每秒 40 个代币计算，即每小时 144000 个代币，每百万个代币的收益为 0.40 至 1.20 美元。对于苹果芯片来说，硬件成本占主导地位。 OpenRouter OpenRouter 的 Gemma4 31b 价格约为每百万代币 38-50 美分。这意味着从乐观的角度来看（50 瓦、每秒 40 个代币、10 年），pro max 与 openrouter 一样便宜。从悲观的角度来看（100 瓦，3 年，每秒 10 个代币），pro max 是成本的 10 倍。我认为从会计角度来看，每百万代币成本的 3 倍可能是对 pro max 进行本地推断的正确数字。结论 对于大多数情况来说，推理速度是最大的因素。本地推理比云推理慢。 openrouter 上的一些 gemma 4 提供商每秒可获取高达 60-70 个令牌，这比我在 pro max 中看到的速度（每秒约 10-20 个令牌）快 3-7 倍。对于拥有工作笔记本电脑的人类员工来说，他们的工资成本将是他们在本地生成的代币成本的约 1000 倍。在这种情况下，向人类扔钱更有意义。消费设备能够运行接近人类十四行诗性能水平的模型仍然很疯狂。