如果 AI 以每秒 1,000,000 个代币的速度运行会怎样？

选择一个工作负载，然后将想象的速度从每秒 100 个令牌降低到每秒 1,000,000 个令牌。 1,000 个故事结局 40 个应用草稿 10,000 名被批评的候选人 10,000 次排练 输出令牌 1,000,000 1,000 个故事结局 × 每个 1,000 个令牌 仅以 1,000,000 个令牌/秒的速度写入 1 秒 写入时间 对数刻度 1 秒 1 分钟 1 小时 1 天1,000,000 个令牌/秒，1,000 个故事结局（1,000,000 个输出令牌）大约需要 1 秒写入。 JavaScript 支持工作负载按钮和速度滑块。下表列出了两端的每个工作负载。表盘两端的所有四个预算 + 仅以说明性速度写入的时间，而不是测量值。工作负载 输出令牌 100 个令牌/秒 1,000,000 个令牌/秒 1,000 个故事结局 × 1,000 1,000,000 2 小时 46 分 40 秒 1 秒 40 个应用草稿 × 20,000 800,000 2 小时 13 分 20 秒 0.8 秒 10,000被批评的候选人 × 300 3,000,000 8 小时 20 分 3 秒 10,000 次排练 × 1,000 10,000,000 27 小时 46 分 40 秒 10 秒 想象的比较，而不是任何模型的测量。次数计数仅生成输出：没有阅读、排名、工具调用、权限、测试、部署、人员或实验。预算是写作津贴，而不是成品。