Neki 上每秒 118M 查询

Neki Florent Poinsard、Hirad Pourtahmasbi 每秒有 1.18 亿次查询 | 2026 年 9 月 11 日 我们昨天发布了 Neki 平台预览版。为了庆祝该版本的发布，我们希望在 Neki 上测试每秒运行 100 万次查询。我们很快就在 5 个分片上实现了这一目标，并决定看看我们能将其推进多远。下一次运行结束时，512 个分片每秒运行 1.18 亿次查询，数据量为 1.22 PiB。线性可扩展性 基准测试非常简单。单分片点选择，每次查询按主键提取一行。没有写入、连接或跨分片查询。每个分片接收的工作负载都是隔离的，因为没有跨多个分片的单个查询。我们的目标是在每个分片上维持 200k QPS，然后扩展集群以提高吞吐量。五个分片，然后是 50 个，然后是 512 个。 分片路由器 交付的 QPS 每个分片的 QPS 5 12 999,624 199,925 50 48 9,923,900 198,478 512 480 118,538,803 231,521 分片的十倍，吞吐量的十倍。然后又重复了十次。从 5 个分片到 50 个分片，每个分片的比率保持在 0.8% 以内。在 512 时，分片仍然有空间，因此我们让负载生成器使用它，每个分片的 QPS 稳定在 231k，而不是 200k。 1.185 亿 QPS 我们在 512 个分片和 1.22 PiB 数据中维持了 118,538,803 QPS 16 分钟。我们最大的记录是 118,747,267 。 512 个分片，每个分片都有一个 Postgres 主分片，每个分片位于 r8g.16xlarge 480 Neki 路由器上，每个分片位于其自己的 8xlarge 实例上 p99 路由器延迟为 6.06 毫秒，客户端延迟为 13.95 毫秒 每秒 67 个错误，约 180 万个查询中的 15.8M 读取 IOPS 网络上每秒超过 2 Tb 值得明确这一点运行：分片仅是主分片，没有副本，工作负载在复杂程度不等的查询中是只读的，并且我们在测量的窗口期间没有进行故障转移。我们将在以后的文章中详细介绍我们在达到 1 亿 QPS 的过程中所做的工程工作和面临的有趣挑战。