智能AI
morning
SNI-GNN:SmartNIC 辅助全图 GNN 训练与网内嵌入预测
摘要
arXiv:2608.06441v1 Announce Type: new Abstract: Full-graph GNN training delivers high accuracy but scales poorly on multi-server clusters due to heavy, irregular inter-node embedding exchanges. We pre...
with
and
GNN
graph
training
accuracy
SNI
full
communication
scales
2026-08-10
1 阅读
约1分钟阅读
Guofan Yu, Sitian Chen, Zhenheng Tang, Xiaowen Chu, Amelie Chi Zhou
字号:
arXiv:2608.06441v1 公告类型:新 摘要:全图 GNN 训练具有很高的准确性,但由于节点间嵌入交换繁重、不规则,在多服务器集群上的扩展性很差。我们提出了 SNI-GNN,这是一种 SmartNIC 辅助的全图训练系统,它通过预测网络中的远程嵌入来减少通信,同时保持准确性。 SNI-GNN 在 SmartNIC 上部署轻量级线性趋势预测器,以细化缓存的历史嵌入,并结合基于重要性的边界节点采样策略和具有中间结果重用的异步 DPU-GPU 数据管道。我们提供了误差和收敛界限,表明预测器偏差在有界二阶动力学下仍然受到控制,并产生具有不精确梯度的标准非凸收敛。 SNI-GNN 在 NVIDIA BlueField-3 上实现,与最先进的全图系统集成,将通信减少 21--45%,与 BNS-GCN 相比实现 1.3--3.6$\times$ 端到端加速,比基线 SANCUS 提高高达 1.29$\times$,精度损失 $\leq 0.01$,并可有效扩展到 16 个 GPU具有多达数千万条边的图。这些结果表明,基于 SmartNIC 的网内预测是对大规模通信高效全图 GNN 训练的分区和压缩技术的实用补充。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱