用于远程图推理的图变换器中的自适应深度聚合

arXiv:2611.08500v1 公告类型：新 摘要：图转换器通过全局或结构感知交互改进远程节点到节点通信。然而，改进跨节点通信并不能决定如何组合不同深度产生的计算。标准残差流使用跨节点共享的固定单位系数累积连续计算。这种固定聚合是一个剩余接口约束：一旦产生了中间贡献，接口就不能显式地按节点重新加权它们。我们假设，当这些中间贡献的相对效用在节点和结构上下文之间变化时，此约束可能会造成深度聚合不匹配。为了研究这一假设，我们将 Graph Transformer 残差计算形式化为图传播和前馈网络 (FFN) 贡献的因果节点历史，使深度聚合成为显式接口选择。我们通过注意力残差（AttnRes）在这段历史上实现节点自适应聚合，同时保留主干的图传播和辅助状态机制。相对于完整 AttnRes，块 AttnRes 通过汇集连续贡献来降低长历史的路由成本。我们在 GPS 和 GRIT 中实例化接口，并在所有五个 ECHO 任务上对其进行评估。两种变体在每个任务上都比其独立调整的主干网实现了更低的平均绝对误差（MAE），并且在每个任务中的所有比较方法中至少有一个获得了最低的平均值。仅路由供体交换干预措施支持错配假设，而额外的消融则检查关键的设计选择。总之，这些结果支持节点自适应深度聚合作为远程图推理中跨节点通信的有用补充。