DISTAL：用于结构不可知材料属性预测的蒸馏和自监督预训练

arXiv:2609.00059v1 公告类型：新 摘要：在低数据设置中，材料属性预测仍然很困难，其中许多目标属性仅由有限数量的标记样本支持。具有最强预测准确性的模型通常取决于晶体结构，这限制了它们在结构信息有限或不可用时在早期筛选中的使用。为了应对这一挑战，我们提出了 DISTAL，这是一种用于结构不可知材料属性预测的双先验框架，它将自监督成分预训练与结构感知知识蒸馏相结合。 DISTAL 首先使用 145 个合成派生描述符从大型虚拟合成空间中学习可转移的合成表示。然后，它会将经过预训练的 ALIGNN 教师的结构知识提炼给受过作文训练的学生。此设置允许在训练期间使用结构先验，而无需在推理时使用结构输入。通过将显式组合描述符、预训练的潜在特征和提炼的结构特征集成到统一的预测管道中，DISTAL 捕获了难以从任何单一表示中单独恢复的互补信号。在 39 项基准测试任务中，性能最佳的多模态配置结合了所有三个信号，并在 37 项任务上比参考基准有所改进。 DISTAL 在所有评估的功能组合中实现了最强的整体性能。这些结果表明，成分预训练和结构蒸馏提供了互补的先验，并为小数据材料信息学中稳健的仅成分预测提供了实用途径。源代码和预训练模型可在以下网址匿名获取：https://osf.io/eq96d/overview?view_only=451617f42f7849e08750bd1852b48980，并将在接受后通过官方链接发布。