＜论文＞（谷歌）用于时序链接猜测的迁徙学习
一、摘要本文先容谷歌在2025年4月牵头发表的新论文《Transfer Learning for Temporal Link Prediction》。论文主要探讨了动态图中的时间链路猜测（TLP）任务，以及如何让模型在差别图之间进行迁徙学习。
https://i-blog.csdnimg.cn/direct/ca1bbcbc50c748a18d472658812e6eeb.png
译文：
基于图的链接猜测应用广泛，涵盖从推荐系统到药物发现等领域。时间链接猜测（TLP）指的是猜测随时间演化的图中的未来链接，这增长了与图的动态性子相关的额外复杂性。开始辈的TLP模型将影象模块与图神经网络结合，以学习传入节点的时间机制和不停演化的图拓扑结构。然而，影象模块仅存储训练时看到的节点信息，因此此类模型在测试和摆设时无法直接应用于全新的图。在这项工作中，我们研究了时间链接猜测的一个新的迁徙学习任务，并为含影象模块的模型开发了有效的迁徙方法。具体而言，受表明结构信号对TLP任务具有信息性的研究启发，我们在现有的TLP模型架构中添加了一个结构映射模块，该模块学习从图结构（拓扑）特征到影象嵌入的映射。我们的工作为TLP的无影象基础模型铺平了门路。
二、焦点创新点
https://i-blog.csdnimg.cn/direct/a6ad108e3c5b494c813e5ab64d96f95f.png
时序图网络（Temporal Graph Networks，TGN）是一种用于链接猜测和节点分类的动态节点表现学习模型。与在固定图结构上答应的静态图神经网络（Graph Neural Network，GNN）差别，TGN通过结合影象机制、消息转达、时间编码和基于GNN的聚合步骤来捕获时间依靠性。具体来说，TGN包罗如下组件：
[*]影象模块：为每个节点维护时间嵌入，并在新的交互发生时不停更新它们；
[*]消息函数：聚合来自相邻节点和边的信息，使得模型能够在消息转达中纳入时间依靠性；
[*]影象更新器：通常为门控循环单元GRU或者多层感知机MLP，根据新的交互细化节点影象；
[*]时间编码器：对交互之间的时间隔断进行建模，以有效捕获时间模式；
[*]鄙俚的GNN读出模块：学习一个节点嵌入函数，该函数在图中传播影象/消息嵌入，通常使用基于注意力机制或者基于图卷积的模型架构来加强结构学习能力。
论文作者提出了两种使得TGN模型能够应用于迁徙学习任务的解决方案，并希望将在图G上训练的时序链接猜测模型（h）迁徙到新图G'上：
[*]简单微调：针对TGN迁徙学习的问题，最简单的解决方法是在测试图G'的前https://latex.csdn.net/eq?T_%7Bfinetune%7D个时间步上对在图G上训练得到的h进行微调。这使得模型能够以独特的方式为未见过的节点初始化肯定命量的影象存储。作者将https://latex.csdn.net/eq?T_%7Bfinetune%7D设置为测试集前20%位置处。接着使用剩余的80%测试数据来评估结果。
[*]结构映射迁徙学习：这种方式基于模型进行迁徙学习，为微调提供了一种零样本替代方案。训练期间，作者在TGN中增长了一个新模块，该模块学习节点结构特征与影象嵌入之间的映射。然后，在测试时应用该映射来初始化未见节点的影象嵌入。
https://i-blog.csdnimg.cn/direct/4bd0e1df2c0e4723a27537bee0d7eea3.png
1、图结构特征的背景
结构特征可以复制/提高时序链接猜测性能。这些特征为迁徙学习提供了一个通用的潜在空间。作者考虑节点的多种拓扑特征（度、介数中央性、精密中央性和局部聚类系数）、节点嵌入位置、轨道计数。在目前论文所使用的方法中，作者使用了以下结构特征：4种拓扑结构以及节点位置嵌入。作者研究了影象嵌入和这些结构特征之间的共享信息。通过比较影象嵌入和拓扑特征中的节点对距离来衡量共享信息。可以观察到的是，成对距离之间存在高度相关性。
2、通过时间子图聚合进行结构映射
对于每个边批次，作者聚合在该批次之前紧挨着出现的一个边窗口。使用的窗口大小为训练集总时间跨度的1%。然后，针对聚合图中的每个节点计算诸如节点度和聚类系数等结构特征。在训练期间，这些结构特征被输入到结构映射模块中，多层感知机学习这些结构特征到TGN学习到的影象嵌入的映射。在验证和测试期间，当遇到新节点时，使用结构映射来猜测并初始化该节点的影象嵌入。这实际上是对未见节点的“冷启动”，无需初始微调阶段即可立即进行迁徙学习。
https://i-blog.csdnimg.cn/direct/a7ea13bd7f4f456fb2c7f09bceb04d7e.png
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]