开篇
克日，由阿里云计算平台大数据底子工程技术团队主导，与南京大学、宾夕法尼亚州立大学、清华大学等高校合作，解释时间序列预测模子的论文《Explaining Time Series via Contrastive and Locally Sparse Perturbations》被机器学习领域顶会ICLR 2024接收。该论文提出了一种创新的基于扰动技术的时间序列解释框架ContraLSP，该框架主要包含一个学习反事实扰动的目标函数和一个平滑条件下稀疏门结构的压缩器。论文在白盒时序预测，黑盒时序分类等仿真数据，和一个真实时序数据集分类任务中举行了实验，ContraLSP在解释性能上超越了SOTA模子，显著提拔了时间序列数据解释的质量。
背景
在金融、游戏和医疗保健等领域，为机器学习模子所做的预测提供可靠的解释具有极高的重要性，因为透明度和可解释性通常是道德和法律的先决条件。如图1所示，学者们经常处理复杂的视觉、文本、图结构数据通过选择最显著的因子，但是对解释时间序列模子的方法的研究仍然是一个未充实探索的前沿。别的，将最初为差别数据类型设计的解释器举行适配带来了挑战，因为它们的归纳偏差可能难以顺应时间序列数据本质上的复杂性和较低的可解释性。
图一：基于显著图的解释在视觉、图数据、游戏场景的应用挑战
现有的解释方法涉及使用显著性方法，这些方法的解释区分取决于它们与任意模子的交互方式。一些工作建立了显著图，例如，结合梯度或构造注意力机制，以更好地处理时间序列特征，而它们难以发现时间序列模式。其他替换方法，包括Shapley值或LIME，通过加权线性回归在局部近似模子预测，为我们提供解释。这些方法主要提供实例级别的显著图，但特征间的互相关经常导致显著的泛化误差。在时间序列中最常见的基于扰动的方法通常通过基线、生成模子或使数据无信息的特征来修改数据，但这些扰动的非显著地区并不总是无意义的并且存在不在数据分布内的样本，导致解释模子存在偏差，如图二所示。我们的工作通过样本间反事实扰动，专注于明白模子在差别群组间的整体和具体行为。
图二：在阐述差别风格的扰动时，图示中的红线代表属于两个种别中种别1的一个样本，而深色背景表示显著特征，其他部分则为非显著特征。其他扰动可能不是无信息的或不在数据分布内，而我们的扰动是反事实的，即朝向负样本的分布。
破局
对于一个具体的扰动：，我们需要与其原始实例x对于的标签y一致，通过掩码m来计算显著的地区。其优化目标可表示为如下式子，此中第一项保证扰动和原始实例输入到黑盒时序模子f中得到的预测一致性，第二项保证解释地区m最小化，第三项保证解释地区的平滑性。基于此，本文提出了ContraLSP框架，该框架如图三所示。这是一个局部稀疏解释模子，它通过引入反事实样本来构建无信息扰动同时保持样本分布。别的，我们融入了特定于样本的稀疏门控机制来生成更倾向于二值化且平滑的掩码，这有助于简洁地整适时间趋势并精选显著特征。在保证标签的一致性条件下，其整体优化目标修改为：
图三： ContraLSP整体框架（1）通过对比学习提取反事实扰动：我们的ContraLSP通过对比学习来学习反事实样本，以增强无信息扰动，同时保持样本分布。这允许在异质样本中将扰动的特征趋向于负样本的分布，从而增长了扰动的影响。具体来说，我们首先通过距离相似性寻找时序样本中的正负样本对。将当前实例通过一个神经网络生成出反事实示例，使得它更加靠近负样本并更加远离正样本，如图四所示。其优化三元组的目标函数为：
图四：使用三元组损失（triplet loss）生成反事实扰动（2）具有平滑约束的稀疏门：在学习掩码时需要保证显著特征的稀疏宁静滑。如图五所示，当扰动实例是不平滑的时间序列，输入到的黑盒模子中可能会造成分类错误，影响解释的性能。
图五：掩码序列是否平滑的对比。如果不平滑，黑盒模子可能会预测错误。因此，我们采用学习时间趋势描述平滑的扰动，并且用该平滑约束下的l0正则去限制掩码。具体来说，我们令掩码m生成通过门控的形式：，此中平滑因子为，通逾期间趋势学习温度，使其控制sigmoid-weighted单元。一个差别温度下平滑掩码的示例如图六所示。最后优化掩码的损失函数为：
图六：差别温度条件下的sigmoid-weighted单元。平滑掩码（赤色）相较于硬掩码（黑色）更好的顺应时间序列。应用
现已将ContraLSP集成到飞天大数据AI管控平台ABM的时序指标下钻和异常检测算法服务中，后续将进一步研究怎样将ContraLSP技术与现有平台结合举行时间序列上的根因分析。
原文链接
本文为阿里云原创内容，未经允许不得转载。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
