Consistent Representation Learning for Continual Relation Extraction
- 来源:Zhao et al.,ACL 2022.
- 任务:Continual relation extraction (CRE)
- 动机:传统的关系抽取RE(其实更像是关系分类RC)总是在一个假设下即预定义的固定关系以及在固定数据集训练,然而真实世界关系并不是一个固定的预定义关系集能够涵盖的,现实世界关系是不断增长的。因此,连续关系提取(CRE)的目的是在不忘记旧关系的同时,利用新关系数据不断训练模型。
- 方法:CRE的核心问题在于灾难性遗忘,搞了新的忘了旧的。本文使用memory-based方法解决灾难性遗忘的问题,之前的memory-based方法总是会过拟合存储的样本且在不平衡的数据集中表现不好,为了克服这些问题,本文提出了一个新的CRE方法--使用监督对比学习和知识蒸馏来为持续的关系学习,学习一致的关系表示。
[注]:没接触过CRE,这篇就简单看了下摘要介绍的相关工作,写在这里插个眼,以后了解了解。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作! |