ToB企服应用市场:ToB评测及商务社交产业平台
标题:
笔记:Consistent Representation Learning for Continual Relation Extrac
[打印本页]
作者:
滴水恩情
时间:
2022-8-9 14:42
标题:
笔记:Consistent Representation Learning for Continual Relation Extrac
Consistent Representation Learning for Continual Relation Extraction
来源:Zhao et al.,ACL 2022.
任务:Continual relation extraction (CRE)
动机:传统的关系抽取RE(其实更像是关系分类RC)总是在一个假设下即预定义的固定关系以及在固定数据集训练,然而真实世界关系并不是一个固定的预定义关系集能够涵盖的,现实世界关系是不断增长的。因此,连续关系提取(CRE)的目的是在不忘记旧关系的同时,利用新关系数据不断训练模型。
方法:CRE的核心问题在于
灾难性遗忘
,搞了新的忘了旧的。本文使用memory-based方法解决灾难性遗忘的问题,之前的memory-based方法总是会过拟合存储的样本且在不平衡的数据集中表现不好,为了克服这些问题,本文提出了一个新的CRE方法--使用监督对比学习和知识蒸馏来为持续的关系学习,学习一致的关系表示。
[注]:没接触过CRE,这篇就简单看了下摘要介绍的相关工作,写在这里插个眼,以后了解了解。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)
Powered by Discuz! X3.4