近日,由天翼云数据库团队、中国电信云计算研究院和深圳北理莫斯科大学互助完成的《Taste: Towards Practical Deep Learning-based Approaches for Semantic Type Detection in the Cloud》(构建云上基于深度学习的大规模语义类型辨认系统)论文被28th International Conference on Extending Database Technology(EDBT)长文收录。
EDBT是数据库范畴的着名国际聚会会议,也是中国计算机学会CCF保举的重点学术聚会会议,已一连举办27届。此次天翼云数据库产品线所著论文被EDBT收录,代表着天翼云的科技创新能力再次得到数据库工业界和学术界的权威认可。
该论文专注于数据管理系统中的语义类型检测(Semantic Type Detection)问题的研究,并在检测性能和安全性方面实现了突破。语义类型可以显示出复杂数据的语义含义,如人名、地址、身份证号等,不仅能够帮助人类更好地理解数据,还能辅助数据管理系统提供搜刮、转换和清洗等一系列关键服务,例如:数据管理系统辨认出“身份证号”这一语义类型后,可将该数据标记为敏感信息,进而智能地提供数据脱敏服务。
然而,现有语义类型检测技术在每次检测时都需要扫描数据列中的具体内容,存在着两个明显弊端:一方面,扫描数据列会极大增加额外的I/O和网络开销,低落检测服从,还大概对云用户的业务产生不利影响;另一方面,扫描数据列自己耗时较长,加之基于数据列进行特征提取和推理,进一步增加了模型的处置惩罚时间,导致团体检测服从较低。伴随AI技术的迅猛发展,采用深度学习来实现语义类型检测的研究日益增加,虽在检测成功率方面取得巨大进展,但仍难以满足云环境下的大规模语义类型辨认。
两项创新检测技术 实现高效精准检测
作为云服务国家队,天翼云对峙核心技术自主攻关,针对现有语义检测技术的不足,该论文创新性提出两阶段语义类型检测框架(Two-phase semantic type detection framework,简称为Taste)。
Taste框架的团体实行流程可分为两个阶段(如图1所示):第一阶段,仅利用数据源的元数据(如表名、列名、列表明等)进行初步快速的语义类型检测,以淘汰对数据源的扫描操作;第二阶段则是按需进行,在需要进一步确认第一阶段中不确定的语义类型时,再将列内容与元数据结合起来,完成更精确的检测。
通过两个阶段的结合,Taste不仅有用提升了检测服从,淘汰了对用户数据源的影响,还可在元数据质量不佳的环境下保持系统较强的鲁棒性。同时,Taste具有较强的灵活性,云上租户可根据自身的数据隐私需求选择完全禁用第二阶段,从而进一步保护数据。此外,Taste通过将每个阶段划分为数据预备和语义推理两个步调,并利用流水线机制并行实行差别的步调,充实利用I/O、CPU和GPU资源,明显提升了团体实行服从,可更好地适用于云环境下海量数据表和列的处置惩罚。