【论文阅读】基于真实数据感知的模子功能偷取攻击

择要

目标

模子功能偷取攻击是人工智能安全范畴的焦点标题之一，目标是利用有限的与目标模子有关的信息训练出性能靠近的克隆模子，从而实现模子的功能偷取。针对此类标题，一类经典的工作是基于天生模子的方法，这类方法利用天生器天生的图像作为查询数据，在同一查询数据下对两个模子推测效果的同等性举行束缚，从而举行模子学习。然而此类方法天生器天生的数据常常是人眼不可辨识的图像，不含有任何语义信息，导致目标模子的输出缺乏有用引导性。针对上述标题，提出一种新的模子偷取攻击方法，实现对图像分类器的有用功能偷取。
方法

借助真实的图像数据，利用天生对抗网络(generative adversarial net，GAN)使天生器天生的数据靠近真实图像，增强目标模子输出的物理意义。同时，为了进步克隆模子的性能，基于对比学习的头脑，提出一种新的丧失函数举行网络优化学习。
效果

在两个公开数据集CIFAR-10(Canadian Institute for Advanced Research-10)和SVHN(street view house numbers)的实行效果表明，本文方法可以大概取得良好的功能偷取效果。在CIFAR-10数据集上，相比现在较先辈的方法，本文方法的偷取精度进步了5%。同时，在类似的查询代价下，本文方法可以大概取得更好的偷取效果，有用低沉了查询目标模子的本钱。结论 本文提出的模子偷取攻击方法，从数据真实性的角度出发，有用进步了针对图像分类器的模子功能偷取攻击效果，在肯定水平上低沉了查询目标模子代价。
关键词

模子功能偷取
天生模子
对比学习
对抗攻击
人工智能安全
参考链接

基于真实数据感知的模子功能偷取攻击

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！qidao123.com:ToB企服之家，中国第一个企服评测及软件市场,开放入驻,技术点评得现金