合合信息:探索视觉内容安全新前沿

2024年12月13日-15日，中国图象图形学学会在杭州召开。大会期间，来自合合信息的图像算法研发总监郭丰俊进行了主题为“视觉内容安全技能的前沿进展与应用”的演讲，介绍了视觉内容安全题目，并总结了现今的技能发展，对我很有开导。
近年来视觉技能的大幅发展，为我们工作生活带来便利的同时，也产生了一系列安全题目。由于AI技能导致伪造更容易，黑灰产引起许多社会题目以及企业或当局的刚性需求，视觉安全需求急剧增长。目前视觉内容安全技能分为自动鉴别和被动鉴别两种。自动鉴别可以鉴别无横机窜改和溯源，主要应用于产权掩护、伪造检测和伪造溯源。而被动鉴别则可以不借助数字水印进行工作，支持更多的图像范例，主要应用于卡证防伪、文档票据伪造检测、AIGC图判别和伪造人脸检测。、

目前市面上的视觉安全产物也有很多，比如英特尔实行室的FakeCatcher、微软的Azure AI Face X-Ray、亚马逊的Amazon Rekognition，它们都在特定领域获得了肯定的影响力。固然技能有巨大突破，但视觉安全算法仍旧存在一些挑战。比如跨域泛化题目，它会让知识本钱和维护本钱大幅提高。又比如纯色背景图窜改且无显着视觉非常的检测，它比平常图像更难以检测。再比如图象质量退化的场合，它会造成窜改陈迹不可逆丧失。还有检出精度与误检率矛盾，怎样保证高检出，极低误判率是计划模子中的一大难点。

合合信息也推出了自研的AI安全产物，它支持常见卡证、票据等伪造检测，也支持AIGC人脸伪造鉴别，并且能定位窜改区域。

合合内容安全系统不仅在通用类PS检测模子技能想当成熟，已在证券、保险、银行、零售等多个行业落地，而且在人脸鉴伪上也有很好的效果。

在ICDAR23-DTT角逐和举世AI攻防挑战赛——AI核身之金融场景凭据窜改检测上获得第一名好结果。

不仅如此，合合信息还深度参与到产业发展之中。2024年10月，合合信息发起和参与体例的《文本图像窜改检测系统技能要求》发布，它标准围绕伪造图像鉴别、生成式图像判别等议题，凝聚行业共识，为行业提供有效指引。

目前内容安全系统还存在许多的需求方向，比如图像窜改检测，主要指利用PS加工图像或AI生成图片，包罗身份证照造假、业务条约造假、资质证明造假、财务票据造假、其他材料造假等场景。以及人脸伪造检测，主要指利用照片活化、AI换脸或局部替换伪造人脸，包罗身份认证、远程银行、在线开户、资金划拨、贷款申请和信用卡申请等场景。还有声纹伪造，主要指利用语音合成、语音转换、对抗攻击或重放攻击伪造声音，包罗电话银行欺诈、APP资金划拨和伪造身份骗贷等场景。合合信息也一直在跟进这些需求，并积极将相干技能落地。
CVPR 23上，有文章利用频率感知头来弥补视觉特性不显著时的题目，并采用多视图迭代解码器MID来利用差别尺度的特性信息，基于ViT+DCT实现了窜改检测，可以检测部分无痕窜改。

AAAI 25上有论文利用Texture Jitter 提拔细粒度感知，同时轻微抖动图像纹理，增广练习数据，引导引擎检测纹理的非常而不是详细的窜改表现。并且提出学习和分析特性之间的差异，而不仅是输入内容的特性的框架，提高对未见过窜改的检测性能。这个模子可以或许提拔open-set中泛化能力，即练习集未见过种类样本，测试性能不显著降落。

尽管模子的性能有了很大的提拔，但它依然面临诸多挑战。起首它易受攻击，比如缩放，传输过程大概会导致模子性能降落。其次它的泛化能力待提高，在特定场景和数据集上表现良好，但面对未知的伪造本领或多样化的应用场景时无法保持较高的检测精度。再者，由于伪造本领变化很快快，模子的维护本钱很高。最后，数据获取与标注本钱十分高昂，高质量的标注大概涉及隐私掩护，进一步增长了获取难度。所以合合信息选择了基于大模子技能的探索方向。一方面可利用多模态信息提高准确率。并且，大模子实用于处置处罚未见过新类别，性能降落少，提供了很好的泛化能力。其次，使多场景、类别共用一个系统可以或许降低利用门槛。同时，可通过交互注入知识，优化效果，便于知识注入。
基于这种理念诞生的ForgeryGPT模子，通过将伪造图像真假二分类及窜改区域的定位交给小模子处置处罚。当小模子确定窜改位置后，将效果提示给大模子,再利用大模子天然语言解释非常区域。这种混合模子获得了更好的性能和更广泛的顺应性。

在视觉内容安整日益受到重视的未来，含文字的视觉内容仍旧有不少题目待解决，值得研究。同时视觉内容安全防护还应进行整体规划，做到从业务各环节考虑和协同，使方案更高效，更经济。整个行业内要去订定一套标准，以促进内容安全系统的更好落地。而厂家可以考虑自动、被动融合，增长内容系统有效性。在这之中，大模子等新技能的应用具有很大的潜力。合合信息会继续优化产物，为举世企业和个人用户提供创新的数字化、智能化服务。目前合合信息通用窜改检测平台和人脸伪造检测平台已登录TextIn开放平台并开放体验，感爱好的小同伴不妨亲自试用一下。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。