保障AI时代的图像安全：显现解决虚假图片危机的三种策略 ...

  

---

写在前面

2023 年天下人工智能大会（WAIC 2023）于 2023 年 7 月 6 日至 7 月 8 日在上海举行，本届大会以“智联天下 天生未来”为主题，聚焦通用人工智能发展，鼓励拥抱智能新时代，共话产业新未来。共同探讨了人工智能领域的前沿技术，包罗深度学习、机器学习、天然语言处置惩罚、计算机视觉等多个领域，同时还展示了多项人工智能技术在实体经济领域的应用成果和案例。
大会包罗了一系列主题论坛和研讨会，探讨人工智能领域的前沿技术和应用场景。在中国信通院举行的《“聚焦·大模型时代 AIGC 新海潮”》主题论坛中，合合信息向我们展示了“三大技术 一项标准”，助力探索 AI 在图像内容安全领域可信化发展的多重可能：
从 P 图到假图批量天生，AI 图像安全成可信 AI 重点关注方向

近年随着人工智能（AI）技术的迅速发展，AI 在图像领域的应用也日益广泛。但同时也出现了一些与图像安全相干的题目，比方图像窜改、虚假图像天生、图像隐写等，大量基于虚假图片产生的诈骗案件、网络暴力事件在环球范围内造成了恶劣的影响。

通过利用深度学习模型和大规模数据集，可轻松地天生各种具有高度真实感的虚假图像，比方虚假的消息报道、虚假的科学研究和虚假的广告等。这些虚假图像往往会对人们的思想和举动以及社会都产生负面影响，虚假广告和不实的贸易宣传可能会让消费者受到欺骗，导致经济损失；虚假消息可能会误导公众对于某些事件的认知，引发社会不稳定因素；虚假的交际媒体身份大概虚假的品牌形象等都可能导致消费者对品牌大概交际媒体平台的信托低落等不可猜测的结果。当下 图像内容的安全 与 可信性 成为了公众关注的核心，AI 图像的安全题目亟需解决。

合合信息长期聚焦于 “AI+DATA” 在文档智能领域中的前沿技术探索，以及"细粒度"视觉差别伪造图像鉴别、证件文档图片信息加密、天生式图像判别、文档图像完备性保护等行业核心议题，在服务帮助个人及企业保护图像内容安全方面均有着突出上风。
三大技术：提前结构，合合信息 AI 图像安全技术助力行业健康发展

合合信息 AI 图像安全技术方案告急包罗三项重点技术：AI 图像窜改检测、天生式图像鉴别、OCR 对抗攻击技术，以此应对日益高发的恶意 P 图、天生式造假和个人信息非法提取等现象。
✔ AI 图像窜改检测技术

所谓图像窜改检测就是给定一张图片，输入到窜改检测模型中，由模型判断这张图片是否被窜改，并且定位出窜改图像的窜改地区。合合信息 AI 图像窜改检测技术是基于深度学习的图像窜改检测技术。该技术通过学习图像被窜改后统计特性的变化，智能捕捉图像在窜改过程中留下的眇小陈迹，并以热力图的形式展示图像地区窜改所在。
AI 图像窜改检测告急利用了两种深度学习模型：卷积神经网络（CNN）和循环神经网络（RNN）。此中 CNN 用于提取图像的特性，而 RNN 则用于分析序列数据，如文本或图像中的时间序列信息。在图像窜改检测过程中，首先将输入的图像进行预处置惩罚，包罗图像巨细的调整、特性提取和数据加强等；然后利用 CNN 对图像进行特性提取，得到图像的局部特性，如纹理、结构；接着利用 RNN 对提取的局部特性进行序列分析，捕捉图像的时间序列信息。在模型训练阶段，合合信息利用监督学习的方法，将已知的图像窜改样本输入到模型中，让模型通过不断地调整权重和偏置，使得模型的输出结果与真实标签（窜改或未窜改）尽可能地接近。整体上截图窜改检测分为四个范例：

• 复制移动。某一个图像中的某个地区复制到另外一个地区；
  
• 拼接。两个毫不相干的图像拼接成一个新的图像；
  
• 擦除。告急是擦除文档中的一些关键信息；
  
• 重打印。在擦除的基础上重新编辑新的文档。
  

该技术可以检测多种范例的图像，无论是转账记录、交易记录，还是聊天记录等多种截图，图像窜改检测技术均可“慧眼”识假，对于保障信息的真实性和完备性、防止欺诈方面有着显著作用。

“重打印”窜改图片检测的具体利用是这样的，给定一张图片，输入到合合信息窜改检测模型中，随后便可以大概判别这张图像是否被窜改，并且定位出窜改图像的窜改地区。

当下窜改检测的告急难点在于能否从没有显着差别的图片中找出被窜改的截图，找出的图片中是误检率是否可控；实在与证照窜改检测相比，截图检测难度更大。现有的视觉模型通常难以充实发掘原始图像和窜改图像的细粒度差别特性，以是很难实现令人满意的正确率。而合合信息提出的基于 HRNet 的编码器-解码器结构的图像真实性鉴别模型，结合图像自己的信息包罗但不限于噪声、频谱等， 从而捕捉到细粒度的视觉差别实现高精度鉴别，完善的解决了这些困难。
✔ 天生式图像鉴别技术

人工智能爆火的当下，有非法分子也开始利用人工智能，利用天生的图片规避版权、身份验证，非法获取优点。由 AI 天生的图片可能会造成信息混乱和误导，影响人们对于真实事件和究竟的判断和认知等。
合合信息天生式图像鉴别技术是一种利用多维度特性来分辨真实图片和天生式图片的技术。在实践中，天生式图像鉴别技术面临的告急挑战是 AI 天生的图像场景繁多，机器难以判别等。合合信息针对这一难点开辟了独特的解决方案 —— 基于空域与频域关系建模来辨认 AI 天生的图像。
该技术通太过析图像的特性和规律，利用神经网络对图像进行分类和辨认，以鉴别图像是否是由 AI 天生的。它可以鉴别多种范例的图像，包罗但不限于天然风景、人物画像、图标等。通过对图像的细节和结构进行分析，辨认出图像中由 AI 天生的身分，并给出相应的警告或提示。以下是天生式图像鉴别模型结构：

基于空域与频域关系建模，以实如今不消穷举图片的情况下，利用多维度特性来分辨真实图片和天生式图片的眇小差别。输入图片后，模型通过多个空间留意力头来关注空间特性，并利用纹理加强模块放大浅层特性中的眇小伪影，加强模型对真实人脸和伪造人脸的感知与判断正确度。天生式图像鉴别技术可完善应用于这些行业：

• 身份验证和访问控制：防止利用伪造人脸进行身份验证，应用于安全通行系统、电子门禁系统等；
  
• 金融反欺诈：在银行和金融领域防止利用伪造人脸进行名誉卡诈骗、账户盗窃和身份冒用等欺诈举动；
  
• 移动装备的安全检测：可用于手机等移动装备的人脸解锁功能，以防止伪造人脸入侵用户的个人信息和装备；
  
• 数字图像取证：鉴定图像和视频中是否存在伪造的人脸，用于法医学和犯罪调查等；
  
• 视频会议长途认证：确保参与者利用真实人脸进行身份验证和认证。
  

✔ OCR 对抗攻击技术

在日常生活中，人们经常会拍摄自己的相干证件、文件并发送给第三方，但是这些图片上承载的个人信息很有可能被非法分子利用 OCR 技术辨认提取并走漏，以是就必要一项技术来对文档图片进行“加密”。
OCR（Optical Character Recognition，光学字符辨认）是一种将印刷或手写文本转换为计算机可编辑和存储格式的技术，通过利用图像处置惩罚和模式辨认算法，将图像中的文本字符提取出来，并将其转换为计算机可辨认的数字形式。OCR 对抗攻击则是给定一张测试的文本图片并指定目标文本，输入到系统中进行对抗攻击并输出结果图片，使得结果图片中先前指定的目标文本无法被 OCR 系统辨认而不影响人眼对目标文本的辨认。该对抗攻击分为白盒攻击和黑盒攻击两种形式，通常黑盒攻击最为常用。

作为一种基于深度学习的图像伪造检测技术，该技术利用神经网络和深度学习的方法，对图像进行分类和辨认，以鉴别图像的真实性和可信度。其告急原理是通过向神经网络中注入一些经心设计的伪造特性，这些特性在人类视觉系统中难以察觉，但可以影响神经网络的分类结果。通过向真实图像中添加这些伪造特性，可以使得原本真实的图像被神经网络误判为伪造图像，从而到达欺骗的目的。在不影响肉眼观看的情况下可制止机器主动爬取，通过 OCR 对抗攻击技术的应用，当我们在网上传输包罗个人信息的图片时，可以对图像中的个人信息（如地址、银行卡号等）进行 OCR 对抗攻击从而防止包罗个人信息的图片在网络传播过程中被第三方平台截获，以到达保护个人隐私的安全。其次在图像中包罗大量文本数据时，可以对图像中的数据进行 OCR 对抗攻击，防止第三方通过 OCR 系统读取并生存图像中所有的笔墨内容，从而低落数据走漏的风险，起到数据加密的结果。
一项标准：与中国信通院等权势巨子机构一道，助力科技向善

中国信通院已牵头启动了《文档图像窜改检测标准》订定工作，由合合信息、中国图象图形学学会、中国科学技术大学等科技创新企业及知名学术机构团结体例。旨在围绕伪造图像鉴别等核心议题，凝聚行业共识，为行业提供有用指引；汇总图像内容安全领域需求，发掘文档图像窜改检测技术趋势，助力图像产业健康成长。
《文档图像窜改检测标准》的订定，或将为中国 “可信 AI” 在机器视觉、图像处置惩罚领域的体系建设提供有力支持。随着人工智能技术的不断发展和应用，未来我们可以期待更多的创新和突破，为行业发展注入更多的安全感和稳定性。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。