AI时代图像安全“黑科技”如何助力人工智能与科技发展？ ...

〇、前言

   7月7日下午，2023世界人工智能大会（WAIC）“聚焦·大模子时代AIGC新浪潮—可信AI”论坛在上海世博中央红厅举行。人工智能等技术前沿领域的闻名专家与学者、投资人和领军创业者汇聚一堂，共同探索中国科技创新的驱动力气。
  在本届世界人工智能大会上，中国信息通信研究院围绕 “多模态基础大模子的可信AI”主题 举办了专项论坛。AIGC安全成为当前人工智能研究发展的重要议题。

  
一、可信人工智能

   可信人工智能（Trusted AI）是指在人工智能应用中注重可信度和可靠性的概念。
  中国科学院院士何积丰以为，“不能再将人工智能视为简单的技术工作，而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、体系行为可追责、算法模子可表明、网络环境可信、法律伦理可信等问题。”

随着人工智能技术的不断发展，越来越多的人们对于人工智能体系的透明性、公正性和可控性提出了要求。 可信人工智能必要满足以下几个方面的要求：

• 透明性：人工智能体系的决定过程和算法应该是可表明的和可明白的，用户应该能够了解体系是怎样做出判断和决定的。
  
• 公正性：人工智能体系应该避免对不同群体或个体存在歧视性的待遇，不应该根据种族、性别、年事等个人属性做出不公正的决定。
  
• 隐私掩护：人工智能体系在处置惩罚个人数据时，应该掩护用户的隐私权，确保个人信息不被滥用或泄露。
  
• 安全性：人工智能体系应该具备防范恶意攻击和滥用的能力，保障体系的安全性和可靠性。
  
• 可控性：人工智能体系应该具备一定的可控性，用户应该能够对体系进行监督和管理，确保体系行为符适用户的盼望并满足法律和伦理的要求。
  

---

二、AI图像安全

中国科学技术大学电子工程与信息科学系教授谢洪涛教授曾提到，“在AIGC爆发的时代，平凡大众都可以利用AI算法生成高质量的文本，图像，音频内容。其中，由Midjourney, Stable Diffusion等图像生成方法制作的图像，其逼真水平让人赞叹，人眼已经难以对其真假进行区分。这不禁唤起了人们的隐忧：大量虚伪图片将会在互联网上广泛流传。虚伪图片的泛滥会引发多种社会安全问题”

   利用AI进行图像造假的行为，是AI可信化发展必要应对的重点问题。
  如今，人工智能的深度学习和算法越来越先辈，深度合成应用呈指数级增长，滥用该技术的行为正带来肉眼可见的伦理问题。除了用AI换脸诈骗，还有人用它制作他人不雅视频、假冒明星带货等。在支付场景日益丰富的今天，人类的面部、声音、指纹、虹膜等生物信息的使用越来越广泛，隐私泄露等风险隐患也随之增多。

恰如那句网络盛行语：你永久不知道网络的对面是一个人还是一条狗。如果不对此类技术加以限定，AI技术不仅容易威胁到人身财产安全、伤害个人尊严和隐私，还可能构成更大社会危害。
图像是承载信息的重要媒介，同时也是信息安全的重要关注对象。 随着图像编辑软件的发展和遍及，制作虚伪图像的门槛逐渐降低，导致大量基于虚伪图片的诈骗案件和网络暴力事故在全球范围内造成了严肃的影响。
随着生成式造假技术的兴起，人们对图像内容的安全性和可信性也越来越关注。然而，在图像内容领域中，“可信AI”才刚刚起步。
在论坛上，合合信息AI图像内容安全技术方案得到了业界人士的广泛关注。 该方案可精准定位截图篡改陈迹，对生成式图片进行智能判别，防止不法分子利用技术本事非法爬取图片上的信息。

合合信息一直致力于在文档智能领域中探索前沿技术，特别关注"AI+OCR"技术的应用。研究了视觉差异伪造图像的鉴别技术，致力于提供能够加密证件文档图片信息的办理方案。此外，他们还关注生成式图像判别和文档图像完整性掩护等行业焦点的议题。通过技术输出和产物服务，帮助个人和企业增强图像内容的安全性。
在本次世界人工智能大会可信AI论坛上，合合信息展示了 “三大技术，一项标准”，探索AI在图像内容安全领域可信化发展的多重可能。

合合信息AI图像安全技术方案主要包括三项重点技术：AI图像篡改检测、生成式图像鉴别、OCR对抗攻击技术，以应对日益高发的恶意P图、生成式造假和个人信息非法提取现象。
1️⃣AI图像篡改检测技术

合合信息智能创新古迹部总司理唐琪先容，去年的世界人工智能大会上，合合信息首次展示了“PS篡改检测”技术，在辨认证件、票据等各类重要商业质料中的PS陈迹方面具有了“火眼金睛”。

该技术基于深度学习，提供图像篡改检测技术及相关体系。该技术通过学习图像被篡改后的统计特性变化，智能地捕获图像在篡改过程中留下的微小陈迹。使用热力图的情势展示图像中篡改的区域，这项技术已经成功应用在银行、保险等领域。
今年，图像篡改检测技术连续优化升级，并拓展到了"截图篡改检测"领域。已往，图像篡改检测技术主要应用于自然场景图像，但实际上，资质证书、文档、截图等被篡改的图像更容易对人们的生存造成风险。合合信息的人工智能图像篡改检测技术可以检测多种截图，例如转账记载、交易记载、聊天记载等。无论是通过从原始图像中"抠取"关键要素并将其移动至其他地方的"复制移动"图像篡改本事，还是采取"擦除"、"重打印"等方式，图像篡改检测技术都能正确辨认假图像。

该技术的主要难点在于，能否从没有明显视觉差异的图片中找出被篡改的截图，以及找出的图片中是误检率是否可控。与证照篡改检测相比，截图检测难度更大。 因此，合合信息提出了一种基于HRNet的编码器-解码器结构的模子。该模子结合了图像自身的信息，包括但不限于噪声、频谱等，以捕获到细粒度的视觉差异，充实利用HRNet的上风，从而实现高精度的图像真实性鉴别结果。

---

2️⃣生成式图像鉴别

   近年来，以语言生成和视觉生成为代表的人工智能生成内容引发了社会对于图文内容的可信度问题的讨论。不法分子利用生成的图片规避版权、身份验证等本事，非法获取长处并给人们带来财产丧失。
  在如许的背景下，合合信息开发了AI生成式图片鉴别技术，旨在帮助个人和机构辨认判断生成的图片是否来自AI生成，防止虚伪的假造人诈骗行为，并办理生成式AI所面临的伦理问题，推动生成式AI的健康发展。
该项目的难点主要有两个方面：一是生成的图像场景非常多样，无法通过穷举的方式来办理，也无法通过特定领域细分来逐一训练；二是有些生成的图像和真实图片相似度非常高，很难以区别。合合信息通过建立空域和频域之间的关系模子，能够在不必要穷举图像的环境下，利用多维度特性来区分真实图片和生成式图片之间的微小差异。
模子结构如下图所示：

该模子使用多个空间注意力头关注输入图片的空间特性，并通过纹理增强模块来突出浅层特性中的细微伪影，从而进步对真实人脸和伪造人脸的感知和判断正确性。
生成式图像检测技术在反诈骗、版权掩护等领域有着广泛的应用。例如，在金融行业中，不法分子可能使用人工智能合成技术来盗刷线上资金，威胁公民的财产安全。这项技术可以通过对支付环节进行干预，降低资金盗刷的风险。在传媒行业中，某些图片供应商使用软件自动生成海报等图片，故意隐瞒泉源并出售给第三方，第三方在不知情的环境下商用这些图片导致侵权问题。相关的检测技术可以在一定水平上办理这些问题。

---

---

3️⃣OCR对抗攻击技术

   人们会出于生存、工作必要，拍摄自己的相关证件、文件并发送给第三方，这些图片上承载的个人信息可能被不法分子使用OCR技术辨认提取并泄露。
  为了满足个人和企业对于文件资料保密的需求，合合信息进行了创新技术的探索，开发了OCR对抗攻击技术，用于对文档图片进行"加密"。为了防止上述环境发生，OCR对抗攻击技术被用来对场景文本或文档内的文本进行干扰，将个人或企业的重要文件 “上锁”，从而防止第三方通过OCR体系读取和保存图片中的所有文字内容，降低数据泄露的风险，并实现隐私信息的掩护。
该技术可以在不影响肉眼观看和判断的环境下，对场景文本或文档内的文字进行扰动，对包含中文、英文、数字等关键信息的内容进行"攻击"。 如许做可以防止第三方通过OCR体系读取并保存图像中的所有文字内容，从而降低数据泄露的风险，掩护信息的安全。同时，这种技术不会对人眼的观看和判断造成影响，使得文档的可读性不受影响。

---

三、总结

人工智能的发展面临着正面和负面两种可能性，不法分子和保卫者们之间的争斗天天都在无形中进行。关键在于，哪一方拥有更强大的技术实力，决定了是道高一尺还是魔高一丈。
AI图像安全新技术的实现，得益于合合信息在文档图像领域十余年的深耕攒下的秘闻。作为一家人工智能公司，过硬的科技实力是合合信息突破行业困难，培育创新技术的底气。正是这种科技实力使得合合信息能够在这个不断变化的领域中保持竞争上风，并为社会提供更安全的图像办理方案。

现阶段，合合信息已得到超百项自主知识产权发明专利，为全球凌驾200个国家和地域的上亿用户提供智能文字辨认产物及AI服务。将来，合合信息将连续关注图像领域新需求、新动态，用“过硬”的AI为行业发展注入安全感。

---

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。