人工智能安全治理的中国认知与方案

<hr> 前言

近年来，人工智能技术敏捷发展，在推动社会经济进步的同时，也带来了安全隐患与风险挑战。2023 年 10 月，我国面向天下提出《环球人工智能治理倡议》（以下简称《倡议》），体系阐述了人工智能治理的中国方案。《倡议》命令不断提高人工智能技术的安全性、可靠性、可控性与公平性，提倡建立具有广泛共识的治理框架和标准规范。2024 年 9 月，《人工智能安全治理框架》（以下简称《框架》）发布，内容涵盖治理原则、框架构成、风险分类、技术应对、综合治理和安全指引六个部门，较为全面地总结了中国人工智能安全治理的经验和观点。
《框架》以鼓励人工智能创新发展为要旨，协调政府、国际构造、企业、科研院所、民间机构和社会公众等各方达成广泛共识，为人工智能风险防范化解和监督管理等提供告急指引。

<hr> 一、驻足本土治理认知，构建风险分类体系

总体国家安全观是国家安全工作的引导思想，融合贯通人民安全、政治安全、国家长处至上的有机统一，不断推动中国特色国家安全理论构建和实践。人工智能技术的应用已经超越产业领域，不断向军事、政治、经济等领域扩散，显现出巨大发展潜力同时也意味着全面而深刻的安全格局变革。人工智能技术自然地与安全议题联系，实在用性的延伸使得在认知领域、生产领域的内生风险渐渐显现，通用人工智能已被证实可以介入致命武器生产、意识形态争端或深刻地改变社会生产结构。人工智能安全涉及综合网络安全、数据安全等多个方面，直接关系到国家政治、经济运动的安全可控。特定的安全领域往往指向人工智能技术的应用服务场景，人工智能安全治理需要在综合治理框架内睁开，避免治理缺漏与职能重叠。《框架》以总体国家安全观为基础，结合人工智能安全治理认知与实践经验，构建本土安全风险分类体系，推动形成人工智能全周期安全治理格局。
1、《框架》沿风险治理思路，体系梳理了人工智能安全风险类型，为有效识别人工智能安全风险提供了告急依据。

《框架》将人工智能安全风险分为内生安全风险与应用安全风险两个条理，涵盖人工智能训练、部署、更新、维护等多个阶段。内生安全风险源自人工智能技术的构成要素和固有特性，包括偏见鄙视风险、对抗攻击风险等由模子算法缺陷导致的风险类型，训练数据的违规利用、泄露或遭受“投毒”等数据安全风险，以及大规模后门攻击、算力短

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。