IT评测·应用市场-qidao123.com技术社区

标题: 环球视角下的AI安全挑战：面向将来的预备 [打印本页]

作者: 李优秀 时间: 2024-7-27 23:12
标题: 环球视角下的AI安全挑战：面向将来的预备

云安全同盟大中华区即将推出人工智能安全认证专家（Certified Artificial Intelligence Security Professional，CAISP）培训及认证计划，将在Q3全面上线。
在环球科技创新的洪流中，人工智能（AI）无疑是最引人瞩目标浪尖。随着OpenAI、谷歌DeepMind、微软等科技巨头相继发布其在AI安全领域的最新进展，一场围绕AI安全的环球对话正悄然升级。这些举措不但揭示了当前AI安全技术的最前沿，也预示着面向将来，构建安全、可靠、负责任的AI生态体系已经成为国际共识。
AI安全：环球共议的紧迫议题

近日，OpenAI公开发布了其针对前沿AI大模子的安全计谋，包括基础架构、保护措施、敏感数据存储、开发人员访问管理等。这是OpenAI初次系统性的公布大模子开发安全方面的高级细节，为开发者在研究最新的前沿大模子提供技术借鉴。

谷歌DeepMind近日推出AI前沿安全框架（Frontier Safety Framework），强调了在AI模子发展过程中识别和缓解潜伏风险的重要性，旨在主动识别将来大概造成严重伤害的AI能力，并创建检测和减轻它们的机制。

微软于近期发布了首个年度《负责任人工智能透明度陈诉》（Responsible AI Transparency Report），介绍了在安全部署人工智能产物方面取得的成就，共创建了 30 个负责任的人工智能工具，扩大了负责任的人工智能团队，并要求开发生成式人工智能应用步伐的团队在整个开发周期中衡量和绘制风险。

人工智能作为新一轮科技革命和产业革命的代表性技术，已经开始广泛应用于金融、医疗、制造等多个领域。同时，AI技术带来的安全风险，如恶意软件和网络攻击手段也在不停演变。
AI安全人才造就：迎接挑战的关键

在这一系列动向背后，一个焦点议题渐渐浮出水面：AI安全人才造就的紧迫性。随着AI技术的广泛应用，确保其安全、可控地服务于社会，需要一支既懂技术又谙熟法律、伦理的复合型专业人才队伍。这不但要求技术专家具备防范和应对安全威胁的能力，还要求他们能够在环球法律框架下，以负责任的态度计划和部署AI系统。
应对AI安全的环球挑战，绝非一国之力所能及，它需要政策制定者、技术专家与行业领袖的携手互助，共同绘制一张涵盖技术革新、法律法规、伦理道德的全面安全蓝图。通过教导和培训，提高专业人员的安全意识和技能，是实现这一目标的关键。
面向将来的预备：CSA的举措

随着环球对AI安全的关注不停升温，云安全同盟（CSA）积极相应，展开了一系列重要的举措以增强这一领域的研究和实践。
**共建生态：**2023年9月，在上海举行的“外滩大会”上，CSA大中华区公布成立AI安全工作组，中国电信和蚂蚁团体担任联席组长，携手电子科技大学、华为等首批成员，共同制定了一套全面的研究和实施框架。

**环球管理倡议：**2023年10月，CSA起草并发布了《环球人工智能管理宣言》。此文件呼吁创建一个环球性的AI管理框架，以应对越来越复杂的AI应用和安全题目。这一宣言得到了国际社会的广泛支持，增强了环球对AI安全和伦理的共识。

**国际互助：**2023年12月，CSA连合OpenAI、亚马逊、谷歌、微软和Anthropic等行业巨头发起了AI安全倡议。这一倡议旨在通过互助制定和公开共享可靠的AI安全实践和指南，以提拔整个行业的安全水平，并促进国际间的技术和政策对话。

**国际标准：2024年4月，CSA大中华区在连合主理的第27届连合国科技大会AI边会上牵头发布《生成式人工智能应用安全测试标准》、《大语言模子安全测试方法》，为业界提供了同一的测试框架。

**行业调研：**2024年4月，CSA大中华区启动《AI安全产业图谱（2024）》调研，已吸引70+单位申报，包括蚂蚁、腾讯、百度、奇安信、火山引擎等单位，图谱将在Q3推出。

**国际会议：**2024年4月，CSA大中华区在日内瓦万国宫举行第27届连合国科技大会AI边会，汇聚了来自环球50多个国家的部长及政策制定者、顶尖研究机构、国际组织负责人，以及企业中超过100位专家和决定者。5月，CSA AI Summit 在RSAC 2024的首日隆重开幕，汇聚了1500名环球AI和云服务提供商、安全专家和创新者，共同探讨和分享了AI和云计算领域的最佳实践和前沿观点。
**研究结果：**先后发布了《ChatGPT的安全影响》、《AI安全白皮书》、《AI组织责任—焦点安全责任》、《AI弹性：AI安全革命性基准模子》、《从原则到实践：动态监管情况中的负责任AI》以及《CSA大型语言模子（LLM）威胁分类》等研究结果，深入探讨了生成式AI的安全挑战及应对计谋。

人工智能安全认证专家(CAISP)课程上线预告

在此配景下，云安全同盟（CSA）大中华区相应环球趋势，基于在AI安全方向的研究基础、环球的AI安全生态以及专业的AI安全专家团队推出了人工智能安全认证专家（Certified Artificial Intelligence Security Professional，CAISP）培训课程，将在Q3全面上线。该课程旨在为从事AI(含AI安全)的研究、管理、运营、开发以及网络安全等从业人员提供一套全面覆盖AI安全领域、跨领域综合能力造就、实践导向与案例分析、结合环球视野与法规管理的AI安全课程。
课程要点
从基础到高级，涵盖AI安全各个关键环节；
结合技术、法律、伦理和管理，提拔AI安全综合管理能力；
通过实际案例和实践指导，提拔办理AI安全实际题目标能力；
结合环球AI安全标准和法规，造就国际视野，确保企业合规性。
造就关键能力
**焦点知识与技能构建：**造就学员在AI安全领域的扎实基础，确保其能有效应对现代数字化安全挑战。把握识别并防御各类安全威胁，特殊是应对对抗性攻击的能力。
**AI算法与模子安全醒目：**深入理解AI常用算法和模子及其安全性，强化防范对抗性攻击的技巧，实施有效防御措施，确保数据安全免受泄露。
**大模子安全风险管理：**把握大型AI模子的安全漏洞识别、应对计谋与管理，提拔对各类攻击的防御能力以及系统性评估AI安全威胁能力。
**AI安全法规与安全管理：**全面把握国表里AI安全相干的政策法规与标准规范及AI安全管理体系，把握AI安全管理的方法论、团体体系架构及各模块能力，全面提拔学员对AI安全管理的能力。
**DevSecOps与AI集成安全：**融合DevSecOps原则于AI开发流程，熟练运用DevSecOps框架于AI项目中，提拔开发情况中的安全实践水平，确保AI应用的安全集成与维护。
**全生命周期AI安全管理：**把握AI应用从需求计划到测试部署的全周期安全管理，计划安全的AI系统，实行渗透测试，强化企业AI安全实施能力。
**大语言模子安全实践：**安全实施和管理大语言模子，专攻大语言模子（LLM）的安全应用，识别并抵抗将来安全威胁，提拔防御恶意利用的能力，增强风险应对计谋。
**AI安全成熟度提拔：**运用AI安全成熟度模子，把握评估与提拔AI安全成熟度的方法，依据测评效果实施改进计谋，全面评估并优化系统安全性能。
**ChatGPT安全最佳实践：**把握ChatGPT安全使用计谋，在企业中安全高效地利用ChatGPT，制定并实行安全利用规范，确保技术应用的合规与安全。
**政策法规与伦理道德：**熟悉相干政策法规，识别伦理风险，应用有效的管理机制，增强学员对国表里AI安全政策、法规及伦理道德的理解。
学习对象
安全研究员、合规与风险管理专员、AI安全工程师、AI工程师与开发者、政策制定者和监管机构、网络安全从业者、AI行业从业人员、在校学生、AI应用终端用户
课程更多活动陆续上线中，请关注国际云安全同盟CSA
About CSA
云安全同盟（Cloud Security Alliance,CSA）是中立、权威的环球性非营利产业组织，于2009年正式成立，致力于定义和提高业界对云计算和下一代数字技术安全最佳实践的认识，推动数字技术与安全产业全面发展。国际云安全同盟大中华区（CSA GCR）作为CSA环球四大区之一，2016年在香港独立注册，于2021年在中国登记注册，是网络安全领域首家在中国境内注册存案的国际NGO，旨在立足中国，连接环球，推动大中华区网络安全技术标准与产业的发展及国际互助。
CSA发布的《云计算关键领域安全指南》是云安全领域奠基性研究结果，环球范围认可，具有广泛影响力，此外，《云控制矩阵CCM》被誉为云安全的“黄金标准”，是环球性通用性标准。CSA与CSA GCR区面向云计算与下一代数字技术安全的产业发展需要，持续丰富完善数字安全的人才造就体系。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

欢迎光临 IT评测·应用市场-qidao123.com技术社区 (https://dis.qidao123.com/)