亚马逊云科技-reInforce确保AI模型安全使用Gen
亚马逊云科技-reInforce确保AI模型安全使用GenAI维护合规性关键字:
本笔墨数: 400, 阅读完需: 2 分钟
导读
在亚马逊云科技的活动中,演讲者们介绍了”亚马逊云科技-reInforce确保AI模型安全使用GenAI维护合规性”。他们探讨了如何保护AI模型并利用AI进行安全防护;具体阐释了构造必要制定AI安全战略文档、采用保护模型和使用的技术,以及进行威胁检测和响应。演讲重点阐述了IBM和亚马逊云科技如何通过AI防火墙、模型扫描、运行时监控和深度伪造检测等本领保障AI模型的安全性,以及利用AI执行身份管控、合规性审查和生成洞见等安全任务。他们还公布推出一项名为Autonomous Security and Compliance (ASC)的联合服务,可根据合规性要求自动生成和摆设亚马逊云科技CloudFormation脚本,并利用AI采取调停步伐。
演讲精华
以下是小编为您整理的本次演讲的精华，共100字，阅读时间大约是0分钟。
起首,我们将利用遍布整个混淆云环境的数据,尽管大部分甚至全部数据都将存储在亚马逊云科技中,但这并不意味着亚马逊云科技就是我们的唯一选择,我们不应天真地这样以为。我们必要确保跨云端正确管理访问权限,使得无论是在当地数据中心、Azure照旧亚马逊云科技环境中,都是同一个实体在操作。我们必要确保只有经过适当许可的人员才能访问AI,并持续保护练习数据和模型自己的完备性。
作为IBM,我们构建了一个框架来解决这些题目。该框架包罗AI生命周期的三个部分:如何网络和处理处罚数据以确保安全;如何开辟和练习模型以确保模型安全;如何在实时使用、推理和微调等场景中保护模型的使用。除此之外,无论AI运行在何种基础设施之上,我们都必要确保基础设施的安全;在整个企业范围内,我们必要实行适当的管理程度。
在确保AI安全方面,构造必要做三件事:起首,制定明白的策略。无论构造是AI的SaaS用户、PaaS用户(如微调模型、构建RAG服务)、完全自主构建AI模型,照旧介于这些之间,都必要制定与安全控制、合规性和隐私框架相一致的策略,并考虑风险偏好。不偕行业的风险偏好不同,策略必要与之相符。
其次,就像其他任何技术一样,AI也必要安全保护。这包罗数据保护、防火墙等。我们正在与合作伙伴共同开辟AI防火墙等技术,双向检测输入的提示和输出的响应,防止数据泄漏、提示注入循环等。模型扫描也很告急,由于我们从第三方平台下载的模型可能存在供应链风险,我们必要相识模型的”质料清单”。运行时监控则用于威胁检测。此外,随着AI性能的进步,深假视频可能会对生物识别技术构成寻衅,因此我们也必要能够识别和应对深假视频。
第三,我们必要进行威胁检测和响应,包罗对抗性测试。与其让黑客攻击模型,不如先”黑”自己的模型,找出毛病并加以修复。
接下来,我想分享一下IBM如何将AI应用于网络安全领域。第一个案例是使用生成式AI作为聊天机器人,提供自助服务,如”请为我授予某应用程序的访问权限”。AI会根据构造过去的访问授权记录,确定为该用户分配合适的角色,实现身份管理。
第二个案例是根据实用的法律法规,为客户所在行业生成合规框架,即合规”交叉对照”。
第三个案例是从各种体系网络的分析和指标数据中生成洞见,而不是出现复杂的执行仪表板。生成洞见比展示大量小部件更有用。
但最令人等待的,是IBM与亚马逊云科技正在合作开辟的一项突破性技术——“自主安全和合规”(Autonomous Security and Compliance,ASC)服务。让我描述一下这项服务的应用场景:
想象一下,有一个生成式AI体系,能够根据客户的合规要求、行业背景、区域位置等,生成具体的控制步伐,并使用Amazon CloudFormation等当地脚本技术在亚马逊云科技环境中摆设。它不仅能摆设,还能持续监控执行情况,一旦发现偏离基准就采取纠正步伐。
这项名为”自主安全和合规”的服务目前处于alpha测试阶段,预计将于今年年底的Amazon Web Services re:Invent大会上正式推出。IBM将负责构建练习模型,利用合规标准、Amazon CloudFormation脚本等数据源;亚马逊云科技则提供基础的生成AI平台Bedrock。
该服务将在客户的Bedrock平台上运行,并由IBM开辟的检索增强生成应用程序(RAG App)提供支持,吸收客户的政策、标准和安全要求等上下文信息。根据这些信息,AI模型将生成CloudFormation脚本,并结合来自Amazon Config、Security Hub、GuardDuty等云原生工具的谍报,实行调停步伐。
当然,IBM不会直接在客户环境中摆设和启用这一体系,由于如果它做出了客户明白宽免的操作,将会给客户带来贫苦。相反,IBM将提供专业服务,渐渐推进客户从最初的监控过渡到后期的主动摆设,同时根据客户反馈不断优化模型,形成一个循环。优化后的模型将重新发布,从而不断进步体系的本领。
总之,IBM可以为客户提供从AI安全策略制定到实行的全方位服务,包罗上述”自主安全和合规”服务。如果客户有任何疑问,欢迎前往IBM展台与IBM探讨。IBM在那里还将抽奖赠予礼品卡,欢迎客户参与。
总结
该演讲深入探讨了确保人工智能模型安全性以及利用人工智能进行网络安全运营的告急性。它夸大了构造采用生成式人工智能的日益增长的压力,同时也必要解决数据泄漏风险的加剧。重点夸大了必要保护人工智能模型、练习数据的安全性,并在混淆云环境中管理人工智能的使用。IBM提出了一个框架,包罗数据网络、模型开辟和安全摆设,并以健全的基础设施安全性和全企业管理为基础。
此外,该演讲介绍了IBM利用人工智能进行网络安全的方法,包罗用于身份管理的聊天机器人、合规性演练以及从分析中生成见解。值得注意的是,IBM和亚马逊云科技正在共同开辟一种自主安全和合规性服务,该服务根据合规性要求生成和摆设亚马逊云科技 CloudFormation 脚本,监控毛病并采取纠正步伐,利用检索增强生成应用程序和客户上下文。
总的来说,通过全面的策略、健全的保护技术以及持续的威胁检测和响应,主动解决人工智能安全寻衅是当务之急。通过在网络安全运营中采用人工智能,并与行业合作伙伴合作,构造可以利用人工智能的力量,同时低落风险并保持合规性。
亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型练习和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕当地、链接全球 -- 在中国，亚马逊云科技通过安全、稳固、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]