关键字: [reInforce, AI Runtime Security, ]
本文字数: 1500, 阅读完需: 8 分钟
导读
在一场亚马逊云科技活动上,来自Palo Alto Networks的Jamie Patel就”加强AI安全:掩护AI应用程序、模型和数据”举行了演讲。该演讲探究了企业如何通过设计来确保AI的安全性,包罗跟踪和监控AI的使用、确保AI应用程序开发生命周期的安全性,以及掩护AI数据。Palo Alto Networks推出了三款新产品:AI Access用于掩护员工访问天生式AI应用程序、AI安全态势管理用于识别和修复AI根本设施、数据和供应链中的风险,以及AI运行时安全用于掩护企业AI应用程序、模型和数据免受AI特定威胁和根本威胁。演讲重点介绍了Palo Alto Networks的平台如何实现全面的AI安全性、高度的易用性以及与现有安全办理方案的无缝集成。
演讲精华
以下是小编为您整理的本次演讲的精华，共1200字，阅读时间大约是6分钟。
人工智能(AI)的采用速率确实令人瞩目,以致超越了当今最具变革性的技术,如互联网、移动技术和交际媒体。虽然互联网花费23年才到达10亿用户,移动技术则必要15年以上,但AI在问世仅7年后,就已经积累了惊人的2.5亿用户。这种飞速增长预计将持续,预计到2029年,AI将到达10亿用户,从而巩固其作为人类历史上采用最快的技术地位。
这种亘古未有的增长导致AI应用程序激增,如今举世有超过2,400种原生AI应用程序。然而,在未来5到6年内,这一数字预计将增长五倍,因为每个SaaS应用程序都将很快融入AI功能。虽然这一增长轨迹无疑令人印象深刻,但它也带来了一系列企业必须积极应对的风险。
如今,大约43%的企业客户已采用AI,这一数字预计在未来12个月内将靠近100%。一个典型的大型企业将拥有数百个AI应用程序、数千个模型端点,以及用于训练AI模型和处理数百万提示的数十PB数据。然而,这种广泛采用也袒露出了毛病,有50%的员工访问了不安全的天生式AI(genAI)应用程序,80%的公共模型很容易被破解,还存在超过100个恶意模型,开发职员可能会偶然中使用,从而给组织带来更大风险。
为了应对这些挑衅,Palo Alto Networks提倡从设计上就确保AI安全,这是一种全面的方法,包罗跟踪和监控每个员工的AI使用情况、确保AI应用程序开发生命周期的每个步骤的安全性,以及掩护AI数据。这种方法不必要引入额外的点产品,而是扩展了企业熟悉的现有网络安全平台。
Palo Alto Networks推出了三种产品来促进从设计上确保AI安全:AI Access、AI安全态势管理(AISPM)和AI运行时安全。
AI Access 专注于确保员工安全访问天生式人工智能(genAI)应用程序。它提供实时可见性,使组织能够检察和分类员工正在访问的 genAI 应用程序,无论是用于代码天生、营销质料、工程生产力还是文本摘要。AI Access 还为组织提供对哪些员工和群组可以访问特定 AI 应用程序的控制权,以及数据治理政策,以防止员工在训练过程中偶然中向 genAI 模型袒露组织数据,从而导致知识产权和敏感数据泄露。
另一方面,AISPM 有助于识别和修复与企业 AI 应用程序相关的根本设施安全风险、数据风险和供应链风险。它提供实时风险评估、优先级发起和可操纵的见解,资助组织缓解潜在的毛病。
AI Runtime Security 旨在掩护企业 AI 应用程序、模型和数据免受 AI 特定威胁和根本风险。它为 AI 应用程序、模型和数据提供全面掩护,包罗防止提示注入攻击、模型拒绝服务攻击和数据泄露。
企业 AI 应用程序本质上比标准 Web 应用程序更加复杂,涉及 CPU、GPU、ML 库、容器、无服务器功能、AI 模型、微调数据模型和插件/署理等组件。每个组件都带来本身的一系列风险,包罗供应链和设置风险、运行时风险,以及提示注入攻击和模型拒绝服务攻击等 AI 特定风险。
Patel 举例说明了提示注入攻击,精心设计的提示可能会使用模型并泄露敏感数据。例如,一家制药客户正在为研究职员和科学家构建一个内部应用程序,以加速药物开发。攻击者可能会设计提示来从用于此应用程序的模型中提取敏感数据。同样,一家证券交易所客户计划提供一个投资者智能应用程序,根据证券交易委员会(SEC)文件总结上市公司的业绩体现。提示注入攻击可能会从这些模型中泄露敏感的财务数据。
人工智能(AI)带来了巨大的机遇,但同时也存在偏重大的数据风险。由于AI模型是在敏感数据上举行训练的,因此可能会偶然中泄露个人身份信息(PII)或受掩护的康健信息(PHI)。举例来说,某医疗机构的AI应用程序在被询问治疗症状时,由于模型是在患者数据上举行微调的,因此可能会泄露患者信息。
传统的安全办理方案无法有用应对这些AI特有的风险,原因在于它们无法发现AI应用程序组件、难以摆设和隔离容器化应用程序,以及缺乏针对AI特定攻击的掩护步调。
Palo Alto Networks的AI Runtime Security办理方案通过全面发现、简化摆设和全面防御来应对这些挑衅。它能够发现AI应用程序生态系统的每个组件,包罗应用程序、模型、数据、互联网目的地和访问AI应用程序的用户。它能够轻松摆设AI Runtime Security实例来掩护AI应用程序、模型和数据。别的,它提供了细粒度的策略来掩护AI应用程序、模型和数据,使用AI驱动的精准技术来防御AI驱动的威胁。
演示展示了跨多个云情况发现AI应用程序组件的情况,包罗21个应用程序、5.1k个总资产、500个危机、10个模型和40个互联网目的地。随后,演示了在亚马逊云科技(亚马逊云科技)上摆设AI Runtime Security实例来掩护访问五个模型的七个应用程序的过程,并使用了一个最佳实践参考架构。
该办理方案允许组织编写细粒度的安全设置文件,以防止提示注入攻击、模型拒绝服务攻击和数据泄露。它与Palo Alto Networks现有的网络安全平台集成,使客户能够使用相同的实例来掩护AI和非AI应用程序。
Palo Alto Networks的AI Runtime Security办理方案提供全面的掩护,支持数千个应用程序和协议,针对基于Web的攻击提供40%更好的掩护,防御25+种DNS攻击,并实现99%以上的恶意软件检测正确性。它掩护所有主要云服务提供商(CSP)管理的模型,防止直接和间接的提示注入攻击,并为数据泄露防护提供1,000多种预界说的数据模式,覆盖范围比其他基于云的办理方案高2倍。
随着企业持续采纳并构建人工智能(AI)应用程序,Palo Alto Networks旨在通过降低风险和掩护其AI资产,让它们能够自负地如许做。该公司的AI安全办理方案,包罗AI Access、AISPM和AI Runtime Security,将于7月推出,客户可以通过扫描提供的二维码表达爱好,并成为设计合作伙伴,从而提前获得这些产品。
总的来说,AI的快速采用开启了技术进步的新时代,但也为组织带来了各种风险。Palo Alto Networks以设计安全AI的全面方法,加上其创新的AI安全办理方案,使该公司成为企业在AI采用和开发的复杂过程中值得信任的合作伙伴。
下面是一些演讲现场的精彩瞬间：
在那一刻,演讲者询问了在场观众的配景,包罗网络安全、应用安全和数据中心等领域的从业职员,并幽默地表示下一代人将会”出生”在人工智能领域。
在未来12个月内,大约60%至70%的企业客户计划采用人工智能技术,而一个典型的大型企业客户将拥有数百个人工智能应用程序、数千个模型端点和数十PB的训练数据。
企业AI应用程序与标准Web应用程序的差别之处在于其复杂的架构,包罗运行在CPU和GPU上、导入ML库、使用容器或无服务器功能,并引入数以百万计的AI模型、使用专有数据举行微调,以及使用插件和署理提高生产力。
如今让我们来谈谈模型。
我们掩护模型免受直接和间接的提示注入攻击。
您将构建RAG(检索增强天生)应用程序,因为大多数这些AI应用程序将是所谓的复合系统。
亚马逊云科技(亚马逊云科技)安全参考架构摆设AI实时安全实例,采用网关负载均衡器架构。
总结
人工智能(AI)技术的敏捷遍及导致了AI应用程序的激增,企业以亘古未有的速率构建和摆设AI模型。然而,这种增长也带来了重大的安全隐患,包罗数据泄露、提示注入攻击和模型毛病。为了应对这些挑衅,Palo Alto Networks推出了一个全面的AI安全平台,旨在从设计层面确保AI的安全性。
该平台由三个关键产品组成:AI访问安全性,为员工访问天生式AI应用程序提供可见性、控制和数据管理;AI安全态势管理(AISPM),用于识别和修复AI生态系统中的根本设施、数据和供应链风险;以及AI运行时安全性,掩护企业AI应用程序、模型和数据免受AI特定威胁以及根本风险。
AI运行时安全性办理方案提供了对整个AI生态系统的全面发现、无缝摆设安全实例以及细粒度策略控制,以防御诸如提示注入、模型投毒和数据泄露等威胁。通过使用AI来掩护AI,Palo Alto Networks旨在使企业能够自负地构建和摆设AI应用程序,同时确保强大的安全性和数据掩护。
关键在于,企业可以通过扩显现有的网络安全平台来掩护其AI使用,而不是引入单独的点办理方案,从而安全地拥抱AI的采用。依附Palo Alto Networks全面的AI安全平台,组织可以跟上不断出现的AI威胁,并充实开释AI创新的潜力。
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。 |
