大型语言模型和生成式 AI 怎样改变数字安全
基于身份的攻击呈上升趋势，网络垂纶仍然是最常见的和第二昂贵的攻击向量。一些攻击者正在利用 AI 制作更令人信服的网络垂纶消息，并摆设呆板人来绕过旨在发现可疑举动的主动防御。与此同时，企业应用程序的持续增长给 IT 团队带来了挑战，他们必须支持、掩护和管理这些应用程序，而且通常不会增加人员。
连接设备的数量不停增加，由于攻击面的增加带来了安全风险。每个设备相干的潜在毛病使这一题目更加复杂。
固然有许多安全工具和应用程序可用于资助企业抵御攻击，但集成和管理大量工具会增加成本、复杂性和风险。
网络安全是 三大挑战 之一，仅次于环境可持续发展和技术当代化。生成式 AI 可以为网络安全带来厘革。它可以资助安全分析师更快地找到完成工作所需的信息，生成合成数据以训练 AI 模型以准确识别风险，并运行假设场景以更好地应对潜在威胁。
利用 AI 与日俱增的威胁形势保持同步
网络安全是一个数据题目，而可用的海量数据对于手动筛选和威胁检测来说过于庞大。这意味着人类分析人员无法再有效地抵御复杂的攻击，因为攻击和防御的速度和复杂性凌驾了人类的能力。借助 AI，构造可以实现数据的 100%可见性，并快速发现非常情况，从而更快地检测威胁。
固然呈指数级增长的数据量给威胁检测带来了挑战，但基于 AI 的网络防御方法需要访问训练数据。在某些情况下，这并不容易实现，因为构造通常不会共享敏感数据。借助生成式 AI，合成数据可以资助解决数据差距并改善 AI 网络安全防御。
合成和上下文化数据的最有效方法之一是利用自然语言。大型语言模型 (LLM) 的进步正在扩展威胁检测和数据生成技术，从而改善网络安全。
本文将探讨三个用例，阐明生成式 AI 和 LLM 怎样改善网络安全，并提供三个示例，阐明怎样应用用于网络安全的 AI 基础模型。
Copilot 可提拔安全团队的服从和能力
网络安全专业人员的人员短缺题目持续存在。检索加强生成 (RAG) 使构造可以大概利用现有知识库并扩展人类分析师的能力，从而提高他们的服从和效力。
Copilot 可以在自然的界面中学习安全分析师的举动，顺应他们的需求，并提供相干见解来指导他们的一样平常工作。构造可以快速发现 RAG 聊天呆板人的价值。
预计到 2025 年，三分之二的企业将结合利用生成式 AI 和 RAG 技术，为特定范畴的自助式知识发现提供支持，从而将决策服从提拔 50%1。
除了没有足够的网络安全人员外，构造还面临着培训新员工和现有员工的挑战。借助 Copilot，网络安全专业人员可以在复杂的摆设场景中获得近乎及时的相应和指导，而无需额外的培训或研究。
固然安全副驾驶可以为构造带来厘革性优势，但它们只有在可以大概提供快速、准确和最新的信息时才有效。NVIDIA 采用检索加强型生成工作流程的 AI 聊天呆板人 提供了一个很好的起点。它展示了怎样构建代理和聊天呆板人，以及时检索最新信息，并以自然语言提供准确的相应。
生成式 AI 可以明显改善常见毛病防御
随着系统中报告的安全毛病数量不停增加，修补软件安全题目正变得越来越具有挑战性。常见毛病和暴露 (CVE) 数据库 在 2022 年创下新高。截至 2023 年第三季度，报告的累计毛病凌驾 20 万个，这显着表明传统的扫描和修补方法已变得难以管理。
与仅依赖 CVE 评分来确定毛病优先级的构造相比，摆设基于风险的分析的构造所面临的泄露成本更低。利用生成式 AI 可以改善毛病防御，同时减轻安全团队的负担。
在集成了 LLM 引擎之后，NVIDIA 利用 NVIDIA Morpheus 构建了一个工作流程，该工作流程通过 RAG 处置处罚 CVE 风险分析。安全分析人员可以借助 LLM 和 RAG 来确定软件容器内是否包罗有毛病和可被利用的组件。
此方法使分析师可以大概平均将单个 CVE 的调查速度提高 4 倍，并以高准确度识别毛病，以便对补丁程序进行优先级排序并相应地加以处置处罚。
https://img-blog.csdnimg.cn/img_convert/bd0a2aa30bae16624daf2d61eca1e199.png
图 1.利用 Morpheus LLM 引擎支持模型生成的 RAG 使命和多循环的 CVE 可利用性
网络安全基础模型
固然预训练模型对许多应用程序都很有效，但有时重新开始训练自界说模型会很有资助。当特定范畴具有独特的词汇量或内容具有不符合传统语言范式和结构的属性时，这很有资助。
在网络安全范畴，我们可以通过某些范例的原始日志来观察这一点。想想一本书，单词怎样构成句子、句子怎样构成段落和段落。语言模型中有一个固有结构。这与 JSON 行或 CEF 等格式中包罗的数据形成对比。数据键和值的临近具有差别的含义。
利用自界说基础模型提供了多种机遇。
[*]解决数据缺口：固然更好地利用涌入的数据可以改善网络安全，但数据的质量至关紧张。如果缺乏高质量的可用训练数据，检测威胁的准确性就会受到影响。生成式 AI 可以通过合成数据生成来资助弥补数据缺口，或者通过利用大型模型生成的数据来训练较小的模型。
[*]执行“假设”场景：在缺乏用于构建防御系统的数据集的情况下，对抗新威胁的能力将明显提高。生成式 AI 可用于模拟攻击，并执行“假设”场景，以测试尚未碰到的攻击模式。这种基于不停演变的威胁和厘革的数据模式的动态模型训练，有助于提拔整体安全性。
[*]输入下游非常检测器：利用大型模型生成数据，训练用于威胁检测的下游轻量级模型，既可以降低基础设施成本，又能保持相同的准确性水平。
NVIDIA 进行了许多实验，并训练了几个特定于网络安全的基础模型，包括一个基于 GPT-2 风格模型(称为 CyberGPT)的模型。此中一个是基于身份数据训练的模型(包括 Azure AD 等应用程序日志)。借助此模型，人们可以生成高度传神的合成数据，以解决数据差距，并可以执行“假设”场景。
图 2 显示了各种巨细的 CyberGPT 模型的 Rogue2 F1 分数，每个实例的准确率约为 80%.这意味着生成的 10 个日志中，有 8 个与真实网络用户生成的日志险些没有区别。
https://img-blog.csdnimg.cn/img_convert/172d5681acea46d59dbf8ab9f878a55e.png
图 2.CyberGPT 模型生成的日志的准确性和真实度分数
至于训练时间，超等盘算机并不是实现高质量结果的须要条件。在测试中，对于具有字符级标记化的 GPT-2 小型模型，训练时间低至 12 GPU 小时。此模型在 230 万行 100 多个用户日志上进行训练，并进行 1000 次迭代。此模型基于多种范例的数据进行训练，包括 Azure、SharePoint、Confluence 和 Jira.
此外，我们还利用分词器(主要是字符级分词器)、现成的字节对编码 (BPE) 分词器和自界说训练的分词器运行实验。固然每种分词器都有优点和缺点，但通过训练自界说分词器可以获得更好的性能。这不仅可以根据自界说词汇更有效地利用资源，而且可以减少分词错误，并可以处置处罚特定于日志的语法。
固然这些结果反映了利用语言模型进行的实验，但利用 LLM 进行的相同测试也取得了类似的结果。
合成数据生成可 100% 检测鱼叉式网络垂纶电子邮件
Spear 网络垂纶电子邮件具有高度针对性，因此非常令人信服。Spear 网络垂纶(通常情况下，任何有效的网络垂纶活动)与良性电子邮件之间的唯一真正区别是发送者的意图。由于缺乏可用的训练数据，因此利用 AI 进行防御的 Spear 网络垂纶具有挑战性。
为了探索合成数据生成在加强垂纶枪电子邮件检测方面的潜力，我们利用 NVIDIA Morpheus 构建了一个工作流。
利用现成模型时，Spon 网络垂纶检测管线漏掉了 16%(约 600 封)的恶意电子邮件。然后，未捕捉的恶意电子邮件被用于创建新的合成数据集。从合成生成的电子邮件中学习新的意图模型，并将其集成到我们的 Spon 网络垂纶检测管线中。在检测管线中添加这项新的意图模型功能后，仅在合成电子邮件上训练的 Spon 网络垂纶电子邮件的检测率达到 100%.
我们的 NVIDIA 网络垂纶检测 AI 工作流程提供了一个示例，展示怎样利用 NVIDIA Morpheus 构建此解决方案。
https://img-blog.csdnimg.cn/img_convert/3ebb30da75af0558734e7383405c1294.png
图 3.利用合成生成且符合特定举动意图的 Spear 网络垂纶电子邮件构建的 Spear 网络垂纶检测管道
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]