标题: 大型语言模型和生成式 AI 怎样改变数字安全 [打印本页] 作者: 立聪堂德州十三局店 时间: 2024-11-21 00:31 标题: 大型语言模型和生成式 AI 怎样改变数字安全 基于身份的攻击呈上升趋势，网络垂纶仍然是最常见的和第二昂贵的攻击向量。一些攻击者正在利用 AI 制作更令人信服的网络垂纶消息，并摆设呆板人来绕过旨在发现可疑举动的主动防御。
与此同时，企业应用程序的持续增长给 IT 团队带来了挑战，他们必须支持、掩护和管理这些应用程序，而且通常不会增加人员。
连接设备的数量不停增加，由于攻击面的增加带来了安全风险。每个设备相干的潜在毛病使这一题目更加复杂。
固然有许多安全工具和应用程序可用于资助企业抵御攻击，但集成和管理大量工具会增加成本、复杂性和风险。
网络安全是 三大挑战 之一，仅次于环境可持续发展和技术当代化。生成式 AI 可以为网络安全带来厘革。它可以资助安全分析师更快地找到完成工作所需的信息，生成合成数据以训练 AI 模型以准确识别风险，并运行假设场景以更好地应对潜在威胁。
利用 AI 与日俱增的威胁形势保持同步
网络安全是一个数据题目，而可用的海量数据对于手动筛选和威胁检测来说过于庞大。这意味着人类分析人员无法再有效地抵御复杂的攻击，因为攻击和防御的速度和复杂性凌驾了人类的能力。借助 AI，构造可以实现数据的 100%可见性，并快速发现非常情况，从而更快地检测威胁。
固然呈指数级增长的数据量给威胁检测带来了挑战，但基于 AI 的网络防御方法需要访问训练数据。在某些情况下，这并不容易实现，因为构造通常不会共享敏感数据。借助生成式 AI，合成数据可以资助解决数据差距并改善 AI 网络安全防御。
合成和上下文化数据的最有效方法之一是利用自然语言。大型语言模型 (LLM) 的进步正在扩展威胁检测和数据生成技术，从而改善网络安全。
本文将探讨三个用例，阐明生成式 AI 和 LLM 怎样改善网络安全，并提供三个示例，阐明怎样应用用于网络安全的 AI 基础模型。
Copilot 可提拔安全团队的服从和能力
网络安全专业人员的人员短缺题目持续存在。检索加强生成 (RAG) 使构造可以大概利用现有知识库并扩展人类分析师的能力，从而提高他们的服从和效力。
Copilot 可以在自然的界面中学习安全分析师的举动，顺应他们的需求，并提供相干见解来指导他们的一样平常工作。构造可以快速发现 RAG 聊天呆板人的价值。
预计到 2025 年，三分之二的企业将结合利用生成式 AI 和 RAG 技术，为特定范畴的自助式知识发现提供支持，从而将决策服从提拔 50%1。
除了没有足够的网络安全人员外，构造还面临着培训新员工和现有员工的挑战。借助 Copilot，网络安全专业人员可以在复杂的摆设场景中获得近乎及时的相应和指导，而无需额外的培训或研究。
固然安全副驾驶可以为构造带来厘革性优势，但它们只有在可以大概提供快速、准确和最新的信息时才有效。NVIDIA 采用检索加强型生成工作流程的 AI 聊天呆板人 提供了一个很好的起点。它展示了怎样构建代理和聊天呆板人，以及时检索最新信息，并以自然语言提供准确的相应。
生成式 AI 可以明显改善常见毛病防御
