NVIDIA H100 GPU 上的机密盘算可实现安全且值得信托的 AI

NVIDIA H100 GPU 上的机密盘算，实现安全可信的 AI
  
  

<hr> 媒介

硬件虚拟化是将虚拟机 （VM） 中的工作负载与物理硬件以及彼此隔离的有效方法。这提供了更高的安全性，尤其是在多租户情况中。然而，带内攻击、侧信道攻击和物理攻击等安全风险仍可能发生，从而侵害数据和应用步伐的机密性、完备性或可用性。
<hr>

直到最近，掩护数据还仅限于动态数据（比方在 Internet 上移动负载）和静态数据（比方存储介质加密）。然而，使用中的数据仍然容易受到攻击。
NVIDIA Confidential Computing 提供了一种办理方案，用于安全地处置处罚正在使用的数据和代码，防止未经授权的用户访问和修改。在运行 AI 练习或推理时，数据和代码必须受到掩护。输入数据通常包括个人身份信息 （PII） 或企业机密，而颠末练习的模子是非常有价值的知识产权 （IP）。机密盘算是掩护 AI 模子和数据的理想办理方案。
NVIDIA 处于机密盘算的最前沿，与 CPU 合作伙伴、云提供商和独立软件供应商 （ISV） 合作，以确保从传统的加快工作负载到机密加快工作负载的转变是平稳和透明的。
NVIDIA H100 Tensor Core GPU是有史以来第一款引入机密盘算支持的 GPU。它可以在虚拟化情况中使用，无论是使用传统 VM 还是在 Kubernetes 摆设中使用，使用 Kata 在 microVM 中启动机密容器。
本文重点先容具有机密盘算的传统虚拟化工作流。
1. 使用硬件虚拟化的 NVIDIA 机密盘算

根据机密盘算同盟 （Confidential Computing Consortium） 的说法，机密盘算是指通过在基于硬件的、颠末证明的可信执行情况 （TEE） 中执行盘算来掩护使用中的数据。
NVIDIA H100 GPU 符合这一定义，由于它的 TEE 锚定在片上硬件信托根 （RoT） 中。当 GPU 在 CC-On 模式下启动时，GPU 会为代码和数据启用硬件掩护。信托链通过以下方式创建：

• GPU 启动序列，具有安全且颠末丈量的启动
  
• 安全协议和数据模子 （SPDM） 会话，用于安全地毗连到 CPU TEE 中的驱动步伐
  
• 生成一组加密署名的度量值，称为证明陈诉。
  

机密盘算情况的用户可以查抄认证陈诉，并且只有在认证陈诉有效且正确时才能继续。
2. 跨硬件、固件和软件掩护 AI

NVIDIA 在每一代 GPU 中不停提高其 GPU 的安全性和完备性。自 NVIDIA Volta V100 Tensor Core GPU 以来， NVIDIA 一直在设备上运行的固件上提供 AES 身份验证。此身份验证可确保您可以信托启动固件既未破坏，也未被窜改。
通过 NVIDIA Tur

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。