8 卡 GPU 服务器与 NVLink/NVSwitch 互联技能
目录8 卡 GPU 服务器
随着模型复杂程度增加，单张 GPU 无法完成训练使命，必要联合多张 GPU，尤其在 LLM 期间，8 卡 GPU 服务器已经成为了新的常态。
在 8 卡 GPU 服务器中，CPU 仍然承担着体系管理、使命调理、逻辑运算等工作，而 GPU 则主要负责大规模并行计算使命。
https://i-blog.csdnimg.cn/direct/6e70896ffa3b47b382bfd2370bb85d28.png
GPU 互联技能分类
在深度学习的训练过程中，随着 GPU 算力的飞速飙升，GPU 之间的互联数据传输速率已经成为了制约训练效率的瓶颈。从网络构成的角度，可以分为：
[*]GPU 卡间互联
[*]GPU 服务器件互联
本文讨论的是单机 GPU 卡间互联。办理的题目就是如何将 8 张 GPU 互联起来，使其能够互相举行高效的通信。从互联技能的层面有以下 4 大类：
[*]PCIe 直连
[*]PCIe Switch 互联
[*]NVLink 互联
[*]NVSwitch 全互联
P
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]