AI是由很多层计算组成的,每一层计算都无差异地计算所有的节点,甚至是对所有的节点的分列组合。由于没有局部性,运行内存必要能够放得下一整个模子至少一层的运算量。假如运行内存不够大,就得把运算好的数据存储起来,放在外存,然后在外存读出没有运算的数据继承算,那这IO就太频仍了,耗时会很大。
以下是AI模子对显卡的要求参数
ai绘画对显卡的要求:
跑AI绘图就是跑算法,跑算法依赖GPU,也就是显卡。
显卡一般必要N卡(Nvidia),不建议A卡(AMD)。
最低配置是Nvidia GTX1060(4G显存以上),勉强能跑AI绘图,一张20steps步数的图大概30-60秒天生。
建议配置是Nvidia GTX3060,8G以上。一张20steps步数的图大概10-20秒。
固然,土豪建议直接上GTX 3080,GTX4090,那就更快了,几秒一张图,十几秒四张图。
ai练习模子对显卡的要求:
假如你必要本地炼丹(练习模子),跑ControlNet等,那么建议内存16G以上(不含16G),显存12G以上,显卡芯片3060以上(不含GTX 3060)。
Nvidia 用于 AI 模子练习的高端显卡重要包罗以下几种:
- Nvidia Titan RTX: 这是一款最强大的消费级 GPU,具有高达 72 GB 的显存、4608 个 CUDA 焦点和 576 个 Tensor 焦点,适用于大型模子的练习和推断。
- Nvidia GeForce RTX 3090: 这是一款针对游戏和内容创作而计划的 GPU,但它也可以用于 AI 模子练习。它包罗了 10496 个 CUDA 焦点和 328 个 Tensor 焦点,适用于大规模的深度学习任务。
- Nvidia A100: 这是 Nvidia 的最新数据中心 GPU,具有高达 80 GB 的显存、6912 个 CUDA 焦点和 432 个 Tensor 焦点,适用于最大规模的 AI 模子练习和推断。
- Nvidia Quadro RTX 6000: 这是一款专业级 GPU,适用于工程、科学、医疗等范畴的 AI 模子练习。它包罗 4608 个 CUDA 焦点和 576 个 Tensor 焦点。
Nvidia Tesla V100: 这是一款用于数据中心和高性能计算的 GPU,适用于大规模的 AI 模子练习和推断。它包罗 5120 个 CUDA 焦点和 640 个 Tensor 焦点。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |