前言
dell服务器自动风扇是根据CPU温度来调速的,我跑AI的时候cpu温度不高但是GPU温度很高导致显卡卡死PVE虚拟机直接挂起无法运行,我看了下也没有基于显卡温度调速的脚本,于是我就本身写了一个
先看看我显卡温度的范围
- chen@chen:~$ nvidia-smi -q -i 0,1 -d TEMPERATURE
- ==============NVSMI LOG==============
- Timestamp : Sun Jun 16 11:12:04 2024
- Driver Version : 470.82.01
- CUDA Version : 11.4
- Attached GPUs : 2
- GPU 00000000:01:00.0
- Temperature
- GPU Current Temp : 57 C
- GPU Shutdown Temp : 93 C
- GPU Slowdown Temp : 88 C
- GPU Max Operating Temp : N/A
- GPU Target Temperature : N/A
- Memory Current Temp : N/A
- Memory Max Operating Temp : N/A
- GPU 00000000:02:00.0
- Temperature
- GPU Current Temp : 44 C
- GPU Shutdown Temp : 93 C
- GPU Slowdown Temp : 88 C
- GPU Max Operating Temp : N/A
- GPU Target Temperature : N/A
- Memory Current Temp : N/A
- Memory Max Operating Temp : N/A
复制代码 因为我是双核心的显卡,所以我指定了0和1的核心
从输出中,“GPU Shutdown Temp”指的是GPU的自动关机温度阈值。当GPU温度到达或超过这个阈值时,体系会自动将GPU关机以防止过热损坏硬件。GPU的自动关机温度阈值是93摄氏度
基于ipmi工具 乌班图等linux先安装ipmi
然后到idrac长途管理中的网络选项中打开 IPMI 设置
基础
- #关闭自动调速
- ipmitool -I lanplus -U root -P XXX -H 192.168.3.30 raw 0x30 0x30 0x01 0x00
- ipmitool -I lanplus -U root -P XXX -H 192.168.3.30 raw 0x30 0x30 0x02 0xff 0x23
- #80%转速
- ipmitool -I lanplus -U root -P XXX -H 192.168.3.30 raw 0x30 0x30 0x02 0xff 0x50
复制代码 最后的0x50是80的十六进制,也就是设置转速为80%
请留意要手动调速请先关闭自动调速,不然不会生效
自动脚本
下面是我写的自动脚本,写的比较差凑合用 (修改ipmi的参数为本身服务器的)
- #!/bin/bash
- # GPU个数
- gpu_count=2
- current_time=$(date "+%Y-%m-%d %H:%M")
- users="chen"
- max_temperature=0 # 用于记录最高的GPU温度
- max_temperature_gpu=0 # 用于记录最高温度的GPU编号
- # 遍历每个GPU,获取温度并记录最高温度的GPU编号和温度值
- for ((i=0; i<gpu_count; i++))
- do
- # 获取第i个GPU的温度
- temperature=$(nvidia-smi --query-gpu=temperature.gpu --format=csv,noheader,nounits | sed -n "${i+1}p")
- if [ $temperature -gt $max_temperature ]; then
- max_temperature=$temperature
- max_temperature_gpu=$i
- fi
- done
- # 根据最高温度的GPU进行对应的调速操作
- if [ $max_temperature -gt 85 ]; then
- # 设置风扇速度为100%
- ipmitool -I lanplus -U root -P xxx -H 192.168.3.30 raw 0x30 0x30 0x02 0xff 0x64 && echo "$current_time - GPU $max_temperature_gpu 温度$max_temperature 过高 风扇转速已调整为100%" >> /home/$users/ipmi.log
- elif [ $max_temperature -gt 72 ]; then
- # 设置风扇速度为80%
- ipmitool -I lanplus -U root -P xxx -H 192.168.3.30 raw 0x30 0x30 0x02 0xff 0x50 && echo "$current_time - GPU $max_temperature_gpu 温度$max_temperature 过高 风扇转速已调整为80%" >> /home/$users/ipmi.log
- else
- # 设置风扇速度为50%
- ipmitool -I lanplus -U root -P xxx -H 192.168.3.30 raw 0x30 0x30 0x02 0xff 0x32 && echo "$current_time - GPU $max_temperature_gpu 温度$max_temperature过高 风扇转速已调整为50%" >> /home/$users/ipmi.log
- fi
复制代码 crontab 设置10秒运行一次
- * * * * * sleep 10; /home/chen/ipmi-gpu.sh
复制代码
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |