ToB企服应用市场:ToB评测及商务社交产业平台

标题: docker使用docker-compose-gpu.yml启动RAGFLOW,文档解析出错【亲测已办理 [打印本页]

作者: 万有斥力    时间: 昨天 16:10
标题: docker使用docker-compose-gpu.yml启动RAGFLOW,文档解析出错【亲测已办理
0.题目说明

想要让RAGFLOW使用GPU资源跑起来,可以选择docker-compose-gpu.yml启动。(但是官网启动案例是×86平台的不是NVIDIA GPU的,docker-compose-gpu.yml又是第三方维护,所以稍有题目)
1.题目

docker使用docker-compose-gpu.yml启动RAGFLOW,文档解析出错
报错:
   18:10:23 [ERROR][Exception]: NCCL Error 2: unhandled system error (run with NCCL_DEBUG=INFO for details)
  

2.办理方案

(1)修改docker-compose-gpu.yml文件(稍作改动)

下面是修改后的完备docker-compose-gpu.yml文件,可以直接复制。
  1. # The RAGFlow team do not actively maintain docker-compose-gpu.yml, so use them at your own risk.
  2. # However, you are welcome to file a pull request to improve it.
  3. include:
  4.   - ./docker-compose-base.yml
  5. services:
  6.   ragflow:
  7.     depends_on:
  8.       mysql:
  9.         condition: service_healthy
  10.     image: ${RAGFLOW_IMAGE}
  11.     container_name: ragflow-server
  12.     ports:
  13.       - ${SVR_HTTP_PORT}:9380
  14.       - 80:80
  15.       - 443:443
  16.     volumes:
  17.       - ./ragflow-logs:/ragflow/logs
  18.       - ./nginx/ragflow.conf:/etc/nginx/conf.d/ragflow.conf
  19.       - ./nginx/proxy.conf:/etc/nginx/proxy.conf
  20.       - ./nginx/nginx.conf:/etc/nginx/nginx.conf
  21.     env_file: .env
  22.     environment:
  23.       - TZ=${TIMEZONE}
  24.       - HF_ENDPOINT=${HF_ENDPOINT}
  25.       - MACOS=${MACOS}
  26.       - NCCL_DEBUG=INFO
  27.     networks:
  28.       - ragflow
  29.     restart: on-failure
  30.     # https://docs.docker.com/engine/daemon/prometheus/#create-a-prometheus-configuration
  31.     # If you're using Docker Desktop, the --add-host flag is optional. This flag makes sure that the host's internal IP gets exposed to the Prometheus container.
  32.     extra_hosts:
  33.       - "host.docker.internal:host-gateway"
  34.     deploy:
  35.       resources:
  36.         reservations:
  37.           devices:
  38.             - driver: nvidia
  39.               count: all
  40.               capabilities: [gpu]
复制代码
(2)通过docker-compose-gpu.yml重新启动RAGFLOW
  1. docker compose -f docker-compose-gpu.yml up -d
复制代码
(3)运行ragflow-server服务器
  1. docker logs -f ragflow-server
复制代码
(4)查抄是否乐成进行文档解析
乐成解析如下结果:

到此,题目办理!

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。




欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4