DolphinScheduler开发者必看!IDEA本地调试实战指南

打印 上一主题 下一主题

主题 1910|帖子 1910|积分 5730

本文整系统梳理了在IDEA中搭建Apache DolphinScheduler本地调试环境的通用流程,包罗环境准备、远吗配置、服务启动等焦点步骤,供大家参考。
1、基础组件准备
  1. 1、JDK : v1.8.x (当前暂不支持 jdk 11)
  2. 2、Maven : v3.5+
  3. 3、v18.19.1+,安装pnpm
  4. // 全局安装
  5. npm install pnpm -g
  6. //查看源
  7. pnpm config get registry
  8. //切换淘宝源
  9. pnpm config set registry https://registry.npmmirror.com/
  10. 4、Zookeeper : 3.6.3(大数据平台用的就是这个zookeeper版本,ds复用大数据平台的zookeeper)。使用最新DS,里面使用的是 curator 5.3.0
  11. Curator 5.0 支持zookeeper3.6.X,不再支持 zookeeper3.4.X
  12. Curator 4.X 支持zookeeper3.5.X,软兼容3.4.X
  13. Curator 2.X 支持zookeeper3.4.X
  14. 5、mysql> select version();
  15. +-----------+
  16. | version() |
  17. +-----------+
  18. | 5.7.44    |
  19. +-----------+
  20. 1 row in set (0.00 sec)
复制代码
2、初始化

2.1、初始化数据库
  1. source /Users/xxx/IdeaProjects/dolphinscheduler/dolphinscheduler-dao/src/main/resources/sql/dolphinscheduler_mysql.sql;
复制代码

2.2、配置common.properties重点配置
  1. # 本地目录,存放封装的脚步
  2. data.basedir.path=/tmp/dolphinscheduler
  3. # 选择存储介质,比如说HDFS;其中资源中心的资源以及租户目录
  4. resource.storage.type=HDFS
  5. # 资源中心的根目录
  6. resource.storage.upload.base.path=/dolphinscheduler
  7. # HDFS操作使用哪个用户,一般使用hdfs用户
  8. resource.hdfs.root.user=hdfs
  9. # hdfs的defaultFS,如果是ha模式,core-site.xml和hdfs-site.xml放入resources下,这里填写hdfs ha路径
  10. resource.hdfs.fs.defaultFS=hdfs://10.253.26.85:8020
  11. # 是否为开发模式,不管生产和测试情况,我建议开启。好定位问题。不过需要定时删除,不然会有很多jar包占用磁盘空间
  12. development.state=true
  13. # yarn端口
  14. resource.manager.httpaddress.port=8088
  15. # 如果yarn是HA,这里配置yarn的多个ip地址,用逗号分隔。非HA模式,不动
  16. yarn.resourcemanager.ha.rm.ids=
  17. # 如果是单个yarn,ds1直接修改为yarn的ip地址。如果是HA模式,这里不动
  18. yarn.application.status.address=http://ds1:%s/ws/v1/cluster/apps/%s
复制代码
2.3、配置各个服务的application.yaml

留意: 主要配置 zookeeper连接地址和mysql地址即可,不赘述
2.4、配置各个服务的logback-spring.xml

设置  控制台输出。
3、组件启动
  1. 1、MasterServer:在 Intellij IDEA 中执行 org.apache.dolphinscheduler.server.master.MasterServer 中的 main 方法,并配置 VM Options -Dlogging.config=classpath:logback-spring.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active=mysql
  2. 2、WorkerServer:在 Intellij IDEA 中执行 org.apache.dolphinscheduler.server.worker.WorkerServer 中的 main 方法,并配置 VM Options -Dlogging.config=classpath:logback-spring.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active=mysql
  3. 3、ApiApplicationServer:在 Intellij IDEA 中执行 org.apache.dolphinscheduler.api.ApiApplicationServer 中的 main 方法,并配置 VM Options -Dlogging.config=classpath:logback-spring.xml -Dspring.profiles.active=api,mysql。启动完成可以浏览 Open API 文档,地址为 http://localhost:12345/dolphinscheduler/swagger-ui/index.html
  4. 4、前端
  5. cd dolphinscheduler-ui
  6. pnpm install
  7. pnpm run dev
  8. 报错入下 :
  9. qiaozhanwei@ dolphinscheduler-ui % pnpm run dev
  10. > dolphinscheduler-ui@0.0.0 dev /Users/qiaozhanwei/IdeaProjects/dolphinscheduler/dolphinscheduler-ui
  11. > vite
  12. error when starting dev server:
  13. Error: listen EADDRNOTAVAIL: address not available 192.168.1.4:5173
  14.     at Server.setupListenHandle [as _listen2] (node:net:1313:21)
  15.     at listenInCluster (node:net:1378:12)
  16.     at GetAddrInfoReqWrap.doListen [as callback] (node:net:1516:7)
  17.     at GetAddrInfoReqWrap.onlookup [as oncomplete] (node:dns:73:8)
  18. 代码修改 :
  19. mac 在终端找ip地址
  20. 输入命令行:ipconfig getifaddr en0
  21. 找到ip地址后进入项目中找到vite.config.ts文件, 修改如下:
  22. import { defineConfig } from 'vite'
  23. import vue from '@vitejs/plugin-vue'
  24. // https://vitejs.dev/config/
  25. export default defineConfig({
  26.   plugins: [vue()],
  27.   base: '/',
  28.   server: {
  29.       host: '192.168.9.178',
  30.       port: 5173,
  31.       https: false,
  32.       open: true,
  33.         hmr: {
  34.               protocol: 'ws',
  35.               host: '192.168.9.178'
  36.           },
  37.   }
  38. })
  39. 登录地址
  40. http://10.56.59.243:5173/login,输入 admin/dolphinscheduler123 即可完成登录
复制代码
4、2.x版本组件启动
  1. api server
  2. -Dlogging.config=classpath:logback-api.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active="default,api,mysql"
  3. master
  4. -Dlogging.config=classpath:logback-master.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active="default,master,mysql"
  5. worker
  6. -Dlogging.config=classpath:logback-wo
复制代码
转载自Journey
原文链接:https://segmentfault.com/a/1190000044975672
本文由 白鲸开源 提供发布支持!

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

忿忿的泥巴坨

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表