从零搭建xxl-job(五):查询待执行任务逻辑优化

打印 上一主题 下一主题

主题 623|帖子 623|积分 1869

当前的程序还存在许多题目,比如每次扫描数据库都查询了全部的定时任务信息,那么应该查询哪些定时任务信息呢?怎么包管查询的定时任务准时触发?假如数据库中没有定时任务信息了,或者定时任务信息比较少了,scheduleThread线程仍旧要无穷循环吗?这些遗留的题目将在本章得到解决。
先代领大家思索第一个题目,还是请大家温习一下上节课的代码。请看下面的代码段。
  1. public class JobScheduleHelper {
  2.     // 调度定时任务的线程
  3.     private Thread scheduleThread;
  4.     // 创建当前类的对象
  5.     private static JobScheduleHelper instance = new JobScheduleHelper();
  6.     // 把当前类的对象暴露出去
  7.     public static JobScheduleHelper getInstance(){
  8.         return instance;
  9.     }
  10.     // 启动调度线程工作的方法
  11.     public void start(){
  12.         scheduleThread = new Thread(new Runnable() {
  13.             @Override
  14.             public void run() {
  15.                 while (true){
  16.                     // 从数据库中查询所有定时任务信息
  17.                     List<YyJobInfo> yyJobInfoList =  YyJobAdminConfig.getAdminConfig().getYyJobInfoDao().findAll();
  18.                     // 得到当前时间
  19.                     long time = System.currentTimeMillis();
  20.                     // 遍历所有定时任务信息
  21.                     for (YyJobInfo yyJobInfo : yyJobInfoList) {
  22.                         if (time > yyJobInfo.getTriggerNextTime()){
  23.                             // 如果大于就执行定时任务,就调用下面这个方法,开始远程通知定时任务程序
  24.                             // 执行定时任务
  25.                             // 注意,这里引入了一个新的类,JobTriggerPoolHelper
  26.                             JobTriggerPoolHelper.trigger(yyJobInfo);
  27.                             // 计算定时任务下一次的执行时间
  28.                             Date nextTime = null;
  29.                             try {
  30.                                  nextTime = new CronExpression(yyJobInfo.getScheduleConf()).getNextValidTimeAfter(new Date());
  31.                             } catch (ParseException e) {
  32.                                 e.printStackTrace();
  33.                             }
  34.                             // 下面就是更新数据库中定时任务的操作
  35.                             YyJobInfo job = new YyJobInfo();
  36.                             job.setTriggerNextTime(nextTime.getTime());
  37.                             System.out.println("保存job信息");
  38.                         }
  39.                     }
  40.                 }
  41.             }
  42.         });
  43.         scheduleThread.start();
  44.     }
复制代码
在上面的代码段中,每次进入循环后,就会通过findAll()方法找出全部存储在数据库中的定时任务,然后一次判定每个定时任务是否可以执行了。当然,查询数据库中的方法都定义在YyJobInfoDao类中。请看下面的代码块。
  1. @Mapper
  2. public interface YyJobInfoDao {
  3.     // 从数据库查询所有定时任务信息
  4.     List<YyJobInfo> findAll();
  5.    
  6.     // 保存定时任务信息
  7.     int save(YyJobInfo info);
  8.    
  9. }
复制代码
经过上面的分析,现在我当前不渴望每次都查询出数据库中的全部定时任务的信息了。那我具体该怎么办呢?着实只要查询某一个时间段的定时任务信息就可以了。当然,查询的时间短肯定是以当前时间为起点的。比如说,我要查询10秒内可以执行的定时任务,肯定是以当前时间为起点,查询当前时间10秒后,这一段时间内可以执行的任务信息。假如当前时间是5秒,查询10秒可以执行的,那查询的时间段肯定就是5-15秒。假如是如许,YyJobInfoDao就应该定一个新的方法了,就是根据执行时间来查询定时任务信息的方法,并且,由这个方法查询出来的定时任务都是可以执行的定时任务,这一点一定要梳理清晰。既然我们都已经是用时间来查询了,查询到的就是某个时间段内,全部可以执行的定时任务。请看下面的代码块。
  1. @Mapper
  2. public interface YyJobInfoDao {
  3.     // 从数据库查询所有定时任务信息
  4.     List<YyJobInfo> findAll();
  5.     // 保存定时任务信息
  6.     int save(YyJobInfo info);
  7.     // 根据执行时间查询定时任务信息的方法,这里查询的依据就是
  8.     // 定时任务下一次的执行时间。比如当前时间是0秒,要查询10秒以内的可以执行的定时任务
  9.     // 那么就判断定时任务下一次的执行时间只要是小于10秒的,都返回给用户
  10.     // 这些定时任务都是在10秒内可以执行的
  11.     List<YyJobInfo> scheduleJobQuery(@Param("maxNextTime") long maxNextTime);
  12. }
复制代码
好了,现在方法定义好了,那么下一个题目就来了,我该查询当前时间多久之内的定时任务信息呢?我以当前时间为起点,查询一秒之内的?还是5秒之内的?还是10秒,甚至是一分钟之内的?这就成了现在最棘手的题目。请大家仔细思索思索,假如我一次从数据库中查询很少的任务,比如,我只查询当前时间到下1秒之内要执行的任务,如许每次查询出来的任务确实很少,并且时间的精度比较高,可以说是等任务真正该执行的时候我才去把它从数据库中查找出来。就比如说有一个任务要在1秒之后执行了,我才在1秒前把它从数据库中找出来然后判定是否应该执行了。这么做看似很好,但是,让我们换一种角度来思索,这么做对调度中心的性能来说无疑是一种拖累。每次只查询下一秒的定时任务,然后再去让线程池执行,但假如说,在查询这些任务,访问数据库,或者其他的方面线程阻塞了呢?每次只查询一秒然后判定,这么一来,可能背面紧接着的任务都会延后执行,好像精度又没有那么正确了。再说,频繁地访问数据库,本身对行难呢过就是一种拖累,显然我刚才的提议并不值得采取。那这是不是就意味着一次查出来许多许多任务就是最好的呢?比如一次查询出10秒内腰执行的定时任务,甚至一直查询出1分钟内要执行的定时任务,如许一来,查询出的任务势必会有许多。那会发生什么情况呢?先不说任务调度会不会拖累后续任务的远程调用,也不考虑scheduleThread线程和数据库打交道时的耗时异常状况,就只考虑最实际的题目,假如一次取出一分钟以内要执行的定时任务,但是当前时间可能才是第一分钟,现在取出了1-2分钟之内要执行的定时任务,假如有定时任务是在一分一秒就要执行,那直接调度就行了,可是一分50秒要执行的任务该怎么办呢?scheduleThread线程可是不会休息的,难道没到时间的就再次跳过不理它,显然,这种决定也是行不通的。
并且,让我再来指出一点,现在scheduleThread扫描定时任务要和数据库打交道,这是个不确定的因素。而在真正的XXL-JOB源码中,一旦调度中心形成集群,就要防止定时任务被重复调度。这时候,就要使用分布式锁了,在XXL-JOB中,分布式锁是用数据库实现的,立刻就会解说到。所以,scheduleThread每次扫描定时任务之前,就要先和数据库打一次交道争抢分布式锁。如此看来,scheduleThread线程的性能本身就被这两点拖累了。
但是,让我再来换一种思绪,假如我只让scheduleThread线程负责从数据库中扫描出下一阶段可以执行的定时任务的信息,然后把这些定时任务信息缓存在一些数据布局中,然后让另一个线程到点之后就直接调度它们,也就是把这些定时任务按照时间顺序提交给线程池去真正的远程调度。如许的话,scheduleThread线程就只负责从数据库中扫描可以执行的定时任务,然后根据执行时间把它们缓存在某些容器中。而新的线程就根据这些定时任务的执行时间到点去调度这些定时任务。如许就做到了尽可能正确的触发定时任务了。讲到这里,大家应该也意识到了,我终于要为本身的程序引入时间轮了。但是在引入时间轮之前,还有一点必要终极确定,那就是究竟让scheduleThread线程扫描多少秒以内可以执行的定时任务信息呢?这里我就不卖关子了,源码中设定的是5秒,也就是查找出当前时间+5秒之内全部的可以执行的定时任务信息,所以我就直接按照5秒来重构本身的的调度中心了。
接下来,就请大家看看我重构之后的JobScheduleHelper类。
  1. public class JobScheduleHelper {
  2.     private static Logger logger = LoggerFactory.getLogger(JobScheduleHelper.class);
  3.     // 调度定时任务的线程
  4.     private Thread scheduleThread;
  5.     // 这个就是时间轮线程
  6.     // 这个时间轮线程主要就是用来向触发器线程池提交触发任务的
  7.     // 它提交的任务是从Map中获得的,而Map中的任务是由上面的调度线程添加的,具体逻辑会在下面的代码中讲解
  8.     private Thread ringThread;
  9.     //下面这两个是纯粹的标记,就是用来判断线程是否停止的
  10.     private volatile boolean scheduleThreadToStop = false;
  11.     private volatile boolean ringThreadToStop = false;
  12.     // 这个就是时间轮的容器,该容器中的数据是由scheduleThread线程添加的
  13.     // 但是移除是由ringThread线程移除的
  14.     // Map的key为时间轮中任务的执行时间,也就是在时间轮中的刻度,value是需要执行的定时任务的集合,这个集合中的数据就是需要执行的定时任务的Id
  15.     // 意思就是在这个时间,有这么多定时任务要被提交给调度线程池
  16.     private volatile static Map<Integer, List<Integer>> ringData = new ConcurrentHashMap<>();
  17.     // 创建当前类的对象
  18.     private static JobScheduleHelper instance = new JobScheduleHelper();
  19.     // 把当前类的对象暴露出去
  20.     public static JobScheduleHelper getInstance() {
  21.         return instance;
  22.     }
  23.     // 这里定义了5000毫秒,查询数据库的时候会用到,查询的就是当前时间5秒之内的可以执行的定时任务信息
  24.     public static final long PRE_READ_MS = 5000;
  25.     // 启动调度线程工作的方法
  26.     public void start() {
  27.         scheduleThread = new Thread(new Runnable() {
  28.             @Override
  29.             public void run() {
  30.                 while (true) {
  31.                     // 得到当前时间
  32.                     long nowTime = System.currentTimeMillis();
  33.                     // 从数据库根据执行时间查询定时任务的方法
  34.                     List<YyJobInfo> yyJobInfoList = YyJobAdminConfig.getAdminConfig().getYyJobInfoDao().scheduleJobQuery(nowTime + PRE_READ_MS);
  35.                     // 遍历所有定时任务信息
  36.                     for (YyJobInfo yyJobInfo : yyJobInfoList) {
  37.                         // 注意,这里的判断条件改成了小于等于了,别忘了,我已经从数据库中查出来所有的5秒内可执行的定时任务了,这些任务都是可以执行的
  38.                         // 如果当前时间小于定时任务的下一次执行时间,说明还没有到定时任务的执行时间呢
  39.                         // 下面我就要计算定时任务在时间轮中的精确执行时间,然后把定时任务放到时间轮中
  40.                         if (nowTime > yyJobInfo.getTriggerNextTime()) {
  41.                             // 接下来就把5秒内可以执行,但是还不到执行时间的定时任务放到时间轮中
  42.                             // 计算该任务要放在时间轮的刻度,也就是在时间轮中的执行时间,注意,千万不要被这里的取余给搞迷惑了
  43.                             // 这里的余数计算结果是0-59,单位是秒,意味着时间轮有60个刻度,一个代表一秒
  44.                             // 所以,这里就计算出来该定时任务在时间轮中的哪个刻度。
  45.                             int ringSecond = (int) ((yyJobInfo.getTriggerNextTime() / 1000) % 60);
  46.                             // 把定时任务的信息,就是它的id放进时间轮
  47.                             pushTimeRing(ringSecond, yyJobInfo.getId());
  48.                             // 计算定时任务下一次的执行时间,这里就不再使用当前时间为计算标志了,使用的是定时任务这一次的执行时间为计算标志
  49.                             // 比如说定时任务是在第一秒执行了,如果每两秒执行一次,那下一次的计算时间肯定是在第一秒之后,所以用1秒这个时间作为计算标志
  50.                             // 如果大于就执行定时任务,就调用下面这个方法,开始远程通知定时任务程序
  51.                             // 执行定时任务
  52.                             // 注意,这里引入了一个新的类,JobTriggerPoolHelper
  53.                             JobTriggerPoolHelper.trigger(yyJobInfo);
  54.                             // 计算定时任务下一次的执行时间
  55.                             Date nextTime = null;
  56.                             try {
  57.                                 nextTime = new CronExpression(yyJobInfo.getScheduleConf()).getNextValidTimeAfter(new Date(yyJobInfo.getTriggerNextTime()));
  58.                             } catch (ParseException e) {
  59.                                 e.printStackTrace();
  60.                             }
  61.                             // 下面就是更新数据库中定时任务的操作
  62.                             YyJobInfo job = new YyJobInfo();
  63.                             job.setTriggerNextTime(nextTime.getTime());
  64.                             YyJobAdminConfig.getAdminConfig().getYyJobInfoDao().save(job);
  65.                         }
  66.                     }
  67.                 }
  68.             }
  69.         });
  70.         scheduleThread.start();
  71.         // 在这里创建时间轮线程,并且启动
  72.         ringThread = new Thread(new Runnable() {
  73.             @Override
  74.             public void run() {
  75.                 while (!ringThreadToStop) {
  76.                     try {
  77.                         // 这里让线程睡一会,作用还是比较明确的,因为该线程是时间轮线程,时间轮执行任务是按照时间刻度来执行的
  78.                         // 如果这一秒内所有任务都调度完了,但是耗时只还用了500毫秒,剩下的500毫秒就只好睡过去,等待下一个整秒的到来再继续开始工作
  79.                         // System.currentTimeMillis()%1000 计算出来的结果如果是500毫秒,1000-500 = 500,线程就继续睡500毫秒
  80.                         // 如果System.currentTimeMillis()%1000 计算出来的结果如果是0,说明现在是整秒,那就睡一秒,等到下个工作时间开始工作
  81.                         TimeUnit.MILLISECONDS.sleep(1000 - (System.currentTimeMillis() % 1000));
  82.                     } catch (InterruptedException e) {
  83.                         if (!ringThreadToStop) {
  84.                             logger.error(e.getMessage(), e);
  85.                         }
  86.                     }
  87.                     try {
  88.                         // 先定义一个集合变量,时间轮是一个Map容器,Map的key是定时任务要执行的时间,value是定时任务的JobId的集合
  89.                         // 到了固定时间,要把对应时刻的定时任务从集合中取出来,所以自然也要用集合来存放这些定时任务的Id
  90.                         List<Integer> ringItemData = new ArrayList<>();
  91.                         // 获取当前时间的秒数
  92.                         int nowSecond = Calendar.getInstance().get(Calendar.SECOND);
  93.                         // 下面这里很有意思,如果我们计算出来的是第三秒,时间轮线程会把第2秒和第三秒的定时任务都取出来,一起执行
  94.                         // 这里肯定会让大家感到困惑,时间轮不是按照时间刻度走的吗?如果走到三秒的刻度,说明2秒的任务已经执行完了,为什么还要拿出来?
  95.                         // 这是因为考虑到定时任务的调度情况了,如果时间轮某个刻度对应的定时任务太多,本来该最多一秒就调度完的,结果调度了2秒,直接把下一个刻度跳过了
  96.                         // 这样就不出错了 所以每次的时候要把前一秒的也取出来,检查一下看是否有任务,这也算是一种兜底策略。
  97.                         for (int i = 0; i < 2; i++) {
  98.                             // 循环了两次,第一次取出当前刻度的任务,第二次取出前一刻度的任务
  99.                             // 注意,这里取出的时候,定时任务就从时间轮中被删除了。
  100.                             List<Integer> tmpData = ringData.remove((nowSecond+60-i)%60);
  101.                             if (tmpData != null){
  102.                                 // 把定时任务的Id数据添加到上面定义的集合中
  103.                                 ringItemData.addAll(tmpData);
  104.                             }
  105.                         }
  106.                         // 判空操作
  107.                         if (ringItemData.size() > 0){
  108.                             for (Integer jobId : ringItemData) {
  109.                                 // 在for循环中处理定时任务,让触发器线程池开始远程调用这些任务
  110.                                 JobTriggerPoolHelper.trigger(jobId);
  111.                             }
  112.                             // 最后清空集合
  113.                             ringItemData.clear();
  114.                         }
  115.                     } catch (Exception e) {
  116.                         if (!ringThreadToStop) {
  117.                             logger.error(e.getMessage(), e);
  118.                         }
  119.                     }
  120.                 }
  121.             }
  122.         });
  123.         ringThread.start();
  124.     }
  125.    
  126.     // 把定时任务放到时间轮中
  127.     private void pushTimeRing(int ringSecond, int jobId) {
  128.         List<Integer> ringItemData = ringData.get(ringSecond);
  129.         if (ringItemData == null) {
  130.             ringItemData = new ArrayList<Integer>();
  131.             ringData.put(ringSecond, ringItemData);
  132.         }
  133.         ringItemData.add(jobId);
  134.     }
  135.    
  136. }
复制代码
在xxl-job的时间轮中,其内部存储数据的容器是一个Map,Netty 中的时间轮存储数据的容器是一个数组。着实这些容器是什么数据布局都没关系,只要这些存储数据的容器能体现 出定时任务的优先级顺序即可。请看下面一幅简图。

在上面的简图中,可以看到,xxl-job时间轮中是用Map来存储数据的,其中key就是时间轮的刻度,value就是这 个时间刻度要调度的定时任务信息的聚集,着实就是定时任务在数据库中主键ID的聚集。如许,每走到一个刻度, ringThread线程就会把要触发的定时任务统统提交给触发线程池去真正的远程调用。到此为止,我经过一系列的 重构,又一次为scheduleThread线程分担了压力。把扫描数据库查询定时任务信息和调度任务给触发线程池分开 了。如许就可以让一个线程专注地从数据库中查询定时任务信息,把查询到的可以执行的定时任务缓存到Map 中,然后另一个ringThread线程只负责调度任务,把任务提交给触发线程池。这两个线程都可以专注地干本身的 工作,并且在很大程度上实现了定时任务触发的精准程度。假如一个定时任务要在第2秒执行,可是由于某些原因 被延迟到了第4秒才能触发执行,这种情况在我的调度中心重构之后,出现的情况就会大大淘汰了。
看起来,我的程序也终于重构完了,但是,没想到我部署程序没两天,程序就堕落了。定时任务不是没有执行,就是少执行了。我只好去数据库中看了看,然后看了看调度中心折务器。然后找到了题目出现的原因。原来是我把服务器想得太完美了,忽略了它自身可能存在的题目。 请大家想一想,服务器也只是台机器,就算你购买的是名声最好的云服务器,可能也会有出题目的时 候,比如说你服务器中要调度的定时任务太多,服务器资源不足,或者服务器用着用着突然崩溃宕机 了,如许一来,任务就无法调度了。并且,当服务器重启之后,应该调度的任务的执行时间已经错过了,如许一来,本次该调度的定时任务就无法再被调度了。
分析得具体一点,就拿我现在的调度中心举例吧。现在我的scheduleThread线程从数据库中扫描定时任 务信息,每次循环都会扫描当前时间+5秒内的,假如当前时间是第0秒,扫描出了0--5秒之内全部要 执行的定时任务信息。有一个定时任务原来要在第2秒要被调度,可是调度中心折务器在第1秒宕机了,重启之后已经是第10秒了,如许一来,要调度的那个定时任务已经不在本次的5秒内的调度周期中了(因 为每次扫描5秒内的任务,所以可以把调度的周期看成5秒),这时候要怎么处置惩罚这个定时任务呢?
再比如,假如要调度的定时任务在第2秒,服务器在第1秒宕机了,但是服务器在第3秒重启乐成了,这时候,错过的定时任务仍旧在我的5秒调度周期内,这时候又该怎么办呢?接着再考虑另一种情况,假如我 的定时任务是1秒执行一次,在第1秒调度了一次后,第2秒是不是又要调度一次?这时候,按照我现在的 每次只扫描5秒以内的定时任务信息的方式,这种情况又该怎么办呢?还有最重要的一点,每次只扫描5秒以内的定时任务信息,这个5秒具体是怎么定义的?难道是扫描完了0-1.-55秒的,就开始扫描6-10秒吗?最后,假如不得不考虑服务器资源题目,为了缓解服务器的压力,是不是有须要可以让 scheduleThread线程偶尔休息一下呢?比如,数据库中没多少数据的时候,就不要一直循环了,如答应以吗?题目我都已经列出来了,下面,请大家带着这几个题目,仔细地从下面为大家出现的代码块中探求答案吧。
  1. public class JobScheduleHelper {
  2.     private static Logger logger = LoggerFactory.getLogger(JobScheduleHelper.class);
  3.     // 调度定时任务的线程
  4.     private Thread scheduleThread;
  5.     // 这个就是时间轮线程
  6.     // 这个时间轮线程主要就是用来向触发器线程池提交触发任务的
  7.     // 它提交的任务是从Map中获得的,而Map中的任务是由上面的调度线程添加的,具体逻辑会在下面的代码中讲解
  8.     private Thread ringThread;
  9.     //下面这两个是纯粹的标记,就是用来判断线程是否停止的
  10.     private volatile boolean scheduleThreadToStop = false;
  11.     private volatile boolean ringThreadToStop = false;
  12.     // 这个就是时间轮的容器,该容器中的数据是由scheduleThread线程添加的
  13.     // 但是移除是由ringThread线程移除的
  14.     // Map的key为时间轮中任务的执行时间,也就是在时间轮中的刻度,value是需要执行的定时任务的集合,这个集合中的数据就是需要执行的定时任务的Id
  15.     // 意思就是在这个时间,有这么多定时任务要被提交给调度线程池
  16.     private volatile static Map<Integer, List<Integer>> ringData = new ConcurrentHashMap<>();
  17.     // 创建当前类的对象
  18.     private static JobScheduleHelper instance = new JobScheduleHelper();
  19.     // 把当前类的对象暴露出去
  20.     public static JobScheduleHelper getInstance() {
  21.         return instance;
  22.     }
  23.     // 这里定义了5000毫秒,查询数据库的时候会用到,查询的就是当前时间5秒之内的可以执行的定时任务信息
  24.     public static final long PRE_READ_MS = 5000;
  25.     // 启动调度线程工作的方法
  26.     public void start() {
  27.         scheduleThread = new Thread(new Runnable() {
  28.             @Override
  29.             public void run() {
  30.                 while (true) {
  31.                     long start = System.currentTimeMillis();
  32.                     // 这个变量下面要用到,就是用来判断是否从数据库中读取到了数据,读取到了就意味着有任务要执行了
  33.                     // 这里默认为true
  34.                     boolean preReadSuc = true;
  35.                     try {
  36.                         // 得到当前时间
  37.                         long nowTime = System.currentTimeMillis();
  38.                         // 从数据库根据执行时间查询定时任务的方法
  39.                         List<YyJobInfo> yyJobInfoList = YyJobAdminConfig.getAdminConfig().getYyJobInfoDao().scheduleJobQuery(nowTime + PRE_READ_MS);
  40.                         // 判空操作
  41.                         if (yyJobInfoList != null && yyJobInfoList.size() > 0) {
  42.                             // 遍历所有定时任务信息
  43.                             for (YyJobInfo yyJobInfo : yyJobInfoList) {
  44.                                 // 这里做了一个判断,上面得到的当前时间,是不是大于任务的下一次执行时间加上5秒,为什么会出现这种情况?
  45.                                 // 让我们仔细想一想,本来一个任务被调度执行了,就会计算出它的下一次执行时机,然后更新数据库中的任务的下一次执行时间
  46.                                 // 但请大家思考另外一种情况,如果服务机宕机了呢?本来上一次要执行的任务,却没有执行,比如这个任务要在第5秒执行,但是服务器在第四秒宕机了
  47.                                 // 重新恢复运行后,已经是第12秒了,现在去数据库查询任务,12> 5+5,就是下面if括号的不等式,这样一来,是不是就查到了执行时间比当前时间还小的任务
  48.                                 // 并且已经超过当前的5秒调度周期了
  49.                                 if (nowTime > yyJobInfo.getTriggerNextTime() + PRE_READ_MS) {
  50.                                     // 既然有过期的任务,在这里应该立刻调度一次任务
  51.                                     JobTriggerPoolHelper.trigger(yyJobInfo);
  52.                                     // 在这里把过期任务的下次执行时间刷新一下,放到下一次来执行,因为定时任务已经严重过期,所以计算下次的执行时间就应该以当前时间为标志了
  53.                                     refreshNextValidTime(yyJobInfo, new Date());
  54.                                 }
  55.                                 // 这里得到的就是要执行的任务的下一次执行时间同样也小于了当前时间,但是这里和上面不同的是,没有超过当前时间加5秒的那个时间
  56.                                 // 现在大家应该都清楚了,上面加的那个5秒实际上就是调度周期,每一次处理的任务都是当前任务加5秒这个时间段内的
  57.                                 // 这一次得到的任务仅仅是小于当前时间,但是并没有加上5秒,说明这个任务虽然过期了但仍然是在当前的调度周期中
  58.                                 // 比如说这个任务要在第2秒执行,但是服务器在第1秒宕机了,恢复之后已经是第四秒了,现在任务的执行时间小于当前时间,但是仍在5秒的调度期内
  59.                                 // 所以调度执行即可
  60.                                 else if (nowTime > yyJobInfo.getTriggerNextTime()) {
  61.                                     // 把任务交给触发器去远程调用
  62.                                     JobTriggerPoolHelper.trigger(yyJobInfo);
  63.                                     // 刷新该任务下一次的执行时间,也是过期任务,所以也以当前时间为标准计算下一次执行时间
  64.                                     refreshNextValidTime(yyJobInfo, new Date());
  65.                                     //下面这个分支中的任务就是比较正常的但又有点特殊
  66.                                     // 判断这个任务的下一次执行时间是否小于这个执行周期,注意,上面的refreshNextValidTime已经把该任务的
  67.                                     // 下一次执行时间更新了。如果更新后的时间仍然小于执行周期,说明这个任务会在执行周期中再执行一次,当然,也可能会执行多次。
  68.                                     // 这时候,就不让调度线程来处理这个任务了,而且把它提交给时间轮,让时间轮去执行
  69.                                     if (nowTime + PRE_READ_MS > yyJobInfo.getTriggerNextTime()) {
  70.                                         //计算该任务要放在时间轮的刻度,也就是在时间轮中的执行时间,注意哦,千万不要被这里的取余给搞迷惑了
  71.                                         //这里的余数计算结果为0-59,单位是秒,意味着时间轮有60个刻度,一个代表一秒。
  72.                                         //调度线程是按调度周期来处理任务的,举个例子,调度线程从0秒开始启动,第5秒为一个周期,把这5秒要执行的任务交给时间轮了
  73.                                         //就去处理下一个调度周期,千万不要把调度线程处理调度任务时不断增加的调度周期就是增长的时间,调度线程每次扫描数据库不会耗费那么多时间
  74.                                         //这个时间是作者自己设定的,并且调度线程也不是真的只按整数5秒去调度任务
  75.                                         //实际上,调度线程从0秒开始工作,扫描0-5秒的任务,调度这些任务耗费了1秒,再次循环时,调度线程就会1秒开始,处理1-6秒的任务
  76.                                         //虽说是1-6秒,但是1-5秒的任务都被处理过了,但是请大家想一想,有些任务也仅仅只是被执行了一次,如果有一个任务在0-5秒调度器内被执行了
  77.                                         //但是该任务每1秒执行一次,从第1秒开始m,那它是不是会在调度期内执行多次?可是上一次循环它可能最多只被执行了两次,一次在调度线程内,一次在时间轮内
  78.                                         //还有几次并未执行呢,所以要交给下一个周期去执行,但是这时候它的下次执行时间还在当前时间的5秒内,如果下个周期直接从6秒开始
  79.                                         //这个任务就无法执行了,大家可以仔细想想这个过程
  80.                                         //时间轮才是真正按照时间增长的速度去处理定时任务的
  81.                                         int ringSecond = (int) ((yyJobInfo.getTriggerNextTime() / 1000) % 60);
  82.                                         // 把定时任务的信息,就是它的id放进时间轮
  83.                                         pushTimeRing(ringSecond, yyJobInfo.getId());
  84.                                         //刷新定时任务的下一次的执行时间,注意,这里传进去的就不再是当前时间了,而是定时任务现在的下一次执行时间
  85.                                         //因为放到时间轮中就意味着它要执行了,所以计算新的执行时间就行了1秒这个时间作为计算标志
  86.                                         refreshNextValidTime(yyJobInfo, new Date(yyJobInfo.getTriggerNextTime()));
  87.                                     }
  88.                                 }
  89.                                 //最后,这里得到的就是最正常的任务,也就是执行时间在当前时间之后,但是又小于执行周期的任务
  90.                                 //上面的几个判断,都是当前时间大于任务的下次执行时间,实际上都是在过期的任务中做判断
  91.                                 else {
  92.                                     //这样的任务就很好处理了,反正都是调度周期,也就是当前时间5秒内要执行的任务,所以直接放到时间轮中就行
  93.                                     //计算出定时任务在时间轮中的刻度,其实就是定时任务执行的时间对应的秒数
  94.                                     //随着时间流逝,时间轮也是根据当前时间秒数来获取要执行的任务的,所以这样就可以对应上了
  95.                                     int ringSecond = (int) ((yyJobInfo.getTriggerNextTime() / 1000) % 60);
  96.                                     //放进时间轮中
  97.                                     pushTimeRing(ringSecond, yyJobInfo.getId());
  98.                                     //刷新定时任务下一次的执行时间
  99.                                     refreshNextValidTime(yyJobInfo, new Date(yyJobInfo.getTriggerNextTime()));
  100.                                 }
  101.                             }
  102.                             //最后再更新一下所有的任务
  103.                             for (YyJobInfo yyJobInfo : yyJobInfoList) {
  104.                                 YyJobAdminConfig.getAdminConfig().getYyJobInfoDao().scheduleUpdate(yyJobInfo);
  105.                             }
  106.                         } else {
  107.                             //走到这里,说明根本就没有从数据库中扫描到任何任务,把preReadSuc设置为false
  108.                             preReadSuc = false;
  109.                         }
  110.                     } catch (Exception e) {
  111.                         if (!scheduleThreadToStop) {
  112.                             logger.error(">>>>>>>>>>> yy-job, JobScheduleHelper#scheduleThread error:{}", e);
  113.                         }
  114.                     }
  115.                     //再次得到当然时间,然后减去开始执行扫面数据库任务的开始时间
  116.                     //就得到了执行扫面数据库,并且调度任务的总耗时
  117.                     long cost = System.currentTimeMillis() - start;
  118.                     //这里有一个判断,1000毫秒就是1秒,如果总耗时小于1秒,就默认数据库中可能没多少数据
  119.                     //线程就不必工作得那么繁忙,所以下面要让线程休息一会,然后再继续工作
  120.                     if (cost < 1000) {
  121.                         try {
  122.                             //下面有一个三元运算,判断preReadSuc是否为true,如果扫描到数据了,就让该线程小睡一会儿,最多睡1秒
  123.                             //如果根本就没有数据,就说明5秒的调度器内没有任何任务可以执行,那就让线程最多睡5秒,把时间睡过去,过5秒再开始工作
  124.                             TimeUnit.MILLISECONDS.sleep((preReadSuc ? 1000 : PRE_READ_MS) - System.currentTimeMillis() % 1000);
  125.                         } catch (InterruptedException e) {
  126.                             if (!scheduleThreadToStop) {
  127.                                 logger.error(e.getMessage(), e);
  128.                             }
  129.                         }
  130.                     }
  131.                 }
  132.             }
  133.         });
  134.         scheduleThread.start();
  135.         // 在这里创建时间轮线程,并且启动
  136.         ringThread = new Thread(new Runnable() {
  137.             @Override
  138.             public void run() {
  139.                 while (!ringThreadToStop) {
  140.                     try {
  141.                         // 这里让线程睡一会,作用还是比较明确的,因为该线程是时间轮线程,时间轮执行任务是按照时间刻度来执行的
  142.                         // 如果这一秒内所有任务都调度完了,但是耗时只还用了500毫秒,剩下的500毫秒就只好睡过去,等待下一个整秒的到来再继续开始工作
  143.                         // System.currentTimeMillis()%1000 计算出来的结果如果是500毫秒,1000-500 = 500,线程就继续睡500毫秒
  144.                         // 如果System.currentTimeMillis()%1000 计算出来的结果如果是0,说明现在是整秒,那就睡一秒,等到下个工作时间开始工作
  145.                         TimeUnit.MILLISECONDS.sleep(1000 - (System.currentTimeMillis() % 1000));
  146.                     } catch (InterruptedException e) {
  147.                         if (!ringThreadToStop) {
  148.                             logger.error(e.getMessage(), e);
  149.                         }
  150.                     }
  151.                     try {
  152.                         // 先定义一个集合变量,时间轮是一个Map容器,Map的key是定时任务要执行的时间,value是定时任务的JobId的集合
  153.                         // 到了固定时间,要把对应时刻的定时任务从集合中取出来,所以自然也要用集合来存放这些定时任务的Id
  154.                         List<Integer> ringItemData = new ArrayList<>();
  155.                         // 获取当前时间的秒数
  156.                         int nowSecond = Calendar.getInstance().get(Calendar.SECOND);
  157.                         // 下面这里很有意思,如果我们计算出来的是第三秒,时间轮线程会把第2秒和第三秒的定时任务都取出来,一起执行
  158.                         // 这里肯定会让大家感到困惑,时间轮不是按照时间刻度走的吗?如果走到三秒的刻度,说明2秒的任务已经执行完了,为什么还要拿出来?
  159.                         // 这是因为考虑到定时任务的调度情况了,如果时间轮某个刻度对应的定时任务太多,本来该最多一秒就调度完的,结果调度了2秒,直接把下一个刻度跳过了
  160.                         // 这样就不出错了 所以每次的时候要把前一秒的也取出来,检查一下看是否有任务,这也算是一种兜底策略。
  161.                         for (int i = 0; i < 2; i++) {
  162.                             // 循环了两次,第一次取出当前刻度的任务,第二次取出前一刻度的任务
  163.                             // 注意,这里取出的时候,定时任务就从时间轮中被删除了。
  164.                             List<Integer> tmpData = ringData.remove((nowSecond + 60 - i) % 60);
  165.                             if (tmpData != null) {
  166.                                 // 把定时任务的Id数据添加到上面定义的集合中
  167.                                 ringItemData.addAll(tmpData);
  168.                             }
  169.                         }
  170.                         // 判空操作
  171.                         if (ringItemData.size() > 0) {
  172.                             for (Integer jobId : ringItemData) {
  173.                                 // 在for循环中处理定时任务,让触发器线程池开始远程调用这些任务
  174.                                 JobTriggerPoolHelper.trigger(jobId);
  175.                             }
  176.                             // 最后清空集合
  177.                             ringItemData.clear();
  178.                         }
  179.                     } catch (Exception e) {
  180.                         if (!ringThreadToStop) {
  181.                             logger.error(e.getMessage(), e);
  182.                         }
  183.                     }
  184.                 }
  185.             }
  186.         });
  187.         ringThread.start();
  188.     }
  189.     // 把定时任务放到时间轮中
  190.     private void pushTimeRing(int ringSecond, int jobId) {
  191.         List<Integer> ringItemData = ringData.get(ringSecond);
  192.         if (ringItemData == null) {
  193.             ringItemData = new ArrayList<Integer>();
  194.             ringData.put(ringSecond, ringItemData);
  195.         }
  196.         ringItemData.add(jobId);
  197.     }
  198.     // 计算定时任务下次执行时间的方法
  199.     private void refreshNextValidTime(YyJobInfo yyJobInfo, Date fromTime) throws Exception {
  200.         Date nextValidTime = generateNextValidTime(yyJobInfo, fromTime);
  201.         if (nextValidTime != null) {
  202.             yyJobInfo.setTriggerLastTime(yyJobInfo.getTriggerNextTime());
  203.             yyJobInfo.setTriggerNextTime(nextValidTime.getTime());
  204.         } else {
  205.             yyJobInfo.setTriggerStatus(0);
  206.             yyJobInfo.setTriggerNextTime(0);
  207.             yyJobInfo.setTriggerNextTime(0);
  208.         }
  209.     }
  210.     // 利用cron表达式,计算定时任务下一次执行时间的方法
  211.     public static Date generateNextValidTime(YyJobInfo jobInfo, Date fromDate) throws Exception {
  212.         return new CronExpression(jobInfo.getScheduleConf()).getNextValidTimeAfter(fromDate);
  213.     }
  214. }
复制代码
到此为止,从调度功能上来说,我的调度中心已经重构到尽善尽美的程度了,险些全部该考虑的题目,都考虑到了。但是,还有最后一个缺陷必要补充,那就是调度中心集群形态中,防止定时任务被重复调度。而在集群中,防止定时任务被重复调度的方法很简朴,就是加一个分布式锁。xxl-job中的分布式锁是用MySql实现的,可以看一下下面的终极代码。
  1. public class JobScheduleHelper {
  2.     private static Logger logger = LoggerFactory.getLogger(JobScheduleHelper.class);
  3.     //创建当前类的对象
  4.     private static JobScheduleHelper instance = new JobScheduleHelper();
  5.     //把当前类的对象暴露出去
  6.     public static JobScheduleHelper getInstance(){
  7.         return instance;
  8.     }
  9.     //5s的意思,这个成员变量下面就会用到
  10.     public static final long PRE_READ_MS = 5000;
  11.     //下面这个成员变量就是哦用来调度的线程,其实在该类中工作的都是线程,并没有创建线程池
  12.     //这个线程会在一个循环中不停地查询数据库,看哪些任务该执行了,哪些任务已经过了执行时间,然后进行相应的处理
  13.     //这个线程也会提交给触发器线程池执行触发器任务,但是这个并不是该线程的主要工作。该线程的主要工作是扫描数据库,查询到期的执行任务
  14.     //并且维护任务的下一次执行时间
  15.     private Thread scheduleThread;
  16.     //这个就是时间轮线程,还记得我之前在外面添加的注解吗?时间轮并不只是线程,也并不只是容器
  17.     //容器和线程结合在一起,构成了可以运行的时间轮
  18.     //这个时间轮线程就是用来主要向触发器线程池提交触发任务的
  19.     //它提交的任务是从Map中获得的,而Map中的任务是由上面的调度线程添加的,具体逻辑会在下面的代码中讲解
  20.     private Thread ringThread;
  21.     //下面这两个是纯粹的标记,就是用来判断线程是否停止的
  22.     private volatile boolean scheduleThreadToStop = false;
  23.     private volatile boolean ringThreadToStop = false;
  24.     //这个就是时间轮的容器,该容器中的数据是由scheduleThread线程添加的
  25.     //但是移除是由ringThread线程移除的
  26.     //Map的key为时间轮中任务的执行时间,value是需要执行的定时任务的集合,这个集合中的数据就是需要执行的定时任务的id
  27.     private volatile static Map<Integer, List<Integer>> ringData = new ConcurrentHashMap<>();
  28.     /**
  29.      * @author:B站UP主陈清风扬,从零带你写框架系列教程的作者,个人微信号:chenqingfengyang。
  30.      * @Description:系列教程目前包括手写Netty,XXL-JOB,Spring,RocketMq,Javac,JVM等课程。
  31.      * @Date:2023/7/5
  32.      * @Description:启动scheduleThread线程
  33.      */
  34.     public void start(){
  35.         scheduleThread = new Thread(new Runnable() {
  36.             @Override
  37.             public void run() {
  38.                 try {
  39.                     //这里的逻辑非常简单,就是起到了一个对其时间的效果,因为这个调度线程的调度周期是5秒
  40.                     //所以如果现在的时间不是整数秒的话,就让调度线程睡到整数秒再启动
  41.                     //比如System.currentTimeMillis()%1000计算得到的时间是得到了一个300ms的值
  42.                     //那么5000-300,就是让线程睡4700ms,就会到达一个整数秒了,然后直接启动就行。
  43.                     TimeUnit.MILLISECONDS.sleep(5000 - System.currentTimeMillis()%1000 );
  44.                 } catch (InterruptedException e) {
  45.                     if (!scheduleThreadToStop) {
  46.                         logger.error(e.getMessage(), e);
  47.                     }
  48.                 }
  49.                 logger.info(">>>>>>>>> init xxl-job admin scheduler success.");
  50.                 //这里就是xxl大神写死的一个每秒可以调度的任务量。这里默认每个定时任务执行大概耗时50毫秒,1秒为1000毫秒,所以,1秒中可以执行20个定时任务
  51.                 //但是执行定时任务,在调度中心实际上就是用快慢线程池执行触发器任务,因为定时任务真正执行还是在执行器那一端,
  52.                 //所以,在加上快慢线程池拥有的线程总数,假如快慢线程池都拉满了,都到达了最大线程数,那就是200加上100,总的线程数为300
  53.                 //每秒每个线程可以执行20个定时任务,现在有300个线程,所以,最后可以得到,每秒最多可以调度6000个定时任务
  54.                 //6000就是一个限制的最大值,如果调度线程要扫描数据库,从数据库取出要执行的任务,每次最多可以取6000个
  55.                 //注意啊,我这里并没有使用每秒可以取6000个,大家不要搞混了,取出来的任务要交给线程池执行的时候,每秒最多可以执行6000个
  56.                 //数据库取出任务限制6000,也只是为了配合这个限制的数量
  57.                 int preReadCount = (XxlJobAdminConfig.getAdminConfig().getTriggerPoolFastMax() + XxlJobAdminConfig.getAdminConfig().getTriggerPoolSlowMax()) * 20;
  58.                 //开始进入循环了
  59.                 while (!scheduleThreadToStop) {
  60.                     //得到调度任务的开始时间
  61.                     long start = System.currentTimeMillis();
  62.                     //下面这几个步骤都和数据库有关,因为xxl-job是使用数据库来实现分布式锁的
  63.                     //既然是数据库锁,就不能自动提交事物,所以,这里要手动设置一下
  64.                     Connection conn = null;
  65.                     //这里就是要设置不自动提交
  66.                     Boolean connAutoCommit = null;
  67.                     //执行sql语句的变量
  68.                     PreparedStatement preparedStatement = null;
  69.                     //这个变量下面要用到,就是用来判断是否从数据库中读取到了数据,读取到了就意味着有任务要执行
  70.                     //这里默认为true
  71.                     boolean preReadSuc = true;
  72.                     try {
  73.                         //获得连接
  74.                         conn = XxlJobAdminConfig.getAdminConfig().getDataSource().getConnection();
  75.                         //是否自动提交
  76.                         connAutoCommit = conn.getAutoCommit();
  77.                         //这里就设置为不自动提交了
  78.                         conn.setAutoCommit(false);
  79.                         //设置sql语句,获得数据库锁,这知识就不讲了,数据库的基础知识
  80.                         preparedStatement = conn.prepareStatement(  "select * from xxl_job_lock where lock_name = 'schedule_lock' for update" );
  81.                         //开始执行sql语句,得到数据库锁
  82.                         preparedStatement.execute();
  83.                         //获得当前时间,这里要把这个时间和上面那个start做一下区分
  84.                         //这两个时间变量的作用不同
  85.                         //现在这个时间变量是用来得到要调度的任务的
  86.                         //上面那个是最后用来做判断,看看扫描数据库耗费了多少时间
  87.                         long nowTime = System.currentTimeMillis();
  88.                         //这里就可以很明显的看出来,去数据库查询要执行的任务是,是用当前时间加上5秒,把这个时间段的数据全部都取出来,并不是只取当前时间的
  89.                         //这里的preReadCount为6000,之前计算的这个限制在这里用上了
  90.                         //但是,为什么一下子把5秒内未执行的任务都取出来呢?可以继续向下看,同时带着这个思考,也许下面的代码逻辑可以为你解答这个问题
  91.                         //这里记得去看一下xml中对应的sql语句,其实还是判断任务的下一次执行时间小于传进去的这个时间
  92.                         List<XxlJobInfo> scheduleList = XxlJobAdminConfig.getAdminConfig().getXxlJobInfoDao().scheduleJobQuery(nowTime + PRE_READ_MS, preReadCount);
  93.                         //判空操作
  94.                         if (scheduleList!=null && scheduleList.size()>0) {
  95.                             //循环处理每一个任务
  96.                             for (XxlJobInfo jobInfo: scheduleList) {
  97.                                 //这里做了一个判断,刚才得到的当前时间,是不是大于任务的下一次执行时间加上5秒,为什么会出现这种情况呢?
  98.                                 //让我们仔细想一想,本来,一个任务被调度执行了,就会计算出它下一次的执行时机,然后更新数据库中的任务的下一次执行时间
  99.                                 //但请大家思考另外一种情况,如果服务器宕机了呢?本来上一次要执行的任务,却没有执行,比如这个任务要在第5秒执行,但是服务器在第4秒宕机了
  100.                                 //重新恢复运行后,已经是第12秒了,现在去数据库中查询任务,12 > 5 + 5,就是if括号中的不等式,这样一来,是不是就查到了执行时间比当前时间还小的任务
  101.                                 //所以,情况要考虑全面
  102.                                 if (nowTime > jobInfo.getTriggerNextTime() + PRE_READ_MS) {
  103.                                     logger.warn(">>>>>>>>>>> xxl-job, schedule misfire, jobId = " + jobInfo.getId());
  104.                                     //既然有过期的任务,就要看看怎么处理,是直接不处理,还是其他的处理方式。这里程序默认的是什么也不做,既然过期了,就过期吧
  105.                                     MisfireStrategyEnum misfireStrategyEnum = MisfireStrategyEnum.match(jobInfo.getMisfireStrategy(), MisfireStrategyEnum.DO_NOTHING);
  106.                                     //当然,这里也是再判断了一次,万一失败策略是立刻重试一次,那就立刻执行一次任务
  107.                                     if (MisfireStrategyEnum.FIRE_ONCE_NOW == misfireStrategyEnum) {
  108.                                         //在这里立刻执行一次任务
  109.                                         JobTriggerPoolHelper.trigger(jobInfo.getId(), TriggerTypeEnum.MISFIRE, -1, null, null, null);
  110.                                         logger.debug(">>>>>>>>>>> xxl-job, schedule push trigger : jobId = " + jobInfo.getId() );
  111.                                     }
  112.                                     //在这里把过期任务的下次执行时间刷新一下,放到下一次来执行
  113.                                     refreshNextValidTime(jobInfo, new Date());
  114.                                 }
  115.                                 //这里得到的就是要执行的任务的下一次执行时间同样也小于了当前时间,但是这里和上面的不同是,没有超过当前时间加5秒的那个时间
  116.                                 //现在大家应该都清楚了,上面加的那个5秒实际上就是调度周期,每一次处理的任务都是当前任务加5秒这个时间段内的
  117.                                 //这一次得到的任务仅仅是小于当前时间,但是并没有加上5秒,说明这个任务虽然过期了但仍然是在当前的调度周期中
  118.                                 //比如说这个任务要在第2秒执行,但是服务器在第1秒宕机了,恢复之后已经是第4秒了,现在任务的执行时间小于了当前时间,但是仍然在5秒的调度器内
  119.                                 //所以直接执行即可
  120.                                 else if (nowTime > jobInfo.getTriggerNextTime()) {
  121.                                     //把任务交给触发器去远程调用
  122.                                     JobTriggerPoolHelper.trigger(jobInfo.getId(), TriggerTypeEnum.CRON, -1, null, null, null);
  123.                                     logger.debug(">>>>>>>>>>> xxl-job, schedule push trigger : jobId = " + jobInfo.getId() );
  124.                                     //刷新该任务下一次的执行时间
  125.                                     refreshNextValidTime(jobInfo, new Date());
  126.                                     //下面这个分之中的任务就是比较正常的,但是又有些特殊的,
  127.                                     //首先判断它是不是在启动的状态,然后判断这个任务的下一次执行时间是否小于这个执行周期,注意,上面的refreshNextValidTime方法已经把该任务的
  128.                                     //下一次执行时间更新了。如果更新后的时间仍然小于执行周期,说明这个任务会在执行周期中再执行一次,当然,也可能会执行多次,
  129.                                     //这时候,就不让调度线程来处理这个任务了,而是把它提交给时间轮,让时间轮去执行
  130.                                     //不知道看到这里,大家有没有一个疑问,为什么需要时间轮去执行呢?调度线程自己去把任务给触发器线程池执行不行吗?还有,为什么要设计一个5秒
  131.                                     //的调度周期呢?xxl-job定时任务的调度精度究竟准确吗?大家可以先自己想想,有一个很明确的方向,就是有的任务可能会很耗时,或者某个地方查询数据库阻塞太久了
  132.                                     //耽误了后续任务的执行,大家可以先想想,到最后我会为大家做一个总结。
  133.                                     if (jobInfo.getTriggerStatus()==1 && nowTime + PRE_READ_MS > jobInfo.getTriggerNextTime()) {
  134.                                         //计算该任务要放在时间轮的刻度,也就是在时间轮中的执行时间,注意哦,千万不要被这里的取余给搞迷惑了
  135.                                         //这里的余数计算结果为0-59,单位是秒,意味着时间轮有60个刻度,一个代表一秒。
  136.                                         //调度线程是按调度周期来处理任务的,举个例子,调度线程从0秒开始启动,第5秒为一个周期,把这5秒要执行的任务交给时间轮了
  137.                                         //就去处理下一个调度周期,千万不要把调度线程处理调度任务时不断增加的调度周期就是增长的时间,调度线程每次扫描数据库不会耗费那么多时间
  138.                                         //这个时间是作者自己设定的,并且调度线程也不是真的只按整数5秒去调度任务
  139.                                         //实际上,调度线程从0秒开始工作,扫描0-5秒的任务,调度这些任务耗费了1秒,再次循环时,调度线程就会1秒开始,处理1-6秒的任务
  140.                                         //虽说是1-6秒,但是1-5秒的任务都被处理过了,但是请大家想一想,有些任务也仅仅只是被执行了一次,如果有一个任务在0-5秒调度器内被执行了
  141.                                         //但是该任务每1秒执行一次,从第1秒开始m,那它是不是会在调度期内执行多次?可是上一次循环它可能最多只被执行了两次,一次在调度线程内,一次在时间轮内
  142.                                         //还有几次并未执行呢,所以要交给下一个周期去执行,但是这时候它的下次执行时间还在当前时间的5秒内,如果下个周期直接从6秒开始
  143.                                         //这个任务就无法执行了,大家可以仔细想想这个过程
  144.                                         //时间轮才是真正按照时间增长的速度去处理定时任务的
  145.                                         int ringSecond = (int)((jobInfo.getTriggerNextTime()/1000)%60);
  146.                                         //把定时任务的信息,就是它的id放进时间轮
  147.                                         pushTimeRing(ringSecond, jobInfo.getId());
  148.                                         //刷新定时任务的下一次的执行时间,注意,这里传进去的就不再是当前时间了,而是定时任务现在的下一次执行时间
  149.                                         //因为放到时间轮中就意味着它要执行了,所以计算新的执行时间就行了
  150.                                         refreshNextValidTime(jobInfo, new Date(jobInfo.getTriggerNextTime()));
  151.                                     }
  152.                                 }
  153.                                 //最后,这里得到的就是最正常的任务,也就是执行时间在当前时间之后,但是又小于执行周期的任务
  154.                                 //上面的几个判断,都是当前时间大于任务的下次执行时间,实际上都是在过期的任务中做判断
  155.                                 else {
  156.                                     //这样的任务就很好处理了,反正都是调度周期,也就是当前时间5秒内要执行的任务,所以直接放到时间轮中就行
  157.                                     //计算出定时任务在时间轮中的刻度,其实就是定时任务执行的时间对应的秒数
  158.                                     //随着时间流逝,时间轮也是根据当前时间秒数来获取要执行的任务的,所以这样就可以对应上了
  159.                                     int ringSecond = (int)((jobInfo.getTriggerNextTime()/1000)%60);
  160.                                     //放进时间轮中
  161.                                     pushTimeRing(ringSecond, jobInfo.getId());
  162.                                     //刷新定时任务下一次的执行时间
  163.                                     refreshNextValidTime(jobInfo, new Date(jobInfo.getTriggerNextTime()));
  164.                                 }
  165.                             }
  166.                             //最后再更新一下所有的任务
  167.                             for (XxlJobInfo jobInfo: scheduleList) {
  168.                                 XxlJobAdminConfig.getAdminConfig().getXxlJobInfoDao().scheduleUpdate(jobInfo);
  169.                             }
  170.                         }
  171.                         else {
  172.                             //走到这里,说明根本就没有从数据库中扫描到任何任务,把preReadSuc设置为false
  173.                             preReadSuc = false;
  174.                         }
  175.                     } catch (Exception e) {
  176.                         if (!scheduleThreadToStop) {
  177.                             logger.error(">>>>>>>>>>> xxl-job, JobScheduleHelper#scheduleThread error:{}", e);
  178.                         }
  179.                     }
  180.                     finally {
  181.                         //下面就是再次和数据库有关的操作了,提交事物,释放锁,再次设置非手动提交,释放资源等等
  182.                         //这里就自己看看吧
  183.                         if (conn != null) {
  184.                             try {
  185.                                 conn.commit();
  186.                             } catch (SQLException e) {
  187.                                 if (!scheduleThreadToStop) {
  188.                                     logger.error(e.getMessage(), e);
  189.                                 }
  190.                             }
  191.                             try {
  192.                                 conn.setAutoCommit(connAutoCommit);
  193.                             } catch (SQLException e) {
  194.                                 if (!scheduleThreadToStop) {
  195.                                     logger.error(e.getMessage(), e);
  196.                                 }
  197.                             }
  198.                             try {
  199.                                 conn.close();
  200.                             } catch (SQLException e) {
  201.                                 if (!scheduleThreadToStop) {
  202.                                     logger.error(e.getMessage(), e);
  203.                                 }
  204.                             }
  205.                         }
  206.                         if (null != preparedStatement) {
  207.                             try {
  208.                                 preparedStatement.close();
  209.                             } catch (SQLException e) {
  210.                                 if (!scheduleThreadToStop) {
  211.                                     logger.error(e.getMessage(), e);
  212.                                 }
  213.                             }
  214.                         }
  215.                     }
  216.                     //再次得到当然时间,然后减去开始执行扫面数据库任务的开始时间
  217.                     //就得到了执行扫面数据库,并且调度任务的总耗时
  218.                     long cost = System.currentTimeMillis()-start;
  219.                     //这里有一个判断,1000毫秒就是1秒,如果总耗时小于1秒,就默认数据库中可能没多少数据
  220.                     //线程就不必工作得那么繁忙,所以下面要让线程休息一会,然后再继续工作
  221.                     if (cost < 1000) {
  222.                         try {
  223.                             //下面有一个三元运算,判断preReadSuc是否为true,如果扫描到数据了,就让该线程小睡一会儿,最多睡1秒
  224.                             //如果根本就没有数据,就说明5秒的调度器内没有任何任务可以执行,那就让线程最多睡5秒,把时间睡过去,过5秒再开始工作
  225.                             TimeUnit.MILLISECONDS.sleep((preReadSuc?1000:PRE_READ_MS) - System.currentTimeMillis()%1000);
  226.                         } catch (InterruptedException e) {
  227.                             if (!scheduleThreadToStop) {
  228.                                 logger.error(e.getMessage(), e);
  229.                             }
  230.                         }
  231.                     }
  232.                 }
  233.                 logger.info(">>>>>>>>>>> xxl-job, JobScheduleHelper#scheduleThread stop");
  234.             }
  235.         });
  236.         //设置守护线程,启动线程
  237.         scheduleThread.setDaemon(true);
  238.         scheduleThread.setName("xxl-job, admin JobScheduleHelper#scheduleThread");
  239.         scheduleThread.start();
  240.         /**
  241.          * @author:B站UP主陈清风扬,从零带你写框架系列教程的作者,个人微信号:chenqingfengyang。
  242.          * @Description:系列教程目前包括手写Netty,XXL-JOB,Spring,RocketMq,Javac,JVM等课程。
  243.          * @Date:2023/7/6
  244.          * @Description:下面这个就是时间轮的工作线程
  245.          */
  246.         ringThread = new Thread(new Runnable() {
  247.             @Override
  248.             public void run() {
  249.                 while (!ringThreadToStop) {
  250.                     try {
  251.                         //这里让线程睡一会,作用还是比较明确的,因为该线程是时间轮线程,时间轮执行任务是按照时间刻度来执行的
  252.                         //如果这一秒内的所有任务都调度完了,但是耗时只用了500毫秒,剩下的500毫秒就只好睡过去,等待下一个整秒到来
  253.                         //再继续开始工作。System.currentTimeMillis() % 1000计算出来的结果如果是500毫秒,1000-500=500
  254.                         //线程就继续睡500毫秒,如果System.currentTimeMillis() % 1000计算出来的是0,说明现在是整秒,那就睡1秒,等到下个
  255.                         //工作时间再开始工作
  256.                         TimeUnit.MILLISECONDS.sleep(1000 - System.currentTimeMillis() % 1000);
  257.                     } catch (InterruptedException e) {
  258.                         if (!ringThreadToStop) {
  259.                             logger.error(e.getMessage(), e);
  260.                         }
  261.                     }
  262.                     try {
  263.                         //先定义一个集合变量,刚才已经强调过了,时间轮是一个Map容器,Map的key是定时任务要执行的时间,value是定时任务的JobID的集合
  264.                         //到了固定的时间,要把对应时刻的定时任务从集合中取出来,所以自然也要用集合来存放这些定时任务的ID
  265.                         List<Integer> ringItemData = new ArrayList<>();
  266.                         //获取当前时间的秒数
  267.                         int nowSecond = Calendar.getInstance().get(Calendar.SECOND);
  268.                         //下面这里很有意思,如果我们计算出来的是第3秒,时间轮线程会把第2秒,和第3秒的定时任务都取出来,一起执行
  269.                         //这里肯定会让大家感到困惑,时间轮不是按照刻度走的吗?如果走到3秒的刻度,说明2秒的任务已经执行完了,为什么还要再拿出来?
  270.                         //这是因为考虑到定时任务的调度情况了,如果时间轮某个刻度对应的定时任务太多,本来该最多1秒就调度完的,结果调度了2秒,直接把下一个刻度跳过了
  271.                         //这样不就出错了?所以,每次执行的时候要把前一秒的也取出来,检查一下看是否有任务,这也算是一个兜底的方法
  272.                         for (int i = 0; i < 2; i++) {
  273.                             //循环了两次,第一次取出当前刻度的任务,第二次取出前一刻度的任务
  274.                             //注意,这里取出的时候,定时任务就从时间轮中被删除了
  275.                             List<Integer> tmpData = ringData.remove( (nowSecond+60-i)%60 );
  276.                             if (tmpData != null) {
  277.                                 //把定时任务的ID数据添加到上面定义的集合中
  278.                                 ringItemData.addAll(tmpData);
  279.                             }
  280.                         }
  281.                         logger.debug(">>>>>>>>>>> xxl-job, time-ring beat : " + nowSecond + " = " + Arrays.asList(ringItemData) );
  282.                         //判空操作
  283.                         if (ringItemData.size() > 0) {
  284.                             for (int jobId: ringItemData) {
  285.                                 //在for循环中处理定时任务,让触发器线程池开始远程调用这些任务
  286.                                 JobTriggerPoolHelper.trigger(jobId, TriggerTypeEnum.CRON, -1, null, null, null);
  287.                             }
  288.                             //最后清空集合
  289.                             ringItemData.clear();
  290.                         }
  291.                     } catch (Exception e) {
  292.                         if (!ringThreadToStop) {
  293.                             logger.error(">>>>>>>>>>> xxl-job, JobScheduleHelper#ringThread error:{}", e);
  294.                         }
  295.                     }
  296.                 }
  297.                 logger.info(">>>>>>>>>>> xxl-job, JobScheduleHelper#ringThread stop");
  298.             }
  299.         });
  300.         //到这里可以总结一下了,总的来说,xxljob之所以把任务调度搞得这么复杂,判断了多种情况,引入时间轮
  301.         //就是考虑到某些任务耗时比较严重,结束时间超过了后续任务的执行时间,所以要经常判断前面有没有未执行的任务
  302.         ringThread.setDaemon(true);
  303.         ringThread.setName("xxl-job, admin JobScheduleHelper#ringThread");
  304.         ringThread.start();
  305.     }
  306.     /**
  307.      * @author:B站UP主陈清风扬,从零带你写框架系列教程的作者,个人微信号:chenqingfengyang。
  308.      * @Description:系列教程目前包括手写Netty,XXL-JOB,Spring,RocketMq,Javac,JVM等课程。
  309.      * @Date:2023/7/6
  310.      * @Description:刷新定时任务下一次的执行时间
  311.      */
  312.     private void refreshNextValidTime(XxlJobInfo jobInfo, Date fromTime) throws Exception {
  313.         Date nextValidTime = generateNextValidTime(jobInfo, fromTime);
  314.         if (nextValidTime != null) {
  315.             jobInfo.setTriggerLastTime(jobInfo.getTriggerNextTime());
  316.             jobInfo.setTriggerNextTime(nextValidTime.getTime());
  317.         } else {
  318.             jobInfo.setTriggerStatus(0);
  319.             jobInfo.setTriggerLastTime(0);
  320.             jobInfo.setTriggerNextTime(0);
  321.             logger.warn(">>>>>>>>>>> xxl-job, refreshNextValidTime fail for job: jobId={}, scheduleType={}, scheduleConf={}",
  322.                     jobInfo.getId(), jobInfo.getScheduleType(), jobInfo.getScheduleConf());
  323.         }
  324.     }
  325.     /**
  326.      * @author:B站UP主陈清风扬,从零带你写框架系列教程的作者,个人微信号:chenqingfengyang。
  327.      * @Description:系列教程目前包括手写Netty,XXL-JOB,Spring,RocketMq,Javac,JVM等课程。
  328.      * @Date:2023/7/6
  329.      * @Description:把定时任务放到时间轮中
  330.      */
  331.     private void pushTimeRing(int ringSecond, int jobId){
  332.         List<Integer> ringItemData = ringData.get(ringSecond);
  333.         if (ringItemData == null) {
  334.             ringItemData = new ArrayList<Integer>();
  335.             ringData.put(ringSecond, ringItemData);
  336.         }
  337.         ringItemData.add(jobId);
  338.         logger.debug(">>>>>>>>>>> xxl-job, schedule push time-ring : " + ringSecond + " = " + Arrays.asList(ringItemData) );
  339.     }
  340.     /**
  341.      * @author:B站UP主陈清风扬,从零带你写框架系列教程的作者,个人微信号:chenqingfengyang。
  342.      * @Description:系列教程目前包括手写Netty,XXL-JOB,Spring,RocketMq,Javac,JVM等课程。
  343.      * @Date:2023/7/6
  344.      * @Description:停止任务调度器的方法,其实就是终止本类的两个线程
  345.      */
  346.     public void toStop(){
  347.         scheduleThreadToStop = true;
  348.         try {
  349.             TimeUnit.SECONDS.sleep(1);
  350.         } catch (InterruptedException e) {
  351.             logger.error(e.getMessage(), e);
  352.         }
  353.         if (scheduleThread.getState() != Thread.State.TERMINATED){
  354.             scheduleThread.interrupt();
  355.             try {
  356.                 scheduleThread.join();
  357.             } catch (InterruptedException e) {
  358.                 logger.error(e.getMessage(), e);
  359.             }
  360.         }
  361.         boolean hasRingData = false;
  362.         if (!ringData.isEmpty()) {
  363.             for (int second : ringData.keySet()) {
  364.                 List<Integer> tmpData = ringData.get(second);
  365.                 if (tmpData!=null && tmpData.size()>0) {
  366.                     hasRingData = true;
  367.                     break;
  368.                 }
  369.             }
  370.         }
  371.         if (hasRingData) {
  372.             try {
  373.                 TimeUnit.SECONDS.sleep(8);
  374.             } catch (InterruptedException e) {
  375.                 logger.error(e.getMessage(), e);
  376.             }
  377.         }
  378.         ringThreadToStop = true;
  379.         try {
  380.             TimeUnit.SECONDS.sleep(1);
  381.         } catch (InterruptedException e) {
  382.             logger.error(e.getMessage(), e);
  383.         }
  384.         if (ringThread.getState() != Thread.State.TERMINATED){
  385.             // interrupt and wait
  386.             ringThread.interrupt();
  387.             try {
  388.                 ringThread.join();
  389.             } catch (InterruptedException e) {
  390.                 logger.error(e.getMessage(), e);
  391.             }
  392.         }
  393.         logger.info(">>>>>>>>>>> xxl-job, JobScheduleHelper stop");
  394.     }
  395.     /**
  396.      * @author:B站UP主陈清风扬,从零带你写框架系列教程的作者,个人微信号:chenqingfengyang。
  397.      * @Description:系列教程目前包括手写Netty,XXL-JOB,Spring,RocketMq,Javac,JVM等课程。
  398.      * @Date:2023/7/6
  399.      * @Description:集合cron表达式计算定时任务下一次的执行时间
  400.      */
  401.     public static Date generateNextValidTime(XxlJobInfo jobInfo, Date fromTime) throws Exception {
  402.         ScheduleTypeEnum scheduleTypeEnum = ScheduleTypeEnum.match(jobInfo.getScheduleType(), null);
  403.         if (ScheduleTypeEnum.CRON == scheduleTypeEnum) {
  404.             Date nextValidTime = new CronExpression(jobInfo.getScheduleConf()).getNextValidTimeAfter(fromTime);
  405.             return nextValidTime;
  406.         }
  407.         else if (ScheduleTypeEnum.FIX_RATE == scheduleTypeEnum) {
  408.             return new Date(fromTime.getTime() + Integer.valueOf(jobInfo.getScheduleConf())*1000 );
  409.         }
  410.         return null;
  411.     }
  412. }
复制代码


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

万万哇

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表