手写生产者斲丧者模型
前言生产者-斲丧者模式是一个非常经典的多线程并发协作模式,弄懂生产者-斲丧者问题能够让我们对并发编程的明确加深。
所谓的生产者-斲丧者,实际上包罗了两类线程,一种是生产者线程用于生产数据,另一种是斲丧者线程用于斲丧数据,为了解耦生产者和斲丧者的关系,通常会接纳共享的数据区域,就像是一个仓库,生产者生产数据之后直接放置在共享数据区中,并不需要关心斲丧者的举动;而斲丧者只需要从共享数据区中获取数据,不需要关心生产者的举动。
这个共享数据区域中应该具备这样的线程间并发协作功能:
[*]如果共享数据区已满的话,阻塞生产者继续生产数据;
[*]如果共享数据区为空的话,阻塞斲丧者继续斲丧数据;
在实现生产者斲丧者问题时,可以接纳三种方式:
[*]使用 BlockingQueue 实现
[*]使用 synchronized以及Object wait/notify 的消息通知机制;
[*]使用 Lock Condition 的 await/signal 消息通知机制;
BlockingQueue 实现生产者-斲丧者
BlockingQueue 提供了可阻塞的插入和移除的方法。当队列容器已满,生产者线程会被阻塞,直到队列未满;当队列容器为空时,斲丧者线程会被阻塞,直至队列非空时为止。
有了这个队列,生产者就只需要关注生产,而不用管斲丧者的斲丧举动,更不用期待斲丧者线程实行完;斲丧者也只管斲丧,不用管生产者是怎么生产的,更不用等着生产者生产。
public class ProductorConsumer {
private static LinkedBlockingQueue<Integer> queue = new LinkedBlockingQueue<>();
public static void main(String[] args) {
ExecutorService service = Executors.newFixedThreadPool(15);
for (int i = 0; i < 5; i++) {
service.submit(new Productor(queue));
}
for (int i = 0; i < 10; i++) {
service.submit(new Consumer(queue));
}
}
static class Productor implements Runnable {
private BlockingQueue queue;
public Productor(BlockingQueue queue) {
this.queue = queue;
}
@Override
public void run() {
try {
while (true) {
Random random = new Random();
int i = random.nextInt();
System.out.println("生产者" + Thread.currentThread().getName() + "生产数据" + i);
queue.put(i);
}
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
static class Consumer implements Runnable {
private BlockingQueue queue;
public Consumer(BlockingQueue queue) {
this.queue = queue;
}
@Override
public void run() {
try {
while (true) {
Integer element = (Integer) queue.take();
System.out.println("消费者" + Thread.currentThread().getName() + "正在消费数据" + element);
}
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}synchronized 实现生产者-斲丧者
这着实也是手动实现阻塞队列的方式
import java.util.LinkedList;
import java.util.Queue;
import java.util.concurrent.CyclicBarrier;
public class MyBlockingQueue {
//队列
private final Queue<String> myQueue = new LinkedList<>();
//最大长度
private static final int MAXSIZE = 20;
private static final int MINSIZE = 0;
//获取队列长度
public int getSize() {
return myQueue.size();
}
//生产者
public void push(String str) throws Exception {
//拿到对象锁
synchronized (myQueue) {
//如果队列满了,则阻塞
while (getSize() == MAXSIZE) {
myQueue.wait();
}
myQueue.offer(str);
System.out.println(Thread.currentThread().getName() + "放入元素" + str);
//唤醒消费者线程,消费者和生产者自己去竞争锁
myQueue.notify();
}
}
//消费者
public String pop() throws Exception {
synchronized (myQueue) {
String result = null;
//队列为空则阻塞
while (getSize() == MINSIZE) {
myQueue.wait();
}
//先进先出
result = myQueue.poll();
System.out.println(Thread.currentThread().getName() + "取出了元素" + result);
//唤醒生产者线程,消费者和生产者自己去竞争锁
myQueue.notify();
return result;
}
}
public static void main(String args[]) {
MyBlockingQueue myBlockingQueue = new MyBlockingQueue();
//两个线程,都执行完成了打印
CyclicBarrier barrier = new CyclicBarrier(2, () -> {
System.out.println("生产结束,下班了,消费者明天再来吧!");
});
//生产者线程
new Thread(() -> {
//50个辛勤的生产者循环向队列中添加元素
try {
for (int i = 0; i < 50; i++) {
myBlockingQueue.push("——" + i);
}
//生产完了
barrier.await();
} catch (Exception e) {
e.printStackTrace();
}
}, "生产者").start();
//消费者线程
new Thread(() -> {
//50个白拿的消费者疯狂向队列中获取元素
try {
for (int j = 0; j < 50; j++) {
myBlockingQueue.pop();
}
//消费完了
barrier.await();
} catch (Exception e) {
e.printStackTrace();
}
}, "消费者").start();
}
}Condition 实现生产者-斲丧者
public class BoundedQueue {
/**
* 生产者容器
*/
private LinkedList<Object> buffer;
/**
* //容器最大值是多少
*/
private int maxSize;
private Lock lock;
/**
* 满了
*/
private Condition fullCondition;
/**
* 不满
*/
private Condition notFullCondition;
BoundedQueue(int maxSize) {
this.maxSize = maxSize;
buffer = new LinkedList<Object>();
lock = new ReentrantLock();
fullCondition = lock.newCondition();
notFullCondition = lock.newCondition();
}
/**
* 生产者
*
* @param obj
* @throws InterruptedException
*/
public void put(Object obj) throws InterruptedException {
//获取锁
lock.lock();
try {
while (maxSize == buffer.size()) {
//满了,添加的线程进入等待状态
notFullCondition.await();
}
buffer.add(obj);
//通知
fullCondition.signal();
} finally {
lock.unlock();
}
}
/**
* 消费者
*
* @return
* @throws InterruptedException
*/
public Object get() throws InterruptedException {
Object obj;
lock.lock();
try {
while (buffer.size() == 0) {
//队列中没有数据了 线程进入等待状态
fullCondition.await();
}
obj = buffer.poll();
//通知
notFullCondition.signal();
} finally {
lock.unlock();
}
return obj;
}
}生产者-斲丧者模式的应用场景
生产者-斲丧者模式一般用于将生产数据的一方和斲丧数据的一方分割开来,将生产数据与斲丧数据的过程解耦开来。
Excutor 使命实行框架
通过将使命的提交和使命的实行解耦开来,提交使命的操作相当于生产者,实行使命的操作相当于斲丧者。
例如使用 Excutor 构建 Web 服务器,用于处理线程的哀求:生产者将使命提交给线程池,线程池创建线程处理使命,如果需要运行的使命数大于线程池的基本线程数,那么就把使命扔到阻塞队列(通过线程池+阻塞队列的方式比只使用一个阻塞队列的服从高很多,由于斲丧者能够处理就直接处理掉了,不用每个斲丧者都要先从阻塞队列中取出使命再实行)
消息中心件 MQ
双十一的时间,会产生大量的订单,那么不可能同时处理那么多的订单,需要将订单放入一个队列里面,然后由专门的线程处理订单。
这里用户下单就是生产者,处理订单的线程就是斲丧者;再比如 12306 的抢票功能,先由一个容器存储用户提交的订单,然后再由专门处理订单的线程慢慢处理,这样可以在短时间内支持高并发服务。
使命的处理时间比较长的情况下
比如上传附件并处理,那么这个时间可以将用户上传和处理附件分成两个过程,用一个队列临时存储用户上传的附件,然后立刻返回用户上传成功,然后有专门的线程处理队列中的附件。
生产者-斲丧者模式的优点:
[*]解耦:将生产者类和斲丧者类进行解耦,消除代码之间的依靠性,简化工作负载的管理
[*]复用:通过将生产者类和斲丧者类独立开来,对生产者类和斲丧者类进行独立的复用与扩展
[*]调整并发数:由于生产者和斲丧者的处理速率是不一样的,可以调整并发数,给予慢的一方多的并发数,来进步使命的处理速率
[*]异步:对于生产者和斲丧者来说能够各司其职,生产者只需要关心缓冲区是否还有数据,不需要期待斲丧者处理完;对于斲丧者来说,也只需要关注缓冲区的内容,不需要关注生产者,通过异步的方式支持高并发,将一个耗时的流程拆成生产和斲丧两个阶段,这样生产者由于实行 put 的时间比较短,可以支持高并发
[*]支持分布式:生产者和斲丧者通过队列进行通讯,所以不需要运行在同一台机器上,在分布式情况中可以通过 redis 的 list 作为队列,而斲丧者只需要轮询队列中是否有数据。同时还能支持集群的伸缩性,当某台机器宕掉的时间,不会导致整个集群宕掉
面试题专栏
面试题专栏已上线,接待访问。
[*]如果你不知道简历怎么写,简历项目不知道怎么包装;
[*]如果简历中有些内容你不知道该不该写上去;
[*]如果有些综合性问题你不知道怎么答;
那么可以私信我,我会尽我所能帮助你。
关于作者
来自一线程序员Seven的探索与实践,连续学习迭代中~
本文已收录于我的个人博客:https://www.seven97.top
公众号:seven97,接待关注~
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]