一、ForkJoin介绍
ForkJoin是Java7提供的原生多线程并行处理框架,其基本思想是将大人物分割成小任务,最后将小任务聚合起来得到结果。它非常类似于HADOOP提供的MapReduce框架,只是MapReduce的任务可以针对集群内的所有计算节点,可以充分利用集群的能力完成计算任务。ForkJoin更加类似于单机版的MapReduce。
二、工作窃取
工作窃取(work-stealing)算法是指某个线程从其他队列里窃取任务来执行。
一个大任务分割为若干个互不依赖的子任务,为了减少线程间的竞争,把这些子任务分别放到不同的队列里,并未每个队列创建一个单独的线程来执行队列里的任务,线程和队列一一对应。比如线程1负责处理1队列里的任务,2线程负责2队列的。但是有的线程会先把自己队列里的任务干完,而其他线程对应的队列里还有任务待处理。干完活的线程与其等着,不如帮其他线程干活,于是它就去其他线程的队列里窃取一个任务来执行。而在这时它们可能会访问同一个队列,所以为了减少窃取任务线程和被窃取任务线程之间的竞争,通常会使用双端队列,被窃取任务线程永远从双端队列的头部拿任务执行,而窃取任务线程永远从双端队列的尾部拿任务执行。
三、使用介绍
Java提供了ForkJoinPool来支持将一个任务拆分成多个“小任务”并行计算,再把多个“小任务”的结果合成总的计算结果。
第一步分割任务。首先我们需要有一个fork类来把大任务分割成子任务,有可能子任务还是很大,所以还需要不停的分割,直到分割出的子任务足够小。
第二步执行任务并合并结果。分割的子任务分别放在双端队列里,然后几个启动线程分别从双端队列里获取任务执行。子任务执行完的结果都统一放在一个队列里,启动一个线程从队列里拿数据,然后合并这些数据。
Fork/Join使用两个类来完成以上两件事情:
*
ForkJoinTask:我们要使用ForkJoin框架,必须首先创建一个ForkJoin任务。它提供在任务中执行fork()和join()操作的机制,通常情况下我们不需要直接继承ForkJoinTask类,而只需要继承它的子类,Fork/Join框架提供了以下两个子类:
*
*
RecursiveAction:用于没有返回结果的任务。
*
RecursiveTask :用于有返回结果的任务。
*
ForkJoinPool
:ForkJoinTask需要通过ForkJoinPool来执行,任务分割出的子任务会添加到当前工作线程所维护的双端队列中,进入队列的头部。当一个工作线程的队列里暂时没有任务时,它会随机从其他工作线程的队列的尾部获取一个任务。
实例1使用recursiveTask
public class CountTask extends RecursiveTask<Integer> {
private static final long serialVersionUID = -3611254198265061729L;
public static final int threshold = 2; private int start; private int end;
public CountTask(int start, int end) { this.start = start;
this.end = end; } @Override protected Integer compute() { int sum = 0;
//如果任务足够小就计算任务 boolean canCompute = (end - start) <= threshold;
if (canCompute) { for (int i = start; i <= end; i++) {
sum += i; } } else { // 如果任务大于阈值,就分裂成两个子任务计算
int middle = (start + end) / 2;
CountTask leftTask = new CountTask(start, middle);
CountTask rightTask = new CountTask(middle + 1, end); // 执行子任务
leftTask.fork(); rightTask.fork(); //等待任务执行结束合并其结果
int leftResult = leftTask.join();
int rightResult = rightTask.join(); //合并子任务
sum = leftResult + rightResult; } return sum; }
public static void main(String[] args) {
ForkJoinPool forkjoinPool = new ForkJoinPool(); //生成一个计算任务,计算1+2+3+4
CountTask task = new CountTask(1, 100); //执行一个任务
Future<Integer> result = forkjoinPool.submit(task); try {
System.out.println(result.get()); } catch (Exception e) {
System.out.println(e); } } }
实例2使用recursiveAction
public class ForkJoinPoolTest { /** * @param args * @throws Exception */
public static void main(String[] args) throws Exception {
// 创建包含Runtime.getRuntime().availableProcessors()返回值作为个数的并行线程的ForkJoinPool
ForkJoinPool forkJoinPool = new ForkJoinPool(); // 提交可分解的PrintTask任务
forkJoinPool.submit(new PrintTask(0, 200));
forkJoinPool.awaitTermination(2, TimeUnit.SECONDS);//阻塞当前线程直到 ForkJoinPool 中所有的任务都执行结束
// 关闭线程池 forkJoinPool.shutdown(); } }
//RecursiveAction为ForkJoinTask的抽象子类,没有返回值的任务
class PrintTask extends RecursiveAction { // 每个"小任务"最多只打印50个数
private static final int MAX = 50; private int start; private int end;
PrintTask(int start, int end) { this.start = start; this.end = end; }
@Override protected void compute() { // 当end-start的值小于MAX时候,开始打印
if ((end - start) < MAX) { for (int i = start; i < end; i++) {
System.out.println(Thread.currentThread().getName() + " value i:"
+ i); } } else { // 将大任务分解成两个小任务
int middle = (start + end) / 2;
PrintTask left = new PrintTask(start, middle);
PrintTask right = new PrintTask(middle, end); // 并行执行两个小任务
left.fork(); right.fork(); } } }
热门工具 换一换