并发编程中线程池 是跑不了的, 用过线程池的朋友 都会遇到这样的一个问题:
如何合理地估算线程池大小?
怎么样设置 数量,执行效率最高?
怎么样设置 内存消耗最低?
是不是设置 线程池数量越大越好?
多线程 是不是不一定比单线程快?( 某些场景单线程确实比多线程快)
CPU资源是有限的,多线程 并发 都是在 抢占CPU资源,线程越多 抢占越激烈,单个线程获取资源的成本变高,执行完成时间会增加;
第一次 使用newFixedThreadPool 我设置了 线程数为80;
在运行中发现,往池子中 添加大量任务,第一个任务开始执行的时间点 特别晚,
而且 内存飙的特别高,究其原因是 他要把80个线程创建了,然后开始执行任务。
每个线程占用至少好几M甚至10几M的内存。
线程多了以后 内存就持续上涨;
朋友建议 使用Executors.newCachedThreadPool();
测试发现 当线程数 添加到 200+的时候 会造成内存溢出;
所以 直接 pass掉这个方式;
以下 是我 测试 Executors.newFixedThreadPool(NTHREADS) 方式 设置不同 线程数 的执行结果:
统一设置任务数 100;相当于并发100 已经满足大多数场景了;
newFixedThreadPool =1 总耗时46251毫秒,其中日志耗时17毫秒
newFixedThreadPool =2 总耗时25870毫秒,其中日志耗时11毫秒
newFixedThreadPool =4 总耗时18424毫秒,其中日志耗时21毫秒
newFixedThreadPool =5 总耗时18447毫秒,其中日志耗时5毫秒
newFixedThreadPool =8 总耗时16807毫秒,其中日志耗时9毫秒
newFixedThreadPool =9 总耗时17946毫秒,其中日志耗时8毫秒
newFixedThreadPool =16 总耗时17201毫秒,其中日志耗时9毫秒
newFixedThreadPool =32 总耗时17661毫秒,其中日志耗时808毫秒
newFixedThreadPool =48 总耗时18277毫秒,其中日志耗时25毫秒
newFixedThreadPool =64 总耗时18000毫秒,其中日志耗时2812毫秒
newCachedThreadPool 总耗时20374毫秒,其中日志耗时3毫秒
得出这个结果之后,去百度了一下 发现了这篇文章:
http://ifeve.com/how-to-calculate-threadpool-size/
结论是:
如果是CPU密集型应用,则线程池大小设置为N+1
如果是IO密集型应用,则线程池大小设置为2N+1
package cn.jdy.tools;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
/**
* 如何合理地估算线程池大小
* 如果是CPU密集型应用,则线程池大小设置为N+1
如果是IO密集型应用,则线程池大小设置为2N+1
* http://ifeve.com/how-to-calculate-threadpool-size/
*/
public class TestThreadPool {
private static final int NTHREADS = 9;
private static final ExecutorService exec = Executors.newFixedThreadPool(NTHREADS);
// private static final ExecutorService exec = Executors.newCachedThreadPool();
// 使用 CachedThreadPool 比较耗内存,并发 200+的时候 会造成内存溢出
static long tempcount = System.currentTimeMillis()/1000;// 用于计算每秒时间差
static int prenum = 200;// 用于计算任务数量差
static int nums = 200;// 总任务数
static int uses = 0;// 耗时 计数
static long allstart = System.currentTimeMillis();// 程序启动时间 用于计算总耗时
static long logstime = 0;// 日志总耗时
public static void main(String[] args) {
//QPS(TPS):每秒钟request/事务 数量 ,QPS(TPS)= 并发数/平均响应时间
//并发数: 系统同时处理的request/事务数
//响应时间: 一般取平均响应时间
for (int i = 0; i < nums; i++) {
Runnable task =new Runnable() {
@Override
public void run() {
try {
long start = System.currentTimeMillis();
task();
long use = System.currentTimeMillis()-start;
// System.out.println("单个耗时"+use);
getCurrentThreads(use);
}catch (Exception e) {
e.printStackTrace();
}
}
/**
* 任务目标
*/
public void task(){
try {
// String url = "http://10.0.132.45:8080/filesystemweb/group1/M00/06/EF/CgCAjlhsRRqACEjcAAGcE3wG_pw989.pdf";
// byte[] b = PdfCovertImgUtils.getInstance().getProtocolImg(new URL(url));
}catch (Exception e) {
e.printStackTrace();
}
}
};
exec.execute(task);
}
}
/**
* 每个任务分析
* @param use 单个任务耗时
*/
public static void getCurrentThreads(long use){
// Map maps = Thread.getAllStackTraces();
// System.out.println("Threads:"+maps.size()+"-currentThread:"+Thread.currentThread().getName()+"-"+Thread.currentThread().getId());
long start = System.currentTimeMillis();
prenum = prenum-1;// 任务数量 进度扣减
uses += use;
long now = System.currentTimeMillis()/1000;
if(now > tempcount){// 每秒输出一次
long freeMemory=Runtime.getRuntime().freeMemory() / 1024 / 1024;//已使用内存
long totalMemory=Runtime.getRuntime().totalMemory() / 1024 / 1024;//总共可使用内存
int cpu = Runtime.getRuntime().availableProcessors();//可用cpu逻辑处理器
System.out.printf("第%s秒: ", now-allstart/1000);
int ts = (nums-prenum);//每秒事务数
System.out.printf("每秒处理数:%s ", ts);
System.out.printf("平均耗时:%s ", ts==0?0:uses/ts);
System.out.printf("进度:%s ", nums);
System.out.printf("剩余:%s毫秒 ", nums*ts);
System.out.printf("可用内存:%sm ", freeMemory);
System.out.printf("可用总内存:%sm \n", totalMemory);
tempcount = now;
nums = prenum;
uses =0;
}
logstime += System.currentTimeMillis()-start;// 日志耗时累计
// 当任务执行完了以后 计算总耗时
if(prenum==0){
long alluse = System.currentTimeMillis()-allstart;
System.out.printf("总耗时%s毫秒,其中日志耗时%s毫秒\n",alluse,logstime);
System.exit(0);
}
}
}