node异步I/O

让I/O与CPU计算并行

Node 在*nix平台，通过线程池实现(主线程和I/O线程)，在windows下使用IOCP(调用异步方法，等待I/O完成后通知，执行回调，内部也依靠线程池，但由系统内核管理)，通过libuv层来兼容。

Node本身是多线程的，但其中的JavaScript是单线程、因为v8的限制，但计算之类的都是在此线程，多线程只是I/O（磁盘，网络等），I/O有另外的线程池

事件循环

• Node自身的执行模型,在libuv中

• 在Node启动时，创建一个类似while(true)的循环，每循环一次成一个Tick,每次Tick查看是否有事件要处理，若有就处理事件和它的相关回调函数。在windows中基于IOCP,在*nix中基于多线程

• 在Tick过程中通过观察者判断是否有事件要处理

• 异步过程中最重要的就是请求对象，所有状态、传入参数、当前方法和回调函数都封装在此，javascript将对象组装好，送入I/O线程池后就结束了，I/O操作在线程池中等待请求对象被执行

• Tick在执行过程中检查线程池中是否有执行完的请求，并加入I/O观察者队列中，然后再从观察者取到可用的请求对象当做事件处理，取出对象中的回调函数执行,若有业务层callback再给js执行

IO异步.png

事件驱动的高性能服务器

基于事件驱动的非阻塞I/O模型
通过主循环加载事件触发的方式来运行程序处理请求，无需为每一个请求创建额外的对应线程：操作系统因为线程少，所以在上下文切换时代价很小，有助系统稳定处理大量请求（但不适合密集运算),但用户代码不能并行执行，I/O可以

• 单线程保证运行安全，避免重入

Smaller icon

另外一些异步api

定时器

• setTimeout()单次定时执行 setInterval()多次定时执行

原理和异步I/O类似，将创建的定时器放到定时器观察者内部的红黑树，tick执行时，从红黑树中迭代取出定时器对象，检查是否超过定时时间，超过就形成事件并且立刻执行回调函数。

问题：定时不精确，如果某个循环占用时间过多，当再轮到定时器执行时就已经超时了

process.nextTick()

• 若想立即异步执行一个任务，用这个更高效

setTimeout(function () { // TODO
}, 0);// 比较浪费性能

process.nextTick=function(callback){
    if(process._exiting) return;
    if(tickDepth >=process.maxTickDepth)
       maxTickWarn();
    var tock={callback:callback};
    if(process.domain) tock.domain=process.domain;
     nextTickQueue.push(tock);
    if(nextTickQueue.length){
      process._needTickCallback();
    }
}

调用process.nextTick(),只会将回调函数放入队列中，在下个Tick取出

setImmediate()

• 类process.nextTick() 将回调函数延时执行，建议使用这个（v0.9.1以后）

process.nextTick(function(){
    console.log('nextTick延时执行1')
});
process.nextTick(function(){
    console.log('nextTick延时执行2');
});
setImmdiate(function(){
    console.log('setImmdiate延时执行1');
    process.nextTick(function(){
    console.log('强势插入');
    })
});  
setImmediate(function () {
    console.log('setImmediate延时执行2'); 
});
console.log('正常执行');

//正常执行 
//nextTick  延时执行1 
//nextTick  延时执行2 
//setImmediate  延时执行1  
//强势插入 
//setImmediate  延时执行2

process.nextTick()属于idle观察者，setImmediate()属于check观察者，在每轮循环中，idle观察者先于I/O观察者先与check

process.nextTick()的回调函数保存在数组中,在每轮循环中会将数组中的回调函数全部执行完。setImmediate()保存在链表中,在每轮循环中执行链表的一个回调函数

异步并发控制

并发量过大,下层服务器会吃不消

bagpipe

1. 通过队列控制并发量
2. 在当前活跃的异步调用量小于限定值，从队列中取出执行
3. 活跃调用达到限定值后，调用暂存在队列中
4. 每个调用结束时，从队列中取出新的异步调用执行