异步编程：.NET 4.5 基于任务的异步编程模型(TAP)

传送门：异步编程系列目录……

       最近我为大家陆续介绍了“IAsyncResult异步编程模型 (APM)”和“基于事件的异步编程模式(EAP)”两种异步编程模型。在.NET4.0 中Microsoft又为我们引入了新的异步编程模型“基于任务的异步编程模型(TAP)”，并且推荐我们在开发新的多线程应用程序中首选TAP，在.NET4.5中更是对TPL库进行了大量的优化与改进。那现在我先介绍下TAP具有哪些优势：

1.        目前版本(.NET4.X)的任务调度器(TaskScheduler)依赖于底层的线程池引擎。通过局部队列的任务内联化(task inlining)和工作窃取机制可以为我们提升程序性能。

2.        轻松实现任务等待、任务取消、延续任务、异常处理（System.AggregateException）、GUI线程操作。

3.        在任务启动后，可以随时以任务延续的形式注册回调。

4.        充分利用现有的线程，避免创建不必要的额外线程。

5.        结合C#5.0引入async和await关键字轻松实现“异步方法”。

 

示例源码：异步编程：.NET 4.5 基于任务的异步编程模型(TAP).rar

 

术语：

APM              异步编程模型，Asynchronous Programming Model

EAP               基于事件的异步编程模式，Event-based Asynchronous Pattern

TAP               基于任务的异步编程模式，Task-based Asynchronous Pattern

TPL                任务并行库，Task Parallel Library

 

理解CLR线程池引擎、理解全局队列、理解线程的局部队列及性能优势

1.        CLR线程池引擎

CLR线程池引擎维护了一定数量的空闲工作线程以支持工作项的执行，并且能够重用已有的线程以避免创建新的不必要的线程所花费的昂贵的处理过程。并且使用爬山算法（hill-climbing algorithm）检测吞吐量，判断是否能够通过更多的线程来完成更多的工作项。这个算法的判断依据是工作项所需某些类型资源的可用情况，例如：CPU、网络带宽或其他。此外这个算法还会考虑一个饱和点，即达到饱和点的时候，创建更多地线程反而会降低吞吐量。（线程池的详细介绍请看《异步编程：使用线程池管理线程》）

目前版本的TAP的任务调度器（TaskScheduler）基于CLR线程池引擎实现。当任务调度器（TaskScheduler）开始分派任务时：

1)        在主线程或其他并没有分配给某个特定任务的线程的上下文中创建并启动的任务，这些任务将会在全局队列中竞争工作线程。这些任务被称为顶层任务。

2)        然而，如果是在其他任务的上下文中创建的任务（子任务或嵌套任务），这些任务将被分配在线程的局部队列中。

嵌套任务：

是在另一个任务的用户委托中创建并启动的任务。

子任务：

是使用TaskCreationOptions.AttachedToParent选项创建顶层任务的嵌套任务或延续任务；或使用TaskContinuationOptions.AttachedToParent选项创建的延续任务的嵌套任务或延续任务。（应用程序使用TaskCreationOptions.DenyChildAttach选项创建父任务。此选项指示运行时会取消子任务的AttachedToParent规范）

如果你不想特定的任务放入线程的局部队列，那么可以指定TaskCreationOptions.PreferFairness或TaskContinuationOptions.PreferFairness枚举参数。（使Task与ThreadPool.QueueUserWorkItem行为相同）

2.        线程池的全局队列

       当调用ThreadPool.QueueUserWorkItem()添加工作项时，该工作项会被添加到线程池的全局队列中。线程池中的空闲线程以FIFO的顺序将工作项从全局队列中取出并执行，但并不能保证按某个指定的顺序完成。

       线程的全局队列是共享资源，所以内部会实现一个锁机制。当一个任务内部会创建很多子任务时，并且这些子任务完成得非常快，就会造成频繁的进入全局队列和移出全局队列，从而降低应用程序的性能。基于此原因，线程池引擎为每个线程引入了局部队列。

3.        线程的局部队列为我们带来两个性能优势：任务内联化(task inlining)和工作窃取机制。

1)        任务内联化(task inlining)----活用顶层任务工作线程

我们用一个示例来说明：

        static void Main(string[] args)
        {
            Task headTask= new Task(() =>
            {
                DoSomeWork(null);
            });
            headTask.Start();
            Console.Read();
        }
        private static void DoSomeWork(object obj)
        {
            Console.WriteLine("任务headTask运行在线程“{0}”上",
                Thread.CurrentThread.ManagedThreadId);

            var taskTop = new Task(() =>
            {
                Thread.Sleep(500);
                Console.WriteLine("任务taskTop运行在线程“{0}”上",
                    Thread.CurrentThread.ManagedThreadId);
            });
            var taskCenter = new Task(() =>
            {
                Thread.Sleep(500);
                Console.WriteLine("任务taskCenter运行在线程“{0}”上",
                    Thread.CurrentThread.ManagedThreadId);
            });
            var taskBottom = new Task(() =>
            {
                Thread.Sleep(500);
                Console.WriteLine("任务taskBottom运行在线程“{0}”上",
                    Thread.CurrentThread.ManagedThreadId);
            });
            taskTop.Start();
            taskCenter.Start();
            taskBottom.Start();
            Task.WaitAll(new Task[] { taskTop, taskCenter, taskBottom });
        }

结果：

分析：（目前内联机制只有出现在等待任务场景）

       这个示例，我们从Main方法主线程中创建了一个headTask顶层任务并开启。在headTask任务中又创建了三个嵌套任务并最后WaitAll() 这三个嵌套任务执行完成(嵌套任务安排在局部队列)。此时出现的情况就是headTask任务的线程被阻塞，而“任务内联化”技术会使用阻塞的headTask的线程去执行局部队列中的任务。因为减少了对额外线程需求，从而提升了程序性能。

       局部队列“通常”以LIFO的顺序抽取任务并执行，而不是像全局队列那样使用FIFO顺序。LIFO顺序通常用有利于数据局部性，能够在牺牲一些公平性的情况下提升性能。

数据局部性的意思是：运行最后一个到达的任务所需的数据都还在任何一个级别的CPU高速缓存中可用。由于数据在高速缓存中任然是“热的”，因此立即执行最后一个任务可能会获得性能提升。

2)        工作窃取机制----活用空闲工作线程

当一个工作线程的局部队列中有很多工作项正在等待时，而存在一些线程却保持空闲，这样会导致CPU资源的浪费。此时任务调度器（TaskScheduler）会让空闲的工作线程进入忙碌线程的局部队列中窃取一个等待的任务，并且执行这个任务。

 

由于局部队列为我们带来了性能提升，所以，我们应尽可能地使用TPL提供的服务（任务调度器（TaskScheduler）），而不是直接使用ThreadPool的方法。

 

任务并行Task

一个任务表示一个异步操作。任务运行的时候需要使用线程，但并不是说任务取代了线程，理解这点很重要。事实上，在《异步编程：.NET4.X 数据并行》中介绍的System.Threading.Tasks.Parallel类构造的并行逻辑内部都会创建Task，而它们的并行和并发执行都是由底层线程支持的。任务和线程之间也没有一对一的限制关系，通用语言运行时（CLR）会创建必要的线程来支持任务执行的需求。

1.        Task简单的实例成员

    public class Task : IThreadPoolWorkItem, IAsyncResult, IDisposable
    {
        public Task(Action