理解Python并发编程 - 线程篇
前言
对我来说，编程的乐趣之一是想办法让程序执行的越来越快，代码越写越优雅。在刚开始学习并发编程时，相信你它会有一些困惑，本文将解释多个并发开发的问题并帮助你快速了解并发编程的不同场景和应该使用的解决方案。
GIL
Python（特指CPython）的多线程的代码并不能利用多核的优势，而是通过著名的全局解释锁（GIL）来进行处理的。如果是一个计算型的任务，使用多线程GIL就会让多线程变慢。我们举个计算斐波那契数列的例子：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
|
# coding=utf-8
import time
import threading
def profile(func):
def wrapper(*args, **kwargs):
import time
start = time.time()
func(*args, **kwargs)
end = time.time()
print
'COST: {}'.format(end - start)
return wrapper
def fib(n):
if n<=
2:
return
1
return fib(n
-1) + fib(n
-2)
def nothread():
fib(
35)
fib(
35)
def hasthread():
for i
in range(
2):
t = threading.Thread(target=fib, args=(
35,))
t.start()
main_thread = threading.currentThread()
for t
in threading.enumerate():
if t
is main_thread:
continue
t.join()
nothread()
hasthread()
|
运行的结果你猜猜会怎么样：
|
1
2
3
|
❯ python profile_thread.py
COST:
5.05716490746
COST:
6.75599503517
|
这种情况还不如不用多线程！
GIL是必须的，这是Python设计的问题：Python解释器是非线程安全的。这意味着当从线程内尝试安全的访问Python对象的时候将有一个全局的强制锁。 在任何时候，仅仅一个单一的线程能够获取Python对象或者C API。每100个字节的Python指令解释器将重新获取锁，这（潜在的）阻塞了I/O操作。因为锁，CPU密集型的代码使用线程库时，不会获得性能的提高（但是当它使用之后介绍的多进程库时，性能可以获得提高）。
那是不是由于GIL的存在，多线程库就是个「鸡肋」呢？当然不是。事实上我们平时会接触非常多的和网络通信或者数据输入/输出相关的程序，比如网络爬虫、文本处理等等。这时候由于网络情况和I/O的性能的限制，Python解释器会等待读写数据的函数调用返回，这个时候就可以利用多线程库提高并发效率了。
同步机制
Python线程包含多种同步机制:
1. Semaphore（信号量）
在多线程编程中，为了防止不同的线程同时对一个公用的资源（比如全部变量）进行修改，需要进行同时访问的数量（通常是1）。信号量同步基于内部计数器，每调用一次acquire()，计数器减1；每调用一次release()，计数器加1.当计数器为0时，acquire()调用被阻塞。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
import time
from random
import random
from threading
import Thread, Semaphore
sema = Semaphore(
3)
def foo(tid):
with sema:
print
'{} acquire sema'.format(tid)
wt = random() *
2
time.sleep(wt)
print
'{} release sema'.format(tid)
threads = []
for i
in range(
5):
t = Thread(target=foo, args=(i,))
threads.append(t)
t.start()
for t
in threads:
t.join()
|
这个例子中，我们限制了同时能访问资源的数量为3。看一下执行的效果：
|
1
2
3
4
5
6
7
8
9
10
11
|
❯ python semaphore.py
0 acquire sema
1 acquire sema
2 acquire sema
2 release sema
3 acquire sema
1 release sema
4 acquire sema
0 release sema
3 release sema
4 release sema
|
2. Lock（锁）
Lock也可以叫做互斥锁，其实相当于信号量为1。我们先看一个不加锁的例子：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
import time
from threading
import Thread
value =
0
def getlock():
global value
new = value +
1
time.sleep(
0.001)
# 使用sleep让线程有机会切换
value = new
threads = []
for i
in range(
100):
t = Thread(target=getlock)
t.start()
threads.append(t)
for t
in threads:
t.join()
print value
|
执行一下：
|
1
2
|
❯ python nolock.py
16
|
大写的黑人问号。不加锁的情况下，结果会远远的小于100。那我们加上互斥锁看看：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
|
import time
from threading
import Thread, Lock
value =
0
lock = Lock()
def getlock():
global value
with lock:
new = value +
1
time.sleep(
0.001)
value = new
threads = []
for i
in range(
100):
t = Thread(target=getlock)
t.start()
threads.append(t)
for t
in threads:
t.join()
print value
|
我们对value的自增加了锁，就可以保证了结果了：
|
1
2
|
❯ python lock.py
100
|
3. RLock（可重入锁）
acquire() 能够不被阻塞的被同一个线程调用多次。但是要注意的是release()需要调用与acquire()相同的次数才能释放锁。
4. Condition（条件）
一个线程等待特定条件，而另一个线程发出特定条件满足的信号。最好说明的例子就是「生产者/消费者」模型：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
|
import time
import threading
def consumer(cond):
t = threading.currentThread()
with cond:
cond.wait()
# wait()方法创建了一个名为waiter的锁，并且设置锁的状态为locked。这个waiter锁用于线程间的通讯
print
'{}: Resource is available to consumer'.format(t.name)
def producer(cond):
t = threading.currentThread()
with cond:
print
'{}: Making resource available'.format(t.name)
cond.notifyAll()
# 释放waiter锁，唤醒消费者
condition = threading.Condition()
c1 = threading.Thread(name=
'c1', target=consumer, args=(condition,))
c2 = threading.Thread(name=
'c2', target=consumer, args=(condition,))
p = threading.Thread(name=
'p', target=producer, args=(condition,))
c1.start()
time.sleep(
1)
c2.start()
time.sleep(
1)
p.start()
|
执行一下：
|
1
2
3
4
|
❯ python condition.py
p: Making resource available
c2: Resource is available to consumer
c1: Resource is available to consumer
|
可以看到生产者发送通知之后，消费者都收到了。
5. Event
一个线程发送/传递事件，另外的线程等待事件的触发。我们同样的用「生产者/消费者」模型的例子:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
|
# coding=utf-8
import time
import threading
from random
import randint
TIMEOUT =
2
def consumer(event, l):
t = threading.currentThread()
while
1:
event_is_set = event.wait(TIMEOUT)
if event_is_set:
try:
integer = l.pop()
print
'{} popped from list by {}'.format(integer, t.name)
event.clear()
# 重置事件状态
except IndexError:
# 为了让刚启动时容错
pass
def producer(event, l):
t = threading.currentThread()
while
1:
integer = randint(
10,
100)
l.append(integer)
print
'{} appended to list by {}'.format(integer, t.name)
event.set()
# 设置事件
time.sleep(
1)
event = threading.Event()
l = []
threads = []
for name
in (
'consumer1',
'consumer2'):
t = threading.Thread(name=name, target=consumer, args=(event, l))
t.start()
threads.append(t)
p = threading.Thread(name=
'producer1', target=producer, args=(event, l))
p.start()
threads.append(p)
for t
in threads:
t.join()
|
执行的效果是这样的：
|
1
2
3
4
5
6
7
8
9
10
11
12
|
77 appended to list by producer1
77 popped from list by consumer1
46 appended to list by producer1
46 popped from list by consumer2
43 appended to list by producer1
43 popped from list by consumer2
37 appended to list by producer1
37 popped from list by consumer2
33 appended to list by producer1
33 popped from list by consumer2
57 appended to list by producer1
57 popped from list by consumer1
|
可以看到事件被2个消费者比较平均的接收并处理了。如果使用了wait方法，线程就会等待我们设置事件，这也有助于保证任务的完成。
6. Queue
队列在并发开发中最常用的。我们借助「生产者/消费者」模式来理解：生产者把生产的「消息」放入队列，消费者从这个队列中对去对应的消息执行。
大家主要关心如下4个方法就好了：
- put: 向队列中添加一个项。
- get: 从队列中删除并返回一个项。
- task_done: 当某一项任务完成时调用。
- join: 阻塞直到所有的项目都被处理完。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
|
# coding=utf-8
import time
import threading
from random
import random
from Queue
import Queue
q = Queue()
def double(n):
return n *
2
def producer():
while
1:
wt = random()
time.sleep(wt)
q.put((double, wt))
def consumer():
while
1:
task, arg = q.get()
print arg, task(arg)
q.task_done()
for target
in(producer, consumer):
t = threading.Thread(target=target)
t.start()
|
这就是最简化的队列架构。
Queue模块还自带了PriorityQueue（带有优先级）和LifoQueue（后进先出）2种特殊队列。我们这里展示下线程安全的优先级队列的用法，
PriorityQueue要求我们put的数据的格式是(priority_number, data)，我们看看下面的例子：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
|
import time
import threading
from random
import randint
from Queue
import PriorityQueue
q = PriorityQueue()
def double(n):
return n *
2
def producer():
count =
0
while
1:
if count >
5:
break
pri = randint(
0,
100)
print
'put :{}'.format(pri)
q.put((pri, double, pri))
# (priority, func, args)
count +=
1
def consumer():
while
1:
if q.empty():
break
pri, task, arg = q.get()
print
'[PRI:{}] {} * 2 = {}'.format(pri, arg, task(arg))
q.task_done()
time.sleep(
0.1)
t = threading.Thread(target=producer)
t.start()
time.sleep(
1)
t = threading.Thread(target=consumer)
t.start()
|
其中消费者是故意让它执行的比生产者慢很多，为了节省篇幅，只随机产生5次随机结果。我们看下执行的效果：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
❯ python priority_queue.py
put :84
put :86
put :16
put :93
put :14
put :93
[PRI:14] 14 * 2 = 28
[PRI:16] 16 * 2 = 32
[PRI:84] 84 * 2 = 168
[PRI:86] 86 * 2 = 172
[PRI:93] 93 * 2 = 186
[PRI:93] 93 * 2 = 186
|
可以看到put时的数字是随机的，但是get的时候先从优先级更高（数字小表示优先级高）开始获取的。
线程池
面向对象开发中，大家知道创建和销毁对象是很费时间的，因为创建一个对象要获取内存资源或者其它更多资源。无节制的创建和销毁线程是一种极大的浪费。那我们可不可以把执行完任务的线程不销毁而重复利用呢？仿佛就是把这些线程放进一个池子，一方面我们可以控制同时工作的线程数量，一方面也避免了创建和销毁产生的开销。
线程池在标准库中其实是有体现的，只是在官方文章中基本没有被提及：
|
1
2
3
4
|
In :
from multiprocessing.pool
import ThreadPool
In : pool = ThreadPool(
5)
In : pool.map(
lambda x: x**
2, range(
5))
Out: [
0,
1,
4,
9,
16]
|
当然我们也可以自己实现一个：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
|
# coding=utf-8
import time
import threading
from random
import random
from Queue
import Queue
def double(n):
return n *
2
class Worker(threading.Thread):
def __init__(self, queue):
super(Worker, self).__init__()
self._q = queue
self.daemon =
True
self.start()
def run(self):
while
1:
f, args, kwargs = self._q.get()
try:
print
'USE: {}'.format(self.name)
# 线程名字
print f(*args, **kwargs)
except Exception
as e:
print e
self._q.task_done()
class ThreadPool(object):
def __init__(self, num_t=5):
self._q = Queue(num_t)
# Create Worker Thread
for _
in range(num_t):
Worker(self._q)
def add_task(self, f, *args, **kwargs):
self._q.put((f, args, kwargs))
def wait_complete(self):
self._q.join()
pool = ThreadPool()
for _
in range(
8):
wt = random()
pool.add_task(double, wt)
time.sleep(wt)
pool.wait_complete()
|
执行一下:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
USE: Thread
-1
1.58762376489
USE: Thread
-2
0.0652918738849
USE: Thread
-3
0.997407997138
USE: Thread
-4
1.69333900685
USE: Thread
-5
0.726900613676
USE: Thread
-1
1.69110052253
USE: Thread
-2
1.89039743989
USE: Thread
-3
0.96281118122
|
线程池会保证同时提供5个线程工作，但是我们有8个待完成的任务，可以看到线程按顺序被循环利用了。
原文链接：http://www.dongwm.com/archives/使用Python进行并发编程-线程篇/