Python 代码性能优化技巧

 
Python 代码性能优化技巧
 

Python 代码优化常见技巧

代码优化能够让程序运行更快,它是在不改变程序运行结果的情况下使得程序的运行效率更高,根据 80/20 原则,实现程序的重构、优化、扩展以及文档相关的事情通常需要消耗 80% 的工作量。优化通常包含两方面的内容:减小代码的体积,提高代码的运行效率。

改进算法,选择合适的数据结构

一个良好的算法能够对性能起到关键作用,因此性能改进的首要点是对算法的改进。在算法的时间复杂度排序上依次是:

   O(1) -> O(lg n) -> O(n lg n) -> O(n^2) -> O(n^3) -> O(n^k) -> O(k^n) -> O(n!)

因此如果能够在时间复杂度上对算法进行一定的改进,对性能的提高不言而喻。但对具体算法的改进不属于本文讨论的范围,读者可以自行参考这方面资料。下面的内容将集中讨论数据结构的选择。

1. 字典 (dictionary) 与列表 (list)

Python 字典中使用了 hash table,因此查找操作的复杂度为 O(1),而 list 实际是个数组,在 list 中,查找需要遍历整个 list,其复杂度为 O(n),因此对成员的查找访问等操作字典要比 list 更快。


清单 1. 代码 dict.py

from time import time  
 t = time()  
 list = ['a','b','is','python','jason','hello','hill','with','phone','test',  
'dfdf','apple','pddf','ind','basic','none','baecr','var','bana','dd','wrd']  
 #list = dict.fromkeys(list,True)  
 print list
 filter = []  
 for i in range (1000000):  
     for find in ['is','hat','new','list','old','.']:  
         if find not in list:  
             filter.append(find)  
 print "total run time:"
 print time()-t

上述代码运行大概需要 16.09seconds。如果去掉行 #list = dict.fromkeys(list,True) 的注释,将 list 转换为字典之后再运行,时间大约为 8.375 seconds,效率大概提高了一半。因此在需要多数据成员进行频繁的查找或者访问的时候,使用 dict 而不是 list 是一个较好的选择。

2. 集合 (set) 与列表 (list)

set 的 union, intersection,difference 操作要比 list 的迭代要快。因此如果涉及到求 list 交集,并集或者差的问题可以转换为 set 来操作。


清单 2. 求 list 的交集:

from time import time  
t = time()  
lista=[1,2,3,4,5,6,7,8,9,13,34,53,42,44]  
listb=[2,4,6,9,23]  
intersection=[]  
for i in range (1000000):  
    for a in lista:  
        for b in listb:  
            if a == b:  
                intersection.append(a)  
   
   
print "total run time:"
print time()-t

上述程序的运行时间大概为:

total run time:  
38.4070000648

清单 3. 使用 set 求交集

from time import time  
t = time()  
lista=[1,2,3,4,5,6,7,8,9,13,34,53,42,44]  
listb=[2,4,6,9,23]  
intersection=[]  
for i in range (1000000):  
    list(set(lista)&set(listb))  
print "total run time:"
print time()-t

改为 set 后程序的运行时间缩减为 8.75,提高了 4 倍多,运行时间大大缩短。读者可以自行使用表 1 其他的操作进行测试。

对循环的优化

对循环的优化所遵循的原则是尽量减少循环过程中的计算量,有多重循环的尽量将内层的计算提到上一层。 下面通过实例来对比循环优化后所带来的性能的提高。程序清单 4 中,如果不进行循环优化,其大概的运行时间约为 132.375。


清单 4. 为进行循环优化前

from time import time  
t = time()  
lista = [1,2,3,4,5,6,7,8,9,10]  
listb =[0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,0.01]  
for i in range (1000000):  
    for a in range(len(lista)):  
        for b in range(len(listb)):  
            x=lista[a]+listb[b]  
print "total run time:"
print time()-t

现在进行如下优化,将长度计算提到循环外,range 用 xrange 代替,同时将第三层的计算 lista[a] 提到循环的第二层。


清单 5. 循环优化后

from time import time  
t = time()  
lista = [1,2,3,4,5,6,7,8,9,10]  
listb =[0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,0.01]  
len1=len(lista)  
len2=len(listb)  
for i in xrange (1000000):  
    for a in xrange(len1):  
        temp=lista[a]  
        for b in xrange(len2):  
            x=temp+listb[b]  
print "total run time:"
print time()-t

上述优化后的程序其运行时间缩短为 102.171999931。在清单 4 中 lista[a] 被计算的次数为 1000000*10*10,而在优化后的代码中被计算的次数为 1000000*10,计算次数大幅度缩短,因此性能有所提升。

充分利用 Lazy if-evaluation 的特性

python 中条件表达式是 lazy evaluation 的,也就是说如果存在条件表达式 if x and y,在 x 为 false 的情况下 y 表达式的值将不再计算。因此可以利用该特性在一定程度上提高程序效率。


清单 6. 利用 Lazy if-evaluation 的特性

from time import time  
t = time()  
abbreviations = ['cf.', 'e.g.', 'ex.', 'etc.', 'fig.', 'i.e.', 'Mr.', 'vs.']  
for i in range (1000000):  
    for w in ('Mr.', 'Hat', 'is', 'chasing', 'the', 'black', 'cat', '.'):  
        if w in abbreviations:  
        #if w[-1] == '.' and w in abbreviations:  
            pass
print "total run time:"
print time()-t

在未进行优化之前程序的运行时间大概为 8.84,如果使用注释行代替第一个 if,运行的时间大概为 6.17。

字符串的优化

python 中的字符串对象是不可改变的,因此对任何字符串的操作如拼接,修改等都将产生一个新的字符串对象,而不是基于原字符串,因此这种持续的 copy 会在一定程度上影响 python 的性能。对字符串的优化也是改善性能的一个重要的方面,特别是在处理文本较多的情况下。字符串的优化主要集中在以下几个方面:

你可能感兴趣的:(Python 代码性能优化技巧)