为什么80%的码农都做不了架构师?>>>
不知觉python总结都有四十页了,虽然可能很多都是基础性的,仍然有成就感。
和之前一样,仍然全部贴出来,而不是把新的贴出来,请谅解。
这次新增的部分包括c扩展,排序,ftp,源码安全,性能,代码检查等。
后面在python上努力的几个方向:
1、继续在开发中多使用,积累开发经验。
2、针对我们公司完善基础库,在我们公司推广。
3、抽时间,系统学习一下python。
4、学习一下高手在怎么使用python。毕竟我是自学。
5、参与开源。
如果你想下载这个文档,请点击这里:http://download.csdn.net/detail/chgaowei/4324981
两本不错的书:
《Python参考手册》:对Python各个标准模块,特性介绍的比较详细。
《Python核心编程》:介绍的比较深入,关键是,对Python很多高级特性都有介绍。
一个开源代码:openstack,关于云计算的,用Python写的,可以重点学习一下。
套接字编程:
1、 函数的功能基本和c类似,唯一不同的地方在于当发生错误时,它不是通过返回值来告知的,而是通过触发异常,所以udp中的bind, recvfrom, sendto必须要进行捕捉异常。
2、 套接字在垃圾收集的时候也会关闭。
3、 获取网卡的IP:
s = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
return socket.inet_ntoa(fcntl.ioctl(s.fileno(), 0X8915, struct.pack('256s', ethname[:15]))[20:24])
字符串的使用:
1、 Python的字符串是不可以改变的。但是你可以操作字符串以形成新的字符串。
2、 字符串中删除一个字串。没有直接提供这个方法,但是replace可以实现:
"abc def".replace(" ", "")
同样的功能还有一个方法:translate。它的原有作用是将字符串中的某个字符替换为另外一个字符,注意,不是字符串。它的第一个参数是一个转换表。第二个参数是要删除的字符串。我们可以利用第二个参数del,实现这个功能。同时,第一个参数设置为None。
translate可能更高效一点。另外,它的第二个参数可以使一个字符串,含有多个字符,这样就会删除多个。
注意:translate方法不会对这个字符串操作,而是返回一个新的字符串。
3、 strip方法:去除字符串两侧的空格,返回新的字符串。这个功能非常有用。
4、 str中有一个函数,format,非常强大,有时间一定要看一下。
5、 endswitch:检查字符串是否已某字符串结尾。startswith:检查是否已某字符串开头。
6、 partition:它将字符串按指定的字符串分为三个部分,返回一个元组。第一个是指定字符串前面内容,第二个是指定字符串,第三个是指定字符串后面的内容。用于字符串解析非常好用。
7、 split:将字符串按照某指定字符串分割成多个子字符串,返回一个分割后的列表。
8、 join:将一个字符串列表中的各个字符串连接起来,中间插入指定的字符串。
9、 find的返回值不是false和true,所以不可以直接用于if判断。需要判断if s.find(‘’) >= 0:
10、 基于字典的格式化:
a) sh = '''
b) python -m compileall -fl ../src;
c) python -m compileall -fl ../src/micbase;
d) mkdir %(packname)s;
e) mdkir %(packname)s;
f) ''' % {'packname':sys.argv[1], }
g) print(sh)
h)
内建函数:
string.capitalize() |
把字符串的第一个字符大写 |
string.center(width) |
返回一个原字符串居中,并使用空格填充至长度 width 的新串 |
string.count(str, beg=0, end=len(string)) |
返回 str 在 string 里面出现的次数,如果 beg 或者 end 指返回指定范围内 str 出现的次数 |
string.decode(encoding='UTF-8', errors='strict') |
以 encoding 指定的编码格式解码 string,如果出错默认报ValueError 的异常,除非 errors 指定的是'ignore'或'replace' |
string.encode(encoding='UTF-8', errors='strict') |
以 encoding 指定的编码格式编码 string,如果出错默认报ValueError的异常, 除非errors指定的是'ignore'或者'repl |
string.endswith(obj, beg=0, end=len(string)) |
检查字符串是否以 obj 结束,如果 beg 或者 end 指定则检定的范围内是否以 obj 结束, 如果是, 返回True,否则返回Fa |
string.expandtabs(tabsize=8) |
把字符串 string 中的 tab 符号转为空格, 默认格数 tabsize 是 8. |
string.find(str, beg=0, end=len(string)) |
检测 str 是否包含在 string 中,如果 beg 和 end 指定范则检查是否包含在指定范围内,如果是返回开始的索引值,返回-1 |
string.index(str, beg=0, end=len(string)) |
跟find()方法一样, 只不过如果str不在string中会报一个异 |
string.isalnum() |
a, b, c R如果string至少有一个字符并且所有字符都是字母或数字回 True,否则返回 False |
string.isalpha() |
a, b, c 如果string至少有一个字符并且所有字符都是字母则返回T否则返回 False |
string.isdecimal() |
b, c, d 如果 string 只包含十进制数字则返回 True 否则返回 False. |
string.isdigit() |
b, c 如果 string 只包含数字则返回 True 否则返回 False. |
string.islower() |
b, c 如果 string 中包含至少一个区分大小写的字符,并且所有这些(大小写的)字符都是小写,则返回 True,否则返回 False |
string.isnumeric() |
b, c, d 如果 string 中只包含数字字符,则返回 True,否则返回 False |
string.isspace() |
b, c 如果 string 中只包含空格,则返回 True,否则返回 False. |
string.istitle() |
b, c 如果 string 是标题化的(见 title())则返回 True,否则返回 False |
string.isupper() |
b, c 如果 string 中包含至少一个区分大小写的字符, 并且所有这些(区分大小写的)字符都是大写,则返回 True,否则返回 False |
string.join(seq) |
Merges (concatenates)以 string 作为分隔符,将 seq 中所有的元素(的字符串表示)合并为一个新的字符串 |
string.ljust(width) |
返回一个原字符串左对齐,并使用空格填充至长度 width 的新字符串 |
string.lower() |
转换 string 中所有大写字符为小写. |
string.lstrip() |
截掉 string 左边的空格 |
string.partition(str) |
e 有点像 find()和 split()的结合体,从 str 出现的第一个位置起,把 字 符 串 string 分 成 一 个 3 元 素 的 元 组 (string_pre_str,str,string_post_str),如果 string 中不包含str 则 string_pre_str == string. |
string.replace(str1, str2, num=string.count(str1)) |
把 string 中的 str1 替换成 str2,如果 num 指定, 则替换不超过 num 次. |
string.rfind(str, beg=0,end=len(string)) |
类似于 find()函数,不过是从右边开始查找. |
string.rindex( str, beg=0,end=len(string)) |
类似于 index(), 不过是从右边开始. |
string.rjust(width) |
返回一个原字符串右对齐,并使用空格填充至长度 width 的新字符串 |
string.rpartition(str) |
e 类似于 partition()函数,不过是从右边开始查找. |
string.rstrip() |
删除 string 字符串末尾的空格. |
string.split(str="", num=string.count(str)) |
以 str 为分隔符切片 string,如果 num有指定值,则仅分隔 num 个子字符串 |
string.splitlines(num=string.count('\n')) |
b, c按照行分隔, 返回一个包含各行作为元素的列表, 如果 num 指定则仅切片 num 个行. |
string.startswith(obj, beg=0,end=len(string)) |
b, e检查字符串是否是以 obj 开头,是则返回 True,否则返回 False。如果beg 和 end 指定值,则在指定范围内检查. |
string.strip([obj]) |
在 string 上执行 lstrip()和 rstrip() |
string.swapcase() |
翻转 string 中的大小写 |
string.title() |
b, c 返回"标题化"的 string,就是说所有单词都是以大写开始,其余字母均为小写(见 istitle()) |
string.translate(str, del="") |
根据str给出的表(包含256个字符)转换string的字符,要过滤掉的字符放到 del 参数中 |
string.upper() |
转换 string 中的小写字母为大写 |
string.zfill(width) |
返回长度为 width 的字符串,原字符串 string 右对齐,前面填充0 |
正则表达式
1、 为什么要学习正则:主要是为了处理字符串更加方便,特别是为后面进行代码生成做储备。
2、 match是匹配字符串的开头是否匹配,而search是查看字符串任意起始位置是否满足。
3、 sub可以对字符串中模式匹配的部分进行替换
4、 split:可以对字符串进行分割,这里是根据模式分割。
函数的使用:
1、 函数的作用域:函数中定义一个变量,如果和全局变量重名,则全局变量名称就会被覆盖,也就是,这里对这个变量的更改,不会更改全局变量。但是,如果直接使用的话,是会使用全局变量的。同时,如果想要修改全局变量,需要制定是全局变量:global a
2、 xrange用法和range一样,不过更为高效,因为他不会在内存中创建列表。所以,它只能用于循环。
3、 如果函数没有return语句,则他的返回值为None。
4、 关于函数的入参判断:如果如此为空,可能会发生异常。当异常发生后,可能会出现一种情况,一个事情做到了一半,就没有在进行下去,可能会造成内存泄露。这个问题如何解决?按照C的方式,每个入参都做判断是可以解决的,但是这样太麻烦了。而且看很多开源代码页没有这样来做。是不是有更好的方法?换一种思路,在调用之前确保不为空。在看看开源的代码是怎么做的。特别是openstack。
5、 可变入参:*args, **kwargs表示可变入参。
def funtest(a, b, c):
print(a, b, c)
def fun2(*args, **kwargs):
funtest(*args, **kwargs)
fun2(1,2,3)
也可以这样定义:
fun2(a, *args, **kwargs)
如何从可变参数中解析出参数的值?
在fun2中添加打印:可以发现,其实args是一个元组,kwargs是一个字典。
分析:调用fun2(1,2,3),会把a赋值给a,2赋值给元组args,{‘c’=3}赋值给kwargs.
args和kwargs的顺序不可颠倒。
args和kwargs可能同时都有值。这样,要获取指定的入参,首先根据看args中有没有,然后根据字符串看kwargs中是否存在。
如何建一个元组或者字典通过参数传递给一个函数?
def funtest(a, b, c):
print(a, b, c)
d = {'a':1, 'b':2,'c':3}
l = (1,2,3)
funtest(*l)
funtest(**d)
*和**在Python中可以实现这个功能。这样会很灵活的。
*和**也可以单独出现。但是,如果同时出现,*必须在**之前。
6、 默认参数或者可选参数,参数顺序:调用时,可以指定默认参数中填充那个。
def funtest(a, b=1, c=2):
print(a, b, c)
funtest(1, c=5, b=6)
其实,即便定义为:def funtest(a, b, c),也可以通过funtest(1, c=5, b=6)的形式调用。
7、 参数组:*args, **kwargs就是参数组,通过元组和字典将产生携带进来。这个特性有助于更为动态的代码生成。
8、 可变长度参数:
9、 函数的参数中如果有一个是元组,可以这样:
def fun(a, (b, c)):
print(a, b, c)
fun(1, (1,2))
10、 关于回调,可以使用闭包,生成器,以及对象的__call__属性。都可以封装状态。
闭包的使用:
1、 将组成函数的语句和语句的执行环境打包在一起形成的对象,成为闭包。
2、 2.7之前的闭包不支持关键字nonlocal。3.0之后才支持。所以2.7前的闭包不可以使用nonlocal。
3、 这样他就不可以对执行环境中的变量进行更改。
字典的使用:
1、 字典的删除:直接使用del dict[k]可能会引发异常;首先判断k是否存在则效率有些低;使用异常使程序结构看起来不好。一个好的方法是pop(k, default v)。这个删除一个k项,并且返回。如果不存在返回默认的v。如果不加默认值,则会引发异常。
2、 直接使用字典下标获取字典的值可能会引发一场。使用get方法则不会,如果不存在会返回none。另外,还可以设置不存在的默认值。
3、 通过字典格式化字符串:print “value is %(key)s” % kvdict
4、 items方法返回一个列表,列表中的元素是一个元组,第一个是key,第二个是value。比较好用的方法。
5、 iteritems:返回的是一个迭代器。如果想要迭代这个字典,iteritems会比items更高效一点。
6、 iterkeys则返回的是key的迭代器。keys返回的是key的list。
7、 values返回值的列表,itervalues返回的是vlaue的迭代器
8、 popitem会随机弹出(同时删除)一个项,则对于想要处理所有的元素,并且删除所有的元素是有帮助的。但是,如果没用元素的话,会抛出异常。
9、 viewitems,viewkeys,viewvalues:这三个函数返回的是一个view对象。这个类似于视图。分别表示(key, value)pair的列表,key的列表,value的列表。一个优点是,如果字典发生变化,view会同步发生变化。在迭代过程中,字典不允许改变,否则会报异常。
10、 字典的键值比较规则:如果是内置类型(int,str,tuple),则是以他们的值作为键值;如果是自定义对象,则是以对象的地址作为键值。——这一点没有完全证实。——最新的发现:对象的比较,内置类型,是因为他们都重写了默认的object的__eq__等方法,所以可以比较内容。自定义对象,没有重写,所以,他们的比较可能会不一样。object默认的比较是什么?目前还不明确,后面再补充吧。可能就是地址(或者对象的唯一标识),而不是对象的内容。涉及到字典,它不是使用的单纯的比较,而是使用的__hash__,它返回的是一个hash值,字典就是根据这个hash只来散布对象的。
列表的使用:
1、 列表的删除:不可以在遍历的过程中删除链表,这样会得到不可预知的后果。可以使用列表的过滤,来获得新的列表。
2、 列表的过滤:
def filterFun(node):#这个函数做了两个事情哎。
node.cycleCount = node.cycleCount - 1
return node.cycleCount < 0
timeoutList = filter(filterFun, timerList)
对timerList中的每个节点执行函数filterFun,根据filterFun返回的结果,为真的项组成一个新的列表。
3、 map: kvlist = map(lambda x:x.strip(), kvlist)。同时,map可以接受多个列表,这个时候,函数也会接受多个参数,分别表示列表的每一个元素:
kvlist = map(lambda x,y:x+y, [1,2,3], [4,5,6])
如果函数为None,则相当于函数zip:
zip([1,2,3], [4,5,6])
[(1,4),(2,5),(3,6)]
4、 生成器表达式:l = [node for node in xrange(5) if node - 3 < 0]:这个的这个方法一定程度上可以替代过滤器和map。
生成器表达式定义:
[expr for iter_var in iterable if cond_expr]
l = [2 for x in xrange(5)]#结果是生成一个含有5个2的列表
5、 print(reduce(lambda x,y: x*y, [2 for x in xrange(38)]))
上面的这个语句是计算2的38次方的值。它用到的是二元函数reduce。它第一次调用是将第一个和第二个元素做入参,后面用他们的结果做x,新的元素做y,最后返回值。
另外,在获取一个38个2的列表也可以使用:[2] * 38。这可能更可读一点。
6、 enumerate:对列表处理,返回的是列表的索引以及节点。
for index, node in enumerate(timerList):
if timerId == node.timerId and timerEvent == node.timerEvent:
del timerList[index]
7、 列表的分片:[1,2,3,4],l[1:-1]表示从索引从1到倒数第一个,不包含倒数第一个。如果要从某位置到最后,则应该:[1:]
8、 l[i:j:k]:表示切片,从i到j,步长为k。
9、 l[i:j]:表示从i到j,不包括索引j。
排序
1、 list自己提供了排序的函数:sort。
2、 sort的参数:
a) cmp是一个比较函数,输入两个元素,比较大小,返回值为-1,0,1.
b) key也是一个函数,入参为一个元素,返回这个元素的关键字。
c) reverse是一个标志位,表示升序还是降序。默认False是升序,True表示降序。
3、使用key和reverse的性能,优于cmp函数。时间是cmp函数的一半。
迭代的使用:
1、 迭代比直接使用列表遍历效率根据高。比如字典的keys函数返回的列表,以及iterkeys返回的迭代器。
2、 reversed() 内建函数将返回一个反序访问的迭代器.参数必须为序列。
3、 enumerate:返回一个迭代器:有索引值。
4、 for eachLine in myFile 替 换 for eachLine in myFile.readlines() :
5、 注意:在迭代的过程中不可以更改序列,否则会引发问题,导致迭代出错。
6、 可以自己定义一个类,可以迭代使用。不过需要定义方法:__iter__,next。
7、 filter(function, iterable):可以对迭代使用过滤器。
生成器的使用:
1、 yield关键字可以阻塞住函数的执行,并且保存当前的执行环境,整个包被称为生成器。
2、 生成器可以通过调用生成器函数来创建。生成器函数是指包含关键字yield的函数。
3、 生成器可以通过.next()来执行。每调用一次,就执行代码,直到遇到yield关键字停止,并且返回yield关键字后面的表达式的值。
4、 可以通过调用send()函数来发送消息到生成器中。a = yield l:表示将send的入参赋值给a。
5、 throw:允许客户端传入要抛出的任何异常。
6、 和throw相同,只不过是要抛出一个特定的异常:GeneratorExit。
7、 send只接受一个参数,但是可以通过传递元组的方式传递多个参数。
8、 类的方法也可以返回生成器,因为他本质上就是一个函数。
9、 在生成器使用的时候,如何获取它自身的send和nex函数?通过send二次传入是有些风险的,非常可能造成交叉引用,无法垃圾回收造成内存泄露。
10、 第一次,必须调用next来启动生成器。
装饰器的使用:
1、 装饰器本质上来说就是函数(或者是可调用对象),他们接受函数对象。装饰器仅仅用来装饰或者修饰函数的包装,返回一个修改后的函数对象,并将其赋值原来的标示符,并永久失去对原有函数的访问。
2、 什么是带参数的装饰器?其实就是一个函数,这个函数可以返回一个装饰器,同时这个函数可以接受参数。
3、 不带参数的装饰器要返回一个函数,这个函数就是用来替换原有的标示符的。
def decofun(fun):
def _mydeco(*args, **kwargs):
print('before fun!')
ret = fun(*args, **kwargs)
print('after fun', ret)
return ret
return _mydeco#新的函数,用于替换原有标示符
@decofun
def funtest():#funtest被替换为decofun
print('now in funtest!')
return 1
funtest()
4、 装饰器是可以重叠的,那么他们的顺序怎么样:
a) @decofun2
b) @decofun
c) def funtest():
d) print('now in funtest!')
e) return 1
f) 原理是,funtest首先被decofun包装,然后再被decofun2包装。也就是,调用的时候,首先调用的是最上面的装饰器(也就是decofun2)的函数前面部分,然后再调用decofun的函数前面部分,之后再调用funtest。funtest返回后,首先调用的是decofun的函数后面部分,再调用decofun2后面部分。类似于一个栈的结构。
5、 装饰器不要滥用。如果一个装饰器只用了一次,要考虑他存在的必要了。
6、 携带参数的装饰器:
7、 def decoarg(arg):
a) def decofun3(fun):
b) def _mydeco(*args, **kwargs):
c) print('decoarg before fun!', arg)
d) ret = fun(*args, **kwargs)
e) print('decoarg after fun', ret)
f) return ret
g) return _mydeco
h) return decofun3
8、 装饰器用到的一个最重要的技术,就是闭包。装饰器函数返回的其实就是一个闭包。
9、 装饰器也可以修饰类的__方法:
class testc:
def __init__(self):
self.i = 1
@decoarg(1)
@decofun2
@decofun
def __call__(self):
print('i is %d' % self.i)
注意:装饰器修饰类方法是无法被子类继承的(或者说子类的方法是没有被修饰的)。因为他本质上就是一个函数。
10、 装饰器也可以使对象,比如:
a) class obj:
b) def __init__(self, fun):
c) self.fun = fun
d)
e) def __call__(self, *args, **kwargs):
f) print('decofun before fun!', args, kwargs)
g) ret = self.fun(*args, **kwargs)
h) print('decofun after fun', ret)
i) return ret
j) @objdeco
k) def funtest(a, b=2):
l) print('funtest1 a , b =', a, b)
a) 这种方法看起来复杂了,但是可能会在有时候会比较有用。
11、 装饰器可以修饰类。这个时候装饰器接收的是一个类名,而返回的也是这个类名。它可以为这个类添加一些属性或者进行一些操作。
协程的使用:
1、 协程(coroutine)是一个可以挂起,回复,并且有多个进入点的函数。
2、
XML的使用:
1、 处理xml消息包比较好用的模块是xml.etree.ElementTree。
2、 Element执行xml的根节点。
3、 elem.find(path):查找根节点下面路径为path的子节点。
4、 elem.findall(path):同样的子节点可能有多个,这里会返回一个列表。
5、 elem.findtext(path):获取指定路径子节点的内容,这个我们会经常使用。
6、 elem.get(key);获取属性的值。
7、 上面如果没用,则返回none
8、 elem.append:添加自节点。
9、 elem.tag:返回tag值,也就是name。
10、 elem.text:返回内容。
11、 elem.attrib:返回属性的字典。
12、 SubElement:生成一个节点,自动添加为父节点的子节点。
13、 tostring:转化为xml文本字符串。但是不包括xml头。如果编码方式为UTF-8或者GB2312,gb2312都会产生xml头;如果是utf-8,则不会产生xml头
14、 fromstring:从字符串转化为ElementTree对象。和XML同样的功能。
15、 elem.set();设置属性值
time的使用:
1、 time.sleep()函数函数具有c下sleep函数功能,单位为秒,但是可以接受浮点数。这样可以表示毫秒。
2、 ti = datetime.datetime.now()可以显示当前的时间,包括当前的微秒也可以显示出来。两个的差值可以表示时间 的间隔:microsecondLong = timeLong.seconds * 1000000 + timeLong.microseconds。差值的成员是seconds和microseconds
3、
OO的使用:
1、 如果不想让成员变量或者方法被外部使用(也就是private特性),可以以__双下划线开通。
2、 属性不但可以定义在init中,也可以定义在任意的方法中通过self定义。不过最好在init中定义。
3、 Python也可以实现抽象基类,也就是接口
5、 __call__(魔法方法)可以将对象作为函数来调用。给它一个入参就可以。:4、 __str__属性可以将对象转换为字符串,也就是调用print(object)是会打印的字符串。
def __call__(self, protoVer):
return api.protoModules[protoVer].TimeTicks(
(time.time()-self.birthday)*100
)
它的作用:比较常用的是作为回调,因为他可以保存状态信息。它和闭包类似,可能比闭包的可读性要好一点。
6、 对象实例是否可以删除?
7、 Python参考手册要好好看一下。
8、 python的static方法使用的是装饰器语法:@staticmethod.
9、 对类的调用还有一个方法:CALSS.method(object)。
10、 子类中,如果想调用父类的方法,可以通过:
parent.method(self).
不过还有更好的方法:
super(child, self).foo()//注意:这里是根据子类的类型获取父类的方法。它的好处是不用明显给出基类的类型。
11、 cls:类方法的第一个参数。通常表示类的类型,可以通过cls()来生成实例。
a) @classmethod
b) def spawn(cls, *args, **kwargs):
c) """Return a new :class:`Greenlet` object, scheduled to start.
d)
e) The arguments are passed to :meth:`Greenlet.__init__`.
f) """
g) g = cls(*args, **kwargs)
h) g.start()
i) return g
12、 继承,如果子类定义了__init__函数,子类的init函数不会默认调用父类的init函数,需要手动调用:parent.__init__。这一点是和c++有区别的。如果子类没有定义__init__,则子类会调用父类的__init__。这里可以发现,其实,子类如果定义了init函数,是对父类的init的一个覆盖。
13、 super注意:!!!它只能用在新式的类定义中。什么是新式的?原来只是基类定义时继承object!!!。
14、 继承如何继承方法:只要继承一个类,就会继承这个类所有的方法,包括__init__,__del__。但是如果子类重写某方法,就会覆盖父类的方法,不会再调用父类的方法了。如果想调用父类的方法,可以通过super的方式调用。
15、 继承如何继承属性:只要不覆盖父类__init__方法,或者调用了父类的__init__方法,就会继承父类__init__属性的方法。继承后也可以更改这些属性。
16、 父类如何防止被继承:方法或者属性以__开头,则可以防止被继承。
17、 根据我的经验,其实可以以一种本质的方式理解Python的继承:Python的类就是一些方法的集合,继承一个类就是继承这个类的所有的方法。如果在子类中定义一个方法,其实是更改了这个类的符号。而属性,则可以在所有的方法中定义,只要调用了定义属性的方法,调用父类,则是继承父类的属性,调用子类定义属性的方法,则是定义子类的方法。
18、 property:
a) class c(object):
b) def __init__(self):
c) self._num = 1
d) @property
e) def num(self):
f) return self._num * 10
g) @num.setter
h) def num(self, v):
i) self._num = v
j) @num.deleter
k) def num(self):
l) pass
m) o = c()
n) print(o.num)
o) o.num = 20
p) print(o.num)
q) 这样的好处是,可以在操作属性时,不用显示为方法调用,更加可读。同时又可以统一入口。:注意,它也必须继承object才可以。
19、 OO中的垃圾回收:Python的垃圾回收使用的是符号引用计数。那么,如果在一个函数中申请一个对象,然后返回它的一个属性或者方法,这个时候对象的符号引用已经去掉,对象是否会释放?
a) class child(parent):
b) def __init__(self):
c) self.i = 8888
d)
e) def foo(self):
f) print('-----------------------')
g)
h) def __del__(self):
i) print('now in del child')
j) super(child, self).__del__()
第一种情况,返回的是属性
k) def refun():
l) o = child()
m) return o.i
n) I = refun()
o) 这个时候,对象o会马上释放。因为o.i其实就是一个对象的引用,和o没有关系
第二种情况,返回的是方法
a) def refun():
b) o = child()
c) return o.foo
d) foo = refun()
e) 这个时候,对象o要等到foo释放的时候再释放,因为foo中包含了o的引用(foo的入参self)
20、 对于对象的属性,如果属性是可读写的,则第一步没有必要用@property修饰。可以直接使用。后面如果有需要,在进行修饰。这样既减少了工作,修改时,也不会对原有代码进行改动。
模块的使用:
1、 如果不想将模块的某些函数和变量被别的模块使用,可以以单下划线开头。这样import *是没有的,但是使用import mode,然后mode._fun仍然可以调用。在class中是以双下划线开头的。
2、 使用from。。。import导入的符号,应该是本地符号,更改的话,无法更改模块中的值。可以通过mode.name=来修改。
3、 __init__.py的作用:可以这样理解:包也是一个对象,这个py就是这个包的构造函数。导入这个包,就会自动的执行__init__.py。如果在这个py中导入其他符号,import 这个包并且加*也会导入这个符号。
4、 import *无法导入模块中以_开头的符号。但是,不用*是可以的。
5、 import的本质也是创建一个符号,指向一个对象的引用。这个符号和被import的模块的符号是没有关系的。和c的extern不一样。extern可以更改变量的值,但是,这在Python中是不可以的。
from srctest import itest, outitest, setitest
import srctest
# itest = 9#这个地方其实改变的是本模块中符号的引用,无法更改srctest中对应符号。
#srctest.itest = 9#这个可以更改srctest中的itest
setitest(9)#这个可以更改srctest中的itest,但是改变不了当前模块的itest,也就是,这种设置是无法同步的。
print(itest)#打印当前模块的itest
printitest()#打印srctest中的itest
Python的设计哲学:看似不方便的背后,其实有Python的设计哲学。便捷性很多时候都是模块性的大敌。在软件开发中,模块间的最短路径未必是最合理路径,而且往往是最不合理路径。它会破坏软件原有的交互原则。
Python这样设计的理由应该是,尽量将数据和对数据的操作放在一起。如果数据会扩散,那么,就将数据设计为只读的。这样有助于提高程序模块的内聚性(全局变量是内聚性的大敌),降低耦合性。降低程序的复杂性(数据只读,调试根据方便)。
srctest.itest是可以改变itest的值的,说明我们可以通过改变这个对象的属性来改变对象(模块也是对象)。
可能有一点小题大做。
6、 两个模块不可以双向import。那万一两个模块都要互相调用对方怎么办?Python的设计哲学告诉你,这不是一个好的实践,所以这样不行。应该怎么弄?一个模块调用另外一个模块,如果被调用模块想调用调用模块的方法,通过回调的形式。这样可以保证,模块间的连接都是单向的。
日志的使用:
1、 日志的标准模块logging基本可以满足我的工作。
2、 设置log的初始化工作:
logging.basicConfig(
filename = "test.log",
format = "[%(asctime)s-%(levelname)s] %(message)s [%(filename)s,%(lineno)d]",
level = logging.INFO,
datefmt = "%F %T")
3、 除此之外,一个比较强大的功能就是过滤功能:可以针对级别,文件,行号等等很多的东西进行过滤。
4、
自省的使用:
1、 type()可以查看对象的类型。这就是自省。也就是可以看看自己是什么类型。这个功能在动态语言中非常有用。
2、 getattr函数:这是个非常有用的函数,它可以根据字符串,从模块,类,对象实例中获取属性和方法的应用并且调用。这个功能非常类似于c语言的函数指针,以及c++中的成员函数的指针。
1)从模块中获取函数和成员
import testfun
tf = getattr(testfun, 'test')
tstr = getattr(testfun, 'str')
2)从类中获取属性和方法
class test():
tst = 2
def __init__(self):
self.abc = 1
def method(self):
print('in test.method', self)
def __test(self):
print('in test')
tm = getattr(test, 'method’)#获取类方法method函数指针。因为没有实例,所以调用必须用下面的方法:
t = test()
tm(t)#申请一个实例,并且作为第一个参数传进去。
tm = getattr(test, '__test’)#这里会报错,也就是无法获取私有方法。
tabc = getattr(test, 'abc’)#这是错误的。无法获取。
ttst = getattr(test, 'tst’)#这是可以的。。
3)从对象实例中获取属性和方法
t = test()
tm = getattr(t, 'method')
tm()#可以这样调用,而不用传入t实例。
tabc = getattr(test, 'abc’)#可以获取实例的属性。
3、 callable:函数表示某个对象是否可以调用。它和getattr结合起来,可以获取一个对象中的所有的method列表:
methods = [method for method in dir[object] if callable(getattr(object, method))]
4、 自省也叫放射。
5、 exec(‘print “test”‘):可以执行字符串代码。这个特性有助于动态执行代码,可以用于机器学习,自动生成代码。
exec的参数可以使一个打开的文件对象,string,code object。
code object可以通过函数
类似的方法:execfile(filename[, globals[, locals]])。
6、 可以更改类的方法,将它指向一个新的方法。如下:
a) class ctest():
b) def test(self):
c) print('c test test')
d) def testfun():
e) print('test fun !')
f) c = ctest()
g) c.test = testfun
h) c.test()
对象c的方法test被替换为新的方法:testfun。这个特性有助于根据动态的代码实现,但是往往会增加代码的透明性。
类似的,setattr也可以实现这样的功能。delattr可以删除属性。
setattr(c, 'test', testfun)
delattr(c, 'test')
c.test()#这里调用的其实就是ctest的test方法。也就是说,delattr会首先删除setattr设置的属性,如果在调用一次delattr,才会删除c的test方法。但是如果多调用几次setattr,也只要调用一次delattr即可删除。所以,要删除一个方法,最多调用两次delattr。
这个特性可以用于动态更改代码。也可用于补丁。
setattr无法对Python的c扩展模块进行操作。
7、 如何判断一个变量是否存在:
‘v’ in dir()
‘v’ in locals.key()
配置文件读取的使用:
1、 使用模块ConfigParser。实例如下:
conf = ConfigParser()
conf.read("snmp_agent.ini")
print(conf.get("main", "log_level"))
print(conf.getint("main", "ne_agent_port"))
print(conf.get("main", "ne_agent_qip"))
异常的使用:
1、 尽量少用。它会使程序难以理解,而且还会发生不可预知的情况,比如异常的发生使程序的状态变为一个未知状态。
2、 可以寻找替代方案。
3、 程序非常重要,不可以停止,可以在主循环包装在异常处理中运行。
4、 打印出异常的信息,供后面的定位:log.error(traceback.format_exc())
5、 raise在引发异常的时候,可以传递引发一场的额外数据。形式如下:
raise Exception, 1
捕获方法:
except CallExit, e:
e就是那个额外数据1。(但是奇怪的是它的类型不是1)
6、 如何捕获一个异常,进行处理,然后在把它抛出:
except :
for flet in fletList:
flet.throw()
info = sys.exc_info()
raise info[0], info[1], info[2]
7、 如何使用异常才是Pythonic的做法?这个要看一下。
类型系统
1、 类型也是对象。比如:inttype = int,然后,n = inttype(‘256’),这样可以把字符串转化为int值。
2、 另外,是否可以把字符串转化为关键字,或者对象?比如,一个变量,abc,是否可以通过’abc’来引用?
OS的使用
os中有很多可以直接利用的东西,比如,判断文件是否存在,删除文件等。这样可以不用再执行shell命令。
os.rremove(path):删除文件
os.system(‘ls’);执行shell命令
文件的使用
1、 打开使用函数open,模式和linux c类似。有一个不同的地方时,可以选择,直接操作磁盘还是操作内存。
2、 readline可以读取一个文件的一行。
3、 readlines:返回每一个列的列表。对应writelines。
4、 文件迭代器:
f = open(‘fliename’)
for line in f:
process(line)
f.close()
或者更简洁的:
for line in open(filename):
process(line)
5、 文件迭代器的使用:
如果文件很大,readlines可能会占用过多的内存。所以,Python提出一种类似于惰性求值的惰性迭代。
有两种方案:fileinput和文件迭代器:
import fileinput
for line in fileinput.input(filename)
process(line)
文件迭代器:
f = open(filename)
for line in f:
process(line)
6、 如何判断文件是否存在:
import os
os.path.isfile('/home/keepshell')
os.path.exists('/home/keepshell')
7、 如何判断目录是否存在:
import os
os.path.isdir('/home')
os.path.exists('/home')
数据库的使用
1、 数据库中的字段使用的utf8格式编码,但是读取出来却是问号。这个问题的解决可以通过在查询的时候指定编码方式来解决,只要执行sql语句:Query_Execsql(pdb, "SET NAMES 'utf8'");
注意,这个需要在连接后马上进行。并且,在其他的操作中,会一直使用这种编码。除非再次更改。
2、 fetchone():返回一条记录。fetchall():返回所有的记录。
3、 可以使用一个简单的方法获取所有的记录:
cur.execute(sql)
for tel, name, pwd in cur:
print tel, name, pwd
FTP的使用
Python的标准模块ftplib就可以支持FTP。
几个函数:
FTP(host='', user='', passwd='', acct='', timeout=_GLOBAL_DEFAULT_TIMEOUT):如果参数中有user,则Connect();如果同时也有user,则login()。如果没用这些参数,后要自己调用connect和login。
connect(self, host='', port=0, timeout=-999):如果端口不是标准端口,则要手动调用connect。
login(user = '', passwd = '', acct = ''):登陆。
pwd():获得当前的工作路径。
cwd(path):更改当前的工作路径。
dir(path,cb):显示目录中的内容。cb为文件的处理函数。会传递给retrlines。这个函数可以获取一个目录下的所有的内容。
retrlines(self, cmd, callback = None):下载文本文件。cmd的形式为“RETR FILENAME”,callback是一个函数,要处理文本文件的每一个行。这里一个问题,如果直接用file的write方法,则会丢失换行符。而又没有writeline函数。
retrbinary(self, cmd, callback, blocksize=8192, rest=None):下载二进制文件,cmd的形式为“RETR FILENAME”,callback是一个函数,要处理文本文件的每一个块。默认大小事8k,但是可以更改。
storlines(self, cmd, fp, callback=None):上传文本文件。cmd的形式为“STOR FILENAME”。fp是一个文件对象,必须有readline方法。callback:每传送一行,就会调用这个函数。
storbinary(self, cmd, fp, blocksize=8192, callback=None, rest=None): 上传二进制文件。cmd的形式为“STOR FILENAME”。fp是一个文件对象,必须有read(num_bytes)方法。默认大小事8k,但是可以更改。
quit():退出。
字节的使用
1、 ord:可以见字符转化为int类型的值。
2、 chr:ord的方向操作。可以见int类型值转换为字符。
字符编码的使用
1、 encode是将Unicode转化为str,decode是将字符串转化为Unicode。所以,一个字符串要转化为另一种格式可以:
s = ‘中文’
s.decode(fromcodec).encode(tocodec)
也可以直接使用:s.encode(tocodec)。这个时候,相当于默认调用了decode,并且使用的是默认的编码方式。
源码安全
1、 Python代码如果直接发布,可能会暴露源码。
2、 一个方法是利用c扩展Python,来代替核心模块。
3、 另一个折中的方法就是对源码进行编译,生成pyc或者pyo文件。这些事字节码文件。可能会被反编译。所以,可能需要研究一下Python的pyo生成和加载方式,来生成更安全的Python字节码。网上说可以修改Python源码的opcode。没有研究过。
4、 命令:python -m compileall。
5、 也可以在Python中使用:
a) import compileall
b)
c) compileall._dir('Lib/', force=True)
d)
e) # Perform same compilation, excluding files in .svn directories.
f) import re
g) compileall._dir('Lib/', rx=re.compile('/[.]svn'), force=True)
h)
GC
1、 OO中的垃圾回收:Python的垃圾回收使用的是符号引用计数。那么,如果在一个函数中申请一个对象,然后返回它的一个属性或者方法,这个时候对象的符号引用已经去掉,对象是否会释放?
a) class child(parent):
b) def __init__(self):
c) self.i = 8888
d)
e) def foo(self):
f) print('-----------------------')
g)
h) def __del__(self):
i) print('now in del child')
j) super(child, self).__del__()
第一种情况,返回的是属性
k) def refun():
l) o = child()
m) return o.i
n) I = refun()
o) 这个时候,对象o会马上释放。因为o.i其实就是一个对象的引用,和o没有关系
第二种情况,返回的是方法
f) def refun():
g) o = child()
h) return o.foo
i) foo = refun()
j) 这个时候,对象o要等到foo释放的时候再释放,因为foo中包含了o的引用(foo的入参self)
k)
2、 如果两个对象交叉引用,是否会自动回收?不会。同样,如果一个对象把生成的对象赋值给它自身的一个属性,那么它也不会自动回收。
3、
c扩展
1、 可以使用swig来创建c 的扩展程序,非常方便。目前没有时间研究内部机制,先暂时使用,后面在研究吧。
2、 swig使用步骤:为库的头文件建立.i文件:
%{
/* Includes the header in the wrapper code */
#include "code.h"
#include "sip.h"
%}
/* Parse the header file to generate wrappers */
%include "code.h"
%include "sip.h"
3、 使用swig命令生成py脚本及对应的C文件:swig –python sip.i。
4、 将生成的c源文件放到c扩展库中进行编译。
5、 这里有一个要注意:生成的动态链接库,必须是_sip.so,否则无法调用。swig是写死的。_sip.so需要拷贝到: /usr/local/lib/python2.7/site-packages/路径下。
6、 Makefile文件中,对于库引用的其他的库,必须显示的指出,否则Python无法找到对应的库。
7、 如何在c的扩展库中调用Python的函数:
swig是不支持直接在c的扩展库中调用Python函数的。它只支持将C的接口作为回调函数设置给c的库。
实现这个功能需要利用Python的c API和ctypes来实现。
Python c 的api包含一系列的函数:
PyCallable_Check:检查对象是否可调用;
PyArg_ParseTuple:解析参数列表,将Python参数解析为c;
PyEval_CallObject:调用对象;
Py_BuildValue:将c变量打包为Python的参数对象。
好了,有这些就足够了。
假设c库中有一个设置回调函数接口:
void set_callback_fun(void (*fun)(int, int , int))
{
}
下面是c扩展库中要添加的代码:
//全局变量,保存Python中要回调的可调用对象。
static PyObject *gCallbackFun = NULL;
//调用上面函数设置的python脚本函数
//Python可调用对象的转换函数,转化为C的调用方式
static void callbacfun(int type,int chn,int dataType)
{
PyObject* pArgs = NULL;
PyObject* pRetVal = NULL;
int nRetVal = 0;
pArgs = Py_BuildValue("(i, i, i)", type, chn, dataType);//将c的参数转化为Python的参数对象
pRetVal = PyEval_CallObject(gCallbackFun, pArgs);//调用Python的可调用对象。
Py_DECREF(pArgs);
Py_DECREF(pRetVal);
}
/// set_callback_fun函数的包装函数
static PyObject *wrap_set_callback_fun(PyObject *dummy, PyObject *args)
{
PyObject *temp = NULL;
if (PyArg_ParseTuple(args, "O:set_callback_fun", &temp)) {//获取Python对象
if (!PyCallable_Check(temp)) {//检查对象是否可以调用
PyErr_SetString(PyExc_TypeError, "parameter must be callable");
}
Py_XINCREF(temp); /* Add a reference to new callback */
Py_XDECREF(gCallbackFun); /* Dispose of previous callback */
gCallbackFun = temp; /* 保存回调对象 */
}
set_callback_fun(callbacfun);//注意,这里掉一下包,用一个C的函数注册到c库中。
return Py_BuildValue("i", (gCallbackFun == NULL) ? 0 : 1);
}
注意:如果对象不可调用,会段错误。后面要解决一下。
Python代码:
CBFUNC = CFUNCTYPE(c_int, c_int, c_int, c_int)//创建一个c函数类型的对象工厂,该函数返回值为int,有三个入参,都为int。
callbakFunc = CBFUNC(pyFun)//根据Python可调用对象生成函数。
set_callback_fun(callbakFunc)//设置回调函数
注意:pyFun必须要有返回值。否则会报异常。
另外,我发现,不用CFUNCTYPE来生产c回调函数,直接用pyFun,也是可以的。至于区别,后面在研究一下吧,要写代码了。
几个异常问题:1、一个可以使用CFUNCTYPE,但是一个一使用它就段错误。2、回调函数可以不返回值,也是可以的。但是一个不返回就不可以。
在Python中使用c扩展时向C传递数组:
8、 如果一个函数的参数是一个数组(指针),Python如何传递?下面的方法是可以直接传递列表。把这个加到.i文件中。
%{
static int convert_darray(PyObject *input, int *ptr, int size) {
int i;
if (!PySequence_Check(input)) {
PyErr_SetString(PyExc_TypeError,"Expecting a sequence");
return 0;
}
if (PyObject_Length(input) != size) {
PyErr_SetString(PyExc_ValueError,"Sequence size mismatch");
return 0;
}
for (i =0; i < size; i++) {
PyObject *o = PySequence_GetItem(input,i);
if (!PyFloat_Check(o)) {
Py_XDECREF(o);
PyErr_SetString(PyExc_ValueError,"Expecting a sequence of floats");
return 0;
}
ptr[i] = PyFloat_AsDouble(o);
Py_DECREF(o);
}
return 1;
}
%}
%typemap(in) int [ANY](int temp[$1_dim0]) {
if (!convert_darray($input,temp,$1_dim0)) {
return NULL;
}
$1 = &temp[0];
}
9、 如果一个结构体中有一个int类型数组,应该如何赋值?
在.i中增加下面代码:
%include "carrays.i"
%array_class(int, intArray);
在Python中申请数组:
a = intArray(10),将A复制给数组成员即可。
代码错误检查
1、 今天遇到两个问题:
a) 类中方法:class _registerEvent(notifyEvent): def _sendRegRsp(self, voiceres, reqId, result, reason,status):,调用时参数个数少一个:self._sendRegRsp(voiceres, reqId, 'success', 'normal') 。结果是没有任何提示,并且,不知道调用了什么函数。这个问题有点匪夷所思。后面好好查看一下。
b) 抽取函数后,有时忘了返回值,当时却用到了返回值:
i. def createWirelessSdp(voiceRtpPort, voiceTbcpPort):
ii. voicesdp = SIP_SDP()
iii. voicesdp.a_use = 1
iv. sdp = createWirelessSdp(1000,2000)
v. 结果也是没有任何提示,sdp为None。
2、 总结:写Python代码,需要使用代码检查工具,比如,pylint等。后面引进一下。
程序运行
1、 如何获取命令行参数:
a) import sys
b)
c) print(sys.argv[1])
d) sys.argv[1]就是第一个参数。0是脚本的名称。
2、
关于性能
1、 timeit:可以统计程序的运行时间。目前没有时间,抽时间好好看看。
timeit(cut1, number=10000):cut1是函数名,number是执行次数。
2、 pypy可以将Python代码翻译为可执行程序,它的效率可以提高4倍左右。但是,内存的占用可能会很大。(没有试过。)
3、
其他:
1、 脚本语言的进程名称显示为:python ,如果一个服务器上有多个进程,那么将不易发现那个进程是哪个程序。可以使用第三方开源的库来解决这个问题:setproctitle.
from setproctitle import setproctitle,getproctitle
print('当前的进程名:%s' % getproctitle())
setproctitle('proctitle')
print('设置后的的进程名:%s' % getproctitle())
2、 with语法:with open(‘file’, ‘r’) as f:
code
可以是try的另一种形式。
可以执行with操作的类型:
file
decimal.Context
thread.LockType
threading.Lock
threading.RLock
threading.Condition
threading.Semaphore
threading.BoundedSemaphore
3、 产生随机数:random.randint(100000, 999999)
4、 回调函数的使用:设置回调函数的时候,很多时候要使用闭包。避免闭包的一个方法是:
a) def setCancelFun(cancelFun, *args, **kwargs):
b) '''如果为None表示删除取消函数, 后面跟的是cancel函数的参数。这样可以避免上面创建闭包。'''
c) global _cancelFun,_cancelArgs,_cancelKwargs
d) _cancelFun = cancelFun
e) _cancelArgs = args
f) _cancelKwargs = kwargs
g)
h) def __execCancelFun():
i) '执行取消操作。因为在throw和kill的时候会执行此函数,所以,暂时没有看到会在外面调用此函数。屏蔽后,接口的简单性会提高'
j) global _cancelFun,_cancelArgs,_cancelKwargs
k) if callable(_cancelFun):
l) _cancelFun(*_cancelArgs, **_cancelKwargs)
m) _cancelFun = None#防止重复调用
n)
o) def test(a, b, c):
p) print('--------test:', a,b,c)
q)
r) setCancelFun(test, 1, 2, 3)
s) __execCancelFun()
也就是增加可变参数。