点击上方“咸鱼学Python”,选择“加为星标”
第一时间关注Python技术干货!
作者:二十一
来源:https://segmentfault.com/a/1190000018737045
大家好,我是咸鱼,之前推送过不少关于 Python 的知识合集,反响不错,今天继续给大家带来一篇关于 Python 相关知识的内容合集,希望大家喜欢。
本篇内容的作者是二十一
文章来源:https://segmentfault.com/a/1190000018737045
咸鱼在这篇内容的基础上修改并新增了关于 Linux 与 数据库相关的内容希望对你有帮助。
由于总结了太多的东西,所以篇幅有点长,这也是我"缝缝补补"总结了好久的东西。
•print成为了函数,python2是关键字•不再有unicode对象,默认str就是unicode•python3除号返回浮点数•没有了long类型•xrange不存在,range替代了xrange•可以使用中文定义函数名变量名•高级解包 和*解包•限定关键字参数 *后的变量必须加入名字=值•raise from•iteritems移除变成items()•yield from 链接子生成器•asyncio,async/await原生协程支持异步编程•新增enum,mock,ipaddress,concurrent.futures,asyncio urllib,selector•不同枚举类间不能进行比较•同一枚举类间只能进行相等的比较•枚举类的使用(编号默认从1开始)•为了避免枚举类中相同枚举值的出现, 可以使用@unique装饰枚举类
#枚举的注意事项fromenumimportEnumclass COLOR(Enum): YELLOW=1#YELLOW=2#会报错 GREEN=1#不会报错,GREEN可以看作是YELLOW的别名 BLACK=3 RED=4print(COLOR.GREEN)#COLOR.YELLOW,还是会打印出YELLOWfor i in COLOR:#遍历一下COLOR并不会有GREENprint(i)#COLOR.YELLOW\nCOLOR.BLACK\nCOLOR.RED\n怎么把别名遍历出来for i in COLOR.__members__.items():print(i)# output:('YELLOW', )\n('GREEN', )\n('BLACK', )\n('RED', )for i in COLOR.__members__:print(i)# output:YELLOW\nGREEN\nBLACK\nRED#枚举转换#最好在数据库存取使用枚举的数值而不是使用标签名字字符串#在代码里面使用枚举类a=1print(COLOR(a))# output:COLOR.YELLOW
•six模块:兼容pyton2和pyton3的模块•2to3工具:改变代码语法版本•future:使用下一版本的功能
•必须知道的collections https://segmentfault.com/a/1190000017385799•python排序操作及heapq模块 https://segmentfault.com/a/1190000017383322•itertools模块超实用方法 https://segmentfault.com/a/1190000017416590
•dis(代码字节码分析)•inspect(生成器状态)•cProfile(性能分析)•bisect(维护有序列表)•fnmatch
1.fnmatch(string,"*.txt") #win下不区分大小写2.fnmatch根据系统决定3.fnmatchcase完全区分大小写
•timeit(代码执行时间)
import timeitprint(timeit.timeit('isLen1("5fsdfsdfsaf")',setup="from __main__ import isLen1"))print(timeit.timeit('isLen("5fsdfsdfsaf")',setup="from __main__ import isLen"))
•contextlib
[email protected]使生成器函数变成一个上下文管理器
•types(包含了标准解释器定义的所有类型的类型对象,可以将生成器函数修饰为异步模式)
import typestypes.coroutine #相当于实现了__await__
•html(实现对html的转义)
import htmlhtml.escape("
I'm Jim
") # output:'
I'm Jim
'html.unescape('
I'
m Jim') #
I'm Jim
h1>
•mock(解决测试依赖)•concurrent(创建进程池河线程池)
from concurrent.futures importThreadPoolExecutorpool = ThreadPoolExecutor()task = pool.submit(函数名,(参数)) #此方法不会阻塞,会立即返回task.done()#查看任务执行是否完成task.result()#阻塞的方法,查看任务返回值task.cancel()#取消未执行的任务,返回True或False,取消成功返回Truetask.add_done_callback()#回调函数task.running()#是否正在执行 task就是一个Future对象for data in pool.map(函数,参数列表):#返回已经完成的任务结果列表,根据参数顺序执行print(返回任务完成得执行结果data)from concurrent.futures import as_completedas_completed(任务列表)#返回已经完成的任务列表,完成一个执行一个wait(任务列表,return_when=条件)#根据条件进行阻塞主线程,有四个条件
•selector(封装select,用户多路复用io编程)•asyncio
future=asyncio.ensure_future(协程) 等于后面的方式 future=loop.create_task(协程)future.add_done_callback()添加一个完成后的回调函数loop.run_until_complete(future)future.result()查看写成返回结果asyncio.wait()接受一个可迭代的协程对象asynicio.gather(*可迭代对象,*可迭代对象) 两者结果相同,但gather可以批量取消,gather对象.cancel()一个线程中只有一个loop在loop.stop时一定要loop.run_forever()否则会报错loop.run_forever()可以执行非协程最后执行finally模块中 loop.close()asyncio.Task.all_tasks()拿到所有任务 然后依次迭代并使用任务.cancel()取消偏函数partial(函数,参数)把函数包装成另一个函数名 其参数必须放在定义函数的前面loop.call_soon(函数,参数)call_soon_threadsafe()线程安全loop.call_later(时间,函数,参数)在同一代码块中call_soon优先执行,然后多个later根据时间的升序进行执行如果非要运行有阻塞的代码使用loop.run_in_executor(executor,函数,参数)包装成一个多线程,然后放入到一个task列表中,通过wait(task列表)来运行通过asyncio实现httpreader,writer=await asyncio.open_connection(host,port)writer.writer()发送请求async for data in reader: data=data.decode("utf-8") list.append(data)然后list中存储的就是htmlas_completed(tasks)完成一个返回一个,返回的是一个可迭代对象协程锁async withLock():
•进程间通信:
1.Manager(内置了好多数据结构,可以实现多进程间内存共享)
from multiprocessing importManager,Processdef add_data(p_dict, key, value): p_dict[key] = valueif __name__ == "__main__": progress_dict = Manager().dict()from queue importPriorityQueue first_progress = Process(target=add_data, args=(progress_dict, "bobby1", 22)) second_progress = Process(target=add_data, args=(progress_dict, "bobby2", 23)) first_progress.start() second_progress.start() first_progress.join() second_progress.join()print(progress_dict)
1.Pipe(适用于两个进程)
from multiprocessing importPipe,Process#pipe的性能高于queuedef producer(pipe): pipe.send("bobby")def consumer(pipe):print(pipe.recv())if __name__ == "__main__": recevie_pipe, send_pipe = Pipe()#pipe只能适用于两个进程 my_producer= Process(target=producer, args=(send_pipe, )) my_consumer = Process(target=consumer, args=(recevie_pipe,)) my_producer.start() my_consumer.start() my_producer.join() my_consumer.join()
1.Queue(不能用于进程池,进程池间通信需要使用Manager().Queue())
from multiprocessing importQueue,Processdef producer(queue): queue.put("a") time.sleep(2)def consumer(queue): time.sleep(2) data = queue.get()print(data)if __name__ == "__main__": queue = Queue(10) my_producer = Process(target=producer, args=(queue,)) my_consumer = Process(target=consumer, args=(queue,)) my_producer.start() my_consumer.start() my_producer.join() my_consumer.join()
1.进程池
def producer(queue): queue.put("a") time.sleep(2)def consumer(queue): time.sleep(2) data = queue.get()print(data)if __name__ == "__main__": queue = Manager().Queue(10) pool = Pool(2) pool.apply_async(producer, args=(queue,)) pool.apply_async(consumer, args=(queue,)) pool.close() pool.join()
•sys模块几个常用方法
1.argv 命令行参数list,第一个是程序本身的路径2.path 返回模块的搜索路径3.modules.keys() 返回已经导入的所有模块的列表4.exit(0) 退出程序
•a in s or b in s or c in s简写
1.采用any方式:all() 对于任何可迭代对象为空都会返回True
# 方法一Truein[i in s for i in[a,b,c]]# 方法二any(i in s for i in[a,b,c])# 方法三list(filter(lambda x:x in s,[a,b,c]))
•set集合运用
1.{1,2}.issubset({1,2,3})#判断是否是其子集2.{1,2,3}.issuperset({1,2})3.{}.isdisjoint({})#判断两个set交集是否为空,是空集则为True
•代码中中文匹配
1.[u4E00-u9FA5]匹配中文文字区间[一到龥]
•查看系统默认编码格式
import syssys.getdefaultencoding() # setdefaultencodeing()设置系统编码方式
•getattr VS getattribute
class A(dict):def __getattr__(self,value):#当访问属性不存在的时候返回return2def __getattribute__(self,item):#屏蔽所有的元素访问return item
•类变量是不会存入实例dict中的,只会存在于类的dict中•globals/locals(可以变相操作代码)
1.globals中保存了当前模块中所有的变量属性与值2.locals中保存了当前环境中的所有变量属性与值
•python变量名的解析机制(LEGB)
1.本地作用域(Local)2.当前作用域被嵌入的本地作用域(Enclosing locals)3.全局/模块作用域(Global)4.内置作用域(Built-in)
•实现从1-100每三个为一组分组
print([[x for x in range(1,101)][i:i+3] for i in range(0,100,3)])
•什么是元类?
1.即创建类的类,创建类的时候只需要将metaclass=元类,元类需要继承type而不是object,因为type就是元类
type.__bases__ #(,)object.__bases__ #()type(object) ##egclassYuan(type):def __new__(cls,name,base,attr,*args,**kwargs):return type(name,base,attr,*args,**kwargs)classMyClass(metaclass=Yuan):pass
•什么是鸭子类型(即:多态)?
1.Python在使用传入参数的过程中不会默认判断参数类型,只要参数具备执行条件就可以执行
•深拷贝和浅拷贝
1.深拷贝拷贝内容,浅拷贝拷贝地址(增加引用计数)2.copy模块实现深拷贝
•单元测试
1.一般测试类继承模块unittest下的TestCase2.pytest模块快捷测试(方法以test_开头/测试文件以test_开头/测试类以Test开头,并且不能带有 init 方法)3.coverage统计测试覆盖率
classMyTest(unittest.TestCase):def tearDown(self):# 每个测试用例执行前执行print('本方法开始测试了')def setUp(self):# 每个测试用例执行之前做操作print('本方法测试结束')@classmethoddef tearDownClass(self):# 必须使用 @ classmethod装饰器, 所有test运行完后运行一次print('开始测试')@classmethoddef setUpClass(self):# 必须使用@classmethod装饰器,所有test运行前运行一次print('结束测试')def test_a_run(self):self.assertEqual(1, 1) # 测试用例
•GIL会根据执行的字节码行数以及时间片释放GIL,GIL在遇到io的操作时候主动释放•什么是monkey patch?
1.猴子补丁,在运行的时候替换掉会阻塞的语法修改为非阻塞的方法
•什么是自省(Introspection)?
1.运行时判断一个对象的类型的能力,id,type,isinstance
•python是值传递还是引用传递?
1.都不是,python是共享传参,默认参数在执行时只会执行一次
•try-except-else-finally中else和finally的区别
1.else在不发生异常的时候执行,finally无论是否发生异常都会执行2.except一次可以捕获多个异常,但一般为了对不同异常进行不同处理,我们分次捕获处理
•GIL全局解释器锁
1.同一时间只能有一个线程执行,CPython(IPython)的特点,其他解释器不存在2.cpu密集型:多进程+进程池3.io密集型:多线程/协程
•什么是Cython
1.将python解释成C代码工具
•生成器和迭代器
1.可迭代对象只需要实现iter方法2.实现next和iter方法的对象就是迭代器3.使用生成器表达式或者yield的生成器函数(生成器是一种特殊的迭代器)
•什么是协程
1.yield2.async-awiat•比线程更轻量的多任务方式•实现方式
•dict底层结构
1.为了支持快速查找使用了哈希表作为底层结构2.哈希表平均查找时间复杂度为o(1)3.CPython解释器使用二次探查解决哈希冲突问题
•Hash扩容和Hash冲突解决方案
1.链接法2.二次探查(开放寻址法):python使用•循环复制到新空间实现扩容•冲突解决
for gevent import monkeymonkey.patch_all() #将代码中所有的阻塞方法都进行修改,可以指定具体要修改的方法
•判断是否为生成器或者协程
co_flags = func.__code__.co_flags# 检查是否是协程if co_flags & 0x180:return func# 检查是否是生成器if co_flags & 0x20:return func
•斐波那契解决的问题及变形
#一只青蛙一次可以跳上1级台阶,也可以跳上2级。求该青蛙跳上一个n级的台阶总共有多少种跳法。#请问用n个2*1的小矩形无重叠地覆盖一个2*n的大矩形,总共有多少种方法?#方式一:fib = lambda n: n if n <= 2else fib(n - 1) + fib(n - 2)#方式二:def fib(n): a, b = 0, 1for _ in range(n): a, b = b, a + breturn b#一只青蛙一次可以跳上1级台阶,也可以跳上2级……它也可以跳上n级。求该青蛙跳上一个n级的台阶总共有多少种跳法。fib = lambda n: n if n < 2else2* fib(n - 1)
•获取电脑设置的环境变量
import osos.getenv(env_name,None)#获取环境变量如果不存在为None
•垃圾回收机制
1.引用计数2.标记清除3.分代回收
#查看分代回收触发import gcgc.get_threshold() #output:(700, 10, 10)
•True和False在代码中完全等价于1和0,可以直接和数字进行计算,inf表示无穷大•C10M/C10K
1.C10M:8核心cpu,64G内存,在10gbps的网络上保持1000万并发连接2.C10K:1GHz CPU,2G内存,1gbps网络环境下保持1万个客户端提供FTP服务
•yield from与yield的区别:
1.yield from跟的是一个可迭代对象,而yield后面没有限制2.GeneratorExit生成器停止时触发
•单下划线的几种使用
1.在定义变量时,表示为私有变量2.在解包时,表示舍弃无用的数据3.在交互模式中表示上一次代码执行结果4.可以做数字的拼接(111_222_333)
•使用break就不会执行else•10进制转2进制
def conver_bin(num):if num == 0:return num re = []while num: num, rem = divmod(num,2) re.append(str(rem))return"".join(reversed(re))conver_bin(10)
•list1 = ['A', 'B', 'C', 'D'] 如何才能得到以list中元素命名的新列表 A=[],B=[],C=[],D=[]呢?
list1 = ['A', 'B', 'C', 'D']# 方法一for i in list1: globals()[i] = [] # 可以用于实现python版反射# 方法二for i in list1:exec(f'{i} = []') # exec执行字符串语句
•memoryview与bytearray$\color{#000}(不常用,只是看到了记载一下)
# bytearray是可变的,bytes是不可变的,memoryview不会产生新切片和对象a = 'aaaaaa'ma = memoryview(a)ma.readonly# 只读的memoryviewmb = ma[:2] # 不会产生新的字符串a = bytearray('aaaaaa')ma = memoryview(a)ma.readonly# 可写的memoryviewmb = ma[:2] # 不会会产生新的bytearraymb[:2] = 'bb'# 对mb的改动就是对ma的改动
•Ellipsis类型
# 代码中出现...省略号的现象就是一个Ellipsis对象L = [1,2,3]L.append(L)print(L) # output:[1,2,3,[…]]
•lazy惰性计算
class lazy(object):def __init__(self, func):self.func = funcdef __get__(self, instance, cls): val = self.func(instance) #其相当于执行的area(c),c为下面的Circle对象 setattr(instance, self.func.__name__, val)return val`classCircle(object):def __init__(self, radius):self.radius = radius@lazydef area(self):print('evalute')return3.14* self.radius ** 2
•遍历文件,传入一个文件夹,将里面所有文件的路径打印出来(递归)
import osall_files = []def getAllFiles(directory_path):for sChild in os.listdir(directory_path): sChildPath = os.path.join(directory_path,sChild)if os.path.isdir(sChildPath): getAllFiles(sChildPath)else: all_files.append(sChildPath)return all_files
•文件存储时,文件名的处理
#secure_filename将字符串转化为安全的文件名from werkzeug import secure_filenamesecure_filename("My cool movie.mov") # output:My_cool_movie.movsecure_filename("../../../etc/passwd") # output:etc_passwdsecure_filename(u'i contain cool \xfcml\xe4uts.txt') # output:i_contain_cool_umlauts.txt
•日期格式化
from datetime import datetimedatetime.now().strftime("%Y-%m-%d")import time#这里只有localtime可以被格式化,time是不能格式化的time.strftime("%Y-%m-%d",time.localtime())
•tuple使用+=奇怪的问题
# 会报错,但是tuple的值会改变,因为t[1]id没有发生变化t=(1,[2,3])t[1]+=[4,5]# t[1]使用append\extend方法并不会报错,并可以成功执行
•missing你应该知道
classMydict(dict):def __missing__(self,key): # 当Mydict使用切片访问属性不存在的时候返回的值return key
•+与+=
1.+不能用来连接列表和元祖,而+=可以(通过iadd实现,内部实现方式为extends(),所以可以增加元组),+会创建新对象2.不可变对象没有iadd方法,所以直接使用的是add方法,因此元祖可以使用+=进行元祖之间的相加
•如何将一个可迭代对象的每个元素变成一个字典的所有键?
dict.fromkeys(['jim','han'],21) # output:{'jim': 21, 'han': 21}
# 方式一defSingle(cls,*args,**kwargs): instances = {}def get_instance (*args, **kwargs):if cls notin instances: instances[cls] = cls(*args, **kwargs)return instances[cls]return get_instance@Singleclass B:pass# 方式二classSingle:def __init__(self):print("单例模式实现方式二。。。") single = Single()delSingle# 每次调用single就可以了# 方式三(最常用的方式)classSingle:def __new__(cls,*args,**kwargs):ifnot hasattr(cls,'_instance'): cls._instance = super().__new__(cls,*args,**kwargs)return cls._instance
classDog:def __init__(self):print("Wang Wang Wang")classCat:def __init__(self):print("Miao Miao Miao")def fac(animal):if animal.lower() == "dog":returnDog()if animal.lower() == "cat":returnCat()print("对不起,必须是:dog,cat")
classComputer:def __init__(self,serial_number):self.serial_number = serial_numberself.memory = Noneself.hadd = Noneself.gpu = Nonedef __str__(self): info = (f'Memory:{self.memoryGB}','Hard Disk:{self.hadd}GB','Graphics Card:{self.gpu}')return''.join(info)classComputerBuilder:def __init__(self):self.computer = Computer('Jim1996')def configure_memory(self,amount):self.computer.memory = amountreturnself#为了方便链式调用def configure_hdd(self,amount):passdef configure_gpu(self,gpu_model):passclassHardwareEngineer:def __init__(self):self.builder = Nonedef construct_computer(self,memory,hdd,gpu)self.builder = ComputerBuilder()self.builder.configure_memory(memory).configure_hdd(hdd).configure_gpu(gpu)@propertydef computer(self):returnself.builder.computer
Redis 和 I/O 多路复用
一文深入了解 Redis 内存模型,Redis 的快是有原因的!
硬货 | Redis 性能问题分析
硬核!16000 字 Redis 面试知识点总结,建议收藏!
Redis 学习 | Redis 初识与安装
Python | Python学习之Redis交互详解
SQL | 开发人员必学的几点 SQL 优化点
面试必备 | MySQL 事务的四种隔离级别
...
Linux | Linux 中使用 find 与 sed 批量替换字符串
Linux 优化 | 我终于要对运维小哥下手了
Linux | vim 编辑器 3 种模式的使用小结
Linux | 文本查看与打包压缩
Linux | 文件查看与操作命令
Linux | 帮助命令
...
def quick_sort(_list):if len(_list) < 2:return _list pivot_index = 0 pivot = _list(pivot_index) left_list = [i for i in _list[:pivot_index] if i < pivot] right_list = [i for i in _list[pivot_index:] if i > pivot]return quick_sort(left) + [pivot] + quick_sort(right)
def select_sort(seq): n = len(seq)for i in range(n-1) min_idx = ifor j in range(i+1,n):if seq[j] < seq[min_inx]: min_idx = jif min_idx != i: seq[i], seq[min_idx] = seq[min_idx],seq[i]
def insertion_sort(_list): n = len(_list)for i in range(1,n): value = _list[i] pos = iwhile pos > 0and value < _list[pos - 1] _list[pos] = _list[pos - 1] pos -= 1 _list[pos] = valueprint(sql)
def merge_sorted_list(_list1,_list2): #合并有序列表 len_a, len_b = len(_list1),len(_list2) a = b = 0 sort = []while len_a > a and len_b > b:if _list1[a] > _list2[b]: sort.append(_list2[b]) b += 1else: sort.append(_list1[a]) a += 1if len_a > a: sort.append(_list1[a:])if len_b > b: sort.append(_list2[b:])return sortdef merge_sort(_list): if len(list1)<2: return list1 else: mid = int(len(list1)/2) left = mergesort(list1[:mid]) right = mergesort(list1[mid:]) return merge_sorted_list(left,right)
from heapq import nsmallestdef heap_sort(_list):return nsmallest(len(_list),_list)
from collections import dequeclassStack:def __init__(self):self.s = deque()def peek(self): p = self.pop()self.push(p)return pdef push(self, el):self.s.append(el)def pop(self):returnself.pop()
from collections import dequeclassQueue:def __init__(self):self.s = deque()def push(self, el):self.s.append(el)def pop(self):returnself.popleft()
def binary_search(_list,num): mid = len(_list)//2 if len(_list) 1: return Flase if num > _list[mid]: BinarySearch(_list[mid:],num) elif num BinarySearch(_list[:mid],num) else: return _list.index(num)
•关于数据库优化及设计 :https://segmentfault.com/a/1190000018426586•如何使用两个栈实现一个队列•反转链表•合并两个有序链表•删除链表节点•反转二叉树•设计短网址服务?62进制实现•设计一个秒杀系统(feed流)?https://www.jianshu.com/p/ea0259d109f9•为什么mysql数据库的主键使用自增的整数比较好?使用uuid可以吗?为什么?
1.如果InnoDB表的数据写入顺序能和B+树索引的叶子节点顺序一致的话,这时候存取效率是最高的。为了存储和查询性能应该使用自增长id做主键。2.对于InnoDB的主索引,数据会按照主键进行排序,由于UUID的无序性,InnoDB会产生巨大的IO压力,此时不适合使用UUID做物理主键,可以把它作为逻辑主键,物理主键依然使用自增ID。为了全局的唯一性,应该用uuid做索引关联其他表或做外键
•如果是分布式系统下我们怎么生成数据库的自增id呢?
1.使用redis2....
•基于redis实现一个分布式锁,要求一个超时的参数
1.setnx2.setnx + expire
•如果redis单个节点宕机了,如何处理?还有其他业界的方案实现分布式锁码?
1.使用hash一致算法
•LRU(least-recently-used):替换最近最少使用的对象•LFU(Least frequently used):最不经常使用,如果一个数据在最近一段时间内使用次数很少,那么在将来一段时间内被使用的可能性也很小
•使用数据结构和算法•数据库
1.索引优化2.慢查询消除•slow_query_log_file开启并且查询慢查询日志•通过explain排查索引问题•调整数据修改索引•批量操作,从而减少io操作•使用NoSQL:比如Redis
•网络io
1.批量操作2.pipeline
•缓存
1.Redis
•异步
1.Asyncio实现异步操作2.使用Celery减少io阻塞
•并发
1.多线程2.Gevent
在之前咸鱼争取到一个福利,和北京大学出版社的编辑朋友合作的赠书活动已经试行几期。
现在赠书的形式变更为小程序抽奖,大家只要扫描下方抽奖的小程序码即可参与。(发文三天后开奖)
感谢金主~
Love & Share
[ 完 ]
朕已阅