python内存泄漏探讨

文章目录

  • 前言
  • 一、python内存泄漏原因
  • 二、循环破解
  • 三、使用requests中的内存泄漏问题
  • 四、opencv内存泄漏(未解决过)


前言

python在正常使用情况下,不会出现内存泄漏。但是遇到request、opencv模块时就经常被爆出内存泄漏。本文主要讲述requests下出现内存泄漏解决办法(PS:opencv这种模块还没有使用过)。


一、python内存泄漏原因

讲内存泄漏原因不如了解一下python内存管理机制就明白了。网上搜索大概如下:

1,引用计数
2,垃圾回收
3,内存池

例如一个以下代码:

def func():
	a= 10
func()
print('执行到这里func函数中a变量的引用计数为0,a指向的地址为垃圾内存,即可被python回收')

以下代码函数内变量不能够被释放:

import sys
class A:
	def __init__(self):
		self.a = None
def func():
	a1 = A()
	a2 = A()
	a3 = A()
	print('a1/a2引用计数为2')
	print('a1:',sys.getrefcount(a1))
	a1.a = a2
	a2.a = a1
	print('a1:',sys.getrefcount(a1))
	a3.a = a1
	print('a1:',sys.getrefcount(a1))
	del a3# 删除a3同时减少a1的引用计数
	print('a1:',sys.getrefcount(a1))

	print(id(a2.a))
	return
	# 这个执行之后,a3引用计数满足内存释放条件
	# a1,a2 引用计数不满足内存释放条件
func()
# 执行到此,a3被回收(或者可回收状态),而a1,a2用由于相互引用,在函数func执行完之后
# 而不能够被回收,变成不可管理的垃圾内存

二、循环破解

在func退出之前对a1.a、a2.a赋予一个None值即可,解除循环引用导致垃圾内存不能够回收。

三、使用requests中的内存泄漏问题

requests由于不断循环或者使用多线程过程,递归调用requests,导致内部对象相互引用而得不到释放,导致内存使用不断累积而不能够释放。

解决办法:在使用requests函数内部,进行数据处理:只使用返回对象中状态字段、text几种字段,不要把这个返回对象进行引用。
临时解决办法:使用多进程进行处理,例如有1000个关键词要查询,需要不断递归查询直到满足某个条件退出,这用1000个多进程进行处理,每次处理10个关键词。

四、opencv内存泄漏(未解决过)

你可能感兴趣的:(python知识点汇集,python,内存泄漏)