Python任意进程共享内存

Python任意进程共享内存

以下实验与操作在Linux系统有效,windows不清楚。

当进程1创建了一个共享内存对象:

from multiprocessing import shared_memory
shm = shared_memory.SharedMemory(name="abc",create=True, size=10)
...

会在/dev/shm下创建一个共享内存文件:

# ls /dev/shm|grep abc
abc

/dev/shm是OS级别的共享内存机制,因此该共享内存是可以跨任何进程和跨语言的。

创建进程2连接到这块共享内存中:

from multiprocessing import shared_memory
shm = shared_memory.SharedMemory(name="abc",create=False)
...

进程2就可以使用这块共享内存了。

此时会遇到一个问题:即使进程2没有调用unlink方法,但退出时resource_tracker还是会将共享内存释放掉,同时报一个警告,导致进程1和其他进程用不了这块共享内存了

resource_tracker.py:216: UserWarning: resource_tracker: There appear to be 1 leaked shared_memory objects to clean up at shutdown warnings.warn('resource_tracker: There appear to be %d ')

此时查看共享内存,发现已经被删除了:

# ls /dev/shm|grep abc

解决办法:将这块共享内存从resource_tracker中取消注册,进程2退出之后就不会释放掉进程1创建的共享内存了

from multiprocessing import shared_memory, resource_tracker
shm = shared_memory.SharedMemory(name="abc",create=False)
resource_tracker.unregister("abc", 'shared_memory')
...

尽量保证多进程中至少有一个进程不做这个操作,不然会有内存泄漏的风险

参考:

  • python-sharedmemory-persistence-between-processes
  • Python与C++共享内存问题记录

你可能感兴趣的:(python,Linux,python,开发语言,linux,操作系统,共享内存,进程通信,内存泄露)