Pytorch 中的 non_blocking

  • Pytorch官方说法是pin_memory=True和non_blocking=True搭配使用,这样能使得data transfer可以overlap computation

  • 如果pin_memory=True的话,将数据放入GPU的时候,把non_blocking = True,这样就只把数据放入GPU而不取出,访问时间会大大减少

你可能感兴趣的:(Pytorch,中的各种函数,Pytorch)