随机数种子seed

之前的方案

只在train.py文件里添加了这两句代码,但是还不够

import random
random.seed(42)  # 保证随机结果可复现

现在的方案

在utils.py包里添加

def seed_torch(seed=42):
    random.seed(seed) # Python的随机性
    os.environ["PYTHONHASHSEED"] = str(seed) # 设置python哈希种子,为了禁止hash随机化,使得实验可复现
    np.random.seed(seed) # numpy的随机性
    torch.manual_seed(seed) # torch的CPu随机性,为CPU设置随机种子
    torch.cuda.manual_seed(seed) # torch的GPU随机性,为当前GPU设置随机种子
    torch.cuda.manual_seed_all(seed) # if you are using multi-GPu.torch的GPu随机性,为所有GPU设置随机种子
    torch.backends.cudnn.benchmark = False # if benchmark=True, deterministic will be Falsetorch.backends.cudnn.deterministic = True # 选择确定性算法
    torch.backends.cudnn.deterministic = True # 选择确定性算法

或者

import random
import numpy as np
import torch
def setup_seed(seed):
    torch.manual_seed(seed)
    torch.cuda.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    np.random.seed(seed)
    random.seed(seed)
    torch.backends.cudnn.deterministic = True
    torch.backends.cudnn.benchmark = False  # cuDNN's auto-tuner    
seed=42
setup_seed(seed)
# 设置随机种子的代码加在最外层,保证任何随机过程发生之前设置好随机种子。可放在main.py或train.py等训练文件的第一行。

参考:

基于pytorch的深度学习网络训练结果复现——重复训练结果一致(随机种子设置) - 知乎

你可能感兴趣的:(训练参数)