Resnet34 on ImageNet 实验记录

load pretrain model acc =
一、

--trainann_epochs 10 \
--L 7 \
--batchsize 256 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0002 \
--wd 1e-5 \
--direct_training \

result：

0: 64.46
1: 65.40
2: 66.678
3: 68.282
4: 68.432
5: 69.148
6: 69.086
7. 69.64
8. 69.888
9. 69.852

out of memory
二、

--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0001 \
--wd 1e-5 \
--direct_training \

0. 63.43

三、

--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0002 \
--wd 1e-5 \
--direct_training \

64.016

四、

--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.001 \
--wd 1e-5 \
--direct_training \

63.952

五、

-- 0.001
-- 5e-4

62.66

六、
num——workers设置成8，pin去掉，adamW

--trainann_epochs 10 \
--L 7 \
--batchsize 128 \
--presim_len 8 \
--sim_len 32 \
--lr 0.0001 \
--wd 1e-5 \
--direct_training \

66.432
69.078
70.194
70.858
71.314
71.518
72.136
72.192
72.38
72.526
72.656
72.748
72.774
72.88
72.926
、
72.804
72.854
72.946
73.12
72.938
73.284