雨风SLEK
雨风SLEK

2021-03-08 Speech-Transformer项目模型参数统计

读入已训练好并保存的模型

pthfile = r'/home/user1/Project/Speech-Transformer/egs/aishell/exp/train_m1_n6_in80_elayer6_head8_k64_v64_model512_inner2048_drop0.1_pe5000_emb512_dlayer6_share1_ls0.1_epoch150_shuffle1_bs16_bf30000_mli800_mlo150_k0.2_warm4000/final.pth.tar'  # 
net = torch.load(pthfile, map_location=torch.device('cpu'))  # 由于模型原本是用GPU保存的，如果电脑上没有GPU，可以转化到CPU上

print(type(net))  # 类型是 dict
print(len(net))   # 长度为 22，即存在22个 key-value 键值对
执行结果

列出所有键值

for k in net.keys():
    print(k) 
# 22个key
# LFR_m  LFR_n    d_input    n_layers_enc    n_head    d_k    d_v
# d_model    d_inner    dropout    pe_maxlen    sos_id    eos_id
# vocab_size    d_word_vec    n_layers_dec    tgt_emb_prj_weight_sharing
# state_dict    optim_dict    epoch    tr_loss    cv_loss

打印出当前保存的epoch数

print(net["epoch"])
>>> 118

统计模型参数量方法（一）

统计state_dict内包含的参数数量

psum = 0
for key, value in net["state_dict"].items():
    print(key)
    print(value.size())
    print(value.numel())
    psum += value.numel()
    # print(key, value.size(), sep=" ")
print(psum)

输出结果：

encoder.linear_in.weight
torch.Size([512, 80])
40960
encoder.linear_in.bias
torch.Size([512])
512
encoder.layer_norm_in.weight
torch.Size([512])
512
encoder.layer_norm_in.bias
torch.Size([512])
512
encoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000
encoder.layer_stack.0.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.0.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.0.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.0.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.0.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.0.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.0.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.1.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.1.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.1.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.1.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.1.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.1.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.2.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.2.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.2.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.2.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.2.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.2.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.3.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.3.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.3.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.3.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.3.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.3.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.4.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.4.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.4.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.4.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.4.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.4.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.5.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.5.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.5.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.5.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.5.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.5.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.tgt_word_emb.weight
torch.Size([4233, 512])
2167296
decoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000
decoder.layer_stack.0.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.0.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.0.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.0.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.0.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.0.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.0.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.1.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.1.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.1.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.1.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.1.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.1.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.2.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.2.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.2.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.2.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.2.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.2.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.3.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.3.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.3.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.3.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.3.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.3.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.4.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.4.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.4.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.4.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.4.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.4.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.5.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.5.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.5.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.5.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.5.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.5.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.tgt_word_prj.weight
torch.Size([4233, 512])
2167296
53635584

打印optim_dict内部值

for key, value in net["optim_dict"].items():
    print(key)
    print(type(value))
结果显示

打印optim_dict内部param_groups

groups = net["optim_dict"]["param_groups"]
print(groups)
print(len(groups))

执行结果：

[{'lr': 2.9553222446278096e-05, 'betas': (0.9, 0.98), 'eps': 1e-09, 'weight_decay': 0, 'amsgrad': False, 'params': [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 94, 95, 96, 97, 98, 99, 100, 101, 102, 103, 104, 105, 106, 107, 108, 109, 110, 111, 112, 113, 114, 115, 116, 117, 118, 119, 120, 121, 122, 123, 124, 125, 126, 127, 128, 129, 130, 131, 132, 133, 134, 135, 136, 137, 138, 139, 140, 141, 142, 143, 144, 145, 146, 147, 148, 149, 150, 151, 152, 153, 154, 155, 156, 157, 158, 159, 160, 161, 162, 163, 164, 165, 166, 167, 168, 169, 170, 171, 172, 173, 174, 175, 176, 177, 178, 179, 180, 181, 182, 183, 184, 185, 186, 187, 188, 189, 190, 191, 192, 193, 194, 195, 196, 197, 198, 199, 200, 201, 202, 203, 204, 205, 206, 207, 208, 209, 210, 211, 212, 213, 214, 215, 216, 217, 218, 219, 220, 221, 222, 223, 224, 225, 226, 227, 228, 229, 230, 231, 232, 233, 234, 235, 236, 237, 238, 239, 240, 241, 242, 243, 244, 245, 246, 247, 248, 249, 250, 251, 252, 253, 254, 255, 256]}]
1

打印optim_dict内部state

state = net["optim_dict"]["state"]
print(len(state)) 
for key, value in state.items():
    print(key, type(value), sep=" ")

执行结果：

257
0 
1 
2 
3 
4 
5 
6 
7 
8 
9 
10 
11 
12 
13 
14 
15 
16 
17 
18 
19 
20 
21 
22 
23 
24 
25 
26 
27 
28 
29 
30 
31 
32 
33 
34 
35 
36 
37 
38 
39 
40 
41 
42 
43 
44 
45 
46 
47 
48 
49 
50 
51 
52 
53 
54 
55 
56 
57 
58 
59 
60 
61 
62 
63 
64 
65 
66 
67 
68 
69 
70 
71 
72 
73 
74 
75 
76 
77 
78 
79 
80 
81 
82 
83 
84 
85 
86 
87 
88 
89 
90 
91 
92 
93 
94 
95 
96 
97 
98 
99 
100 
101 
102 
103 
104 
105 
106 
107 
108 
109 
110 
111 
112 
113 
114 
115 
116 
117 
118 
119 
120 
121 
122 
123 
124 
125 
126 
127 
128 
129 
130 
131 
132 
133 
134 
135 
136 
137 
138 
139 
140 
141 
142 
143 
144 
145 
146 
147 
148 
149 
150 
151 
152 
153 
154 
155 
156 
157 
158 
159 
160 
161 
162 
163 
164 
165 
166 
167 
168 
169 
170 
171 
172 
173 
174 
175 
176 
177 
178 
179 
180 
181 
182 
183 
184 
185 
186 
187 
188 
189 
190 
191 
192 
193 
194 
195 
196 
197 
198 
199 
200 
201 
202 
203 
204 
205 
206 
207 
208 
209 
210 
211 
212 
213 
214 
215 
216 
217 
218 
219 
220 
221 
222 
223 
224 
225 
226 
227 
228 
229 
230 
231 
232 
233 
234 
235 
236 
237 
238 
239 
240 
241 
242 
243 
244 
245 
246 
247 
248 
249 
250 
251 
252 
253 
254 
255 
256

统计模型参数量方法（二）

读入模型中state_dict

model.load_state_dict(net['state_dict'])

统计参数数量

num_params = 0
for param in model.parameters():
    num_params += param.numel()
print(num_params / 1e6)
print(num_params)

执行结果：

46.348288
46348288

总结：

方法（二）计算的是准确的模型参数量，方法（一）可能包含了些其他参数。
方法一 53635584 个参数
方法二 46348288 个参数
相差 7287296 个参数
经过对比，刚好相差了如下几个参数：

encoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000
decoder.tgt_word_emb.weight
torch.Size([4233, 512])
2167296
decoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000

你可能感兴趣的:(2021-03-08 Speech-Transformer项目模型参数统计)

  • 华为 Ascend 平台 YOLOv5 目标检测推理教程 Lunar* 目标检测华为YOLO目标检测
    1.背景介绍随着人工智能技术的快速发展，目标检测在智能安防、自动驾驶、工业检测等领域中扮演了重要角色。YOLOv5是一种高效的目标检测模型，凭借其速度和精度的平衡广受欢迎。华为Ascend推理框架（ACL）是AscendCANN软件栈的核心组件，专为AscendAI加速硬件（如Atlas300I）设计，可实现高性能的深度学习推理。在本文中，我们将介绍如何基于华为AscendACL推理框架对YOLO
  • Mac pnpm安装 是二牙 前端vue.js
    安装pnpm的时候一定要把npm更新到最新版不然pnpm下载不成功。（更新npm）：sudonpminstall-gnpm(安装pnpm:)sudonpminstall-gpnpm检验安装是否成功：pnpm--version项目内安装依赖：pnpminstall/运行项目：pnpmdev最近在开发vue3的项目后续应该会更新一些关于v3的笔记以往都是开发的v2现在开始学习v3如果写的不对的地方可以
  • 代码结构与模块化设计：Python 项目架构与高效开发技巧 全栈探索者chen pythonpython架构开发语言模块化性能优化程序人生案例分析
    代码结构与模块化设计：Python项目架构与高效开发技巧目录为什么模块化设计是高效开发的基础Python项目的理想目录结构模块与包：概念与使用详解模块化设计的核心原则常见设计模式与模块化案例分析：从零搭建模块化Python项目高级技巧：动态模块加载与插件化设计模块化开发中的常见问题与解决方案总结与实践建议1.为什么模块化设计是高效开发的基础模块化设计是一种将复杂的软件系统分解为多个小模块的开发方式
  • Vue.js组件开发-如何实现表头搜索 LCG元 前端vue.js
    在Vue.js组件开发中，实现表头搜索通常涉及在表格组件的表头添加输入框，并让用户能够输入搜索关键字来过滤表格数据。以下是一个使用ElementUI的el-table组件实现表头搜索的示例：一、准备阶段‌确保ElementUI已安装‌：确保Vue项目中已经安装了ElementUI，并且已经在项目中引入。‌准备表格数据‌：在Vue组件中准备一份表格数据，通常是一个数组。二、实现表头搜索‌定义搜索关键
  • 行为识别的方法 人工智能专属驿站 深度学习
    行为识别主要有以下几大类方法，每类方法各有特点及典型算法：传统方法特点：利用手工设计特征对行为进行表征，再用统计学习的分类方法进行识别。需一定专业知识设计特征，耗费人力物力，对复杂场景、遮挡等适应性差，但对简单背景、规则动作识别效果尚可。典型算法：时空关键点（Space-TimeInterestPoints）：基于视频图像中的关键点在时空维度上的变化来提取动作特征，但可能忽略视频细节，泛化能力较弱
  • 大数据毕业设计—基于python+Django自然灾害频发地区情况数据分析系统 qq_1406299528 python计算机毕业设计python大数据课程设计
    一、项目技术开发语言：Pythonpython框架：Django软件版本：python3.7/python3.8数据库：mysql5.7或更高版本数据库工具：Navicat11开发软件：PyCharm/vscode前端框架:vue.js二、项目内容和项目介绍  1.项目内容  1.开发语言：该系统采用Python作为开发语言，Python具有优雅的语法和动态类型，以及解释型语言的本质，使其成为许多
  • Git 版本控制：.gitignore 文件完全指南 小白也有IT梦 gitgithub
    .gitignore文件是Git版本控制系统中的一个重要配置文件，用于告诉Git哪些文件和目录应该被忽略，不需要纳入版本控制。以下是关于.gitignore的完整笔记。基本概念.gitignore文件可以放在项目的任何目录下，其作用范围包括所在目录及其所有子目录。最常见的做法是将它放在项目的根目录下。基本语法规则每行一个忽略规则空行会被忽略以#开头的行为注释末尾的空格会被忽略使用标准的glob模式
  • EOF分析在Python中的利器：eofs库使用指南 潘妙霞
    EOF分析在Python中的利器：eofs库使用指南项目地址:https://gitcode.com/gh_mirrors/eo/eofs项目介绍eofs是一个专为Python环境设计的开源包，用于执行经验正交分解（EmpiricalOrthogonalFunction,EOF）分析。该库遵循GNUGPLv3许可协议，旨在简化Python中进行EOF分析的流程。它特别适合处理大型时空数据集，通过高
  • 客户案例：致远OA与携程商旅集成方案 慧集通-让软件连接更简单！ 慧集通（DataLinkX）致远OA客户案例集API低代码需求分析产品经理系统集成携程商旅致远OA
    一、前言本项目原型客户公司创建于1992年,主要生产并销售包括糖果系列、巧克力系列、烘焙系列、卤制品系列4大类,200多款产品。公司具有行业领先的生产能力,拥有各类生产线100+条,年产能超过10万吨。同时,经过30年的发展,公司积累了完善的销售网络,核心经销商已经超过1200个,超16万个销售终端可以覆盖全国所有城市。在现有优势的基础上,优秀的团队以及雄厚的资金实力将助力公司早日实现“与世界共享
  • 浅谈滤波中Q和R的调整——KF第三篇笔记 MATLAB卡尔曼 卡尔曼专题免费专栏开发语言kalman卡尔曼滤波算法
    前段时间收到私信和email，问我关于Q和R怎么取、如何调。前面说过p0和x0怎么找的问题，Q和R怎么找还没有说过，这里就简单探讨一下。Q和R的意义Q值为过程噪声，越小系统越容易收敛，表示对模型预测的值信任度越高；但是太小则容易发散，如果Q为零，那么我们只相信预测值；Q值越大表示对于预测的信任度就越低，而对测量值的信任度就变高；如果Q值无穷大，那么则表示信任测量值。R值为测量噪声。R太大，滤波的响
  • 【2025最新计算机毕业设计】基于SSM的旅游与自然保护平台【提供源码+答辩PPT+文档+项目部署】 万码堂源码 计算机毕设精品实战案例实战项目源码课程设计vue.js前端计算机毕业设计毕设项目springboot
    作者简介：✌CSDN新星计划导师、Java领域优质创作者、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和学生毕业项目实战,高校老师/讲师/同行前辈交流。✌主要内容：Java项目、Python项目、前端项目、PHP、ASP.NET、人工智能与大数据、单片机开发、物联网设计与开发设计、简历模板、学习资料、面试题库、技术互助、就业指导等。业务范围：免费功能设计、开题报告、任务书
  • 【源码+文档】基于SpringBoot+Vue旅游网站系统【提供源码+答辩PPT+参考文档+项目部署】 万码堂源码 实战项目源码计算机毕设精品实战案例springbootvue.js旅游
    作者简介：✌CSDN新星计划导师、Java领域优质创作者、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和学生毕业项目实战,高校老师/讲师/同行前辈交流。✌主要内容：Java项目、Python项目、前端项目、PHP、ASP.NET、人工智能与大数据、单片机开发、物联网设计与开发设计、简历模板、学习资料、面试题库、技术互助、就业指导等。业务范围：免费功能设计、开题报告、任务书
  • 深度学习项目--基于LSTM的火灾预测研究(pytorch实现) 羊小猪~~ RNNLSTM神经网络案例机器学习/数据分析案例深度学习lstmpytorch人工智能机器学习rnngru
    本文为365天深度学习训练营中的学习记录博客原作者：K同学啊前言LSTM模型一直是一个很经典的模型，这个模型当然也很复杂，一般需要先学习RNN、GRU模型之后再学，GRU、LSTM的模型讲解将在这两天发布更新，其中：深度学习基础–一文搞懂RNN深度学习基础–GRU学习笔记(李沐《动手学习深度学习》)这一篇：是基于LSTM模型火灾预测研究，讲述了如何构建时间数据、模型如何构建、pytorch中LST
  • 自动驾驶中的混合决策架构 AI天才研究院 ChatGPTAI大模型企业级应用开发实战大数据AI人工智能大厂Offer收割机面试题简历程序员读书硅基计算碳基计算认知计算生物计算深度学习神经网络大数据AIGCAGILLMJavaPython架构设计Agent程序员实现财富自由
    自动驾驶中的混合决策架构关键词：自动驾驶、混合决策架构、决策模型、算法、数学模型、项目实战摘要：本文将深入探讨自动驾驶中的混合决策架构，从基础理论到实际应用，全面解析这一领域的核心概念、算法原理及其在自动驾驶中的具体应用。通过详细的项目实战案例，本文旨在为读者提供全面的技术指导和深刻的思考。第一部分：自动驾驶基础理论第1章：自动驾驶概述自动驾驶技术的发展背景源于人类对便捷、安全和高效的交通出行的需
  • 大模型开发的5种应用架构 我爱学大模型 大数据人工智能自然语言处理大模型机器人大模型开发ai大模型计算机技术
    架构对一个项目来说至关重要，它们能帮助构建高效、可维护的系统。然而，当我们进入大模型应用领域时，传统的设计模式似乎不再完全适用。生成式AI等新兴技术的出现，使得我们在设计这些系统时面临前所未有的挑战。在大模型应用实现过程中存在许多独特的问题，例如高昂的成本、较长的响应延迟以及生成内容的不确定性。这些问题要求我们在设计时采用新的方法和策略，以确保系统的稳定性和效率。为了解决这些问题，总结了一些针对大
  • 美国最高法院维持TikTok不卖就禁法案；荣耀 CEO 赵明辞职；OpenAI计划几周内推出o3 mini推理模型 | 极客头条 极客日报 tiktokopenai
    「极客头条」——技术人员的新闻圈！CSDN的读者朋友们好，「极客头条」来啦，快来看今天都有哪些值得我们技术人关注的重要新闻吧。整理|苏宓出品|CSDN（ID：CSDNnews）一分钟速览新闻点！荣耀CEO赵明辞职，前为华为监事李健继任阿里巴巴内部调整：天猫精灵硬件团队与夸克融合，瞄准AI眼镜市场小米NAS已进入到开发的尾声传特斯拉上海工厂春节期间将停产，内部人员：没听说此事游戏科学在杭州成立黑神话
  • 国产化环境下的Nginx依赖安装利器：麒麟v10系统arm64架构专用 劳筝千Daphne
    国产化环境下的Nginx依赖安装利器：麒麟v10系统arm64架构专用packages.zip项目地址:https://gitcode.com/open-source-toolkit/b9858项目介绍在国产化环境中，麒麟v10系统（arm64架构）的普及率越来越高，然而，安装Nginx及其依赖包的过程却可能因为环境差异而变得复杂。为了简化这一过程，我们推出了一个专门针对麒麟v10系统的Nginx
  • 数据仓库的复用性：流程层面 PersistDZ 大数据与AI数据仓库
    在数据仓库建设中，流程层面的复用性是提高开发效率和数据质量的关键。通过标准化ETL流程、模块化设计，以及实时与离线共用的架构，可以最大化数据处理流程的复用性，降低复杂度。以下是详细的介绍和落地方案。1.标准化ETL流程1.1标准化ETL的意义提高流程一致性，减少人为失误。降低维护成本，方便团队协作。支持多项目间共享和复用。1.2标准化ETL设计方法1.2.1标准化流程定义将ETL过程拆分为抽取（E
  • 数据仓库复用性：业务需求复用性设计 PersistDZ 大数据与AI数据仓库
    数据仓库的业务需求复用性设计是提升数据架构灵活性和扩展性的关键部分。以下是几个关键点，可以帮助实现业务需求复用性的设计：1.通用报表的复用标准化数据模型：设计通用的数据模型，例如通用的事实表和维度表，使得报表可以通过这些模型灵活生成，而不需要为每个报表单独设计数据结构。通过定义通用的维度，如时间维度、客户维度等，可以在不同业务场景下复用。报表模板化：将常见的报表需求抽象为模板，例如销售报表、财务报
  • ES6更新的内容中什么是proxy 神明木佑 es6前端ecmascript
    Proxy是ES6（ECMAScript2015）中引入的一个新的内置对象，用于定义某些操作的自定义行为（如属性查找、赋值、枚举、函数调用等）。Proxy可以被看作是一个拦截器，它拦截并自定义对象上的基本操作。通过创建一个对象的Proxy，你可以控制对这个对象的访问，包括读取属性、设置属性、枚举属性、函数调用等。Proxy接收两个参数：目标对象（target）：你想要拦截其操作的对象。处理器对象（
  • PLUTO：突破基于模仿学习的自动驾驶规划极限 硅谷秋水 机器学习自动驾驶人工智能自动驾驶人工智能机器学习计算机视觉
    24年4月来自香港科技大学的论文“PLUTO:PushingtheLimitofImitationLearning-basedPlanningforAutonomousDriving”。PLUTO，突破基于模仿学习的自动驾驶规划极限。改进来自三个关键方面：一种纵向横向感知模型架构，可实现灵活多样的驾驶行为；一种创新的辅助损失计算方法，可广泛应用且可高效地进行批量计算；一种利用对比学习的训练框架，采
  • LargeAD：用于自动驾驶的大规模跨传感器数据预训练 硅谷秋水 自动驾驶计算机视觉机器学习自动驾驶人工智能机器学习计算机视觉
    25年1月来自新加坡国立大学、南京航空航天、德国Bremerhaven技术大学、上海AI实验室、香港科技大学和香港大学的论文“LargeAD:Large-ScaleCross-SensorDataPretrainingforAutonomousDriving”。视觉基础模型(VFM)的最新进展彻底改变2D视觉感知，但它们在3D场景理解方面的潜力，特别是在自动驾驶应用中的潜力仍未得到充分探索。Lar
  • 避坑指南：Element UI在Vue2项目开发中的那些坑与解 前端没钱 前端基础与进阶ui
    文章目录一、引言二、ElementUI初体验之坑（一）安装后不生效解决方案：（二）组件引入报错解决方案：三、表单组件的那些“小脾气”（一）重置表单后无法输入（二）表单自动校验“抽风”解决方案：四、日期组件的“时差”问题（一）DatePicker日期难改解决方案：（二）datetime类型报错解决方案：（三）IE11日期显示“失踪”解决方案：五、表格组件的“疑难杂症”（一）el-table列自适应“
  • IDEA将项目代码同步到服务器或虚拟机 hamster2021 开发intellij-idea服务器java
    注意同步完之后项目还是在本地运行的，只是同步了代码。菜单栏点击工具->部署->配置然后配置这个：（如果是虚拟机记得设置固定ip地址）映射可以配置部署的路径：配置好后在项目目录右键然后找到这个：然后点击这个按钮就可以同步了：这里因为我同步过了所以是空的如果嫌每次都得手动同步麻烦还可设置自动同步：然后上面的选项还可以设置一些同步的细节：然后要在服务器或虚拟机上执行项目的话就通过服务器的命令行终端即可。
  • Springboot项目如何消费Kafka数据 布朗克168 Kafkaspringbootkafka后端
    目录一、引入依赖二、添加Kafka配置三、创建Kafka消费者（一）Kafka生产的消息是JSON字符串1、方式一2、方式二：需要直接访问消息元数据（二）Kafka生产的消息是对象Order四、创建启动类五、配置Kafka生产者（可选）（一）消息类型为json串（二）消息类型为对象Order六、启动Kafka服务七、测试Kafka消费者九、测试和调试十、结语一、引入依赖你需要在pom.xml中添加
  • SSM框架从入门到精通 布朗克168 #SSMJava开发相关后端框架经验分享springmybatisjava
    文章目录一、SSM框架概述二、Spring基础（一）配置与依赖注入（二）Bean的生命周期（三）事务管理三、SpringMVC入门（一）控制器实现（二）请求映射（三）模型数据绑定四、MyBatis学习（一）SQL映射文件（二）动态SQL（三）实体类与数据映射五、整合SSM（一）基础集成（二）异常处理六、实战应用（一）项目构建（二）调试与优化（三）常见问题解决七、总结一、SSM框架概述SSM框架是由
  • 腾讯蓝鲸团队最佳实践 卫玠_juncheng 数据库服务器python
    蓝鲸最佳实践该文档为腾讯蓝鲸团队多年的编程最佳实践总结，包括Python\Golang等多个语言及其相关领域。内容将跟随项目发展与语言/框架的更新不断改进。为了更方便地索引最佳实践，我们建立了一个简单的标号机制BBP，你可以阅读BBP-0000了解更多。目录Python内置数据结构BBP-1001避免魔术数字BBP-1002不要预计算字面量表达式BBP-1003优先使用列表推导或内联函数内置模块B
  • 集团企业IT技术架构规划方案（基于TOGAF企业架构框架方法论） 公众号：优享智库 数字化转型数据治理主数据数据仓库架构微服务云原生
    集团企业IT技术架构规划方案（基于TOGAF企业架构框架方法论）集团企业IT技术架构规划方案（基于TOGAF企业架构框架方法论）引言项目背景与目标TOGAF方法论简介规划方案概述企业现状分析与评估业务流程梳理现有IT架构评估存在问题及挑战分析架构设计原则与策略制定架构设计原则确定技术选型及标准化策略安全性、可靠性和可扩展性考虑业务架构规划与设计业务需求梳理与整合业务功能模块划分业务流程优化建议数据
  • Haproxy 负载均衡集群 weixin_34348805
    |br0router192.168.29.128vip:192.168.29.128192.168.29.128/32修改内核参数servicehttpdstart测试：找宿主机http://192.168.29.128找同学去访问:确保它的电脑没有192.168.29.0/24网络却把把网关指向宿主机10网段的IP再去访问http://192.168.29.128三、部署memcached把机器
  • 基于JAVA面向餐饮行业的会员营销系统计算机毕业设计源码+数据库+lw文档+系统+部署 匠心网络 java开发语言
    基于JAVA面向餐饮行业的会员营销系统计算机毕业设计源码+数据库+lw文档+系统+部署基于JAVA面向餐饮行业的会员营销系统计算机毕业设计源码+数据库+lw文档+系统+部署本源码技术栈：项目架构：B/S架构开发语言：Java语言开发软件：ideaeclipse前端技术：Layui、HTML、CSS、JS、JQuery等技术后端技术：JAVA运行环境：Win10、JDK1.8数据库：MySQL5.7
  • 微信开发者验证接口开发 362217990 微信 开发者 token 验证
    微信开发者接口验证。 Token，自己随便定义，与微信填写一致就可以了。 根据微信接入指南描述 http://mp.weixin.qq.com/wiki/17/2d4265491f12608cd170a95559800f2d.html 第一步：填写服务器配置 第二步：验证服务器地址的有效性 第三步：依据接口文档实现业务逻辑 这里主要讲第二步验证服务器有效性。 建一个
  • 一个小编程题-类似约瑟夫环问题 BrokenDreams 编程
            今天群友出了一题：         一个数列,把第一个元素删除,然后把第二个元素放到数列的最后,依次操作下去,直到把数列中所有的数都删除,要求依次打印出这个过程中删除的数。      &
  • linux复习笔记之bash shell (5) 关于减号-的作用 eksliang linux关于减号“-”的含义linux关于减号“-”的用途linux关于“-”的含义linux关于减号的含义
        转载请出自出处： http://eksliang.iteye.com/blog/2105677        管道命令在bash的连续处理程序中是相当重要的，尤其在使用到前一个命令的studout（标准输出）作为这次的stdin（标准输入）时，就显得太重要了，某些命令需要用到文件名，例如上篇文档的的切割命令（split）、还有
  • Unix(3) 18289753290 unix ksh
    1)若该变量需要在其他子进程执行，则可用"$变量名称"或${变量}累加内容 什么是子进程？在我目前这个shell情况下，去打开一个新的shell，新的那个shell就是子进程。一般状态下，父进程的自定义变量是无法在子进程内使用的，但通过export将变量变成环境变量后就能够在子进程里面应用了。 2)条件判断： &&代表and  ||代表or&nbs
  • 关于ListView中性能优化中图片加载问题 酷的飞上天空 ListView
    ListView的性能优化网上很多信息，但是涉及到异步加载图片问题就会出现问题。 具体参看上篇文章http://314858770.iteye.com/admin/blogs/1217594   如果每次都重新inflate一个新的View出来肯定会造成性能损失严重，可能会出现listview滚动是很卡的情况，还会出现内存溢出。 现在想出一个方法就是每次都添加一个标识，然后设置图
  • 德国总理默多克：给国人的一堂“震撼教育”课 永夜-极光 教育
    http://bbs.voc.com.cn/topic-2443617-1-1.html德国总理默多克：给国人的一堂“震撼教育”课　 安吉拉—默克尔，一位经历过社会主义的东德人，她利用自己的博客，发表一番来华前的谈话，该说的话，都在上面说了，全世界想看想传播——去看看默克尔总理的博客吧！ 　　德国总理默克尔以她的低调、朴素、谦和、平易近人等品格给国人留下了深刻印象。她以实际行动为中国人上了一堂
  • 关于Java继承的一个小问题。。。 随便小屋 java
    今天看Java 编程思想的时候遇见一个问题，运行的结果和自己想想的完全不一样。先把代码贴出来！ //CanFight接口 interface Canfight { void fight(); } //ActionCharacter类 class ActionCharacter { public void fight() { System.out.pr
  • 23种基本的设计模式 aijuans 设计模式
    Abstract Factory：提供一个创建一系列相关或相互依赖对象的接口，而无需指定它们具体的类。 　　Adapter：将一个类的接口转换成客户希望的另外一个接口。A d a p t e r模式使得原本由于接口不兼容而不能一起工作的那些类可以一起工作。 　　Bridge：将抽象部分与它的实现部分分离，使它们都可以独立地变化。 　　Builder：将一个复杂对象的构建与它的表示分离，使得同
  • 《周鸿祎自述：我的互联网方法论》读书笔记 aoyouzi 读书笔记
    从用户的角度来看,能解决问题的产品才是好产品,能方便/快速地解决问题的产品,就是一流产品.   商业模式不是赚钱模式 一款产品免费获得海量用户后,它的边际成本趋于0,然后再通过广告或者增值服务的方式赚钱,实际上就是创造了新的价值链.   商业模式的基础是用户,木有用户,任何商业模式都是浮云.商业模式的核心是产品,本质是通过产品为用户创造价值. 商业模式还包括寻找需求
  • JavaScript动态改变样式访问技术 百合不是茶 JavaScriptstyle属性ClassName属性
      一:style属性 格式:  HTML元素.style.样式属性="值";   创建菜单:在html标签中创建 或者 在head标签中用数组创建   <html> <head> <title>style改变样式</title> </head> &l
  • jQuery的deferred对象详解 bijian1013 jquerydeferred对象
            jQuery的开发速度很快，几乎每半年一个大版本，每两个月一个小版本。         每个版本都会引入一些新功能，从jQuery 1.5.0版本开始引入的一个新功能----deferred对象。    &nb
  • 淘宝开放平台TOP Bill_chen C++c物流C#
    淘宝网开放平台首页：http://open.taobao.com/ 淘宝开放平台是淘宝TOP团队的产品，TOP即TaoBao Open Platform， 是淘宝合作伙伴开发、发布、交易其服务的平台。 支撑TOP的三条主线为：    1.开放数据和业务流程     * 以API数据形式开放商品、交易、物流等业务；  &
  • 【大型网站架构一】大型网站架构概述 bit1129 网站架构
    大型互联网特点 面对海量用户、海量数据 大型互联网架构的关键指标 高并发 高性能 高可用 高可扩展性 线性伸缩性 安全性 大型互联网技术要点   前端优化 CDN缓存 反向代理 KV缓存 消息系统 分布式存储 NoSQL数据库 搜索 监控 安全 想到的问题： 1.对于订单系统这种事务型系统，如
  • eclipse插件hibernate tools安装 白糖_ Hibernate
    eclipse helios(3.6)版 1.启动eclipse 2.选择 Help > Install New Software...> 3.添加如下地址： http://download.jboss.org/jbosstools/updates/stable/helios/ 4.选择性安装：hibernate tools在All Jboss tool
  • Jquery easyui Form表单提交注意事项 bozch jquery easyui
    jquery easyui对表单的提交进行了封装，提交的方式采用的是ajax的方式，在开发的时候应该注意的事项如下：         1、在定义form标签的时候，要将method属性设置成post或者get，特别是进行大字段的文本信息提交的时候，要将method设置成post方式提交，否则页面会抛出跨域访问等异常。所以这个要
  • Trie tree(字典树)的Java实现及其应用-统计以某字符串为前缀的单词的数量 bylijinnan java实现
    import java.util.LinkedList; public class CaseInsensitiveTrie { /** 字典树的Java实现。实现了插入、查询以及深度优先遍历。 Trie tree's java implementation.(Insert,Search,DFS) Problem Description Igna
  • html css 鼠标形状样式汇总 chenbowen00 htmlcss
    css鼠标手型cursor中hand与pointer  Example：CSS鼠标手型效果 <a href="#" style="cursor:hand">CSS鼠标手型效果</a><br/>  Example：CSS鼠标手型效果 <a href="#" style=&qu
  • [IT与投资]IT投资的几个原则 comsci it
          无论是想在电商,软件,硬件还是互联网领域投资,都需要大量资金,虽然各个国家政府在媒体上都给予大家承诺,既要让市场的流动性宽松,又要保持经济的高速增长....但是,事实上,整个市场和社会对于真正的资金投入是非常渴望的,也就是说,表面上看起来,市场很活跃,但是投入的资金并不是很充足的......    
  • oracle with语句详解 daizj oraclewithwith as
    oracle with语句详解 转 在oracle中，select 查询语句，可以使用with,就是一个子查询，oracle 会把子查询的结果放到临时表中，可以反复使用 例子:注意，这是sql语句，不是pl/sql语句， 可以直接放到jdbc执行的 ----------------------------------------------------------------
  • hbase的简单操作 deng520159 数据库hbase
    近期公司用hbase来存储日志,然后再来分析 ,把hbase开发经常要用的命令找了出来. 用ssh登陆安装hbase那台linux后 用hbase shell进行hbase命令控制台! 表的管理 1）查看有哪些表 hbase(main)> list 2）创建表   # 语法：create <table>, {NAME => <family&g
  • C语言scanf继续学习、算术运算符学习和逻辑运算符 dcj3sjt126com c
    /* 2013年3月11日20:37:32 地点：北京潘家园 功能：完成用户格式化输入多个值 目的：学习scanf函数的使用 */ # include <stdio.h> int main(void) { int i, j, k; printf("please input three number:\n"); //提示用
  • 2015越来越好 dcj3sjt126com 歌曲
    越来越好 房子大了电话小了 感觉越来越好 假期多了收入高了 工作越来越好 商品精了价格活了 心情越来越好 天更蓝了水更清了 环境越来越好 活得有奔头人会步步高 想做到你要努力去做到 幸福的笑容天天挂眉梢 越来越好 婆媳和了家庭暖了 生活越来越好 孩子高了懂事多了 学习越来越好 朋友多了心相通了 大家越来越好 道路宽了心气顺了 日子越来越好 活的有精神人就不显
  • java.sql.SQLException: Value '0000-00-00' can not be represented as java.sql.Tim feiteyizu mysql
    数据表中有记录的time字段（属性为timestamp）其值为：“0000-00-00 00:00:00” 程序使用select 语句从中取数据时出现以下异常： java.sql.SQLException:Value '0000-00-00' can not be represented as java.sql.Date   java.sql.SQLException: Valu
  • Ehcache（07）——Ehcache对并发的支持 234390216 并发ehcache锁ReadLockWriteLock
    Ehcache对并发的支持          在高并发的情况下，使用Ehcache缓存时，由于并发的读与写，我们读的数据有可能是错误的，我们写的数据也有可能意外的被覆盖。所幸的是Ehcache为我们提供了针对于缓存元素Key的Read（读）、Write（写）锁。当一个线程获取了某一Key的Read锁之后，其它线程获取针对于同
  • mysql中blob,text字段的合成索引 jackyrong mysql
      在mysql中，原来有一个叫合成索引的，可以提高blob,text字段的效率性能， 但只能用在精确查询，核心是增加一个列，然后可以用md5进行散列，用散列值查找 则速度快 比如： create table abc(id varchar(10),context blog,hash_value varchar(40)); insert into abc(1,rep
  • 逻辑运算与移位运算 latty 位运算逻辑运算
    源码：正数的补码与原码相同例+7 源码：00000111 补码 ：00000111 （用8位二进制表示一个数） 负数的补码： 符号位为1，其余位为该数绝对值的原码按位取反；然后整个数加1。   -7 源码： 10000111 ，其绝对值为00000111  取反加一：11111001 为-7补码 已知一个数的补码，求原码的操作分两种情况：
  • 利用XSD 验证XML文件 newerdragon javaxmlxsd
    XSD文件 （XML Schema 语言也称作 XML Schema 定义（XML Schema Definition，XSD）。 具体使用方法和定义请参看： http://www.w3school.com.cn/schema/index.asp java自jdk1.5以上新增了SchemaFactory类 可以实现对XSD验证的支持，使用起来也很方便。 以下代码可用在J
  • 搭建 CentOS 6 服务器(12) - Samba rensanning centos
    （1）安装 # yum -y install samba Installed: samba.i686 0:3.6.9-169.el6_5 # pdbedit -a rensn new password:123456 retype new password:123456 …… （2）Home文件夹 # mkdir /etc
  • Learn Nodejs 01 toknowme nodejs
    （1）下载nodejs https://nodejs.org/download/ 选择相应的版本进行下载     （2）安装nodejs 安装的方式比较多，请baidu下 我这边下载的是“node-v0.12.7-linux-x64.tar.gz”这个版本 （1）上传服务器 （2）解压 tar -zxvf  node-v0.12.
  • jquery控制自动刷新的代码举例 xp9802 jquery
    1、html内容部分  复制代码代码示例: <div id='log_reload'> <select name="id_s" size="1"> <option value='2'>-2s-</option> <option value='3'>-3s-</option
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他