雨风SLEK
雨风SLEK

2021-03-08 Speech-Transformer项目模型参数统计

读入已训练好并保存的模型

pthfile = r'/home/user1/Project/Speech-Transformer/egs/aishell/exp/train_m1_n6_in80_elayer6_head8_k64_v64_model512_inner2048_drop0.1_pe5000_emb512_dlayer6_share1_ls0.1_epoch150_shuffle1_bs16_bf30000_mli800_mlo150_k0.2_warm4000/final.pth.tar'  # 
net = torch.load(pthfile, map_location=torch.device('cpu'))  # 由于模型原本是用GPU保存的，如果电脑上没有GPU，可以转化到CPU上

print(type(net))  # 类型是 dict
print(len(net))   # 长度为 22，即存在22个 key-value 键值对
执行结果

列出所有键值

for k in net.keys():
    print(k) 
# 22个key
# LFR_m  LFR_n    d_input    n_layers_enc    n_head    d_k    d_v
# d_model    d_inner    dropout    pe_maxlen    sos_id    eos_id
# vocab_size    d_word_vec    n_layers_dec    tgt_emb_prj_weight_sharing
# state_dict    optim_dict    epoch    tr_loss    cv_loss

打印出当前保存的epoch数

print(net["epoch"])
>>> 118

统计模型参数量方法（一）

统计state_dict内包含的参数数量

psum = 0
for key, value in net["state_dict"].items():
    print(key)
    print(value.size())
    print(value.numel())
    psum += value.numel()
    # print(key, value.size(), sep=" ")
print(psum)

输出结果：

encoder.linear_in.weight
torch.Size([512, 80])
40960
encoder.linear_in.bias
torch.Size([512])
512
encoder.layer_norm_in.weight
torch.Size([512])
512
encoder.layer_norm_in.bias
torch.Size([512])
512
encoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000
encoder.layer_stack.0.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.0.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.0.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.0.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.0.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.0.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.0.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.0.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.0.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.1.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.1.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.1.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.1.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.1.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.1.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.1.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.1.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.2.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.2.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.2.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.2.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.2.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.2.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.2.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.2.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.3.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.3.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.3.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.3.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.3.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.3.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.3.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.3.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.4.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.4.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.4.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.4.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.4.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.4.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.4.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.4.pos_ffn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.w_qs.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.w_ks.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.w_vs.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.layer_norm.bias
torch.Size([512])
512
encoder.layer_stack.5.slf_attn.fc.weight
torch.Size([512, 512])
262144
encoder.layer_stack.5.slf_attn.fc.bias
torch.Size([512])
512
encoder.layer_stack.5.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
encoder.layer_stack.5.pos_ffn.w_1.bias
torch.Size([2048])
2048
encoder.layer_stack.5.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
encoder.layer_stack.5.pos_ffn.w_2.bias
torch.Size([512])
512
encoder.layer_stack.5.pos_ffn.layer_norm.weight
torch.Size([512])
512
encoder.layer_stack.5.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.tgt_word_emb.weight
torch.Size([4233, 512])
2167296
decoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000
decoder.layer_stack.0.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.0.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.0.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.0.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.0.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.0.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.0.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.0.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.0.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.0.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.1.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.1.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.1.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.1.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.1.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.1.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.1.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.1.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.1.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.2.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.2.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.2.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.2.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.2.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.2.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.2.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.2.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.2.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.3.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.3.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.3.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.3.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.3.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.3.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.3.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.3.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.3.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.4.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.4.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.4.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.4.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.4.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.4.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.4.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.4.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.4.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.5.slf_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.slf_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.w_qs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.w_qs.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.w_ks.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.w_ks.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.w_vs.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.w_vs.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.layer_norm.bias
torch.Size([512])
512
decoder.layer_stack.5.enc_attn.fc.weight
torch.Size([512, 512])
262144
decoder.layer_stack.5.enc_attn.fc.bias
torch.Size([512])
512
decoder.layer_stack.5.pos_ffn.w_1.weight
torch.Size([2048, 512])
1048576
decoder.layer_stack.5.pos_ffn.w_1.bias
torch.Size([2048])
2048
decoder.layer_stack.5.pos_ffn.w_2.weight
torch.Size([512, 2048])
1048576
decoder.layer_stack.5.pos_ffn.w_2.bias
torch.Size([512])
512
decoder.layer_stack.5.pos_ffn.layer_norm.weight
torch.Size([512])
512
decoder.layer_stack.5.pos_ffn.layer_norm.bias
torch.Size([512])
512
decoder.tgt_word_prj.weight
torch.Size([4233, 512])
2167296
53635584

打印optim_dict内部值

for key, value in net["optim_dict"].items():
    print(key)
    print(type(value))
结果显示

打印optim_dict内部param_groups

groups = net["optim_dict"]["param_groups"]
print(groups)
print(len(groups))

执行结果：

[{'lr': 2.9553222446278096e-05, 'betas': (0.9, 0.98), 'eps': 1e-09, 'weight_decay': 0, 'amsgrad': False, 'params': [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 94, 95, 96, 97, 98, 99, 100, 101, 102, 103, 104, 105, 106, 107, 108, 109, 110, 111, 112, 113, 114, 115, 116, 117, 118, 119, 120, 121, 122, 123, 124, 125, 126, 127, 128, 129, 130, 131, 132, 133, 134, 135, 136, 137, 138, 139, 140, 141, 142, 143, 144, 145, 146, 147, 148, 149, 150, 151, 152, 153, 154, 155, 156, 157, 158, 159, 160, 161, 162, 163, 164, 165, 166, 167, 168, 169, 170, 171, 172, 173, 174, 175, 176, 177, 178, 179, 180, 181, 182, 183, 184, 185, 186, 187, 188, 189, 190, 191, 192, 193, 194, 195, 196, 197, 198, 199, 200, 201, 202, 203, 204, 205, 206, 207, 208, 209, 210, 211, 212, 213, 214, 215, 216, 217, 218, 219, 220, 221, 222, 223, 224, 225, 226, 227, 228, 229, 230, 231, 232, 233, 234, 235, 236, 237, 238, 239, 240, 241, 242, 243, 244, 245, 246, 247, 248, 249, 250, 251, 252, 253, 254, 255, 256]}]
1

打印optim_dict内部state

state = net["optim_dict"]["state"]
print(len(state)) 
for key, value in state.items():
    print(key, type(value), sep=" ")

执行结果：

257
0 
1 
2 
3 
4 
5 
6 
7 
8 
9 
10 
11 
12 
13 
14 
15 
16 
17 
18 
19 
20 
21 
22 
23 
24 
25 
26 
27 
28 
29 
30 
31 
32 
33 
34 
35 
36 
37 
38 
39 
40 
41 
42 
43 
44 
45 
46 
47 
48 
49 
50 
51 
52 
53 
54 
55 
56 
57 
58 
59 
60 
61 
62 
63 
64 
65 
66 
67 
68 
69 
70 
71 
72 
73 
74 
75 
76 
77 
78 
79 
80 
81 
82 
83 
84 
85 
86 
87 
88 
89 
90 
91 
92 
93 
94 
95 
96 
97 
98 
99 
100 
101 
102 
103 
104 
105 
106 
107 
108 
109 
110 
111 
112 
113 
114 
115 
116 
117 
118 
119 
120 
121 
122 
123 
124 
125 
126 
127 
128 
129 
130 
131 
132 
133 
134 
135 
136 
137 
138 
139 
140 
141 
142 
143 
144 
145 
146 
147 
148 
149 
150 
151 
152 
153 
154 
155 
156 
157 
158 
159 
160 
161 
162 
163 
164 
165 
166 
167 
168 
169 
170 
171 
172 
173 
174 
175 
176 
177 
178 
179 
180 
181 
182 
183 
184 
185 
186 
187 
188 
189 
190 
191 
192 
193 
194 
195 
196 
197 
198 
199 
200 
201 
202 
203 
204 
205 
206 
207 
208 
209 
210 
211 
212 
213 
214 
215 
216 
217 
218 
219 
220 
221 
222 
223 
224 
225 
226 
227 
228 
229 
230 
231 
232 
233 
234 
235 
236 
237 
238 
239 
240 
241 
242 
243 
244 
245 
246 
247 
248 
249 
250 
251 
252 
253 
254 
255 
256

统计模型参数量方法（二）

读入模型中state_dict

model.load_state_dict(net['state_dict'])

统计参数数量

num_params = 0
for param in model.parameters():
    num_params += param.numel()
print(num_params / 1e6)
print(num_params)

执行结果：

46.348288
46348288

总结：

方法（二）计算的是准确的模型参数量，方法（一）可能包含了些其他参数。
方法一 53635584 个参数
方法二 46348288 个参数
相差 7287296 个参数
经过对比，刚好相差了如下几个参数：

encoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000
decoder.tgt_word_emb.weight
torch.Size([4233, 512])
2167296
decoder.positional_encoding.pe
torch.Size([1, 5000, 512])
2560000

你可能感兴趣的:(2021-03-08 Speech-Transformer项目模型参数统计)

  • 关于沟通这件事，项目经理不需要每次都面对面进行 流程大师兄
    很多项目经理都会遇到这样的问题，项目中由于事情太多，根本没有足够的时间去召开会议，那在这种情况下如何去有效地管理项目中的利益相关者？当然，不建议电子邮件也不需要开会的话，建议可以采取下面几种方式来形成有效的沟通，这几种方式可以帮助你努力的通过各种办法来保持和各方面的联系。项目经理首先要问自己几个问题，项目中哪些利益相关者是必须要进行沟通的？可以列出项目中所有的利益相关者清单，同时也整理出项目中哪些
  • 机器学习与深度学习间关系与区别 ℒℴѵℯ心·动ꦿ໊ོ꫞ 人工智能学习深度学习python
    一、机器学习概述定义机器学习（MachineLearning,ML）是一种通过数据驱动的方法，利用统计学和计算算法来训练模型，使计算机能够从数据中学习并自动进行预测或决策。机器学习通过分析大量数据样本，识别其中的模式和规律，从而对新的数据进行判断。其核心在于通过训练过程，让模型不断优化和提升其预测准确性。主要类型1.监督学习（SupervisedLearning）监督学习是指在训练数据集中包含输入
  • OC语言多界面传值五大方式 Magnetic_h iosui学习objective-c开发语言
    前言在完成暑假仿写项目时，遇到了许多需要用到多界面传值的地方，这篇博客来总结一下比较常用的五种多界面传值的方式。属性传值属性传值一般用前一个界面向后一个界面传值，简单地说就是通过访问后一个视图控制器的属性来为它赋值，通过这个属性来做到从前一个界面向后一个界面传值。首先在后一个界面中定义属性@interfaceBViewController:UIViewController@propertyNSSt
  • element实现动态路由+面包屑 软件技术NINI vue案例vue.js前端
    el-breadcrumb是ElementUI组件库中的一个面包屑导航组件，它用于显示当前页面的路径，帮助用户快速理解和导航到应用的各个部分。在Vue.js项目中，如果你已经安装了ElementUI，就可以很方便地使用el-breadcrumb组件。以下是一个基本的使用示例：安装ElementUI（如果你还没有安装的话）:你可以通过npm或yarn来安装ElementUI。bash复制代码npmi
  • C语言如何定义宏函数？ 小九格物 c语言
    在C语言中，宏函数是通过预处理器定义的，它在编译之前替换代码中的宏调用。宏函数可以模拟函数的行为，但它们不是真正的函数，因为它们在编译时不会进行类型检查，也不会分配存储空间。宏函数的定义通常使用#define指令，后面跟着宏的名称和参数列表，以及宏展开后的代码。宏函数的定义方式：1.基本宏函数：这是最简单的宏函数形式，它直接定义一个表达式。#defineSQUARE(x)((x)*(x))2.带参
  • 如何在 Fork 的 GitHub 项目中保留自己的修改并同步上游更新？github_fork_update iBaoxing github
    如何在Fork的GitHub项目中保留自己的修改并同步上游更新？在GitHub上Fork了一个项目后，你可能会对项目进行一些修改，同时原作者也在不断更新。如果想要在保留自己修改的基础上，同步原作者的最新更新，很多人会不知所措。本文将详细讲解如何在不丢失自己改动的情况下，将上游仓库的更新合并到自己的仓库中。问题描述假设你在GitHub上Fork了一个项目，并基于该项目做了一些修改，随后你发现原作者对
  • 消息中间件有哪些常见类型 xmh-sxh-1314 java
    消息中间件根据其设计理念和用途，可以大致分为以下几种常见类型：点对点消息队列（Point-to-PointMessagingQueues）：在这种模型中，消息被发送到特定的队列中，消费者从队列中取出并处理消息。队列中的消息只能被一个消费者消费，消费后即被删除。常见的实现包括IBM的MQSeries、RabbitMQ的部分使用场景等。适用于任务分发、负载均衡等场景。发布/订阅消息模型（Pub/Sub
  • 抖音乐买买怎么加入赚钱?赚钱方法是什么 测评君高省
    你会在抖音买东西吗?如果会，那么一定要免费注册一个乐买买，抖音直播间，橱窗，小视频里的小黄车买东西都可以返佣金!省下来都是自己的，分享还可以赚钱乐买买是好省旗下的抖音返佣平台，乐买买分析社交电商的价值，乐买买属于今年难得的副业项目风口机会，2019年错过做好省的搞钱的黄金时期，那么2022年千万别再错过乐买买至于我为何转到高省呢？当然是高省APP佣金更高，模式更好，终端用户不流失。【高省】是一个自
  • 【一起学Rust | 设计模式】习惯语法——使用借用类型作为参数、格式化拼接字符串、构造函数 广龙宇 一起学Rust#Rust设计模式rust设计模式开发语言
    提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、使用借用类型作为参数二、格式化拼接字符串三、使用构造函数总结前言Rust不是传统的面向对象编程语言，它的所有特性，使其独一无二。因此，学习特定于Rust的设计模式是必要的。本系列文章为作者学习《Rust设计模式》的学习笔记以及自己的见解。因此，本系列文章的结构也与此书的结构相同（后续可能会调成结构），基本上分为三个部分
  • 每日一题——第八十九题 互联网打工人no1 C语言程序设计每日一练c语言
    题目：在字符串中找到提取数字，并统计一共找到多少整数，a123xxyu23&8889，那么找到的整数为123，23，8889//思想：#include#include#includeintmain(){charstr[]="a123xxyu23&8889";intcount=0;intnum=0;//用于临时存放当前正在构建的整数。boolinNum=false;//用于标记当前是否正在读取一个整
  • LLM 词汇表 落难Coder LLMsNLP大语言模型大模型llama人工智能
    Contextwindow“上下文窗口”是指语言模型在生成新文本时能够回溯和参考的文本量。这不同于语言模型训练时所使用的大量数据集，而是代表了模型的“工作记忆”。较大的上下文窗口可以让模型理解和响应更复杂和更长的提示，而较小的上下文窗口可能会限制模型处理较长提示或在长时间对话中保持连贯性的能力。Fine-tuning微调是使用额外的数据进一步训练预训练语言模型的过程。这使得模型开始表示和模仿微调数
  • 基于社交网络算法优化的二维最大熵图像分割 智能算法研学社（Jack旭） 智能优化算法应用图像分割算法php开发语言
    智能优化算法应用：基于社交网络优化的二维最大熵图像阈值分割-附代码文章目录智能优化算法应用：基于社交网络优化的二维最大熵图像阈值分割-附代码1.前言2.二维最大熵阈值分割原理3.基于社交网络优化的多阈值分割4.算法结果：5.参考文献：6.Matlab代码摘要：本文介绍基于最大熵的图像分割，并且应用社交网络算法进行阈值寻优。1.前言阅读此文章前，请阅读《图像分割：直方图区域划分及信息统计介绍》htt
  • 探索OpenAI和LangChain的适配器集成：轻松切换模型提供商 nseejrukjhad langchaineasyui前端python
    #探索OpenAI和LangChain的适配器集成：轻松切换模型提供商##引言在人工智能和自然语言处理的世界中，OpenAI的模型提供了强大的能力。然而，随着技术的发展，许多人开始探索其他模型以满足特定需求。LangChain作为一个强大的工具，集成了多种模型提供商，通过提供适配器，简化了不同模型之间的转换。本篇文章将介绍如何使用LangChain的适配器与OpenAI集成，以便轻松切换模型提供商
  • 使用Apify加载Twitter消息以进行微调的完整指南 nseejrukjhad twittereasyui前端python
    #使用Apify加载Twitter消息以进行微调的完整指南##引言在自然语言处理领域，微调模型以适应特定任务是提升模型性能的常见方法。本文将介绍如何使用Apify从Twitter导出聊天信息，以便进一步进行微调。##主要内容###使用Apify导出推文首先，我们需要从Twitter导出推文。Apify可以帮助我们做到这一点。通过Apify的强大功能，我们可以批量抓取和导出数据，适用于各类应用场景。
  • 如何部分格式化提示模板:LangChain中的高级技巧 nseejrukjhad langchainjava服务器python
    标题:如何部分格式化提示模板:LangChain中的高级技巧内容:如何部分格式化提示模板:LangChain中的高级技巧引言在使用大型语言模型(LLM)时,提示工程是一个关键环节。LangChain提供了强大的提示模板功能,让我们能更灵活地构建和管理提示。本文将介绍LangChain中一个高级特性-部分格式化提示模板,这个技巧可以让你的提示管理更加高效和灵活。什么是部分格式化提示模板?部分格式化提
  • GitHub上克隆项目 bigbig猩猩 github
    从GitHub上克隆项目是一个简单且直接的过程，它允许你将远程仓库中的项目复制到你的本地计算机上，以便进行进一步的开发、测试或学习。以下是一个详细的步骤指南，帮助你从GitHub上克隆项目。一、准备工作1.安装Git在克隆GitHub项目之前，你需要在你的计算机上安装Git工具。Git是一个开源的分布式版本控制系统，用于跟踪和管理代码变更。你可以从Git的官方网站（https://git-scm.
  • Day17笔记-高阶函数 ~在杰难逃~ Python笔记python开发语言pycharm数据分析
    高阶函数【重点掌握】函数的本质：函数是一个变量，函数名是一个变量名，一个函数可以作为另一个函数的参数或返回值使用如果A函数作为B函数的参数，B函数调用完成之后，会得到一个结果，则B函数被称为高阶函数常用的高阶函数：map(),reduce(),filter(),sorted()1.map()map(func,iterable)，返回值是一个iterator【容器，迭代器】func:函数iterab
  • git - Webhook让部署自动化 大猪大猪
    我们现在有一个需求，将项目打包上传到gitlab或者github后，程序能自动部署，不用手动地去服务器中进行项目更新并运行，如何做到？这里我们可以使用gitlab与github的挂钩，挂钩的原理就是，每当我们有请求到gitlab与github服务器时，这时他俩会根据我们配置的挂钩地扯进行访问，webhook挂钩程序会一直监听着某个端口请求，一但收到他们发过来的请求，这时就知道用户有请求提交了，这时
  • MYSQL面试系列-04 king01299 面试mysql面试
    MYSQL面试系列-0417.关于redolog和binlog的刷盘机制、redolog、undolog作用、GTID是做什么的？innodb_flush_log_at_trx_commit及sync_binlog参数意义双117.1innodb_flush_log_at_trx_commit该变量定义了InnoDB在每次事务提交时，如何处理未刷入（flush）的重做日志信息（redolog）。它
  • 【JS】执行时长(100分) |思路参考+代码解析（C++） l939035548 JS算法数据结构c++
    题目为了充分发挥GPU算力，需要尽可能多的将任务交给GPU执行，现在有一个任务数组，数组元素表示在这1秒内新增的任务个数且每秒都有新增任务。假设GPU最多一次执行n个任务，一次执行耗时1秒，在保证GPU不空闲情况下，最少需要多长时间执行完成。题目输入第一个参数为GPU一次最多执行的任务个数，取值范围[1,10000]第二个参数为任务数组长度，取值范围[1,10000]第三个参数为任务数组，数字范围
  • 人工智能时代，程序员如何保持核心竞争力？ jmoych 人工智能
    随着AIGC（如chatgpt、midjourney、claude等）大语言模型接二连三的涌现，AI辅助编程工具日益普及，程序员的工作方式正在发生深刻变革。有人担心AI可能取代部分编程工作，也有人认为AI是提高效率的得力助手。面对这一趋势,程序员应该如何应对?是专注于某个领域深耕细作，还是广泛学习以适应快速变化的技术环境?又或者，我们是否应该将重点转向AI无法轻易替代的软技能？让我们一起探讨程序员
  • 每日算法&面试题，大厂特训二十八天——第二十天（树） 肥学 ⚡算法题⚡面试题每日精进java算法数据结构
    目录标题导读算法特训二十八天面试题点击直接资料领取导读肥友们为了更好的去帮助新同学适应算法和面试题，最近我们开始进行专项突击一步一步来。上一期我们完成了动态规划二十一天现在我们进行下一项对各类算法进行二十八天的一个小总结。还在等什么快来一起肥学进行二十八天挑战吧！！特别介绍小白练手专栏，适合刚入手的新人欢迎订阅编程小白进阶python有趣练手项目里面包括了像《机器人尬聊》《恶搞程序》这样的有趣文章
  • Faiss Tips：高效向量搜索与聚类的利器 焦习娜Samantha
    FaissTips：高效向量搜索与聚类的利器faiss_tipsSomeusefultipsforfaiss项目地址:https://gitcode.com/gh_mirrors/fa/faiss_tips项目介绍Faiss是由FacebookAIResearch开发的一个用于高效相似性搜索和密集向量聚类的库。它支持多种硬件平台，包括CPU和GPU，能够在海量数据集上实现快速的近似最近邻搜索（AN
  • 冬天短期的暴利小生意有哪些？那些小生意适合新手做？ 一起高省
    短期生意不失为创业的一个商机，不过短期生意的商机是转瞬即逝的，而且这类生意也很难作为长期的生意去做，那冬天短期暴利小生意查看更多关于短期暴利小生意的文章有哪些呢?给大家先推荐一个2023年风口项目吧，真很不错的项目，全程零投资，当做副业来做真的很稳定，不管你什么阶层的人，或多或少都网购吧？你们知道网购是可以拿提成，拿返利，拿分佣的吗？你们知道很多优惠券群里面，天天群主和管理发一些商品吗？他们其实在
  • 回溯算法-重新安排行程 chirou_ 算法数据结构图论c++图搜索
    leetcode332.重新安排行程这题我还没自己ac过，只能现在凭着刚学完的热乎劲把我对题解的理解记下来。本题我认为对数据结构的考察比较多，用什么数据结构去存数据，去读取数据，都是很重要的。classSolution{private:unordered_map>targets;boolbacktracking(intticketNum,vector&result){//1.确定参数和返回值//2
  • 数据仓库——维度表一致性 墨染丶eye 背诵数据仓库
    数据仓库基础笔记思维导图已经整理完毕，完整连接为：数据仓库基础知识笔记思维导图维度一致性问题从逻辑层面来看，当一系列星型模型共享一组公共维度时，所涉及的维度称为一致性维度。当维度表存在不一致时，短期的成功难以弥补长期的错误。维度时确保不同过程中信息集成起来实现横向钻取货活动的关键。造成横向钻取失败的原因维度结构的差别，因为维度的差别，分析工作涉及的领域从简单到复杂，但是都是通过复杂的报表来弥补设计
  • 高级 ECharts 技巧：自定义图表主题与样式 SnowMan1993 echarts信息可视化数据分析
    ECharts是一个强大的数据可视化库，提供了多种内置主题和样式，但你也可以根据项目的设计需求，自定义图表的主题与样式。本文将介绍如何使用ECharts自定义图表主题，以提升数据可视化的吸引力和一致性。1.什么是ECharts主题？ECharts的主题是指定义图表样式的配置项，包括颜色、字体、线条样式等。通过预设主题，你可以快速更改图表的整体风格，而自定义主题则允许你在此基础上进行个性化设置。2.
  • 01-Git初识 Meereen Gitgit
    01-Git初识概念：一个免费开源，分布式的代码版本控制系统，帮助开发团队维护代码作用：记录代码内容。切换代码版本，多人开发时高效合并代码内容如何学：个人本机使用：Git基础命令和概念多人共享使用：团队开发同一个项目的代码版本管理Git配置用户信息配置：用户名和邮箱，应用在每次提交代码版本时表明自己的身份命令：查看git版本号git-v配置用户名gitconfig--globaluser.name
  • Rust基础知识 GRKF15 rust开发语言后端
    1.Rust语言简介1.1基础语法变量声明：let关键字用于声明变量，可以指定或不指定类型，如leta=10;和letmutc=30i32;。函数定义：使用fn关键字定义函数，并指定参数类型及返回类型，如fnadd(i:i32,j:i32)->i32{i+j}。控制流：包括if、else等，控制语句后需要使用;来结束语句。1.2数据类型整数类型：i8、i16、i32、i64、i128，以及无符号的
  • Faiss：高效相似性搜索与聚类的利器 网络·魚 大数据faiss
    Faiss是一个针对大规模向量集合的相似性搜索库，由FacebookAIResearch开发。它提供了一系列高效的算法和数据结构，用于加速向量之间的相似性搜索，特别是在大规模数据集上。本文将介绍Faiss的原理、核心功能以及如何在实际项目中使用它。Faiss原理：近似最近邻搜索：Faiss的核心功能之一是近似最近邻搜索，它能够高效地在大规模数据集中找到与给定查询向量最相似的向量。这种搜索是近似的，
  • 微信开发者验证接口开发 362217990 微信 开发者 token 验证
    微信开发者接口验证。 Token，自己随便定义，与微信填写一致就可以了。 根据微信接入指南描述 http://mp.weixin.qq.com/wiki/17/2d4265491f12608cd170a95559800f2d.html 第一步：填写服务器配置 第二步：验证服务器地址的有效性 第三步：依据接口文档实现业务逻辑 这里主要讲第二步验证服务器有效性。 建一个
  • 一个小编程题-类似约瑟夫环问题 BrokenDreams 编程
            今天群友出了一题：         一个数列,把第一个元素删除,然后把第二个元素放到数列的最后,依次操作下去,直到把数列中所有的数都删除,要求依次打印出这个过程中删除的数。      &
  • linux复习笔记之bash shell (5) 关于减号-的作用 eksliang linux关于减号“-”的含义linux关于减号“-”的用途linux关于“-”的含义linux关于减号的含义
        转载请出自出处： http://eksliang.iteye.com/blog/2105677        管道命令在bash的连续处理程序中是相当重要的，尤其在使用到前一个命令的studout（标准输出）作为这次的stdin（标准输入）时，就显得太重要了，某些命令需要用到文件名，例如上篇文档的的切割命令（split）、还有
  • Unix(3) 18289753290 unix ksh
    1)若该变量需要在其他子进程执行，则可用"$变量名称"或${变量}累加内容 什么是子进程？在我目前这个shell情况下，去打开一个新的shell，新的那个shell就是子进程。一般状态下，父进程的自定义变量是无法在子进程内使用的，但通过export将变量变成环境变量后就能够在子进程里面应用了。 2)条件判断： &&代表and  ||代表or&nbs
  • 关于ListView中性能优化中图片加载问题 酷的飞上天空 ListView
    ListView的性能优化网上很多信息，但是涉及到异步加载图片问题就会出现问题。 具体参看上篇文章http://314858770.iteye.com/admin/blogs/1217594   如果每次都重新inflate一个新的View出来肯定会造成性能损失严重，可能会出现listview滚动是很卡的情况，还会出现内存溢出。 现在想出一个方法就是每次都添加一个标识，然后设置图
  • 德国总理默多克：给国人的一堂“震撼教育”课 永夜-极光 教育
    http://bbs.voc.com.cn/topic-2443617-1-1.html德国总理默多克：给国人的一堂“震撼教育”课　 安吉拉—默克尔，一位经历过社会主义的东德人，她利用自己的博客，发表一番来华前的谈话，该说的话，都在上面说了，全世界想看想传播——去看看默克尔总理的博客吧！ 　　德国总理默克尔以她的低调、朴素、谦和、平易近人等品格给国人留下了深刻印象。她以实际行动为中国人上了一堂
  • 关于Java继承的一个小问题。。。 随便小屋 java
    今天看Java 编程思想的时候遇见一个问题，运行的结果和自己想想的完全不一样。先把代码贴出来！ //CanFight接口 interface Canfight { void fight(); } //ActionCharacter类 class ActionCharacter { public void fight() { System.out.pr
  • 23种基本的设计模式 aijuans 设计模式
    Abstract Factory：提供一个创建一系列相关或相互依赖对象的接口，而无需指定它们具体的类。 　　Adapter：将一个类的接口转换成客户希望的另外一个接口。A d a p t e r模式使得原本由于接口不兼容而不能一起工作的那些类可以一起工作。 　　Bridge：将抽象部分与它的实现部分分离，使它们都可以独立地变化。 　　Builder：将一个复杂对象的构建与它的表示分离，使得同
  • 《周鸿祎自述：我的互联网方法论》读书笔记 aoyouzi 读书笔记
    从用户的角度来看,能解决问题的产品才是好产品,能方便/快速地解决问题的产品,就是一流产品.   商业模式不是赚钱模式 一款产品免费获得海量用户后,它的边际成本趋于0,然后再通过广告或者增值服务的方式赚钱,实际上就是创造了新的价值链.   商业模式的基础是用户,木有用户,任何商业模式都是浮云.商业模式的核心是产品,本质是通过产品为用户创造价值. 商业模式还包括寻找需求
  • JavaScript动态改变样式访问技术 百合不是茶 JavaScriptstyle属性ClassName属性
      一:style属性 格式:  HTML元素.style.样式属性="值";   创建菜单:在html标签中创建 或者 在head标签中用数组创建   <html> <head> <title>style改变样式</title> </head> &l
  • jQuery的deferred对象详解 bijian1013 jquerydeferred对象
            jQuery的开发速度很快，几乎每半年一个大版本，每两个月一个小版本。         每个版本都会引入一些新功能，从jQuery 1.5.0版本开始引入的一个新功能----deferred对象。    &nb
  • 淘宝开放平台TOP Bill_chen C++c物流C#
    淘宝网开放平台首页：http://open.taobao.com/ 淘宝开放平台是淘宝TOP团队的产品，TOP即TaoBao Open Platform， 是淘宝合作伙伴开发、发布、交易其服务的平台。 支撑TOP的三条主线为：    1.开放数据和业务流程     * 以API数据形式开放商品、交易、物流等业务；  &
  • 【大型网站架构一】大型网站架构概述 bit1129 网站架构
    大型互联网特点 面对海量用户、海量数据 大型互联网架构的关键指标 高并发 高性能 高可用 高可扩展性 线性伸缩性 安全性 大型互联网技术要点   前端优化 CDN缓存 反向代理 KV缓存 消息系统 分布式存储 NoSQL数据库 搜索 监控 安全 想到的问题： 1.对于订单系统这种事务型系统，如
  • eclipse插件hibernate tools安装 白糖_ Hibernate
    eclipse helios(3.6)版 1.启动eclipse 2.选择 Help > Install New Software...> 3.添加如下地址： http://download.jboss.org/jbosstools/updates/stable/helios/ 4.选择性安装：hibernate tools在All Jboss tool
  • Jquery easyui Form表单提交注意事项 bozch jquery easyui
    jquery easyui对表单的提交进行了封装，提交的方式采用的是ajax的方式，在开发的时候应该注意的事项如下：         1、在定义form标签的时候，要将method属性设置成post或者get，特别是进行大字段的文本信息提交的时候，要将method设置成post方式提交，否则页面会抛出跨域访问等异常。所以这个要
  • Trie tree(字典树)的Java实现及其应用-统计以某字符串为前缀的单词的数量 bylijinnan java实现
    import java.util.LinkedList; public class CaseInsensitiveTrie { /** 字典树的Java实现。实现了插入、查询以及深度优先遍历。 Trie tree's java implementation.(Insert,Search,DFS) Problem Description Igna
  • html css 鼠标形状样式汇总 chenbowen00 htmlcss
    css鼠标手型cursor中hand与pointer  Example：CSS鼠标手型效果 <a href="#" style="cursor:hand">CSS鼠标手型效果</a><br/>  Example：CSS鼠标手型效果 <a href="#" style=&qu
  • [IT与投资]IT投资的几个原则 comsci it
          无论是想在电商,软件,硬件还是互联网领域投资,都需要大量资金,虽然各个国家政府在媒体上都给予大家承诺,既要让市场的流动性宽松,又要保持经济的高速增长....但是,事实上,整个市场和社会对于真正的资金投入是非常渴望的,也就是说,表面上看起来,市场很活跃,但是投入的资金并不是很充足的......    
  • oracle with语句详解 daizj oraclewithwith as
    oracle with语句详解 转 在oracle中，select 查询语句，可以使用with,就是一个子查询，oracle 会把子查询的结果放到临时表中，可以反复使用 例子:注意，这是sql语句，不是pl/sql语句， 可以直接放到jdbc执行的 ----------------------------------------------------------------
  • hbase的简单操作 deng520159 数据库hbase
    近期公司用hbase来存储日志,然后再来分析 ,把hbase开发经常要用的命令找了出来. 用ssh登陆安装hbase那台linux后 用hbase shell进行hbase命令控制台! 表的管理 1）查看有哪些表 hbase(main)> list 2）创建表   # 语法：create <table>, {NAME => <family&g
  • C语言scanf继续学习、算术运算符学习和逻辑运算符 dcj3sjt126com c
    /* 2013年3月11日20:37:32 地点：北京潘家园 功能：完成用户格式化输入多个值 目的：学习scanf函数的使用 */ # include <stdio.h> int main(void) { int i, j, k; printf("please input three number:\n"); //提示用
  • 2015越来越好 dcj3sjt126com 歌曲
    越来越好 房子大了电话小了 感觉越来越好 假期多了收入高了 工作越来越好 商品精了价格活了 心情越来越好 天更蓝了水更清了 环境越来越好 活得有奔头人会步步高 想做到你要努力去做到 幸福的笑容天天挂眉梢 越来越好 婆媳和了家庭暖了 生活越来越好 孩子高了懂事多了 学习越来越好 朋友多了心相通了 大家越来越好 道路宽了心气顺了 日子越来越好 活的有精神人就不显
  • java.sql.SQLException: Value '0000-00-00' can not be represented as java.sql.Tim feiteyizu mysql
    数据表中有记录的time字段（属性为timestamp）其值为：“0000-00-00 00:00:00” 程序使用select 语句从中取数据时出现以下异常： java.sql.SQLException:Value '0000-00-00' can not be represented as java.sql.Date   java.sql.SQLException: Valu
  • Ehcache（07）——Ehcache对并发的支持 234390216 并发ehcache锁ReadLockWriteLock
    Ehcache对并发的支持          在高并发的情况下，使用Ehcache缓存时，由于并发的读与写，我们读的数据有可能是错误的，我们写的数据也有可能意外的被覆盖。所幸的是Ehcache为我们提供了针对于缓存元素Key的Read（读）、Write（写）锁。当一个线程获取了某一Key的Read锁之后，其它线程获取针对于同
  • mysql中blob,text字段的合成索引 jackyrong mysql
      在mysql中，原来有一个叫合成索引的，可以提高blob,text字段的效率性能， 但只能用在精确查询，核心是增加一个列，然后可以用md5进行散列，用散列值查找 则速度快 比如： create table abc(id varchar(10),context blog,hash_value varchar(40)); insert into abc(1,rep
  • 逻辑运算与移位运算 latty 位运算逻辑运算
    源码：正数的补码与原码相同例+7 源码：00000111 补码 ：00000111 （用8位二进制表示一个数） 负数的补码： 符号位为1，其余位为该数绝对值的原码按位取反；然后整个数加1。   -7 源码： 10000111 ，其绝对值为00000111  取反加一：11111001 为-7补码 已知一个数的补码，求原码的操作分两种情况：
  • 利用XSD 验证XML文件 newerdragon javaxmlxsd
    XSD文件 （XML Schema 语言也称作 XML Schema 定义（XML Schema Definition，XSD）。 具体使用方法和定义请参看： http://www.w3school.com.cn/schema/index.asp java自jdk1.5以上新增了SchemaFactory类 可以实现对XSD验证的支持，使用起来也很方便。 以下代码可用在J
  • 搭建 CentOS 6 服务器(12) - Samba rensanning centos
    （1）安装 # yum -y install samba Installed: samba.i686 0:3.6.9-169.el6_5 # pdbedit -a rensn new password:123456 retype new password:123456 …… （2）Home文件夹 # mkdir /etc
  • Learn Nodejs 01 toknowme nodejs
    （1）下载nodejs https://nodejs.org/download/ 选择相应的版本进行下载     （2）安装nodejs 安装的方式比较多，请baidu下 我这边下载的是“node-v0.12.7-linux-x64.tar.gz”这个版本 （1）上传服务器 （2）解压 tar -zxvf  node-v0.12.
  • jquery控制自动刷新的代码举例 xp9802 jquery
    1、html内容部分  复制代码代码示例: <div id='log_reload'> <select name="id_s" size="1"> <option value='2'>-2s-</option> <option value='3'>-3s-</option
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他