baobei0112
baobei0112

Caffe上配置和运行MNIST

imagenet为256*256，cifar10为32*32，lenet为28*28，


MNIST，一个经典的手写数字库，包含60000个训练样本和10000个测试样本，图片大小28*28，在Caffe上配置的第一个案例

 
1首先，获取minist的数据包。 这个版本是四个数据包
cd $CAFFE_ROOT
./data/mnist/get_mnist.sh


[html] view plain copy
  1. #!/usr/bin/env sh  
  2. # This scripts downloads the mnist data and unzips it.  
  3. DIR="$( cd "$(dirname "$0")" ; pwd -P )"  
  4. cd $DIR  
  5. echo "Downloading..."  
  6.   
  7. wget --no-check-certificate http://yann.lecun.com/exdb/mnist/train-images-idx3-ubyte.gz  
  8. wget --no-check-certificate http://yann.lecun.com/exdb/mnist/train-labels-idx1-ubyte.gz  
  9. wget --no-check-certificate http://yann.lecun.com/exdb/mnist/t10k-images-idx3-ubyte.gz  
  10. wget --no-check-certificate http://yann.lecun.com/exdb/mnist/t10k-labels-idx1-ubyte.gz  
  11.   
  12. echo "Unzipping..."  
  13.   
  14.   
  15. gunzip train-images-idx3-ubyte.gz  
  16. gunzip train-labels-idx1-ubyte.gz  
  17. gunzip t10k-images-idx3-ubyte.gz  
  18. gunzip t10k-labels-idx1-ubyte.gz  
  19.   
  20.   
  21. # Creation is split out because leveldb sometimes causes segfault  
  22. # and needs to be re-created.  
  23.   
  24. echo "Done."  


然后执行

./examples/mnist/create_mnist.sh


[html] view plain copy
  1. Creating lmdb...  
  2. Done.  

在这一步做了什么工作呢？
create_mnist.sh是利用caffe-master/build/examples/mnist/的convert_mnist_data.bin工具，将mnist date转化为可用的lmdb格式的文件。并将新生成的2个文件mnist-train-lmdb 和 mnist-test-lmdb放于create_mnist.sh同目录下。

2 数据准备好了，那么接下来的工作就是训练了。

http://caffe.berkeleyvision.org/gathered/examples/mnist.html

给出来的例子是 

./examples/mnist/train_lenet.sh

这个脚本调用的工具如下：

[html] view plain copy
  1. ./build/tools/caffe train --solver=examples/mnist/lenet_solver.prototxt  


还有其他的示例，如：

./examples/mnist/train_mnist_autoencoder.sh
这个脚本调用的工具如下： 
[html] view plain copy
  1. ./build/tools/caffe train \  
  2.   --solver=examples/mnist/mnist_autoencoder_solver.prototxt  



运行完结果如下：

生成四个文件

lenet_iter_10000.caffemodel         
lenet_iter_10000.solverstate      
lenet_iter_5000.caffemodel         
lenet_iter_5000.solverstate 

屏幕显示每次
.......................
I0126 17:32:32.171516 18290 solver.cpp:246] Iteration 10000, loss = 0.00453533
I0126 17:32:32.171550 18290 solver.cpp:264] Iteration 10000, Testing net (#0)
I0126 17:32:40.498195 18290 solver.cpp:315]     Test net output #0: accuracy = 0.9903
I0126 17:32:40.498236 18290 solver.cpp:315]     Test net output #1: loss = 0.0309918 (* 1 = 0.0309918 loss)
I0126 17:32:40.498245 18290 solver.cpp:251] Optimization Done.
I0126 17:32:40.498249 18290 caffe.cpp:121] Optimization Done.


首先讨论训练的网络模型：LeNet: the MNIST Classification Model   http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf
  
LeNet 模型之前在手写识别上就有非常好的表现。caffe 这里提供的是一个改进版的LeNet模型，其中的 sigmoid 被rectified linear units (ReLUs) 替换。
（标准的sigmoid输出不具备稀疏性，需要用一些惩罚因子来训练出一大堆接近0的冗余数据来，从而产生稀疏数据，例如L1、L1/L2或Student-t作惩罚因子。因此需要进行无监督的预训练。多层的神经网络如果用sigmoid或tanh激活函数也不做pre-training的话会因为 gradient vanishing problem 而会无法收敛。ReLU则这没有这个问题。ReLU是线性修正，公式为：g(x) = max(0, x)，是purelin的折线版。它的作用是如果计算出的值小于0，就让它等于0，否则保持原来的值不变。这是一种简单粗暴地强制某些数据为0的方法，然而经实践证明，训练后的网络完全具备适度的稀疏性。而且训练后的可视化效果和传统方式预训练出的效果很相似，这也说明了ReLU具备引导适度稀疏的能力。 来自讨论 http://tieba.baidu.com/p/3061925556）

LeNet的结构和CNN的结构是由相似之处的，是由两个 convolutional layer 和 pooling layer交错连接 ，然后两个fully connected layers结构组成。  具体可参见http://deeplearning.net/tutorial/lenet.html，此外DeepID 有个简单直观的结构图，可以辅助了解 http://blog.csdn.net/stdcoutzyx/article/details/42091205

定义MNIST网络和MNIST Solver：

从 ./examples/mnist/train_lenet.sh 脚本调用的指令我们就可以看到，solver是定义在了$CAFFE_ROOT/examples/mnist/lenet_solver.prototxt 中。

[html] view plain copy
  1. # The train/test net protocol buffer definition  
  2. net: "examples/mnist/lenet_train_test.prototxt"        //网络协议具体定义  
  3. # test_iter specifies how many forward passes the test should carry out.  
  4. # In the case of MNIST, we have test batch size 100 and 100 test iterations,  
  5. # covering the full 10,000 testing images.  
  6. test_iter: 100                                         //test迭代次数 如果batch_size =100,则100张图一批，训练100次，则可以覆盖10000张图的需求  
  7. # Carry out testing every 500 training iterations.        
  8. test_interval: 500                                     //训练迭代500次，测试一次  
  9. # The base learning rate, momentum and the weight decay of the network. //网络参数：学习率，动量，权重的衰减  
  10. base_lr: 0.01  
  11. momentum: 0.9  
  12. weight_decay: 0.0005  
  13. # The learning rate policy                            //学习策略：有固定学习率和每步递减学习率  
  14. lr_policy: "inv"  
  15. gamma: 0.0001  
  16. power: 0.75  
  17. # Display every 100 iterations                        //每迭代100次显示一次   
  18. display: 100  
  19. # The maximum number of iterations                    //最大迭代次数  
  20. max_iter: 10000  
  21. # snapshot intermediate results                       // 每5000次迭代存储一次数据，路径前缀是<span style="font-family: Arial, Helvetica, sans-serif;">examples/mnist/lenet</span>  
  22. snapshot: 5000  
  23. snapshot_prefix: "examples/mnist/lenet"  
[html] view plain copy
  1. solver_mode: CPU  


再看一下./examples/mnist/train_mnist_autoencoder.sh 调用的 mnist_autoencoder_solver.prototxt  的solver定义 

[html] view plain copy
  1. net: "examples/mnist/mnist_autoencoder.prototxt"  
  2. test_state: { stage: 'test-on-train' }  
  3. test_iter: 500  
  4. test_state: { stage: 'test-on-test' }  
  5. test_iter: 100  
  6. test_interval: 500  
  7. test_compute_loss: true  
  8. base_lr: 0.01  
  9. lr_policy: "step"  
  10. gamma: 0.1  
  11. stepsize: 10000  
  12. display: 100  
  13. max_iter: 65000  
  14. weight_decay: 0.0005  
  15. snapshot: 10000  
  16. snapshot_prefix: "examples/mnist/mnist_autoencoder"  
  17. momentum: 0.9  
  18. # solver mode: CPU or GPU  
  19. solver_mode: GPU  


MNIST网络定义在 $CAFFE_ROOT/examples/mnist/lenet_train_test.prototxt.  solver的第二行已经注明

具体解释 可以参见http://caffe.berkeleyvision.org/gathered/examples/mnist.html




$CAFFE_ROOT/examples/mnist/lenet_train_test.prototx


[html] view plain copy
  1. name: "LeNet"  
  2. layers {  
  3.   name: "mnist"  
  4.   type: DATA  
  5.   top: "data"  
  6.   top: "label"  
  7.   data_param {  
  8.     source: "examples/mnist/mnist_train_lmdb"  
  9.     backend: LMDB  
  10.     batch_size: 64  
  11.   }  
  12.   transform_param {  
  13.     scale: 0.00390625  
  14.   }  
  15.   include: { phase: TRAIN }  
  16. }  
  17. layers {  
  18.   name: "mnist"  
  19.   type: DATA  
  20.   top: "data"  
  21.   top: "label"  
  22.   data_param {  
  23.     source: "examples/mnist/mnist_test_lmdb"  
  24.    backend: LMDB  
  25.     batch_size: 100  
  26.   
  27.   }  
  28.   transform_param {  
  29.     scale: 0.00390625  
  30.   }  
  31.   include: { phase: TEST }  
  32. }  
  33.   
  34.   
  35. layers {  
  36.   name: "conv1"  
  37.   type: CONVOLUTION  
  38.   bottom: "data"  
  39.   top: "conv1"  
  40.   blobs_lr: 1  
  41.   blobs_lr: 2  
  42.   convolution_param {  
  43.     num_output: 20  
  44.     kernel_size: 5  
  45.     stride: 1  
  46.     weight_filler {  
  47.       type: "xavier"  
  48.     }  
  49.     bias_filler {  
  50.       type: "constant"  
  51.     }  
  52.   }  
  53. }  
  54. layers {  
  55.   name: "pool1"  
  56.   type: POOLING  
  57.   bottom: "conv1"  
  58.   top: "pool1"  
  59.   pooling_param {  
  60.     pool: MAX  
  61.     kernel_size: 2  
  62.     stride: 2  
  63.   }  
  64. }  
  65. layers {  
  66.   name: "conv2"  
  67.   type: CONVOLUTION  
  68.   bottom: "pool1"  
  69.   top: "conv2"  
  70.   blobs_lr: 1  
  71.   blobs_lr: 2  
  72.   convolution_param {  
  73.     num_output: 50  
  74.     kernel_size: 5  
  75.     stride: 1  
  76.     weight_filler {  
  77.       type: "xavier"  
  78.     }  
  79.     bias_filler {  
  80.       type: "constant"  
  81.     }  
  82.   }  
  83. }  
  84. layers {  
  85.   name: "pool2"  
  86.   type: POOLING  
  87.   bottom: "conv2"  
  88.   top: "pool2"  
  89.   pooling_param {  
  90.     pool: MAX  
  91.     kernel_size: 2  
  92.     stride: 2  
  93.   }  
  94. }  
  95. layers {  
  96.   name: "ip1"  
  97.   type: INNER_PRODUCT  
  98.   bottom: "pool2"  
  99.   top: "ip1"  
  100.   blobs_lr: 1  
  101.   blobs_lr: 2  
  102.   inner_product_param {  
  103.     num_output: 500  
  104.     weight_filler {  
  105.       type: "xavier"  
  106.     }  
  107.     bias_filler {  
  108.       type: "constant"  
  109.     }  
  110.  }  
  111. }  
  112. layers {  
  113.   name: "relu1"  
  114.   type: RELU  
  115.   bottom: "ip1"  
  116.   top: "ip1"  
  117. }  
  118. layers {  
  119.   name: "ip2"  
  120.   type: INNER_PRODUCT  
  121.   bottom: "ip1"  
  122.   top: "ip2"  
  123.   blobs_lr: 1  
  124.   blobs_lr: 2  
  125.   inner_product_param {  
  126.     num_output: 10  
  127.     weight_filler {  
  128.       type: "xavier"  
  129.     }  
  130.     bias_filler {  
  131.       type: "constant"  
  132.     }  
  133.   }  
  134. }  
  135. layers {  
  136.   name: "accuracy"  
  137.   type: ACCURACY  
  138.   bottom: "ip2"  
  139.   bottom: "label"  
  140.   top: "accuracy"  
  141.   include: { phase: TEST }  
  142. }  
  143. layers {  
  144.   name: "loss"  
  145.   type: SOFTMAX_LOSS  
  146.   bottom: "ip2"  
  147.   bottom: "label"  
  148.   top: "loss"  
  149. }  



而 examples/mnist/mnist_autoencoder.prototxt 的网络定义则复杂许多：我们也可以看到，里面采用的是sigmoid 而不是 RELU

[html] view plain copy
  1. name: "MNISTAutoencoder"  
  2. layers {  
  3.   top: "data"  
  4.   name: "data"  
  5.   type: DATA  
  6.   data_param {  
  7.     source: "examples/mnist/mnist_train_lmdb"  
  8.     backend: LMDB  
  9.     batch_size: 100  
  10.   }  
  11.   transform_param {  
  12.     scale: 0.0039215684  
  13.   }  
  14.   include: { phase: TRAIN }  
  15. }  
  16. layers {  
  17.   top: "data"  
  18.   name: "data"  
  19.   type: DATA  
  20.   data_param {  
  21.     source: "examples/mnist/mnist_train_lmdb"  
  22.     backend: LMDB  
  23.     batch_size: 100  
  24.     scale: 0.0039215684  
  25.   }  
  26.   include: {  
  27.     phase: TEST  
  28.     stage: 'test-on-train'  
  29.   }  
  30. }  
  31. layers {  
  32.   top: "data"  
  33.   name: "data"  
  34.   type: DATA  
  35.   data_param {  
  36.     source: "examples/mnist/mnist_test_lmdb"  
  37.     backend: LMDB  
  38.     batch_size: 100  
  39.   }  
  40.   transform_param {  
  41.     scale: 0.0039215684  
  42.   }  
  43.   include: {  
  44.     phase: TEST  
  45.     stage: 'test-on-test'  
  46.   }  
  47. }  
  48. layers {  
  49.   bottom: "data"  
  50.   top: "flatdata"  
  51.   name: "flatdata"  
  52.   type: FLATTEN  
  53. }  
  54. layers {  
  55.   bottom: "data"  
  56.   top: "encode1"  
  57.   name: "encode1"  
  58.   type: INNER_PRODUCT  
  59.   blobs_lr: 1  
  60.   blobs_lr: 1  
  61.   weight_decay: 1  
  62.   weight_decay: 0  
  63.   inner_product_param {  
  64.     num_output: 1000  
  65.    weight_filler {  
  66.       type: "gaussian"  
  67.       std: 1  
  68.       sparse: 15  
  69.     }  
  70.     bias_filler {  
  71.       type: "constant"  
  72.       value: 0  
  73.     }  
  74.   }  
  75. }  
  76. layers {  
  77.   bottom: "encode1"  
  78.   top: "encode1neuron"  
  79.   name: "encode1neuron"  
  80.   type: SIGMOID  
  81. }  
  82. layers {  
  83.   bottom: "encode1neuron"  
  84.   top: "encode2"  
  85.   name: "encode2"  
  86.   type: INNER_PRODUCT  
  87.   blobs_lr: 1  
  88.   blobs_lr: 1  
  89.   weight_decay: 1  
  90.   weight_decay: 0  
  91.   inner_product_param {  
  92.     num_output: 500  
  93.     weight_filler {  
  94.       type: "gaussian"  
  95.       std: 1  
  96.       sparse: 15  
  97.     }  
  98.     bias_filler {  
  99.       type: "constant"  
  100.       value: 0  
  101.     }  
  102.   }  
  103. }  
  104. layers {  
  105.   bottom: "encode2"  
  106.   top: "encode2neuron"  
  107.   name: "encode2neuron"  
  108.   type: SIGMOID  
  109. }  
  110. layers {  
  111.  bottom: "encode2neuron"  
  112.   top: "encode3"  
  113.   name: "encode3"  
  114.   type: INNER_PRODUCT  
  115.   blobs_lr: 1  
  116.   blobs_lr: 1  
  117.   weight_decay: 1  
  118.   weight_decay: 0  
  119.   inner_product_param {  
  120.     num_output: 250  
  121.     weight_filler {  
  122.       type: "gaussian"  
  123.       std: 1  
  124.       sparse: 15  
  125.     }  
  126.     bias_filler {  
  127.       type: "constant"  
  128.       value: 0  
  129.     }  
  130.   }  
  131. }  
  132. layers {  
  133.   bottom: "encode3"  
  134.   top: "encode3neuron"  
  135.   name: "encode3neuron"  
  136.   type: SIGMOID  
  137. }  
  138. layers {  
  139.   bottom: "encode3neuron"  
  140.   top: "encode4"  
  141.   name: "encode4"  
  142.   type: INNER_PRODUCT  
  143.   blobs_lr: 1  
  144.   blobs_lr: 1  
  145.   weight_decay: 1  
  146.   weight_decay: 0  
  147.   inner_product_param {  
  148.     num_output: 30  
  149.     weight_filler {  
  150.       type: "gaussian"  
  151.       std: 1  
  152.       sparse: 15  
  153.     }  
  154.     bias_filler {  
  155.       type: "constant"  
  156.       value: 0  
  157.     }  
  158.   }  
  159. }  
  160. layers {  
  161.   bottom: "encode4"  
  162.   top: "decode4"  
  163.   name: "decode4"  
  164.   type: INNER_PRODUCT  
  165.   blobs_lr: 1  
  166.   blobs_lr: 1  
  167.   weight_decay: 1  
  168.   weight_decay: 0  
  169.   inner_product_param {  
  170.     num_output: 250  
  171.     weight_filler {  
  172.       type: "gaussian"  
  173.       std: 1  
  174.       sparse: 15  
  175.     }  
  176.     bias_filler {  
  177.       type: "constant"  
  178.       value: 0  
  179.     }  
  180.   }  
  181. }  
  182. layers {  
  183.   bottom: "decode4"  
  184.   top: "decode4neuron"  
  185.   name: "decode4neuron"  
  186.   type: SIGMOID  
  187. }  
  188. layers {  
  189.   bottom: "decode4neuron"  
  190.   top: "decode3"  
  191.   name: "decode3"  
  192.   type: INNER_PRODUCT  
  193.   blobs_lr: 1  
  194.   blobs_lr: 1  
  195.   weight_decay: 1  
  196.   weight_decay: 0  
  197.   inner_product_param {  
  198.     num_output: 500  
  199.     weight_filler {  
  200.       type: "gaussian"  
  201.       std: 1  
  202.       sparse: 15  
  203.     }  
  204.     bias_filler {  
  205.       type: "constant"  
  206.       value: 0  
  207.     }  
  208.   }  
  209. }  
  210. layers {  
  211.   bottom: "decode3"  
  212.   top: "decode3neuron"  
  213.   name: "decode3neuron"  
  214.   type: SIGMOID  
  215. }  
  216. layers {  
  217.   bottom: "decode3neuron"  
  218.   top: "decode2"  
  219.   name: "decode2"  
  220.   type: INNER_PRODUCT  
  221.   blobs_lr: 1  
  222.   blobs_lr: 1  
  223.   weight_decay: 1  
  224.   weight_decay: 0  
  225.   inner_product_param {  
  226.    num_output: 1000  
  227.     weight_filler {  
  228.       type: "gaussian"  
  229.       std: 1  
  230.       sparse: 15  
  231.     }  
  232.     bias_filler {  
  233.       type: "constant"  
  234.       value: 0  
  235.     }  
  236.   }  
  237. }  
  238. layers {  
  239.   bottom: "decode2"  
  240.   top: "decode2neuron"  
  241.   name: "decode2neuron"  
  242.   type: SIGMOID  
  243. }  
  244. layers {  
  245.   bottom: "decode2neuron"  
  246.   top: "decode1"  
  247.   name: "decode1"  
  248.   type: INNER_PRODUCT  
  249.   blobs_lr: 1  
  250.   blobs_lr: 1  
  251.   weight_decay: 1  
  252.   weight_decay: 0  
  253.   inner_product_param {  
  254.     num_output: 784  
  255.     weight_filler {  
  256.       type: "gaussian"  
  257.       std: 1  
  258.       sparse: 15  
  259.     }  
  260.     bias_filler {  
  261.       type: "constant"  
  262.       value: 0  
  263.     }  
  264.   }  
  265. }  
  266. layers {  
  267.   bottom: "decode1"  
  268.   bottom: "flatdata"  
  269.   top: "cross_entropy_loss"  
  270.   name: "loss"  
  271.   type: SIGMOID_CROSS_ENTROPY_LOSS  
  272.   loss_weight: 1  
  273. }  
  274. layers {  
  275.   bottom: "decode1"  
  276.   top: "decode1neuron"  
  277.   name: "decode1neuron"  
  278.   type: SIGMOID  
  279. }  
  280. layers {  
  281.   bottom: "decode1neuron"  
  282.   bottom: "flatdata"  
  283.   top: "l2_error"  
  284.   name: "loss"  
  285.   type: EUCLIDEAN_LOSS  
  286.   loss_weight: 0  
  287. }  





当所有数据都训练好之后，接下来就是如何将模型应用到实际数据了：

./build/tools/caffe.bin test -model=examples/mnist/lenet_train_test.prototxt -weights=examples/mnist/lenet_iter_10000.caffemodel -gpu=0 

如果没有GPU则使用(或者caffe not caffe.bin)

./build/tools/caffe.bin test -model=examples/mnist/lenet_train_test.prototxt -weights=examples/mnist/lenet_iter_10000.caffemodel

test：表示对训练好的模型进行Testing，而不是training。其他参数包括train, time, device_query。

-model=XXX：指定模型prototxt文件，这是一个文本文件，详细描述了网络结构和数据集信息。



输出如下：

[html] view plain copy
  1. I0303 18:26:31.961637 27313 caffe.cpp:138] Use CPU.  
  2. I0303 18:26:32.035434 27313 net.cpp:275] The NetState phase (1) differed from the phase (0) specified by a rule in layer mnist  
  3. I0303 18:26:32.035794 27313 net.cpp:39] Initializing net from parameters:   
  4. name: "LeNet"  
  5. layers {  
  6.   top: "data"  
  7.   top: "label"  
  8.   name: "mnist"  
  9.   type: DATA  
  10.   data_param {  
  11.     source: "examples/mnist/mnist_test_lmdb"  
  12.     batch_size: 100  
  13.     backend: LMDB  
  14.   }  
  15.   include {  
  16.     phase: TEST  
  17.   }  
  18.   transform_param {  
  19.     scale: 0.00390625  
  20.   }  
  21. }  
  22. layers {  
  23.   bottom: "data"  
  24.   top: "conv1"  
  25.   name: "conv1"  
  26.   type: CONVOLUTION  
  27.   blobs_lr: 1  
  28.   blobs_lr: 2  
  29.   convolution_param {  
  30.     num_output: 20  
  31.     kernel_size: 5  
  32.     stride: 1  
  33.     weight_filler {  
  34.       type: "xavier"  
  35.     }  
  36.     bias_filler {  
  37.       type: "constant"  
  38.     }  
  39.   }  
  40. }  
  41. layers {  
  42.   bottom: "conv1"  
  43.   top: "pool1"  
  44.   name: "pool1"  
  45.   type: POOLING  
  46.   pooling_param {  
  47.     pool: MAX  
  48.     kernel_size: 2  
  49.     stride: 2  
  50.   }  
  51. }  
  52. layers {  
  53.   bottom: "pool1"  
  54.   top: "conv2"  
  55.   name: "conv2"  
  56.   type: CONVOLUTION  
  57.   blobs_lr: 1  
  58.   blobs_lr: 2  
  59.   convolution_param {  
  60.     num_output: 50  
  61.     kernel_size: 5  
  62.     stride: 1  
  63.     weight_filler {  
  64.       type: "xavier"  
  65.     }  
  66.     bias_filler {  
  67.       type: "constant"  
  68.     }  
  69.   }  
  70. }  
  71. layers {  
  72.   bottom: "conv2"  
  73.   top: "pool2"  
  74.   name: "pool2"  
  75.   type: POOLING  
  76.   pooling_param {  
  77.     pool: MAX  
  78.     kernel_size: 2  
  79.     stride: 2  
  80.   }  
  81. }  
  82. layers {  
  83.   bottom: "pool2"  
  84.   top: "ip1"  
  85.   name: "ip1"  
  86.   type: INNER_PRODUCT  
  87.   blobs_lr: 1  
  88.   blobs_lr: 2  
  89.   inner_product_param {  
  90.     num_output: 500  
  91.     weight_filler {  
  92.       type: "xavier"  
  93.     }  
  94.     bias_filler {  
  95.       type: "constant"  
  96.     }  
  97.   }  
  98. }  
  99. layers {  
  100.   bottom: "ip1"  
  101.   top: "ip1"  
  102.   name: "relu1"  
  103.   type: RELU  
  104. }  
  105. layers {  
  106.   bottom: "ip1"  
  107.   top: "ip2"  
  108.   name: "ip2"  
  109.   type: INNER_PRODUCT  
  110.   blobs_lr: 1  
  111.   blobs_lr: 2  
  112.   inner_product_param {  
  113.     num_output: 10  
  114.     weight_filler {  
  115.       type: "xavier"  
  116.     }  
  117.     bias_filler {  
  118.       type: "constant"  
  119.     }  
  120.   }  
  121. }  
  122. layers {  
  123.   bottom: "ip2"  
  124.   bottom: "label"  
  125.   top: "accuracy"  
  126.   name: "accuracy"  
  127.   type: ACCURACY  
  128.   include {  
  129.     phase: TEST  
  130.   }  
  131. }  
  132. layers {  
  133.   bottom: "ip2"  
  134.   bottom: "label"  
  135.   top: "loss"  
  136.   name: "loss"  
  137.   type: SOFTMAX_LOSS  
  138. }  
  139. I0303 18:26:32.035923 27313 net.cpp:67] Creating Layer mnist  
  140. I0303 18:26:32.035931 27313 net.cpp:356] mnist -> data  
  141. I0303 18:26:32.035948 27313 net.cpp:356] mnist -> label  
  142. I0303 18:26:32.035955 27313 net.cpp:96] Setting up mnist  
  143. I0303 18:26:32.076159 27313 data_layer.cpp:68] Opening lmdb examples/mnist/mnist_test_lmdb  
  144. I0303 18:26:32.084071 27313 data_layer.cpp:128] output data size: 100,1,28,28  
  145. I0303 18:26:32.084214 27313 net.cpp:103] Top shape: 100 1 28 28 (78400)  
  146. I0303 18:26:32.084223 27313 net.cpp:103] Top shape: 100 1 1 1 (100)  
  147. I0303 18:26:32.084249 27313 net.cpp:67] Creating Layer label_mnist_1_split  
  148. I0303 18:26:32.084257 27313 net.cpp:394] label_mnist_1_split <- label  
  149. I0303 18:26:32.084269 27313 net.cpp:356] label_mnist_1_split -> label_mnist_1_split_0  
  150. I0303 18:26:32.084280 27313 net.cpp:356] label_mnist_1_split -> label_mnist_1_split_1  
  151. I0303 18:26:32.084286 27313 net.cpp:96] Setting up label_mnist_1_split  
  152. I0303 18:26:32.084292 27313 net.cpp:103] Top shape: 100 1 1 1 (100)  
  153. I0303 18:26:32.084297 27313 net.cpp:103] Top shape: 100 1 1 1 (100)  
  154. I0303 18:26:32.084306 27313 net.cpp:67] Creating Layer conv1  
  155. I0303 18:26:32.084311 27313 net.cpp:394] conv1 <- data  
  156. I0303 18:26:32.084317 27313 net.cpp:356] conv1 -> conv1  
  157. I0303 18:26:32.084326 27313 net.cpp:96] Setting up conv1  
  158. I0303 18:26:32.084775 27313 net.cpp:103] Top shape: 100 20 24 24 (1152000)  
  159. I0303 18:26:32.084791 27313 net.cpp:67] Creating Layer pool1  
  160. I0303 18:26:32.084796 27313 net.cpp:394] pool1 <- conv1  
  161. I0303 18:26:32.084803 27313 net.cpp:356] pool1 -> pool1  
  162. I0303 18:26:32.084810 27313 net.cpp:96] Setting up pool1  
  163. I0303 18:26:32.099537 27313 net.cpp:103] Top shape: 100 20 12 12 (288000)  
  164. I0303 18:26:32.099583 27313 net.cpp:67] Creating Layer conv2  
  165. I0303 18:26:32.099593 27313 net.cpp:394] conv2 <- pool1  
  166. I0303 18:26:32.099606 27313 net.cpp:356] conv2 -> conv2  
  167. I0303 18:26:32.099619 27313 net.cpp:96] Setting up conv2  
  168. I0303 18:26:32.099905 27313 net.cpp:103] Top shape: 100 50 8 8 (320000)  
  169. I0303 18:26:32.099925 27313 net.cpp:67] Creating Layer pool2  
  170. I0303 18:26:32.099947 27313 net.cpp:394] pool2 <- conv2  
  171. I0303 18:26:32.099959 27313 net.cpp:356] pool2 -> pool2  
  172. I0303 18:26:32.099970 27313 net.cpp:96] Setting up pool2  
  173. I0303 18:26:32.099979 27313 net.cpp:103] Top shape: 100 50 4 4 (80000)  
  174. I0303 18:26:32.099990 27313 net.cpp:67] Creating Layer ip1  
  175. I0303 18:26:32.099998 27313 net.cpp:394] ip1 <- pool2  
  176. I0303 18:26:32.100008 27313 net.cpp:356] ip1 -> ip1  
  177. I0303 18:26:32.100019 27313 net.cpp:96] Setting up ip1  
  178. I0303 18:26:32.104487 27313 net.cpp:103] Top shape: 100 500 1 1 (50000)  
  179. I0303 18:26:32.104518 27313 net.cpp:67] Creating Layer relu1  
  180. I0303 18:26:32.104527 27313 net.cpp:394] relu1 <- ip1  
  181. I0303 18:26:32.104538 27313 net.cpp:345] relu1 -> ip1 (in-place)  
  182. I0303 18:26:32.104549 27313 net.cpp:96] Setting up relu1  
  183. I0303 18:26:32.104558 27313 net.cpp:103] Top shape: 100 500 1 1 (50000)  
  184. I0303 18:26:32.104571 27313 net.cpp:67] Creating Layer ip2  
  185. I0303 18:26:32.104579 27313 net.cpp:394] ip2 <- ip1  
  186. I0303 18:26:32.104591 27313 net.cpp:356] ip2 -> ip2  
  187. I0303 18:26:32.104604 27313 net.cpp:96] Setting up ip2  
  188. I0303 18:26:32.104676 27313 net.cpp:103] Top shape: 100 10 1 1 (1000)  
  189. I0303 18:26:32.104691 27313 net.cpp:67] Creating Layer ip2_ip2_0_split  
  190. I0303 18:26:32.104701 27313 net.cpp:394] ip2_ip2_0_split <- ip2  
  191. I0303 18:26:32.104710 27313 net.cpp:356] ip2_ip2_0_split -> ip2_ip2_0_split_0  
  192. I0303 18:26:32.104722 27313 net.cpp:356] ip2_ip2_0_split -> ip2_ip2_0_split_1  
  193. I0303 18:26:32.104733 27313 net.cpp:96] Setting up ip2_ip2_0_split  
  194. I0303 18:26:32.104743 27313 net.cpp:103] Top shape: 100 10 1 1 (1000)  
  195. I0303 18:26:32.104751 27313 net.cpp:103] Top shape: 100 10 1 1 (1000)  
  196. I0303 18:26:32.104763 27313 net.cpp:67] Creating Layer accuracy  
  197. I0303 18:26:32.104770 27313 net.cpp:394] accuracy <- ip2_ip2_0_split_0  
  198. I0303 18:26:32.104779 27313 net.cpp:394] accuracy <- label_mnist_1_split_0  
  199. I0303 18:26:32.104790 27313 net.cpp:356] accuracy -> accuracy  
  200. I0303 18:26:32.104802 27313 net.cpp:96] Setting up accuracy  
  201. I0303 18:26:32.104811 27313 net.cpp:103] Top shape: 1 1 1 1 (1)  
  202. I0303 18:26:32.104822 27313 net.cpp:67] Creating Layer loss  
  203. I0303 18:26:32.104830 27313 net.cpp:394] loss <- ip2_ip2_0_split_1  
  204. I0303 18:26:32.104838 27313 net.cpp:394] loss <- label_mnist_1_split_1  
  205. I0303 18:26:32.104848 27313 net.cpp:356] loss -> loss  
  206. I0303 18:26:32.104857 27313 net.cpp:96] Setting up loss  
  207. I0303 18:26:32.104869 27313 net.cpp:103] Top shape: 1 1 1 1 (1)  
  208. I0303 18:26:32.104877 27313 net.cpp:109]     with loss weight 1  
  209. I0303 18:26:32.104909 27313 net.cpp:170] loss needs backward computation.  
  210. I0303 18:26:32.104918 27313 net.cpp:172] accuracy does not need backward computation.  
  211. I0303 18:26:32.104925 27313 net.cpp:170] ip2_ip2_0_split needs backward computation.  
  212. I0303 18:26:32.104933 27313 net.cpp:170] ip2 needs backward computation.  
  213. I0303 18:26:32.104941 27313 net.cpp:170] relu1 needs backward computation.  
  214. I0303 18:26:32.104948 27313 net.cpp:170] ip1 needs backward computation.  
  215. I0303 18:26:32.104956 27313 net.cpp:170] pool2 needs backward computation.  
  216. I0303 18:26:32.104964 27313 net.cpp:170] conv2 needs backward computation.  
  217. I0303 18:26:32.104975 27313 net.cpp:170] pool1 needs backward computation.  
  218. I0303 18:26:32.104984 27313 net.cpp:170] conv1 needs backward computation.  
  219. I0303 18:26:32.104991 27313 net.cpp:172] label_mnist_1_split does not need backward computation.  
  220. I0303 18:26:32.105000 27313 net.cpp:172] mnist does not need backward computation.  
  221. I0303 18:26:32.105006 27313 net.cpp:208] This network produces output accuracy  
  222. I0303 18:26:32.105017 27313 net.cpp:208] This network produces output loss  
  223. I0303 18:26:32.105034 27313 net.cpp:467] Collecting Learning Rate and Weight Decay.  
  224. I0303 18:26:32.105046 27313 net.cpp:219] Network initialization done.  
  225. I0303 18:26:32.105053 27313 net.cpp:220] Memory required for data: 8086808  
  226. I0303 18:26:32.136730 27313 caffe.cpp:145] Running for 50 iterations.  
  227. I0303 18:26:32.243196 27313 caffe.cpp:169] Batch 0, accuracy = 1  
  228. I0303 18:26:32.243229 27313 caffe.cpp:169] Batch 0, loss = 0.0140614  
  229. I0303 18:26:32.326557 27313 caffe.cpp:169] Batch 1, accuracy = 1  
  230. I0303 18:26:32.326588 27313 caffe.cpp:169] Batch 1, loss = 0.00749996  
  231. I0303 18:26:32.409931 27313 caffe.cpp:169] Batch 2, accuracy = 0.99  
  232. I0303 18:26:32.409963 27313 caffe.cpp:169] Batch 2, loss = 0.0106815  
  233. I0303 18:26:32.493257 27313 caffe.cpp:169] Batch 3, accuracy = 0.99  
  234. I0303 18:26:32.493288 27313 caffe.cpp:169] Batch 3, loss = 0.0528439  
  235. I0303 18:26:32.576733 27313 caffe.cpp:169] Batch 4, accuracy = 0.99  
  236. I0303 18:26:32.576761 27313 caffe.cpp:169] Batch 4, loss = 0.0632355  
  237. I0303 18:26:32.660257 27313 caffe.cpp:169] Batch 5, accuracy = 0.99  
  238. I0303 18:26:32.660289 27313 caffe.cpp:169] Batch 5, loss = 0.041726  
  239. I0303 18:26:32.743624 27313 caffe.cpp:169] Batch 6, accuracy = 0.97  
  240. I0303 18:26:32.743654 27313 caffe.cpp:169] Batch 6, loss = 0.0816639  
  241. I0303 18:26:32.827059 27313 caffe.cpp:169] Batch 7, accuracy = 0.99  
  242. I0303 18:26:32.827090 27313 caffe.cpp:169] Batch 7, loss = 0.0146397  
  243. I0303 18:26:32.910567 27313 caffe.cpp:169] Batch 8, accuracy = 1  
  244. I0303 18:26:32.910598 27313 caffe.cpp:169] Batch 8, loss = 0.00730312  
  245. I0303 18:26:32.993976 27313 caffe.cpp:169] Batch 9, accuracy = 0.99  
  246. I0303 18:26:32.994007 27313 caffe.cpp:169] Batch 9, loss = 0.0225503  
  247. I0303 18:26:33.077335 27313 caffe.cpp:169] Batch 10, accuracy = 0.98  
  248. I0303 18:26:33.077366 27313 caffe.cpp:169] Batch 10, loss = 0.0657359  
  249. I0303 18:26:33.160778 27313 caffe.cpp:169] Batch 11, accuracy = 0.98  
  250. I0303 18:26:33.160809 27313 caffe.cpp:169] Batch 11, loss = 0.0431129  
  251. I0303 18:26:33.244256 27313 caffe.cpp:169] Batch 12, accuracy = 0.96  
  252. I0303 18:26:33.244284 27313 caffe.cpp:169] Batch 12, loss = 0.132687  
  253. I0303 18:26:33.327652 27313 caffe.cpp:169] Batch 13, accuracy = 0.98  
  254. I0303 18:26:33.327684 27313 caffe.cpp:169] Batch 13, loss = 0.0907693  
  255. I0303 18:26:33.411123 27313 caffe.cpp:169] Batch 14, accuracy = 0.99  
  256. I0303 18:26:33.411151 27313 caffe.cpp:169] Batch 14, loss = 0.0150445  
  257. I0303 18:26:33.494606 27313 caffe.cpp:169] Batch 15, accuracy = 0.98  
  258. I0303 18:26:33.494635 27313 caffe.cpp:169] Batch 15, loss = 0.0465094  
  259. I0303 18:26:33.578012 27313 caffe.cpp:169] Batch 16, accuracy = 0.99  
  260. I0303 18:26:33.578042 27313 caffe.cpp:169] Batch 16, loss = 0.0343866  
  261. I0303 18:26:33.661423 27313 caffe.cpp:169] Batch 17, accuracy = 0.99  
  262. I0303 18:26:33.661454 27313 caffe.cpp:169] Batch 17, loss = 0.0277292  
  263. I0303 18:26:33.744851 27313 caffe.cpp:169] Batch 18, accuracy = 1  
  264. I0303 18:26:33.744882 27313 caffe.cpp:169] Batch 18, loss = 0.0146081  
  265. I0303 18:26:33.828307 27313 caffe.cpp:169] Batch 19, accuracy = 0.99  
  266. I0303 18:26:33.828338 27313 caffe.cpp:169] Batch 19, loss = 0.0457058  
  267. I0303 18:26:33.911772 27313 caffe.cpp:169] Batch 20, accuracy = 0.98  
  268. I0303 18:26:33.911800 27313 caffe.cpp:169] Batch 20, loss = 0.086042  
  269. I0303 18:26:33.995313 27313 caffe.cpp:169] Batch 21, accuracy = 0.98  
  270. I0303 18:26:33.995343 27313 caffe.cpp:169] Batch 21, loss = 0.0756276  
  271. I0303 18:26:34.078820 27313 caffe.cpp:169] Batch 22, accuracy = 0.99  
  272. I0303 18:26:34.078850 27313 caffe.cpp:169] Batch 22, loss = 0.0306264  
  273. I0303 18:26:34.162230 27313 caffe.cpp:169] Batch 23, accuracy = 0.98  
  274. I0303 18:26:34.162261 27313 caffe.cpp:169] Batch 23, loss = 0.0438904  
  275. I0303 18:26:34.245688 27313 caffe.cpp:169] Batch 24, accuracy = 0.98  
  276. I0303 18:26:34.245718 27313 caffe.cpp:169] Batch 24, loss = 0.0494635  
  277. I0303 18:26:34.329123 27313 caffe.cpp:169] Batch 25, accuracy = 0.99  
  278. I0303 18:26:34.329152 27313 caffe.cpp:169] Batch 25, loss = 0.0670097  
  279. I0303 18:26:34.412616 27313 caffe.cpp:169] Batch 26, accuracy = 0.99  
  280. I0303 18:26:34.412647 27313 caffe.cpp:169] Batch 26, loss = 0.117325  
  281. I0303 18:26:34.496093 27313 caffe.cpp:169] Batch 27, accuracy = 0.99  
  282. I0303 18:26:34.496122 27313 caffe.cpp:169] Batch 27, loss = 0.0199489  
  283. I0303 18:26:34.579558 27313 caffe.cpp:169] Batch 28, accuracy = 0.98  
  284. I0303 18:26:34.579587 27313 caffe.cpp:169] Batch 28, loss = 0.0489519  
  285. I0303 18:26:34.663027 27313 caffe.cpp:169] Batch 29, accuracy = 0.96  
  286. I0303 18:26:34.663051 27313 caffe.cpp:169] Batch 29, loss = 0.103231  
  287. I0303 18:26:34.746485 27313 caffe.cpp:169] Batch 30, accuracy = 1  
  288. I0303 18:26:34.746516 27313 caffe.cpp:169] Batch 30, loss = 0.0104769  
  289. I0303 18:26:34.829927 27313 caffe.cpp:169] Batch 31, accuracy = 1  
  290. I0303 18:26:34.829990 27313 caffe.cpp:169] Batch 31, loss = 0.00431556  
  291. I0303 18:26:34.913399 27313 caffe.cpp:169] Batch 32, accuracy = 0.98  
  292. I0303 18:26:34.913429 27313 caffe.cpp:169] Batch 32, loss = 0.027013  
  293. I0303 18:26:34.996893 27313 caffe.cpp:169] Batch 33, accuracy = 1  
  294. I0303 18:26:34.996923 27313 caffe.cpp:169] Batch 33, loss = 0.00294145  
  295. I0303 18:26:35.080307 27313 caffe.cpp:169] Batch 34, accuracy = 0.99  
  296. I0303 18:26:35.080338 27313 caffe.cpp:169] Batch 34, loss = 0.0528829  
  297. I0303 18:26:35.163833 27313 caffe.cpp:169] Batch 35, accuracy = 0.93  
  298. I0303 18:26:35.163862 27313 caffe.cpp:169] Batch 35, loss = 0.164353  
  299. I0303 18:26:35.247449 27313 caffe.cpp:169] Batch 36, accuracy = 1  
  300. I0303 18:26:35.247481 27313 caffe.cpp:169] Batch 36, loss = 0.00703398  
  301. I0303 18:26:35.331092 27313 caffe.cpp:169] Batch 37, accuracy = 0.97  
  302. I0303 18:26:35.331121 27313 caffe.cpp:169] Batch 37, loss = 0.0861889  
  303. I0303 18:26:35.414821 27313 caffe.cpp:169] Batch 38, accuracy = 0.99  
  304. I0303 18:26:35.414850 27313 caffe.cpp:169] Batch 38, loss = 0.028661  
  305. I0303 18:26:35.498474 27313 caffe.cpp:169] Batch 39, accuracy = 0.99  
  306. I0303 18:26:35.498502 27313 caffe.cpp:169] Batch 39, loss = 0.0414709  
  307. I0303 18:26:35.582015 27313 caffe.cpp:169] Batch 40, accuracy = 1  
  308. I0303 18:26:35.582042 27313 caffe.cpp:169] Batch 40, loss = 0.0357227  
  309. I0303 18:26:35.665555 27313 caffe.cpp:169] Batch 41, accuracy = 0.99  
  310. I0303 18:26:35.665585 27313 caffe.cpp:169] Batch 41, loss = 0.0525798  
  311. I0303 18:26:35.749254 27313 caffe.cpp:169] Batch 42, accuracy = 1  
  312. I0303 18:26:35.749285 27313 caffe.cpp:169] Batch 42, loss = 0.0257062  
  313. I0303 18:26:35.833019 27313 caffe.cpp:169] Batch 43, accuracy = 0.99  
  314. I0303 18:26:35.833048 27313 caffe.cpp:169] Batch 43, loss = 0.0198026  
  315. I0303 18:26:35.916801 27313 caffe.cpp:169] Batch 44, accuracy = 1  
  316. I0303 18:26:35.916833 27313 caffe.cpp:169] Batch 44, loss = 0.0178475  
  317. I0303 18:26:36.000491 27313 caffe.cpp:169] Batch 45, accuracy = 0.97  
  318. I0303 18:26:36.000522 27313 caffe.cpp:169] Batch 45, loss = 0.0608676  
  319. I0303 18:26:36.085665 27313 caffe.cpp:169] Batch 46, accuracy = 1  
  320. I0303 18:26:36.085697 27313 caffe.cpp:169] Batch 46, loss = 0.0100693  
  321. I0303 18:26:36.169760 27313 caffe.cpp:169] Batch 47, accuracy = 0.98  
  322. I0303 18:26:36.169791 27313 caffe.cpp:169] Batch 47, loss = 0.0211241  
  323. I0303 18:26:36.277791 27313 caffe.cpp:169] Batch 48, accuracy = 0.95  
  324. I0303 18:26:36.277822 27313 caffe.cpp:169] Batch 48, loss = 0.111764  
  325. I0303 18:26:36.361287 27313 caffe.cpp:169] Batch 49, accuracy = 1  
  326. I0303 18:26:36.361318 27313 caffe.cpp:169] Batch 49, loss = 0.0052372  
  327. I0303 18:26:36.361326 27313 caffe.cpp:174] Loss: 0.0452134  
  328. I0303 18:26:36.361332 27313 caffe.cpp:186] accuracy = 0.986  
  329. I0303 18:26:36.361341 27313 caffe.cpp:186] loss = 0.0452134 (* 1 = 0.0452134 loss)  
  330. [root@localhost caffe]#   



参考文献：

学习笔记4 学习搭建自己的网络——MNIST在caffe上进行训练与学习-薛开宇
http://wenku.baidu.com/link?url=_sERcBsTCgKElwFi7Hf9FXFe3J-c35ftm27Trf8SJX_iGsR2SlKDDIJmF-5DYruWK-uYJu5pYA3MMfcYt_IRiTL95tYVZ72TYwVTxf0JF27
Deep Learning（深度学习）学习笔记整理系列之LeNet-5卷积参数个人理解 ：http://blog.csdn.net/qiaofangjie/article/details/16826849
Deep Learning论文笔记之（四）CNN卷积神经网络推导和实现：http://blog.csdn.net/zouxy09/article/details/9993371
Deep Learning论文笔记之（六）Multi-Stage多级架构分析：http://blog.csdn.net/zouxy09/article/details/10007237
cuda-convnet 卷积神经网络 一般性结构卷积核个数 和 输入输出的关系以及输入输出的个数的说明: http://blog.csdn.net/zhubenfulovepoem/article/details/29583429
DeepID http://blog.csdn.net/stdcoutzyx/article/details/42091205

你可能感兴趣的:(caffe)

  • 深度学习框架 人工智能操作系统 训练&前向推理 PyTorch Tensorflow MindSpore caffe 张量加速引擎TBE 深度学习编译器 多面体 polyhedral AI集群框架 EwenWanW 深度学习人工智能pytorch深度学习编译器
    深度学习框架人工智能操作系统训练&前向推理深度学习框架发展到今天，目前在架构上大体已经基本上成熟并且逐渐趋同。无论是国外的Tensorflow、PyTorch，亦或是国内最近开源的MegEngine、MindSpore，目前基本上都是支持EagerMode和GraphMode两种模式。AI嵌入式框架OneFlow&清华计图Jittor&华为深度学习框架MindSpore&旷视深度学习框架MegEn
  • Caffeine 与 Guava Cache 雨季里的向日葵 java
    一、概要1.1背景在项目开发中，为提升系统性能，减少IO开销，本地缓存是必不可少的。最常见的本地缓存是Guava和Caffeine，Caffeine是基于GoogleGuavaCache设计经验改进的结果，相较于Guava在性能和命中率上更具有效率。1.2应用场景愿意消耗一些内存空间来提升速度预料到某些键会被多次查询缓存中存放的数据总量不会超出内存容量二、GuavaCache2.1GuavaCac
  • OSError: [WinError 126] 找不到指定的模块---caffe2_detectron_ops_gpu.dll 努力的小柚 python运行问题pythonpytorch
    代码复现记录：问题：OSError:[WinError126]找不到指定的模块。Errorloading"C:\Anaconda\Anaconda3\envs\TIN\lib\site-packages\torch\lib\caffe2_detectron_ops_gpu.dll"oroneofitsdependencies.在搜索很多关于无法查找到caffe2_detectron_ops_gpu
  • caffe/PyTorch/TensorFlow 在Jupyter Notebook GPU中运用 俊俏的萌妹纸 caffe人工智能深度学习
    在JupyterNotebook中使用Caffe框架并利用GPU加速，可以实现多种效果和目的，主要集中在深度学习领域。以下是一些主要的应用场景：快速训练模型：GPU加速可以显著提高模型训练的速度。对于大型数据集和复杂的神经网络结构，使用GPU可以大大减少训练时间。实时数据增强：在训练过程中，可以实时地对输入数据进行变换和增强，以提高模型的泛化能力。GPU加速使得这些操作更加高效。大规模数据处理：深
  • Linux下Caffe、Docker、Tensorflow、PyTorch环境搭建(CentOS 7) SnailTyan
    文章作者：Tyan博客：noahsnail.com|CSDN|注：模型的训练、测试、部署都可以通过Docker环境完成，环境问题会更少。1.CUDA8.0安装CUDA8.0Configenvvariables#CUDAPATHexportPATH="/usr/local/cuda-8.0/bin:$PATH"#CUDALDLIBRARY_PATHexportLD_LIBRARY_PATH="/us
  • JVM级缓存本地缓存Caffeine 旺仔爱Java JVM专题jvmJVM缓存本地缓存CaffeineGuavaCache
    JVM级缓存本地缓存Caffeine和GuavaCache前言一、创建缓存的代码逻辑二、Caffeine的优化方面淘汰算法W-TinyLFU三、Caffeine的业务使用总结前言最新的Java面试题，技术栈涉及Java基础、集合、多线程、Mysql、分布式、Spring全家桶、MyBatis、Dubbo、缓存、消息队列、Linux…等等，会持续更新。一、创建缓存的代码逻辑Caffeine：publ
  • 面试redis篇-04缓存雪崩 卡搜偶 缓存面试redis
    原理缓存雪崩：是指在同一时段大量的缓存key同时失效或者Redis服务宕机，导致大量请求到达数据库，带来巨大压力。解决方案：给不同的Key的TTL添加随机值利用Redis集群提高服务的可用性（哨兵模式、集群模式）给缓存业务添加降级限流策略（ngxin或springcloudgateway）给业务添加多级缓存（Guava或Caffeine）问答面试官：什么是缓存雪崩?怎么解决?回答：缓存雪崩意思是设
  • 深度学习主流开源框架：Caffe、TensorFlow、Pytorch、Theano、Keras、MXNet、Chainer seasonsyy 深度学习小知识深度学习开源框架pytorch
    2.6深度学习主流开源框架表2.1深度学习主流框架参数对比框架关键词总结框架关键词基本数据结构（都是高维数组）Caffe“在工业中应用较为广泛”，“编译安装麻烦一点”BlobTensorFlow“安装简单pip”TensorPytorch“定位：快速实验研究”，“简单”，“灵活”TensorTheanoד用于处理大规模神经网络的训练”，“不支持移动设备”，“不能应用于工业环境”，“编译复杂模型时
  • MMsegmentation-随机初始化 SatVision炼金士 mmalb-炼金术python
    系列文章目录文章目录系列文章目录前言一、初始化单个模块二、初始化多个模块总结前言mmlab下游分支调用权重随机初始化使用参考mmengine的说明文档mmengine支持模型初始化方法包括：BaseInit,Caffe2XavierInit,ConstantInit,KaimingInit,NormalInit,PretrainedInit,TruncNormalInit,UniformInit,
  • 解决：源码安装caffe时遇到libcudnn.so: file not recognized问题 Gracie丹妮
    参考教程(19条消息)ubuntu16.04下Detectron+caffe2(Pytorch)安装配置过程_张家坎的博客-CSDN博客_caffe2_detectron_ops_gpu.dllhttps://blog.csdn.net/u014236392/article/details/81117287安装caffe2执行sudomakeinstall之后遇到如下问题:/home/Xdn/cu
  • 进场 行礼 问候 退场 东方芭蕾Lily
    1.当听到响铃声，按编号排队依次进入考场。tips：面带微笑，优雅自信且有礼貌的边看着考试官边跑到准备问好的位置。步伐轻盈像一阵风样，到位置站好一位脚，保持挺拔向上体态。小仙女就是你们。2.行礼问候Examier:(考试官)GillianMccafferyGoodmorning/afternoongirlsGoodmorning/afrernoonmadamorMs.MccafferyQuesti
  • YOLOv5独家改进：上采样算子 | 超轻量高效动态上采样DySample，效果秒杀CAFFE，助力小目标检测 AI小怪兽 YOLOv5原创自研YOLOcaffe目标检测深度学习人工智能
    本文独家改进：一种超轻量高效动态上采样DySample，具有更少的参数、FLOPs，效果秒杀CAFFE和YOLOv5网络中的nn.Upsample在多个数据集下验证能够涨点，尤其在小目标检测领域涨点显著。收录YOLOv5原创自研https://blog.csdn.net/m0_63774211/category_12511931.html全网独家首发创新（原创），适合paper！！！2024年计算
  • caffez转ncnn，及环境配置 宁静深远 软件安装
    一、安装ncnn1、安装protobuf(a)、gitclonehttps://github.com/google/protobuf(b)、自动生成configure配置文件，运行：./autogen.sh(c)、配置环境：./configure(d)、编译源代码:make(e)、安装：sudomakeinstall(f)、刷新动态库:sudoldconfig2、安装ncnn(a)、mkdirco
  • 最新姿态估计研究进展 a微风掠过
    最新姿态估计研究进展自上而下：就是先检测包含人的框，即humanproposal，然后对框子中的人进行姿态估计。一般RCNN（区域CNN就是这个思路）自下而上：先检测keypoint，然后根据热力图、点与点之间连接的概率，根据图论知识，基于PAF（部分亲和字段）将关键点连接起来，将关键点分组到人。1、CMU：openpose研究多人的姿态估计运行环境：caffe自下而上，关键点被分组到人的实例时间
  • 智慧云智能教育考试平台展示 barry200890 springbootvue考试javavue.js小程序
    智慧云智能教育平台项目简介技术架构1.1后端技术栈:*基于SpringBoot+MybatisPlus+Shiro+mysql5.7+redis+websocket构建.*使用jdk1.8的新特性如:caffeine缓存,lambda表达式.1.2前端技术:*Vue*Vuex*Vxe-Table(文档地址：https://gitee.com/xuliangzhan_admin/vxe-table)
  • what is SSD|Single Shot MultiBox Detector Woooooooooooooo
    文章摘选自多篇文章，仅用于学习，在此表示感谢，若有侵权请联系，感谢论文下载地址：https://arxiv.org/abs/1512.02325论文代码：https://github.com/weiliu89/caffe/tree/ssd省去了区域建议网络，直接使用不同尺度featuremap中的cell得到priodbox（和anchor类似），利用卷积可以直接得到box的回归和score而不需
  • caffe中的参考模型 雨住多一横
    RCNNmode_reference_rcnn_ilsvrc13l.pngcaffenet用于Flickrstyle数据集model_finetune_flickr_style.pngAlexNetmodel_alexnet.pnggooglenetmodel_googlenet.pngcaffenetmodel_reference_caffenet.png
  • RT-DETR算法优化改进：上采样算子 | 超轻量高效动态上采样DySample，效果秒杀CAFFE，助力小目标检测 AI小怪兽 RT-DETR魔术师算法caffe目标检测YOLO深度学习人工智能
    本文独家改进：一种超轻量高效动态上采样DySample，具有更少的参数、FLOPs，效果秒杀CAFFE和YOLOv8网络中的nn.Upsample在多个数据集下验证能够涨点，尤其在小目标检测领域涨点显著。RT-DETR魔术师专栏介绍：https://blog.csdn.net/m0_63774211/category_12497375.html✨✨✨魔改创新RT-DETR引入前沿顶会创新（CVPR
  • 「性能提升」扩展 Spring Cache 支持多级缓存 冷冷zz
    为什么多级缓存缓存的引入是现在大部分系统所必须考虑的redis作为常用中间件，虽然我们一般业务系统（毕竟业务量有限）不会遇到如下图在随着data-size的增大和数据结构的复杂的造成性能下降，但网络IO消耗会成为整个调用链路中不可忽视的部分。尤其在微服务架构中，一次调用往往会涉及多次调用例如pigoauth2.0的client认证Caffeine来自未来的本地内存缓存,性能比如常见的内存缓存实现性
  • Spring Cache duration～ spring-bootspringjava后端
    目录标题SpringCache1介绍2常用注解3入门SpringCache1介绍SpringCache是一个框架，实现了基于注解的缓存功能，只需要简单地加一个注解，就能实现缓存功能。SpringCache提供了一层抽象，底层可以切换不同的缓存实现，例如：EHCacheCaffeineRedis(常用)起步依赖：org.springframework.bootspring-boot-starter-
  • Caffeine与Spring cache的各种注解操作 500了 springjava后端
    前言Caffeine是一个基于Java8的进程内缓存框架，它使用乐观锁技术来提高并发吞吐量，并被誉为最快的缓存之一。Caffeine是内存型缓存，即缓存与调用者属于同一个应用，具体地说是属于同一个JVM。它的设计目标是提供高性能、高命中率以及低内存占用的本地缓存解决方案，被描述为GuavaCache的加强版和“新一代缓存”。关于Caffeine的使用，其提供了多种灵活的配置选项：自动加载数据：可以
  • 缓存组件Caffeine的使用 月月大王 Java#工具类缓存
    caffeine是一个高性能的缓存组件，在需要缓存数据，但数据量不算太大，不想引入redis的时候，caffeine就是一个不错的选择。可以把caffeine理解为一个简单的redis。1、导入依赖com.github.ben-manes.caffeinecaffeine2.9.3导入是要注意版本，最开始我用的版本是3.1.1，不过启动是的时候会报错，这是因为我用的是jdk1.8，需要降低一下版本
  • Makefile.config walkMAN_aholic
    ##Refertohttp://caffe.berkeleyvision.org/installation.html#Contributionssimplifyingandimprovingourbuildsystemarewelcome!#cuDNNaccelerationswitch(uncommenttobuildwithcuDNN).USE_CUDNN:=1#CPU-onlyswitch(
  • 缓存Caffeine之W-TinyLFU淘汰策略 georgesnoopy guava缓存java淘汰策略Caffeine
    我们常见的缓存是基于内存的缓存，但是单机的内存是有限的，不能让缓存数据撑爆内存，所有需要缓存淘汰机制。https://mp.csdn.net/editor/html/115872837中大概说明了LRU的缓存淘汰机制，以及基于LRU的著名实现guavacache。除了LRU淘汰策略外，其是常见的还有FIFO以及LFU，只是说目前用的最多的是LRU。LRULRU记录了缓存中数据项的访问时间，在缓存数
  • Caffeine史上最快的内存缓存 奇遇少年 缓存java
    引言在现代的Web应用程序中，缓存是提升性能，减少数据库负载，加快响应速度的关键技术之一。SpringBoot作为一个简化Spring应用开发的框架，提供了与多种缓存技术集成的支持。Caffeine是一个高性能，灵活的缓存库，它可以作为本地缓存在Java应用中广泛使用。本文将详细介绍如何在SpringBoot项目中集成Caffeine缓存，并通过一个实例来展示它的使用。什么是Caffeine缓存？
  • 如何解决caffe和video-caffe不能使用cudnn8编译的问题 Arnold-FY-Chen video-caffe深度学习Caffevideo-caffecaffe深度学习cudnn8cudnn
    因为caffe之类的代码很久不更新了，只支持到了使用cudnn7.x，在使用了cudnn8的环境下编译caffe或video-caffe时，会在src/caffe/layers/cudnn_conv_layer.cpp等文件里出错：error:identifier"CUDNN_CONVOLUTION_FWD_SPECIFY_WORKSPACE_LIMIT"isundefinederror:iden
  • Redis 6.0 客户端缓存 极简博客 javaredis
    不难发现，我们经常将Redis作为系统的缓存服务，但你有没有发现。在我们每次操作Redis时，都需要发送网络请求。这样就避免不了网络的开销。但如何解决这个问题呢？我们引入了本地缓存来解决此问题。查询逻辑从先前的直接查询转变为：先通过查询本地缓存，不存在再去远程查找然后设置到本地缓存-适用于分布式客户端缓存。有没有感觉像我们使用过的本地缓存Guava、Caffeine等一样？有啥特别的？这里Redi
  • [图像算法]-(yolov5.train)-GPU架构中的半精度fp16与单精度fp32计算 蒸饺与白茶
    GPU架构中的半精度与单精度计算  由于项目原因，我们需要对darknet中卷积层进行优化，然而对于像caffe或者darknet这类深度学习框架来说，都已经将卷积运算转换成了矩阵乘法，从而可以方便调用cublas库函数和cudnn里tiling过的矩阵乘。  CUDA在推出7.5的时候提出了可以计算16位浮点数据的新特性。定义了两种新的数据类型half和half2.之前有师弟已经DEMO过半精度
  • caffe搭建深度神经网络 A异乡人_7a44
    利用Caffe进行深度神经网络训练第一步需要搞懂几个重要文件：solver.prototxttrain_val.prototxttrain.shsolver.prototxtsolver这个文件主要存放模型训练所用到的一些超参数：net:=指定待训练模型结构文件，即train_val.prototxttest_interval:=测试间隔，即每隔多少次迭代进行一次测试test_initializa
  • deep-visualization-toolbox可视化安装 2014wzy caffe框架
    运行环境：Linux+caffe步骤：Step0:Compilemasterbranchofcaffe本代码运行的前提是，配置过caffe。因为配置caffe的过程中会出现一些依赖库，正是本代码所需要的。http://blog.csdn.NET/u011204487/article/details/51596471是配置caffe的过程。注意Makefile.config中的CPU_ONLY:=1
  • 分享100个最新免费的高匿HTTP代理IP mcj8089 代理IP代理服务器匿名代理免费代理IP最新代理IP
      推荐两个代理IP网站：   1. 全网代理IP：http://proxy.goubanjia.com/   2. 敲代码免费IP：http://ip.qiaodm.com/     120.198.243.130:80,中国/广东省 58.251.78.71:8088,中国/广东省 183.207.228.22:83,中国/
  • mysql高级特性之数据分区 annan211 java数据结构mongodb分区mysql
    mysql高级特性 1 以存储引擎的角度分析，分区表和物理表没有区别。是按照一定的规则将数据分别存储的逻辑设计。器底层是由多个物理字表组成。 2 分区的原理 分区表由多个相关的底层表实现，这些底层表也是由句柄对象表示，所以我们可以直接访问各个分区。存储引擎管理分区的各个底层 表和管理普通表一样(所有底层表都必须使用相同的存储引擎)，分区表的索引只是
  • JS采用正则表达式简单获取URL地址栏参数 chiangfai js地址栏参数获取
    GetUrlParam:function GetUrlParam(param){ var reg = new RegExp("(^|&)"+ param +"=([^&]*)(&|$)"); var r = window.location.search.substr(1).match(reg); if(r!=null
  • 怎样将数据表拷贝到powerdesigner (本地数据库表) Array_06 powerDesigner
    ================================================== 1、打开PowerDesigner12，在菜单中按照如下方式进行操作 file->Reverse Engineer->DataBase 点击后，弹出 New Physical Data Model 的对话框 2、在General选项卡中 Model name:模板名字，自
  • logbackのhelloworld 飞翔的马甲 日志logback
    一、概述 1.日志是啥？ 当我是个逗比的时候我是这么理解的：log.debug()代替了system.out.print(); 当我项目工作时，以为是一堆得.log文件。 这两天项目发布新版本，比较轻松，决定好好地研究下日志以及logback。 传送门1：日志的作用与方法： http://www.infoq.com/cn/articles/why-and-how-log 上面的作
  • 新浪微博爬虫模拟登陆 随意而生 新浪微博
    转载自：http://hi.baidu.com/erliang20088/item/251db4b040b8ce58ba0e1235     近来由于毕设需要，重新修改了新浪微博爬虫废了不少劲，希望下边的总结能够帮助后来的同学们。      现行版的模拟登陆与以前相比，最大的改动在于cookie获取时候的模拟url的请求
  • synchronized 香水浓 javathread
        Java语言的关键字，可用来给对象和方法或者代码块加锁，当它锁定一个方法或者一个代码块的时候，同一时刻最多只有一个线程执行这段代码。当两个并发线程访问同一个对象object中的这个加锁同步代码块时，一个时间内只能有一个线程得到执行。另一个线程必须等待当前线程执行完这个代码块以后才能执行该代码块。然而，当一个线程访问object的一个加锁代码块时，另一个线程仍然
  • maven 简单实用教程 AdyZhang maven
    1. Maven介绍  1.1. 简介 java编写的用于构建系统的自动化工具。目前版本是2.0.9，注意maven2和maven1有很大区别，阅读第三方文档时需要区分版本。 1.2. Maven资源 见官方网站；The 5 minute test，官方简易入门文档；Getting Started Tutorial，官方入门文档；Build Coo
  • Android 通过 intent传值获得null aijuans android
    我在通过intent 获得传递兑现过的时候报错，空指针,我是getMap方法进行传值，代码如下 1 2 3 4 5 6 7 8 9 public void getMap(View view){            Intent i =
  • apache 做代理 报如下错误：The proxy server received an invalid response from an upstream baalwolf response
    网站配置是apache＋tomcat,tomcat没有报错，apache报错是： The proxy server received an invalid response from an upstream server. The proxy server could not handle the request GET /. Reason: Error reading fr
  • Tomcat6 内存和线程配置 BigBird2012 tomcat6
    1、修改启动时内存参数、并指定JVM时区 （在windows server 2008 下时间少了8个小时） 在Tomcat上运行j2ee项目代码时，经常会出现内存溢出的情况，解决办法是在系统参数中增加系统参数：  window下， 在catalina.bat最前面 set JAVA_OPTS=-XX:PermSize=64M -XX:MaxPermSize=128m -Xms5
  • Karam与TDD bijian1013 KaramTDD
    一.TDD         测试驱动开发（Test-Driven Development,TDD）是一种敏捷（AGILE）开发方法论，它把开发流程倒转了过来，在进行代码实现之前，首先保证编写测试用例，从而用测试来驱动开发（而不是把测试作为一项验证工具来使用）。         TDD的原则很简单： a.只有当某个
  • [Zookeeper学习笔记之七]Zookeeper源代码分析之Zookeeper.States bit1129 zookeeper
    public enum States { CONNECTING, //Zookeeper服务器不可用，客户端处于尝试链接状态 ASSOCIATING, //？？？ CONNECTED, //链接建立，可以与Zookeeper服务器正常通信 CONNECTEDREADONLY, //处于只读状态的链接状态，只读模式可以在
  • 【Scala十四】Scala核心八：闭包 bit1129 scala
    Free variable A free variable of an expression is a variable that’s used inside the expression but not defined inside the expression. For instance, in the function literal expression (x: Int) => (x
  • android发送json并解析返回json ronin47 android
    package com.http.test; import org.apache.http.HttpResponse; import org.apache.http.HttpStatus; import org.apache.http.client.HttpClient; import org.apache.http.client.methods.HttpGet; import
  • 一份IT实习生的总结 brotherlamp PHPphp资料php教程php培训php视频
    今天突然发现在不知不觉中自己已经实习了 3 个月了，现在可能不算是真正意义上的实习吧，因为现在自己才大三，在这边撸代码的同时还要考虑到学校的功课跟期末考试。让我震惊的是，我完全想不到在这 3 个月里我到底学到了什么，这是一件多么悲催的事情啊。同时我对我应该 get 到什么新技能也很迷茫。所以今晚还是总结下把，让自己在接下来的实习生活有更加明确的方向。最后感谢工作室给我们几个人这个机会让我们提前出来
  • 据说是2012年10月人人网校招的一道笔试题-给出一个重物重量为X,另外提供的小砝码重量分别为1，3，9。。。3^N。 将重物放到天平左侧，问在两边如何添加砝码 bylijinnan java
    public class ScalesBalance { /** * 题目： * 给出一个重物重量为X,另外提供的小砝码重量分别为1，3，9。。。3^N。 （假设N无限大，但一种重量的砝码只有一个） * 将重物放到天平左侧，问在两边如何添加砝码使两边平衡 * * 分析： * 三进制 * 我们约定括号表示里面的数是三进制，例如 47=(1202
  • dom4j最常用最简单的方法 chiangfai dom4j
    要使用dom4j读写XML文档,需要先下载dom4j包,dom4j官方网站在 http://www.dom4j.org/目前最新dom4j包下载地址:http://nchc.dl.sourceforge.net/sourceforge/dom4j/dom4j-1.6.1.zip 解开后有两个包,仅操作XML文档的话把dom4j-1.6.1.jar加入工程就可以了,如果需要使用XPath的话还需要
  • 简单HBase笔记 chenchao051 hbase
     一、Client-side write buffer 客户端缓存请求 描述：可以缓存客户端的请求，以此来减少RPC的次数，但是缓存只是被存在一个ArrayList中，所以多线程访问时不安全的。 可以使用getWriteBuffer()方法来取得客户端缓存中的数据。 默认关闭。 二、Scan的Caching 描述： next( )方法请求一行就要使用一次RPC,即使
  • mysqldump导出时出现when doing LOCK TABLES daizj mysqlmysqdump导数据
    　　执行　mysqldump -uxxx -pxxx -hxxx -Pxxxx database tablename > tablename.sql　 导出表时，会报 mysqldump: Got error: 1044: Access denied for user 'xxx'@'xxx' to database 'xxx' when doing LOCK TABLES 解决
  • CSS渲染原理 dcj3sjt126com Web
      从事Web前端开发的人都与CSS打交道很多，有的人也许不知道css是怎么去工作的，写出来的css浏览器是怎么样去解析的呢？当这个成为我们提高css水平的一个瓶颈时，是否应该多了解一下呢？          一、浏览器的发展与CSS           
  • 《阿甘正传》台词 dcj3sjt126com
    Part Ⅰ: 《阿甘正传》Forrest Gump经典中英文对白 Forrest: Hello! My names Forrest. Forrest Gump. You wanna Chocolate? I could eat about a million and a half othese. My momma always said life was like a box ochocol
  • Java处理JSON dyy_gusi json
    Json在数据传输中很好用，原因是JSON 比 XML 更小、更快，更易解析。 在Java程序中，如何使用处理JSON，现在有很多工具可以处理，比较流行常用的是google的gson和alibaba的fastjson，具体使用如下： 1、读取json然后处理 class ReadJSON { public static void main(String[] args)
  • win7下nginx和php的配置 geeksun nginx
    1.  安装包准备 nginx :  从nginx.org下载nginx-1.8.0.zip php： 从php.net下载php-5.6.10-Win32-VC11-x64.zip， php是免安装文件。 RunHiddenConsole: 用于隐藏命令行窗口   2. 配置 # java用8080端口做应用服务器，nginx反向代理到这个端口即可 p
  • 基于2.8版本redis配置文件中文解释 hongtoushizi redis
    转载自： http://wangwei007.blog.51cto.com/68019/1548167        在Redis中直接启动redis-server服务时, 采用的是默认的配置文件。采用redis-server   xxx.conf 这样的方式可以按照指定的配置文件来运行Redis服务。下面是Redis2.8.9的配置文
  • 第五章 常用Lua开发库3-模板渲染 jinnianshilongnian nginxlua
    动态web网页开发是Web开发中一个常见的场景，比如像京东商品详情页，其页面逻辑是非常复杂的，需要使用模板技术来实现。而Lua中也有许多模板引擎，如目前我在使用的lua-resty-template，可以渲染很复杂的页面，借助LuaJIT其性能也是可以接受的。   如果学习过JavaEE中的servlet和JSP的话，应该知道JSP模板最终会被翻译成Servlet来执行；而lua-r
  • JZSearch大数据搜索引擎 颠覆者 JavaScript
    系统简介： 大数据的特点有四个层面：第一，数据体量巨大。从TB级别，跃升到PB级别；第二，数据类型繁多。网络日志、视频、图片、地理位置信息等等。第三，价值密度低。以视频为例，连续不间断监控过程中，可能有用的数据仅仅有一两秒。第四，处理速度快。最后这一点也是和传统的数据挖掘技术有着本质的不同。业界将其归纳为4个“V”——Volume，Variety，Value，Velocity。大数据搜索引
  • 10招让你成为杰出的Java程序员 pda158 java编程框架
    如果你是一个热衷于技术的  Java 程序员， 那么下面的 10 个要点可以让你在众多 Java 开发人员中脱颖而出。 　　 1. 拥有扎实的基础和深刻理解 OO 原则 　　对于 Java 程序员，深刻理解 Object Oriented Programming（面向对象编程）这一概念是必须的。没有 OOPS 的坚实基础，就领会不了像 Java 这些面向对象编程语言
  • tomcat之oracle连接池配置 小网客 oracle
    tomcat版本7.0 配置oracle连接池方式： 修改tomcat的server.xml配置文件： <GlobalNamingResources> <Resource name="utermdatasource" auth="Container" type="javax.sql.DataSou
  • Oracle 分页算法汇总 vipbooks oraclesql算法.net
        这是我找到的一些关于Oracle分页的算法，大家那里还有没有其他好的算法没？我们大家一起分享一下！ -- Oracle 分页算法一 select * from ( select page.*,rownum rn from (select * from help) page -- 20 = (currentPag
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他