Zhang_P_Y

【神经网络与深度学习】学习笔记：AlexNet&Imagenet学习笔记

学习笔记：AlexNet&Imagenet学习笔记

ImageNet(http://www.image-net.org)是李菲菲组的图像库，和WordNet 可以结合使用（毕业于Caltech；导师：Pietro Perona；主页：http://vision.stanford.edu/~feifeili/）总共有十万的synset，其中2010的数据表示，有图像的非空synset是21841，每一类大约1000张图片，图片总数：14197122。

Caffe中训练ImageNet使用的是Alex Krizhevsky的方法（AlexNet），这个有60million参数的模型(简称为AlexNet)，在ILSVRC 2012中赢得了第一名,Top5错误率15.3%。

2013年，Clarifai通过cnn模型可视化技术调整网络架构，赢得了ILSVRC （http://www.clarifai.com/ 看八卦可以看zhihu.com Filestorm：的一段闲聊： http://zhuanlan.zhihu.com/cvprnet/19821292）。

2014年，google也加入进来，它通过增加模型的层数（总共22层），并且利用multi-scale data training，取得第一名，Top5错误率 6.66%。Google的模型大大增加的网络的深度，并且去掉了最顶层的全连接层：因为全连接层（Fully Connected）几乎占据了CNN大概90%的参数，但是同时又可能带来过拟合（overfitting）的效果。它的模型比以前AlexNet的模型大大缩小，并且减轻了过拟合带来的副作用。Alex模型参数是60M，GoogLeNet只有7M。

2015年，百度用Deep Image,Top5错误率达到5.98% ,它基于GPU，利用36个服务节点开发了一个专为深度学习运算的supercompter(名叫Minwa，敏娲)。这台supercomputer具备TB级的host memory，超强的数据交换能力，训练了一个有100billion参数的巨大的深层神经网络。（这一系统包含 36 个服务器节点，每一服务器节点配备了 2 颗六核英特尔至强 E5-2620 处理器。每个服务器包含 4 颗英伟达 Tesla K40m GPU，以及 1 个 FDR InfiniBand（速度为 56GB/S）。这带来了高性能、低延时的连接，以及对 RDMA 的支持。每一颗 GPU 的最高浮点运算性能为每秒 4.29 万亿次浮点运算，而每一颗 GPU 也配备了 12GB 的内存。整体来看，Minwa 内置了 6.9TB 的主内存、1.7TB 的设备内存，而理论上的最高性能约为 0.6 千万亿次浮点运算。凭借如此强大的系统，研究人员可以使用与其他深度学习项目不同，或者说更好的训练数据。因此，百度没有使用常见的 256x256 像素图片，而是使用了 512x512 像素图片，并且可以给这些图片添加各种特效，例如色彩调整、增加光晕，以及透镜扭曲等。这样做的目的是使系统学习更多尺寸更小的对象，并在各种环境下识别对象。）

AlexNet整个模型比起之前我们看到的Cifar10 和LeNet模型相对来说复杂一些，训练时间是在两台GTX 580 3GB GPUs上进行了5-6天的训练，其中用到了Hinton的改进方法（在全连接层加入ReLU+Dropout）, 对于这个模型，我们首先认定一个完整的卷积层可能包括一层convolution，一层Rectified Linear Units，一层max-pooling，一层normalization。则整个网络结构包括五层卷积层和三层全连接层，网络的最前端是输入图片的原始像素点，最后端是图片的分类结果。

对于每一层网络，具体的网络参数配置如下图所示。InputLayer就是输入图片层，每个输入图片都将被缩放成227*227大小，分rgb三个颜色维度输入。Layer1~ Layer5是卷积层，以Layer1为例，卷积滤波器的大小是11*11，卷积步幅为4，本层共有96个卷积滤波器，本层的输出则是96个55*55大小的图片。在Layer1，卷积滤波后，还接有ReLUs操作和max-pooling操作。Layer6~ Layer8是全连接层，相当于在五层卷积层的基础上再加上一个三层的全连接神经网络分类器。以Layer6为例，本层的神经元个数为4096个。Layer8的神经元个数为1000个，相当于训练目标的1000个图片类别。

下面的图来自sunbaigui的博文 http://blog.csdn.net/sunbaigui/article/details/39938097

流程是一致的，不过对于每个值的计算过程有点不一样。

conv1阶段DFD（data flow diagram）：

2. conv2阶段DFD（data flow diagram）：

3. conv3阶段DFD（data flow diagram）：

4. conv4阶段DFD（data flow diagram）：

5. conv5阶段DFD（data flow diagram）：

6. fc6阶段DFD（data flow diagram）：

7. fc7阶段DFD（data flow diagram）：

8. fc8阶段DFD（data flow diagram）：

然后我调用训练好的模型

MODEL_FILE = '../models/bvlc_reference_caffenet/deploy.prototxt'
PRETRAINED = '../models/bvlc_reference_caffenet/bvlc_reference_caffenet.caffemodel'

获取到预测结果，然后再标签里查找到对应的分类

imagenet_label = caffe_root + 'data/ilsvrc12/synset_words.txt'

输入一张猫的图片

输出前五个分类

['n02123045 tabby, tabby cat' 'n02127052 lynx, catamount'
'n02124075 Egyptian cat' 'n07930864 cup' 'n02123159 tiger cat']
[281 287 285 968 282]

input: "data"
input_dim: 10
input_dim: 3
input_dim: 227
input_dim: 227
I0318 02:36:31.173322 15756 net.cpp:358] Input 0 -> data
I0318 02:36:31.173369 15756 net.cpp:56] Memory required for data: 0
I0318 02:36:31.173436 15756 net.cpp:67] Creating Layer conv1
I0318 02:36:31.173446 15756 net.cpp:394] conv1 <- data
I0318 02:36:31.173463 15756 net.cpp:356] conv1 -> conv1
I0318 02:36:31.173481 15756 net.cpp:96] Setting up conv1
I0318 02:36:31.173616 15756 net.cpp:103] Top shape: 10 96 55 55 (2904000)
I0318 02:36:31.173624 15756 net.cpp:113] Memory required for data: 11616000
I0318 02:36:31.173655 15756 net.cpp:67] Creating Layer relu1
I0318 02:36:31.173665 15756 net.cpp:394] relu1 <- conv1
I0318 02:36:31.173679 15756 net.cpp:345] relu1 -> conv1 (in-place)
I0318 02:36:31.173691 15756 net.cpp:96] Setting up relu1
I0318 02:36:31.173697 15756 net.cpp:103] Top shape: 10 96 55 55 (2904000)
I0318 02:36:31.173702 15756 net.cpp:113] Memory required for data: 23232000
I0318 02:36:31.173715 15756 net.cpp:67] Creating Layer pool1
I0318 02:36:31.173722 15756 net.cpp:394] pool1 <- conv1
I0318 02:36:31.173737 15756 net.cpp:356] pool1 -> pool1
I0318 02:36:31.173750 15756 net.cpp:96] Setting up pool1
I0318 02:36:31.173763 15756 net.cpp:103] Top shape: 10 96 27 27 (699840)
I0318 02:36:31.173768 15756 net.cpp:113] Memory required for data: 26031360
I0318 02:36:31.173780 15756 net.cpp:67] Creating Layer norm1
I0318 02:36:31.173787 15756 net.cpp:394] norm1 <- pool1
I0318 02:36:31.173800 15756 net.cpp:356] norm1 -> norm1
I0318 02:36:31.173811 15756 net.cpp:96] Setting up norm1
I0318 02:36:31.173820 15756 net.cpp:103] Top shape: 10 96 27 27 (699840)
I0318 02:36:31.173825 15756 net.cpp:113] Memory required for data: 28830720
I0318 02:36:31.173837 15756 net.cpp:67] Creating Layer conv2
I0318 02:36:31.173845 15756 net.cpp:394] conv2 <- norm1
I0318 02:36:31.173858 15756 net.cpp:356] conv2 -> conv2
I0318 02:36:31.173872 15756 net.cpp:96] Setting up conv2
I0318 02:36:31.174792 15756 net.cpp:103] Top shape: 10 256 27 27 (1866240)
I0318 02:36:31.174799 15756 net.cpp:113] Memory required for data: 36295680
I0318 02:36:31.174818 15756 net.cpp:67] Creating Layer relu2
I0318 02:36:31.174826 15756 net.cpp:394] relu2 <- conv2
I0318 02:36:31.174839 15756 net.cpp:345] relu2 -> conv2 (in-place)
I0318 02:36:31.174849 15756 net.cpp:96] Setting up relu2
I0318 02:36:31.174856 15756 net.cpp:103] Top shape: 10 256 27 27 (1866240)
I0318 02:36:31.174860 15756 net.cpp:113] Memory required for data: 43760640
I0318 02:36:31.174870 15756 net.cpp:67] Creating Layer pool2
I0318 02:36:31.174876 15756 net.cpp:394] pool2 <- conv2
I0318 02:36:31.174890 15756 net.cpp:356] pool2 -> pool2
I0318 02:36:31.174902 15756 net.cpp:96] Setting up pool2
I0318 02:36:31.174912 15756 net.cpp:103] Top shape: 10 256 13 13 (432640)
I0318 02:36:31.174917 15756 net.cpp:113] Memory required for data: 45491200
I0318 02:36:31.174927 15756 net.cpp:67] Creating Layer norm2
I0318 02:36:31.174933 15756 net.cpp:394] norm2 <- pool2
I0318 02:36:31.174947 15756 net.cpp:356] norm2 -> norm2
I0318 02:36:31.174957 15756 net.cpp:96] Setting up norm2
I0318 02:36:31.174967 15756 net.cpp:103] Top shape: 10 256 13 13 (432640)
I0318 02:36:31.174970 15756 net.cpp:113] Memory required for data: 47221760
I0318 02:36:31.174983 15756 net.cpp:67] Creating Layer conv3
I0318 02:36:31.174990 15756 net.cpp:394] conv3 <- norm2
I0318 02:36:31.175004 15756 net.cpp:356] conv3 -> conv3
I0318 02:36:31.175015 15756 net.cpp:96] Setting up conv3
I0318 02:36:31.177199 15756 net.cpp:103] Top shape: 10 384 13 13 (648960)
I0318 02:36:31.177208 15756 net.cpp:113] Memory required for data: 49817600
I0318 02:36:31.177230 15756 net.cpp:67] Creating Layer relu3
I0318 02:36:31.177238 15756 net.cpp:394] relu3 <- conv3
I0318 02:36:31.177252 15756 net.cpp:345] relu3 -> conv3 (in-place)
I0318 02:36:31.177263 15756 net.cpp:96] Setting up relu3
I0318 02:36:31.177268 15756 net.cpp:103] Top shape: 10 384 13 13 (648960)
I0318 02:36:31.177273 15756 net.cpp:113] Memory required for data: 52413440
I0318 02:36:31.177284 15756 net.cpp:67] Creating Layer conv4
I0318 02:36:31.177289 15756 net.cpp:394] conv4 <- conv3
I0318 02:36:31.177302 15756 net.cpp:356] conv4 -> conv4
I0318 02:36:31.177316 15756 net.cpp:96] Setting up conv4
I0318 02:36:31.179213 15756 net.cpp:103] Top shape: 10 384 13 13 (648960)
I0318 02:36:31.179220 15756 net.cpp:113] Memory required for data: 55009280
I0318 02:36:31.179237 15756 net.cpp:67] Creating Layer relu4
I0318 02:36:31.179244 15756 net.cpp:394] relu4 <- conv4
I0318 02:36:31.179258 15756 net.cpp:345] relu4 -> conv4 (in-place)
I0318 02:36:31.179268 15756 net.cpp:96] Setting up relu4
I0318 02:36:31.179275 15756 net.cpp:103] Top shape: 10 384 13 13 (648960)
I0318 02:36:31.179280 15756 net.cpp:113] Memory required for data: 57605120
I0318 02:36:31.179291 15756 net.cpp:67] Creating Layer conv5
I0318 02:36:31.179296 15756 net.cpp:394] conv5 <- conv4
I0318 02:36:31.179309 15756 net.cpp:356] conv5 -> conv5
I0318 02:36:31.179322 15756 net.cpp:96] Setting up conv5
I0318 02:36:31.180598 15756 net.cpp:103] Top shape: 10 256 13 13 (432640)
I0318 02:36:31.180606 15756 net.cpp:113] Memory required for data: 59335680
I0318 02:36:31.180629 15756 net.cpp:67] Creating Layer relu5
I0318 02:36:31.180636 15756 net.cpp:394] relu5 <- conv5
I0318 02:36:31.180649 15756 net.cpp:345] relu5 -> conv5 (in-place)
I0318 02:36:31.180660 15756 net.cpp:96] Setting up relu5
I0318 02:36:31.180665 15756 net.cpp:103] Top shape: 10 256 13 13 (432640)
I0318 02:36:31.180670 15756 net.cpp:113] Memory required for data: 61066240
I0318 02:36:31.180682 15756 net.cpp:67] Creating Layer pool5
I0318 02:36:31.180690 15756 net.cpp:394] pool5 <- conv5
I0318 02:36:31.180703 15756 net.cpp:356] pool5 -> pool5
I0318 02:36:31.180716 15756 net.cpp:96] Setting up pool5
I0318 02:36:31.180726 15756 net.cpp:103] Top shape: 10 256 6 6 (92160)
I0318 02:36:31.180730 15756 net.cpp:113] Memory required for data: 61434880
I0318 02:36:31.180742 15756 net.cpp:67] Creating Layer fc6
I0318 02:36:31.180748 15756 net.cpp:394] fc6 <- pool5
I0318 02:36:31.180760 15756 net.cpp:356] fc6 -> fc6
I0318 02:36:31.180773 15756 net.cpp:96] Setting up fc6
I0318 02:36:31.262177 15756 net.cpp:103] Top shape: 10 4096 1 1 (40960)
I0318 02:36:31.262205 15756 net.cpp:113] Memory required for data: 61598720
I0318 02:36:31.262254 15756 net.cpp:67] Creating Layer relu6
I0318 02:36:31.262269 15756 net.cpp:394] relu6 <- fc6
I0318 02:36:31.262296 15756 net.cpp:345] relu6 -> fc6 (in-place)
I0318 02:36:31.262312 15756 net.cpp:96] Setting up relu6
I0318 02:36:31.262320 15756 net.cpp:103] Top shape: 10 4096 1 1 (40960)
I0318 02:36:31.262325 15756 net.cpp:113] Memory required for data: 61762560
I0318 02:36:31.262341 15756 net.cpp:67] Creating Layer drop6
I0318 02:36:31.262346 15756 net.cpp:394] drop6 <- fc6
I0318 02:36:31.262358 15756 net.cpp:345] drop6 -> fc6 (in-place)
I0318 02:36:31.262369 15756 net.cpp:96] Setting up drop6
I0318 02:36:31.262378 15756 net.cpp:103] Top shape: 10 4096 1 1 (40960)
I0318 02:36:31.262382 15756 net.cpp:113] Memory required for data: 61926400
I0318 02:36:31.262408 15756 net.cpp:67] Creating Layer fc7
I0318 02:36:31.262416 15756 net.cpp:394] fc7 <- fc6
I0318 02:36:31.262430 15756 net.cpp:356] fc7 -> fc7
I0318 02:36:31.262445 15756 net.cpp:96] Setting up fc7
I0318 02:36:31.298831 15756 net.cpp:103] Top shape: 10 4096 1 1 (40960)
I0318 02:36:31.298859 15756 net.cpp:113] Memory required for data: 62090240
I0318 02:36:31.298895 15756 net.cpp:67] Creating Layer relu7
I0318 02:36:31.298908 15756 net.cpp:394] relu7 <- fc7
I0318 02:36:31.298933 15756 net.cpp:345] relu7 -> fc7 (in-place)
I0318 02:36:31.298949 15756 net.cpp:96] Setting up relu7
I0318 02:36:31.298955 15756 net.cpp:103] Top shape: 10 4096 1 1 (40960)
I0318 02:36:31.298960 15756 net.cpp:113] Memory required for data: 62254080
I0318 02:36:31.298974 15756 net.cpp:67] Creating Layer drop7
I0318 02:36:31.298981 15756 net.cpp:394] drop7 <- fc7
I0318 02:36:31.298993 15756 net.cpp:345] drop7 -> fc7 (in-place)
I0318 02:36:31.299003 15756 net.cpp:96] Setting up drop7
I0318 02:36:31.299011 15756 net.cpp:103] Top shape: 10 4096 1 1 (40960)
I0318 02:36:31.299016 15756 net.cpp:113] Memory required for data: 62417920
I0318 02:36:31.299028 15756 net.cpp:67] Creating Layer fc8
I0318 02:36:31.299034 15756 net.cpp:394] fc8 <- fc7
I0318 02:36:31.299046 15756 net.cpp:356] fc8 -> fc8
I0318 02:36:31.299060 15756 net.cpp:96] Setting up fc8
I0318 02:36:31.308233 15756 net.cpp:103] Top shape: 10 1000 1 1 (10000)
I0318 02:36:31.308260 15756 net.cpp:113] Memory required for data: 62457920
I0318 02:36:31.308295 15756 net.cpp:67] Creating Layer prob
I0318 02:36:31.308310 15756 net.cpp:394] prob <- fc8
I0318 02:36:31.308336 15756 net.cpp:356] prob -> prob
I0318 02:36:31.308353 15756 net.cpp:96] Setting up prob
I0318 02:36:31.308372 15756 net.cpp:103] Top shape: 10 1000 1 1 (10000)
I0318 02:36:31.308377 15756 net.cpp:113] Memory required for data: 62497920
I0318 02:36:31.308384 15756 net.cpp:172] prob does not need backward computation.
I0318 02:36:31.308404 15756 net.cpp:172] fc8 does not need backward computation.
I0318 02:36:31.308410 15756 net.cpp:172] drop7 does not need backward computation.
I0318 02:36:31.308415 15756 net.cpp:172] relu7 does not need backward computation.
I0318 02:36:31.308420 15756 net.cpp:172] fc7 does not need backward computation.
I0318 02:36:31.308425 15756 net.cpp:172] drop6 does not need backward computation.
I0318 02:36:31.308430 15756 net.cpp:172] relu6 does not need backward computation.
I0318 02:36:31.308435 15756 net.cpp:172] fc6 does not need backward computation.
I0318 02:36:31.308440 15756 net.cpp:172] pool5 does not need backward computation.
I0318 02:36:31.308445 15756 net.cpp:172] relu5 does not need backward computation.
I0318 02:36:31.308450 15756 net.cpp:172] conv5 does not need backward computation.
I0318 02:36:31.308454 15756 net.cpp:172] relu4 does not need backward computation.
I0318 02:36:31.308459 15756 net.cpp:172] conv4 does not need backward computation.
I0318 02:36:31.308465 15756 net.cpp:172] relu3 does not need backward computation.
I0318 02:36:31.308470 15756 net.cpp:172] conv3 does not need backward computation.
I0318 02:36:31.308473 15756 net.cpp:172] norm2 does not need backward computation.
I0318 02:36:31.308478 15756 net.cpp:172] pool2 does not need backward computation.
I0318 02:36:31.308483 15756 net.cpp:172] relu2 does not need backward computation.
I0318 02:36:31.308488 15756 net.cpp:172] conv2 does not need backward computation.
I0318 02:36:31.308493 15756 net.cpp:172] norm1 does not need backward computation.
I0318 02:36:31.308498 15756 net.cpp:172] pool1 does not need backward computation.
I0318 02:36:31.308502 15756 net.cpp:172] relu1 does not need backward computation.
I0318 02:36:31.308508 15756 net.cpp:172] conv1 does not need backward computation.
I0318 02:36:31.308512 15756 net.cpp:208] This network produces output prob
I0318 02:36:31.308542 15756 net.cpp:467] Collecting Learning Rate and Weight Decay.
I0318 02:36:31.308554 15756 net.cpp:219] Network initialization done.
I0318 02:36:31.308558 15756 net.cpp:220] Memory required for data: 62497920
E0318 02:36:31.683995 15756 upgrade_proto.cpp:611] Attempting to upgrade input file specified using deprecated transformation parameters: ../models/bvlc_reference_caffenet/bvlc_reference_caffenet.caffemodel
I0318 02:36:31.684034 15756 upgrade_proto.cpp:614] Successfully upgraded file specified using deprecated data transformation parameters.
E0318 02:36:31.684039 15756 upgrade_proto.cpp:616] Note that future Caffe releases will only support transform_param messages for transformation fields.
I0318 02:36:31.684048 15756 net.cpp:702] Ignoring source layer data
I0318 02:36:31.684052 15756 net.cpp:705] Copying source layer conv1
I0318 02:36:31.684367 15756 net.cpp:705] Copying source layer relu1
I0318 02:36:31.684375 15756 net.cpp:705] Copying source layer pool1
I0318 02:36:31.684380 15756 net.cpp:705] Copying source layer norm1
I0318 02:36:31.684383 15756 net.cpp:705] Copying source layer conv2
I0318 02:36:31.687021 15756 net.cpp:705] Copying source layer relu2
I0318 02:36:31.687028 15756 net.cpp:705] Copying source layer pool2
I0318 02:36:31.687033 15756 net.cpp:705] Copying source layer norm2
I0318 02:36:31.687038 15756 net.cpp:705] Copying source layer conv3
I0318 02:36:31.694574 15756 net.cpp:705] Copying source layer relu3
I0318 02:36:31.694586 15756 net.cpp:705] Copying source layer conv4
I0318 02:36:31.700258 15756 net.cpp:705] Copying source layer relu4
I0318 02:36:31.700266 15756 net.cpp:705] Copying source layer conv5
I0318 02:36:31.704053 15756 net.cpp:705] Copying source layer relu5
I0318 02:36:31.704062 15756 net.cpp:705] Copying source layer pool5
I0318 02:36:31.704067 15756 net.cpp:705] Copying source layer fc6
I0318 02:36:32.025676 15756 net.cpp:705] Copying source layer relu6
I0318 02:36:32.025704 15756 net.cpp:705] Copying source layer drop6
I0318 02:36:32.025709 15756 net.cpp:705] Copying source layer fc7
I0318 02:36:32.168704 15756 net.cpp:705] Copying source layer relu7
I0318 02:36:32.168730 15756 net.cpp:705] Copying source layer drop7
I0318 02:36:32.168735 15756 net.cpp:705] Copying source layer fc8
I0318 02:36:32.203642 15756 net.cpp:702] Ignoring source layer loss

['n02123045 tabby, tabby cat' 'n02127052 lynx, catamount'

'n02124075 Egyptian cat' 'n07930864 cup' 'n02123159 tiger cat']
[281 287 285 968 282]

其他参考：

http://blog.csdn.net/sunbaigui/article/details/39938097

http://dataunion.org/10781.html

http://djt.qq.com/article/view/1245

【ShuQiHere】《机器学习的进化史『下』：从神经网络到深度学习的飞跃》 ShuQiHere 机器学习深度学习神经网络
【ShuQiHere】引言：神经网络与深度学习的兴起在上篇文章中，我们回顾了机器学习的起源与传统模型的发展历程，如线性回归、逻辑回归和支持向量机（SVM）。然而，随着数据规模的急剧增长和计算能力的提升，传统模型在处理复杂问题时显得力不从心。在这种背景下，神经网络重新进入了研究者们的视野，并逐步演变为深度学习，成为解决复杂问题的强大工具。今天，我们将进一步探索从神经网络到深度学习的进化历程，揭示这些
神经网络深度学习梯度下降算法优化海棠如醉人工智能深度学习
【神经网络与深度学习】以最通俗易懂的角度解读[梯度下降法及其优化算法]，这一篇就足够（很全很详细）_梯度下降在神经网络中的作用及概念-CSDN博客https://blog.51cto.com/u_15162069/2761936梯度下降数学原理
李宏毅机器学习笔记 2.回归 Simone Zeng 机器学习机器学习
最近在跟着Datawhale组队学习打卡，学习李宏毅的机器学习/深度学习的课程。课程视频：https://www.bilibili.com/video/BV1Ht411g7Ef开源内容：https://github.com/datawhalechina/leeml-notes本篇文章对应视频中的P3。另外，最近我也在学习邱锡鹏教授的《神经网络与深度学习》，会补充书上的一点内容。通过上一次课1.机器
深度学习路线，包括书籍和视频 jjm2002 深度学习深度学习人工智能
深度学习是一个广泛而快速发展的领域，涉及多种技术和应用。以下是一个深度学习学习路线，包括书籍和视频资源。入门阶段：理解基础知识：书籍：《深度学习》（DeepLearning）IanGoodfellow,YoshuaBengio和AaronCourville著。这是深度学习领域的权威书籍，适合初学者。书籍：《神经网络与深度学习》（NeuralNetworksandDeepLearning）Micha
神经网络与深度学习 Neural Networks and Deep Learning 课程笔记第一周林间得鹿吴恩达深度学习系列课程笔记深度学习神经网络笔记
神经网络与深度学习NeuralNetworksandDeepLearning课程笔记第一周文章目录神经网络与深度学习NeuralNetworksandDeepLearning课程笔记第一周深度学习简介什么是神经网络使用神经网络进行监督学习为什么神经网络会兴起本文是吴恩达深度学习系列课程的学习笔记。深度学习简介什么是神经网络深度学习一般是指训练神经网络。那么什么是神经网络？课程以房价预测的例子来说明
小白初探｜神经网络与深度学习神奇的代码在哪里人工智能深度学习神经网络人工智能外接显卡
一、学习背景由于工作的原因，需要开展人工智能相关的研究，虽然不用参与实际研发，但在项目实施过程中发现，人工智能的项目和普通程序开发项目不一样，门槛比较高，没有相关基础没法搞清楚人力、财力如何投入，很难合理管控成本以及时间。为搞清楚情况，老年博主决定一步一个脚印，好好自学。在写本文时，博主已学到一定阶段了，趁有时间，通过博文记录下来，以免遗忘。二、学习准备常年的学习告诉我们，一门学科要快速入门，主流
神经网络与深度学习Pytorch版 Softmax回归笔记砍树＋c＋v 深度学习神经网络 pytorch 人工智能 python 回归笔记
Softmax回归目录Softmax回归1.独热编码2.Softmax回归的网络架构是一个单层的全连接神经网络。3.Softmax回归模型概述及其在多分类问题中的应用4.Softmax运算在多分类问题中的应用及其数学原理5.小批量样本分类的矢量计算表达式6.交叉熵损失函数7.模型预测及评价8.小结Softmax回归，也称为多类逻辑回归，是一种用于解决多分类问题的机器学习算法。它与普通的logist
【吴恩达-神经网络与深度学习】第3周：浅层神经网络倏然希然_ 深度学习与神经网络神经网络深度学习人工智能
目录神经网络概览神经网络表示含有一个隐藏层的神经网络（双层神经网络）计算神经网络的输出多样本的向量化向量化实现的解释激活函数（Activationfunctions）一些选择激活函数的经验法则：为什么需要非线性激活函数？激活函数的导数神经网络的梯度下降法（选修）直观理解反向传播随机初始化神经网络概览右上角方括号[]里面的数字表示神经网络的层数可以把许多sigmoid单元堆叠起来形成一个神经网络：第
2023年度佳作：AIGC、AGI、GhatGPT、人工智能大语言模型的崛起与挑战鸭鸭渗透人工智能 AIGC agi 语言模型自然语言处理
目录前言01《ChatGPT驱动软件开发》内容简介02《ChatGPT原理与实战》内容简介03《神经网络与深度学习》04《AIGC重塑教育》内容简介05《通用人工智能》目录前言2023年是人工智能大语言模型大爆发的一年，一些概念和英文缩写也在这一年里集中出现，很容易混淆，甚至把人搞懵。LLM：LargeLanguageModel，即大语言模型，旨在理解和生成人类语言。LLM的特点是规模庞大，包含成
Pytorch 实现强化学习策略梯度Reinforce算法爱喝咖啡的加菲猫强化学习强化学习神经网络 pytorch
一、公式推导这里参考邱锡鹏大佬的《神经网络与深度学习》第三章进阶模型部分，链接《神经网络与深度学习》。`伪代码：二、核心代码defmain():env=gym.make('CartPole-v0')obs_n=env.observation_space.shape[0]act_n=env.action_space.nlogger.info('obs_n{},act_n{}'.format(obs_
基于图神经网络与深度学习的商品推荐算法谦谦菜鸟深度学习机器学习人工智能
传统做法现阶段局限创新方法结果相关工作目前推荐算法基于矩阵分解的推荐算法基于深度学习的推荐算法基于图神经网络的推荐算法创新点模型设计本文的核心任务是训练出一个模型LGDL模型框架嵌入层ID特征嵌入评论文本特征嵌入前向传播层关联关系提取偏好特征提取评分预测层模型优化传统做法利用深度学习方法从用户ID、评论文本等数据中提取其中所隐藏的用户物品特征，根据该特征预测用户对新物品的打分从而给出推荐是传统推荐
神经网络与深度学习（五）——人工神经网络和卷积神经网络吴丞楚20012100032
姓名：吴丞楚学号：20012100032学院：竹园三号书院【嵌牛导读】简要介绍NN与CNN【嵌牛鼻子】深度学习神经网络【嵌牛提问】NN与CNN的区别有哪些人工神经网络简称神经网络(NN)，是目前各种神经网络的基础，其构造是仿造生物神经网络，将神经元看成一个逻辑单元，其功能是用于对函数进行估计和近似，是一种自适应系统，通俗的讲就是具备学习能力。其作用，目前为止就了解到分类。其目的就是在圈和叉之间画出
学习笔记--神经网络与深度学习之卷积神经网络 qssssss79 深度学习神经网络深度学习学习
目录1.卷积1.1一维卷积1.2卷积的作用1.3卷积扩展1.4二维卷积1.5互相关2.卷积神经网络2.1用卷积代替全连接2.2卷积层2.3汇聚层（池化层）2.4卷积网络结构3.其它卷积种类3.1空洞卷积3.2转置卷积/微步卷积4典型的卷积神经网络4.1LeNet-54.2AlexNet4.3Inception4.4残差网络利用全连接前馈网络处理图像时的问题：（1）参数太多：对于输入的10010
计划1 JLcucumber
1.吴恩达DL2021(强推|双字)2021版吴恩达深度学习课程Deeplearning.ai_哔哩哔哩_bilibiliPart1神经网络与深度学习（6+19+12+8）共45Part2训练、开发、测试集（14+10+11）共35Part3机器学习策略（13+11）共24Part4计算机视觉（11+14+14+(5+6)）共50Part5序列模型（12+10+15）共372.经典网络模型论文ht
[23-24 秋学期] NNDL-作业2 HBU 洛杉矶县牛肉板面深度学习人工智能机器学习深度学习
前言：本文解决《神经网络与深度学习》-邱锡鹏第二章课后题。对于习题2-1，平方损失函数在机器学习课程中学习过，但是惭愧的讲，在完成这篇博客前我对均方误差和平方损失函数的概念还有些混淆。交叉熵损失函数我未曾了解过，只在决策树一节中学习过关于熵entropy的基本概念。借此机会弄清原理，并且尝试着学会应用它。对于习题2-12，考察对混淆矩阵的理解程度和计算。其中宏平均和微平均是我未曾学习过的概念，借此
【22-23 春学期】AI作业5-深度学习基础 HBU_David AI 深度学习人工智能 python
人工智能、机器学习、深度学习之间的关系神经网络与深度学习的关系“深度学习”和“传统浅层学习”的区别和联系神经元、人工神经元MP模型单层感知机SLP异或问题XOR多层感知机MLP前馈神经网络FNN激活函数ActivationFunction为什么要使用激活函数？常用激活函数有哪些？均方误差和交叉熵损失函数，哪个适合于分类？哪个适合于回归？为什么？
神经网络与深度学习day01-基础知识小鬼缠身、深度学习神经网络人工智能 python
今天开始新学期，然后就是每周要在这里发这周的实验报告，CSDN对不起了，你可能不情愿，但是必须要稍微容纳一下我(这个菜比)在这里吹了。第一周的基础知识训练：1、导入numpy库importnumpy2、建立一个一维数组a=[4,5,6]。输出：(1)a的类型；(2)a的各维度的大小；(3)a的第一个元素a=[4,5,6]print(type(a))print(numpy.shape(a))prin
HBU_神经网络与深度学习实验10 卷积神经网络：基于ResNet18网络完成图像分类任务 ZodiAc7 cnn 深度学习 python
目录写在前面的一些内容一、实践：基于ResNet18网络完成图像分类任务1.数据处理(1)数据集介绍(2)数据读取(3)构造Dataset类2.模型构建3.模型训练4.模型评价5.模型预测二、实验Q&A写在前面的一些内容本文为HBU_神经网络与深度学习实验（2022年秋）实验10的实验报告，此文的基本内容参照[1]Github/卷积神经网络-下.ipynb，检索时请按对应序号进行检索。本实验编程语
Python练习题：猜数字游戏 BioVS python 开发语言
#题目来源于MOOC课程《神经网络与深度学习》，程序为自己独立编写题目：随机产生一个1-10之间的整数，并提示用户输入1-10的整数进行猜测，判断是否猜中。每次猜完后，提示“太大了”或者“太小了”，猜对之后提示“恭喜你，猜对了！”，并退出程序。当用户才出数字后，询问是否想要继续下一轮游戏，并记录显示用户已参加轮次。对应python程序：importrandomtimes=1#存放第几轮游戏，用于后
2023年度盘点：AIGC、AGI、GhatGPT、人工智能大模型必读书单家有娇妻张兔兔粉丝送书活动 AIGC agi 人工智能福利送书
2023年度盘点智能大模型必读书单概述好书推荐01《ChatGPT驱动软件开发》02《ChatGPT原理与实战》03《神经网络与深度学习》04《AIGC重塑教育》05《通用人工智能》写在末尾：主页传送门：传送送书系列：送书第一期：考研必备书单送书第二期：CTF那些事儿送书第三期：数据要素安全流通送书第四期：MLOps工程实践：工具、技术与企业级应用送书第五期：Python数据挖掘：入门进阶与实用案
搜索与人工智能码海串游人工智能
前言第一：通过博弈树搜索和启发式搜索的例子了解基于搜索的通用问题求解方法第二：了解人工智能发展的历程和社会影响第三：了解机器学习的基本思想和典型应用第四：了解人工智能应用开发的基本模式内容1.博弈树与剪纸、零和博弈，极大极小策略博弈树与搜索，α与β剪枝以及著名的计算机博弈的例子2.启发式搜索启发式函数，启发式搜索过程，3.人工智能与机器学习人工智能发展历程，专家系统，机器学习，神经网络与深度学习。
2023年度AI盘点 AIGC|AGI|ChatGPT|人工智能大模型 herosunly 优质书籍推荐人工智能 AIGC agi
文章目录0.前言1.《ChatGPT驱动软件开发》2.《ChatGPT原理与实战》3.《神经网络与深度学习》4.《AIGC重塑教育》5.《通用人工智能》0.前言 2023年是人工智能大语言模型大爆发的一年，一些概念和英文缩写也在这一年里集中出现，很容易混淆，甚至把人搞懵。LLM：LargeLanguageModel，即大语言模型，旨在理解和生成人类语言。LLM的特点是规模庞大，包含成百、上千亿的
DL Homework 11 熬夜患者 DL Homework 人工智能深度学习
目录1.被优化函数编辑(代码来源于邱锡鹏老师的神经网络与深度学习的实验）L1.pyop.py（1）SimpleBatchGD（2）Adagrad（3）RMSprop（4）Momentum（5）Adam2.被优化函数编辑3.解释不同轨迹的形成原因，并分析各个算法的优缺点（1）SimpleBatchGD（2）Adagrad（3）RMSprop（4）Momentum（5）Adam总结在展开本次作业之前，
2020-12-07 吴恩达-神经网络与深度学习-第三周编程练习 Vivivivi安
Github地址：https://github.com/Poissons/wuenda-Deep-Learning-And-Neural-Network-third-week-excercise.git
2020-12-03 吴恩达-神经网络与深度学习-第二周编程练习 Vivivivi安
最近听吴恩达老师的课，写课后作业Github地址：https://github.com/Poissons/wuenda-Deep-Learning-And-Neural-Network-second-week-excercise
2023年度AI盘点 AIGC|AGI|ChatGPT|人工智能大模型雪碧有白泡泡粉丝福利活动人工智能 AIGC agi
前言「作者主页」：雪碧有白泡泡「个人网站」：雪碧的个人网站2023年是人工智能大语言模型大爆发的一年，一些概念和英文缩写也在这一年里集中出现，很容易混淆，甚至把人搞懵。文章目录前言01《ChatGPT驱动软件开发》02《ChatGPT原理与实战》03《神经网络与深度学习》《AIGC重塑教育》05《通用人工智能》LLM：LargeLanguageModel，即大语言模型，旨在理解和生成人类语言。LL
年度大盘点：AIGC、AGI、GhatGPT震撼登场！揭秘人工智能大模型的奥秘与必读书单洁洁！ external AIGC agi 人工智能
这里写目录标题前言01《ChatGPT驱动软件开发》02《ChatGPT原理与实战》03《神经网络与深度学习》04《AIGC重塑教育》05《通用人工智能》前言在2023年，人工智能领域经历了一场前所未有的大爆发，特别是在语言模型领域。新的概念和英文缩写如AIGC、AGI、GhatGPT等频繁出现，给人们带来了极大的困惑和好奇。这些突如其来的名词和缩写不仅让人摸不着头脑，还引发了对人工智能发展的种种
2023年度佳作：AIGC、AGI、GhatGPT、人工智能大语言模型的崛起与挑战库库的里昂杂谈人工智能 AIGC agi 语言模型自然语言处理
目录前言01《ChatGPT驱动软件开发》内容简介02《ChatGPT原理与实战》内容简介03《神经网络与深度学习》04《AIGC重塑教育》内容简介05《通用人工智能》目录前言2023年是人工智能大语言模型大爆发的一年，一些概念和英文缩写也在这一年里集中出现，很容易混淆，甚至把人搞懵。LLM：LargeLanguageModel，即大语言模型，旨在理解和生成人类语言。LLM的特点是规模庞大，包含成
循环神经网络-RNN记忆能力实验 [HBU] 洛杉矶县牛肉板面深度学习 rnn 深度学习人工智能
目录一、循环神经网络二、循环神经网络的记忆能力实验三、数据集构建数据集的构建函数加载数据并进行数据划分构造Dataset类四、模型构建嵌入层SRN层五、模型训练训练指定长度的数字预测模型多组训练损失曲线展示六、模型评价参考《神经网络与深度学习》中的公式(6.50)，改进SRN的循环单元，加入隐状态之间的残差连接，并重复数字求和实验。观察是否可以缓解长程依赖问题？总结参考原文章：aistudio.b
[23-24 秋学期]NNDL 作业6 卷积 [HBU] 洛杉矶县牛肉板面深度学习深度学习人工智能卷积神经网络
目录一、概念二、探究不同卷积核的作用后接：关于使用pycharm输出卷积图像后图片仍然不清晰的可能原因以及解决方法总结：前言：卷积常用于特征提取实验过程中注意认真体会“特征提取”，弄清楚为什么卷积能够提取特征。一、概念用自己的语言描述“卷积、卷积核、特征图、特征选择、步长、填充、感受野”。大致看了一遍邱锡鹏《神经网络与深度学习》的卷积一节。谈谈我对这些名词概念的理解(理解不足描述不准请见谅)。个人
springmvc 下 freemarker页面枚举的遍历输出杨白白 enum freemarker
spring mvc freemarker 中遍历枚举 1枚举类型有一个本地方法叫values（），这个方法可以直接返回枚举数组。所以可以利用这个遍历。 enum public enum BooleanEnum { TRUE(Boolean.TRUE, "是"), FALSE(Boolean.FALSE, "否");
实习简要总结 byalias 工作
来白虹不知不觉中已经一个多月了，因为项目还在需求分析及项目架构阶段，自己在这段时间都是在学习相关技术知识，现在对这段时间的工作及学习情况做一个总结：（1）工作技能方面大体分为两个阶段，Java Web 基础阶段和Java EE阶段 1）Java Web阶段在这个阶段，自己主要着重学习了 JSP, Servlet, JDBC, MySQL，这些知识的核心点都过了一遍，也
Quartz——DateIntervalTrigger触发器 eksliang quartz
转载请出自出处：http://eksliang.iteye.com/blog/2208559 一.概述 simpleTrigger 内部实现机制是通过计算间隔时间来计算下次的执行时间，这就导致他有不适合调度的定时任务。例如我们想每天的 1：00AM 执行任务，如果使用 SimpleTrigger，间隔时间就是一天。注意这里就会有一个问题，即当有 misfired 的任务并且恢复执行时，该执行时间
Unix快捷键 18289753290 unix Unix；快捷键;
复制，删除，粘贴： dd:删除光标所在的行 &nbs
获取Android设备屏幕的相关参数酷的飞上天空 android
包含屏幕的分辨率以及屏幕宽度的最大dp 高度最大dp TextView text = (TextView)findViewById(R.id.text); DisplayMetrics dm = new DisplayMetrics(); text.append("getResources().ge
要做物联网？先保护好你的数据蓝儿唯美数据
根据Beecham Research的说法，那些在行业中希望利用物联网的关键领域需要提供更好的安全性。在Beecham的物联网安全威胁图谱上，展示了那些可能产生内外部攻击并且需要通过快速发展的物联网行业加以解决的关键领域。 Beecham Research的技术主管Jon Howes说：“之所以我们目前还没有看到与物联网相关的严重安全事件，是因为目前还没有在大型客户和企业应用中进行部署，也就
Java取模（求余）运算随便小屋 java
整数之间的取模求余运算很好求，但几乎没有遇到过对负数进行取模求余，直接看下面代码： /** * * @author Logic * */ public class Test { public static void main(String[] args) { // TODO A
SQL注入介绍 aijuans sql注入
二、SQL注入范例这里我们根据用户登录页面 <form action="" > 用户名：<input type="text" name="username"><br/> 密码：<input type="password" name="passwor
优雅代码风格 aoyouzi 代码
总结了几点关于优雅代码风格的描述：代码简单：不隐藏设计者的意图，抽象干净利落，控制语句直截了当。接口清晰：类型接口表现力直白，字面表达含义，API 相互呼应以增强可测试性。依赖项少：依赖关系越少越好，依赖少证明内聚程度高，低耦合利于自动测试，便于重构。没有重复：重复代码意味着某些概念或想法没有在代码中良好的体现，及时重构消除重复。战术分层：代码分层清晰，隔离明确，
布尔数组百合不是茶 java 布尔数组
androi中提到了布尔数组; 布尔数组默认的是false, 并且只会打印false或者是true 布尔数组的例子; 根据字符数组创建布尔数组 char[] c = {'p','u','b','l','i','c'}; //根据字符数组的长度创建布尔数组的个数 boolean[] b = new bool
web.xml之welcome-file-list、error-page bijian1013 java web.xml servlet error-page
welcome-file-list 1.定义： <welcome-file-list> <welcome-file>login.jsp</welcome> </welcome-file-list> 2.作用：用来指定WEB应用首页名称。 error-page1.定义： <error-page&g
richfaces 4 fileUpload组件删除上传的文件 sunjing clear Richfaces 4 fileupload
页面代码 <h:form id="fileForm"> <rich:
技术文章备忘 bit1129 技术文章
Zookeeper http://wenku.baidu.com/view/bab171ffaef8941ea76e05b8.html http://wenku.baidu.com/link?url=8thAIwFTnPh2KL2b0p1V7XSgmF9ZEFgw4V_MkIpA9j8BX2rDQMPgK5l3wcs9oBTxeekOnm5P3BK8c6K2DWynq9nfUCkRlTt9uV
org.hibernate.hql.ast.QuerySyntaxException: unexpected token: on near line 1解决方案白糖_ Hibernate
文章摘自：http://blog.csdn.net/yangwawa19870921/article/details/7553181 在编写HQL时，可能会出现这种代码： select a.name,b.age from TableA a left join TableB b on a.id=b.id 如果这是HQL，那么这段代码就是错误的，因为HQL不支持
sqlserver按照字段内容进行排序 bozch 按照内容排序
在做项目的时候，遇到了这样的一个需求：从数据库中取出的数据集，首先要将某个数据或者多个数据按照地段内容放到前面显示，例如:从学生表中取出姓李的放到数据集的前面； select * fro
编程珠玑-第一章-位图排序 bylijinnan java 编程珠玑
import java.io.BufferedWriter; import java.io.File; import java.io.FileWriter; import java.io.IOException; import java.io.Writer; import java.util.Random; public class BitMapSearch {
Java关于==和equals chenbowen00 java
关于==和equals概念其实很简单，一个是比较内存地址是否相同，一个比较的是值内容是否相同。虽然理解上不难，但是有时存在一些理解误区，如下情况： 1、 String a = "aaa"; a=="aaa"; ==> true 2、 new String("aaa")==new String("aaa
[IT与资本]软件行业需对外界投资热情保持警惕 comsci it
我还是那个看法,软件行业需要增强内生动力,尽量依靠自有资金和营业收入来进行经营,避免在资本市场上经受各种不同类型的风险,为企业自主研发核心技术和产品提供稳定,温和的外部环境... 如果我们在自己尚未掌握核心技术之前,企图依靠上市来筹集资金,然后使劲往某个领域砸钱,然
oracle 数据块结构 daizj oracle 块数据块块结构行目录
oracle 数据块是数据库存储的最小单位，一般为操作系统块的N倍。其结构为：块头－－〉空行－－〉数据，其实际为纵行结构。块的标准大小由初始化参数DB_BLOCK_SIZE指定。具有标准大小的块称为标准块（Standard Block）。块的大小和标准块的大小不同的块叫非标准块（Nonstandard Block）。同一数据库中，Oracle9i及以上版本支持同一数据库中同时使用标
github上一些觉得对自己工作有用的项目收集 dengkane github
github上一些觉得对自己工作有用的项目收集技能类 markdown语法中文说明回到顶部全文检索 elasticsearch bigdesk elasticsearch管理插件回到顶部 nosql mapdb 支持亿级别map, list, 支持事务. 可考虑做为缓存使用 C
初二上学期难记单词二 dcj3sjt126com english word
dangerous 危险的 panda 熊猫 lion 狮子 elephant 象 monkey 猴子 tiger 老虎 deer 鹿 snake 蛇 rabbit 兔子 duck 鸭 horse 马 forest 森林 fall 跌倒；落下 climb 爬；攀登 finish 完成；结束 cinema 电影院；电影 seafood 海鲜；海产食品 bank 银行
8、mysql外键(FOREIGN KEY)的简单使用 dcj3sjt126com mysql
一、基本概念 1、MySQL中“键”和“索引”的定义相同，所以外键和主键一样也是索引的一种。不同的是MySQL会自动为所有表的主键进行索引，但是外键字段必须由用户进行明确的索引。用于外键关系的字段必须在所有的参照表中进行明确地索引，InnoDB不能自动地创建索引。 2、外键可以是一对一的，一个表的记录只能与另一个表的一条记录连接，或者是一对多的，一个表的记录与另一个表的多条记录连接。 3、如
java循环标签 Foreach shuizhaosi888 标签 java循环 foreach
1. 简单的for循环 public static void main(String[] args) { for (int i = 1, y = i + 10; i < 5 && y < 12; i++, y = i * 2) { System.err.println("i=" + i + " y="
Spring Security（05）——异常信息本地化 234390216 exception Spring Security 异常信息本地化
异常信息本地化 Spring Security支持将展现给终端用户看的异常信息本地化，这些信息包括认证失败、访问被拒绝等。而对于展现给开发者看的异常信息和日志信息（如配置错误）则是不能够进行本地化的，它们是以英文硬编码在Spring Security的代码中的。在Spring-Security-core-x
DUBBO架构服务端告警Failed to send message Response javamingtingzhao 架构 DUBBO
废话不多说，警告日志如下，不知道有哪位遇到过，此异常在服务端抛出(服务器启动第一次运行会有这个警告)，后续运行没问题，找了好久真心不知道哪里错了。 WARN 2015-07-18 22:31:15,272 com.alibaba.dubbo.remoting.transport.dispatcher.ChannelEventRunnable.run(84)
JS中Date对象中几个用法 leeqq JavaScript Date 最后一天
近来工作中遇到这样的两个需求 1. 给个Date对象，找出该时间所在月的第一天和最后一天 2. 给个Date对象，找出该时间所在周的第一天和最后一天需求1中的找月第一天很简单，我记得api中有setDate方法可以使用使用setDate方法前，先看看getDate var date = new Date(); console.log(date); // Sat J
MFC中使用ado技术操作数据库你不认识的休道人 sql mfc
1.在stdafx.h中导入ado动态链接库 #import"C:\Program Files\Common Files\System\ado\msado15.dll" no_namespace rename("EOF","end")2.在CTestApp文件的InitInstance()函数中domodal之前写::CoIniti
Android Studio加速 rensanning android studio
Android Studio慢、吃内存！启动时后会立即通过Gradle来sync & build工程。（1）设置Android Studio a) 禁用插件 File -> Settings... Plugins 去掉一些没有用的插件。比如：Git Integration、GitHub、Google Cloud Testing、Google Cloud
各数据库的批量Update操作 tomcat_oracle java oracle sql mysql sqlite
MyBatis的update元素的用法与insert元素基本相同，因此本篇不打算重复了。本篇仅记录批量update操作的 sql语句，懂得SQL语句，那么MyBatis部分的操作就简单了。　　注意：下列批量更新语句都是作为一个事务整体执行，要不全部成功，要不全部回滚。 MSSQL的SQL语句　WITH R AS（　　SELECT 'John' as name, 18 as
html禁止清除input文本输入缓存 xp9802 input
多数浏览器默认会缓存input的值，只有使用ctl+F5强制刷新的才可以清除缓存记录。如果不想让浏览器缓存input的值，有2种方法：方法一：在不想使用缓存的input中添加 autocomplete="off"; eg: <input type="text" autocomplete="off" name

【神经网络与深度学习】学习笔记：AlexNet&Imagenet学习笔记

你可能感兴趣的:(神经网络与深度学习)