孪生神经网络图像分类图,孪生神经网络图像比对

CNN神经网络给图像分类（Matlab）

你要看你的图像是什么。如果是彩色数字，先转成灰度。用MNIST训练网络。如果是各种主题，用彩色的imageNET训练。如果你的数据量大到足以与数据集媲美，那么直接用你的数据训练网络即可。

在流行的数据集上训练完，你需要固定卷积池化层，只训练后面的全连接层参数，用你自己的数据集。CNN一是调整网络结构，几层卷积几层池化，卷积的模板大小等。

而是在确定结构上调整参数，weightscale，learningrate，reg等。

你用CNN做图像分类，无非是把CNN当成学习特征的手段，你可以吧网络看成两部分，前面的卷积层学习图像基本-中等-高层特征，后面的全连接层对应普通的神经网络做分类。

需要学习的话，首先你去看UFLDL教程。然后cs231n与其问别人，首先你看了imageNet数据集了吗？对于把流行数据集与自己数据混合训练模型的方法。如果两种数据十分相似，也未尝不可。

但是对于流行数据集而言，自己的标注数据量一般不会太大，如果是1：1000，1:100这种比例，那么可能不加自己的数据，完全用数据集训练的模型就能得到一个还好的结果。

如果自己的数据和数据集有些差别，那混在一起我认为自己的是在用自己的数据当做噪声加到数据集中。

cnn认为图像是局部相关的，而欺骗CNN的方法则主要出于，自然图像分布在一种流形结构中，训练的模型需要这种流形假设，而人工合成的图像由于添加非自然噪点，不满足模型假设，所以能用肉眼难分辨的噪声严重干扰分类结果。

如果二者相差过大，数据集是一种分布，你的数据是另一种，放到一起训练，我没试过，但我认为结果不会太好。这时候只能把数据集用来训练cnn的特征提取能力。而后用于分类的全连接层，视你的数据量调整规模。

谷歌人工智能写作项目：小发猫

如何开启深度学习之旅

如何开启深度学习之旅？这三大类125篇论文为你导航（附资源下载） 如果你现在还是个深度学习的新手，那么你问的第一个问题可能是「我应该从哪篇文章开始读呢？

在G上，s准备了一套深度学习阅读清单，而且这份清单在随时更新python神经网络样本训练，图神经网络 python。

项目地址：这份清单依照下述4条原则建立：从整体轮廓到细节从过去到当代从一般到具体领域聚焦当下最先进技术你会发现很多非常新但很值得一读的论文。这份清单我会持续更新。

1、深度学习的历史与基础知识1.0书籍[0]Bengio,Yoshua,IanJ.Goodfellow,andAaronCourville.深度学习（Deeplearning）,AnMITPressbook.(2015).（这是深度学习领域的圣经，你可以在读此书的同时阅读下面的论文）。

1.1调查类：[1]LeCun,Yann,YoshuaBengio,andGeoffreyHinton.深度学习(Deeplearning),Nature521.7553(2015):436-444.(深度学习三位大牛对各种学习模型的评价)1.2深度信念网络（DBN）（深度学习前夜的里程碑）[2]Hinton,GeoffreyE.,SimonOsindero,andYee-WhyeTeh.一个关于深度信念网络的快速学习算法（Afastlearningalgorithmfordeepbeliefnets）,(深度学习的前夜)[3]Hinton,GeoffreyE.,andRuslanR.Salakhutdinov.使用神经网络降低数据的维度（Reducingthedimensionalityofdatawithneuralnetworks）,(里程碑式的论文，展示了深度学习的可靠性)1.3ImageNet的演化（深度学习从这里开始）[4]Krizhevsky,Alex,IlyaSutskever,andGeoffreyE.Hinton.使用深度卷积神经网络进行ImageNet分类任务（Imagenetclassificationwithdeepconvolutionalneuralnetworks）(AlexNet,深度学习的突破)[5]Simonyan,Karen,andAndrewZisserman.针对大尺度图像识别工作的的超深卷积网络（Verydeepconvolutionalnetworksforlarge-scaleimagerecognition）(VGGNet,神经网络开始变得非常深！

)[6]Szegedy,Christian,etal.更深的卷积（Goingdeeperwithconvolutions）(GoogLeNet)[7]He,Kaiming,etal.图像识别的深度残差学习（Deepresiduallearningforimagerecognition）(ResNet，超级超级深的深度网络！

CVPR--IEEE国际计算机视觉与模式识别会议--最佳论文)1.4语音识别的演化[8]Hinton,Geoffrey,etal.语音识别中深度神经网络的声学建模（Deepneuralnetworksforacousticmodelinginspeechrecognition:Thesharedviewsoffourresearchgroups）（语音识别中的突破)[9]Graves,Alex,Abdel-rahmanMohamed,andGeoffreyHinton.用深度循环神经网络进行语音识别（Speechrecognitionwithdeeprecurrentneuralnetworks）(RNN)[10]Graves,Alex,andNavdeepJaitly.面向端到端语音识别的循环神经网络（TowardsEnd-To-EndSpeechRecognitionwithRecurrentNeuralNetworks）[11]Sak,Ha?im,etal.语音识别中快且精准的循环神经网络声学模型（Fastandaccuraterecurrentneuralnetworkacousticmodelsforspeechrecognition）(语音识别系统)[12]Amodei,Dario,etal.Deepspeech2:英语和汉语的端到端语音识别（Deepspeech2:End-to-endspeechrecognitioninenglishandmandarin）(百度语音识别系统)[13]W.Xiong,J.Droppo,X.Huang,F.Seide,M.Seltzer,A.Stolcke,D.Yu,G.Zweig，在对话语音识别中实现人类平等（AchievingHumanParityinConversationalSpeechRecognition）当你读完了上面给出的论文，你会对深度学习历史有一个基本的了解，深度学习建模的基本架构（包括了CNN，RNN，LSTM）以及深度学习如何可以被应用于图像和语音识别问题。

下面的论文会让你对深度学习方法，不同应用领域中的深度学习技术和其局限有深度认识。

2深度学习方法2.1模型[14]Hinton,GeoffreyE.,etal.通过避免特征检测器的共适应来改善神经网络（Improvingneuralnetworksbypreventingco-adaptationoffeaturedetectors）(Dropout)[15]Srivastava,Nitish,etal.Dropout：一种避免神经网络过度拟合的简单方法（Dropout:asimplewaytopreventneuralnetworksfromoverfitting）[16]Ioffe,Sergey,andChristianSzegedy.Batchnormalization:通过减少内部协变量加速深度网络训练（Batchnormalization:Acceleratingdeepnetworktrainingbyreducinginternalcovariateshift）(2015年一篇杰出论文)[17]Ba,JimmyLei,JamieRyanKiros,andGeoffreyE.Hinton.层归一化（Layernormalization）(批归一化的升级版)[18]Courbariaux,Matthieu,etal.二值神经网络：训练神经网络的权重和激活约束到正1或者负1（BinarizedNeuralNetworks:TrainingNeuralNetworkswithWeightsandActivationsConstrainedto+1or?1）(新模型，快)[19]Jaderberg,Max,etal.使用合成梯度的解耦神经接口（Decoupledneuralinterfacesusingsyntheticgradients）(训练方法的发明，令人惊叹的文章)[20]Chen,Tianqi,IanGoodfellow,andJonathonShlens.Net2net：通过知识迁移加速学习（Net2net:Acceleratinglearningviaknowledgetransfer）(修改之前的训练网络以减少训练)[21]Wei,Tao,etal.网络形态（NetworkMorphism）(修改之前的训练网络以减少训练epoch)2.2优化[22]Sutskever,Ilya,etal.有关深度学习中初始化与动量因子的研究（Ontheimportanceofinitializationandmomentumindeeplearning）(动量因子优化器)[23]Kingma,Diederik,andJimmyBa.Adam：随机优化的一种方法（Adam:Amethodforstochasticoptimization）(可能是现在用的最多的一种方法)[24]Andrychowicz,Marcin,etal.通过梯度下降学习梯度下降（Learningtolearnbygradientdescentbygradientdescent）(神经优化器，令人称奇的工作)[25]Han,Song,HuiziMao,andWilliamJ.Dally.深度压缩：通过剪枝、量子化训练和霍夫曼代码压缩深度神经网络（Deepcompression:Compressingdeepneuralnetworkwithpruning,trainedquantizationandhuffmancoding）(ICLR最佳论文，来自DeePhi科技初创公司，加速NN运行的新方向)[26]Iandola,ForrestN.,etal.SqueezeNet：带有50x更少参数和小于1MB模型大小的AlexNet-层级精确度（SqueezeNet:AlexNet-levelaccuracywith50xfewerparametersand<1MBmodelsize.）(优化NN的另一个新方向，来自DeePhi科技初创公司)2.3无监督学习／深度生成模型[27]Le,QuocV.通过大规模无监督学习构建高级特征（Buildinghigh-levelfeaturesusinglargescaleunsupervisedlearning.）(里程碑，吴恩达，谷歌大脑，猫)[28]Kingma,DiederikP.,andMaxWelling.自动编码变异贝叶斯（Auto-encodingvariationalbayes.）(VAE)[29]Goodfellow,Ian,etal.生成对抗网络（Generativeadversarialnets.）(GAN,超酷的想法)[30]Radford,Alec,LukeMetz,andSoumithChintala.带有深度卷曲生成对抗网络的无监督特征学习（Unsupervisedrepresentationlearningwithdeepconvolutionalgenerativeadversarialnetworks.）(DCGAN)[31]Gregor,Karol,etal.DRAW：一个用于图像生成的循环神经网络（DRAW:Arecurrentneuralnetworkforimagegeneration.）(值得注意的VAE，杰出的工作)[32]Oord,Aaronvanden,NalKalchbrenner,andKorayKavukcuoglu.像素循环神经网络（Pixelrecurrentneuralnetworks.）(像素RNN)[33]Oord,Aaronvanden,etal.使用像素CNN解码器有条件地生成图像（ConditionalimagegenerationwithPixelCNNdecoders.）(像素CNN)2.4RNN／序列到序列模型[34]Graves,Alex.带有循环神经网络的生成序列（Generatingsequenceswithrecurrentneuralnetworks.）(LSTM,非常好的生成结果，展示了RNN的力量)[35]Cho,Kyunghyun,etal.使用RNN编码器-解码器学习词组表征用于统计机器翻译（LearningphraserepresentationsusingRNNencoder-decoderforstatisticalmachinetranslation.）(第一个序列到序列论文)[36]Sutskever,Ilya,OriolVinyals,andQuocV.Le.运用神经网路的序列到序列学习（Sequencetosequencelearningwithneuralnetworks.」）(杰出的工作)[37]Bahdanau,Dzmitry,KyungHyunCho,andYoshuaBengio.通过共同学习来匹配和翻译神经机器翻译（NeuralMachineTranslationbyJointlyLearningtoAlignandTranslate.）[38]Vinyals,Oriol,andQuocLe.一个神经对话模型（Aneuralconversationalmodel.）(聊天机器人上的序列到序列)2.5神经图灵机[39]Graves,Alex,GregWayne,andIvoDanihelka.神经图灵机器（Neuralturingmachines.）arXivpreprintarXiv:1410.5401(2014).(未来计算机的基本原型）[40]Zaremba,Wojciech,andIlyaSutskever.强化学习神经图灵机（ReinforcementlearningneuralTuringmachines.）[41]Weston,Jason,SumitChopra,andAntoineBordes.记忆网络（Memorynetworks.）[42]Sukhbaatar,Sainbayar,JasonWeston,andRobFergus.端到端记忆网络（End-to-endmemorynetworks.）[43]Vinyals,Oriol,MeireFortunato,andNavdeepJaitly.指示器网络（Pointernetworks.）[44]Graves,Alex,etal.使用带有动力外部内存的神经网络的混合计算（Hybridcomputingusinganeuralnetworkwithdynamicexternalmemory.）(里程碑，结合上述论文的思想)2.6深度强化学习[45]Mnih,Volodymyr,etal.使用深度强化学习玩atari游戏（Playingatariwithdeepreinforcementlearning.）(第一篇以深度强化学习命名的论文)[46]Mnih,Volodymyr,etal.通过深度强化学习达到人类水准的控制（Human-levelcontrolthroughdeepreinforcementlearning.）(里程碑)[47]Wang,Ziyu,NandodeFreitas,andMarcLanctot.用于深度强化学习的决斗网络架构（Duelingnetworkarchitecturesfordeepreinforcementlearning.）(ICLR最佳论文，伟大的想法)[48]Mnih,Volodymyr,etal.用于深度强化学习的异步方法（Asynchronousmethodsfordeepreinforcementlearning.）(当前最先进的方法)[49]Lillicrap,TimothyP.,etal.运用深度强化学习进行持续控制（Continuouscontrolwithdeepreinforcementlearning.）(DDPG)[50]Gu,Shixiang,etal.带有模型加速的持续深层Q-学习（ContinuousDeepQ-LearningwithModel-basedAcceleration.）[51]Schulman,John,etal.信赖域策略优化（Trustregionpolicyoptimization.）(TRPO)[52]Silver,David,etal.使用深度神经网络和树搜索掌握围棋游戏（MasteringthegameofGowithdeepneuralnetworksandtreesearch.）(阿尔法狗)2.7深度迁移学习／终身学习／尤其对于RL[53]Bengio,Yoshua.表征无监督和迁移学习的深度学习（DeepLearningofRepresentationsforUnsupervisedandTransferLearning.）(一个教程)[54]Silver,DanielL.,QiangYang,andLianghaoLi.终身机器学习系统：超越学习算法（LifelongMachineLearningSystems:BeyondLearningAlgorithms.）(一个关于终生学习的简要讨论)[55]Hinton,Geoffrey,OriolVinyals,andJeffDean.提取神经网络中的知识（Distillingtheknowledgeinaneuralnetwork.）(教父的工作)[56]Rusu,AndreiA.,etal.策略提取（Policydistillation.）(RL领域)[57]Parisotto,Emilio,JimmyLeiBa,andRuslanSalakhutdinov.演员模仿：深度多任务和迁移强化学习（Actor-mimic:Deepmultitaskandtransferreinforcementlearning.）(RL领域)[58]Rusu,AndreiA.,etal.渐进神经网络（Progressiveneuralnetworks.）(杰出的工作，一项全新的工作)2.8一次性深度学习[59]Lake,BrendenM.,RuslanSalakhutdinov,andJoshuaB.Tenenbaum.通过概率程序归纳达到人类水准的概念学习（Human-levelconceptlearningthroughprobabilisticprograminduction.）(不是深度学习，但是值得阅读)[60]Koch,Gregory,RichardZemel,andRuslanSalakhutdinov.用于一次图像识别的孪生神经网络（SiameseNeuralNetworksforOne-shotImageRecognition.）[61]Santoro,Adam,etal.用记忆增强神经网络进行一次性学习（One-shotLearningwithMemory-AugmentedNeuralNetworks）(一个一次性学习的基本步骤)[62]Vinyals,Oriol,etal.用于一次性学习的匹配网络（MatchingNetworksforOneShotLearning.）[63]Hariharan,Bharath,andRossGirshick.少量视觉物体识别（Low-shotvisualobjectrecognition.）(走向大数据的一步)3应用3.1NLP（自然语言处理）[1]AntoineBordes,etal.开放文本语义分析的词和意义表征的联合学习（JointLearningofWordsandMeaningRepresentationsforOpen-TextSemanticParsing.）[2]Mikolov,etal.词和短语及其组合性的分布式表征（Distributedrepresentationsofwordsandphrasesandtheircompositionality.）(word2vec)[3]Sutskever,etal.运用神经网络的序列到序列学习（Sequencetosequencelearningwithneuralnetworks.）[4]AnkitKumar,etal.问我一切：动态记忆网络用于自然语言处理（AskMeAnything:DynamicMemoryNetworksforNaturalLanguageProcessing.）[5]YoonKim,etal.角色意识的神经语言模型（Character-AwareNeuralLanguageModels.）[6]JasonWeston,etal.走向人工智能-完成问题回答：一组前提玩具任务（TowardsAI-CompleteQuestionAnswering:ASetofPrerequisiteToyTasks.）(bAbI任务)[7]KarlMoritzHermann,etal.教机器阅读和理解（TeachingMachinestoReadandComprehend.）(CNN/每日邮件完形风格问题)[8]AlexisConneau,etal.非常深度卷曲网络用于自然语言处理（VeryDeepConvolutionalNetworksforNaturalLanguageProcessing.）(在文本分类中当前最好的)[9]ArmandJoulin,etal.诡计包用于有效文本分类（BagofTricksforEfficientTextClassification.）(比最好的差一点，但快很多)。

神经网络做图像分类一定要用到gpu吗？

GPU最大的价值一直是“accelerating”(加速)，GPU不是取代CPU，而是利用GPU的并行计算架构，来将并行计算的负载放到GPU上来处理从而极大的提升处理速度。

GPU本质上在异构计算架构上属于协处理器，常见的协处理器除了GPU，还有TPU、FPGA、ASIC等。神经网络图像分割，有很多适合GPU来做并行处理的算法。

而GPU相较于其它加速协处理芯片，有更好的可编程性。NVIDIA在GPU加速计算领域发展多年，已经形成了非常好的软件生态。

目前在深度学习的训练端，GPU的应用和部署已经极为普遍，说是标准配置也不为过。在推理端，NVIDIA也有布局T4GPU卡。深度神经网络用GPU相较纯CPU，能够提速几百倍，所以还是推荐GPU。

关于负载如何搭配硬件配置，选用什么型号的GPU卡还是可以咨询下英伟达官方授权的代理商-思腾合力，我想在这方面思腾合力会帮助到你的。

本人毕设题目是关于神经网络用于图像识别方面的，但是很没有头续~我很不理解神经网络作用的这一机理

。

我简单说一下，举个例子，比如说我们现在搭建一个识别苹果和橘子的网络模型：我们现在得需要两组数据，一组表示特征值，就是网络的输入（p），另一组是导师信号，告诉网络是橘子还是苹果（网络输出t）：我们的样本这样子假设（就是）：pt10312142这两组数据是这样子解释的：我们假设通过3个特征来识别一个水果是橘子还是苹果：形状，颜色，味道，第一组形状、颜色、味道分别为：103（当然这些数都是我随便乱编的，这个可以根据实际情况自己定义），有如上特征的水果就是苹果（t为1），而形状、颜色、味道为：214的表示这是一个橘子（t为2）。

好了，我们的网络模型差不多出来了，输入层节点数为3个（形状、颜色，味道），输出层节点为一个（1为苹果2为橘子），隐藏层我们设为一层，节点数先不管，因为这是一个经验值，还有另外的一些参数值可以在matlab里设定，比如训练函数，训练次数之类，我们现在开始训练网络了，首先要初始化权值，输入第一组输入：103,网络会输出一个值，我们假设为4，那么根据导师信号（正确的导师信号为1，表示这是一个苹果）计算误差4-1=3，误差传给bp神经网络，神经网络根据误差调整权值，然后进入第二轮循环，那么我们再次输入一组数据：204（当仍然你可以还输入103，而且如果你一直输入苹果的特征，这样子会让网络只识别苹果而不会识别橘子了，这回明白你的问题所在了吧），同理输出一个值，再次反馈给网络，这就是神经网络训练的基本流程，当然这两组数据肯定不够了，如果数据足够多，我们会让神经网络的权值调整到一个非常理想的状态，是什么状态呢，就是网络再次输出后误差很小，而且小于我们要求的那个误差值。

接下来就要进行仿真预测了t_1=sim(net,p)，net就是你建立的那个网络，p是输入数据，由于网络的权值已经确定了，我们这时候就不需要知道t的值了，也就是说不需要知道他是苹果还是橘子了，而t_1就是网络预测的数据，它可能是1或者是2，也有可能是1.3，2.2之类的数（绝大部分都是这种数），那么你就看这个数十接近1还是2了，如果是1.5，我们就认为他是苹果和橘子的杂交，呵呵，开玩笑的，遇到x=2.5，我一般都是舍弃的，表示未知。

总之就是你需要找本资料系统的看下，鉴于我也是做图像处理的，我给你个关键的提醒，用神经网络做图像处理的话必须有好的样本空间，就是你的数据库必须是标准的。

至于网络的机理，训练的方法什么的，找及个例子用matlab仿真下，看看效果，自己琢磨去吧，这里面主要是你隐含层的设置，训练函数选择及其收敛速度以及误差精度就是神经网络的真谛了，想在这么小的空间给你介绍清楚是不可能的，关键是样本，提取的图像特征必须带有相关性，这样设置的各个阈值才有效。

OK，好好学习吧，资料去matlab中文论坛上找，在不行就去baudu文库上，你又不需要都用到，何必看一本书呢！祝你顺利毕业！

视觉机器学习概括讲是怎么一回事，如何快速从0搞起？

这里面有些问题概念很多，真不是一句两句可以解释清楚的，所以只能初步说一下。问题一：什么是神经网络框架，什么是模型，两者之间是什么关系。

模型好比是一栋楼，楼的结构可以是茅草屋也可以是高楼大厦，神经网络是比较复杂的模型，框架结构就像是高楼大厦。问题二：图片标注后的机器学习又是什么，训练出的是模型还是神经网络首先要弄清什么是机器学习。

机器学习就是用信息（也叫训练样本）提供给机器让机器通过数学的手段（调整参数）找到其中的规律（获取经验），并用经验来解决给定信息涉及到的问题。

图片标注的目的也就是给机器提供信息，引导机器去提取标注的内容的特征规律。而训练出来的是模型,而模型的结构上讲属于神经网络（卷积神经网络）。问题三：行业上常见的、使用比较多的神经网络/模型又是什么？

视觉类的神经网络有三大类：1.图像分类，对于整个图像来判定其类别。这种模型一般解决不了常见的问题，运用不广泛。2.物体识别,用来检测图像内的物体并标出其具体位置和轮廓边框。

较常见的有CRNN和YOLO3.图像分割，将不规则的物体或者线条的阴影标出来。这里UNet用的比较多。问题四：如何从0开始搞一套视觉学习平台出来？

这里首先要搞懂什么叫卷积神经网络，其数学原理是怎么回事，然后还要有软工（前端、后端、应用平台架构）的经验才能把模型训练和管理、图片标注、模型服务这一整套东西搞出来，基本上没有一个大团队是不可能实现的。

我用BP神经网络建立了一个6输入，一个输出的矩阵，输入矩阵P有20列，模型仿真好后，我现在输入一个