CS231N

cs231n 算svm 的loss 和dw

CS231nConvolutionalNeuralNetworksforVisualRecognition——optimization1.多类SVM的损失函数（MulticlassSVMloss）在给出类别预测前的输出结果是实数值
我已脱掉我的发脱掉了牵挂·2022-12-29 11:35

CS231n: 作业1——SVM

前言完整代码见github问答总结SVM反向传播参数梯度的推导过程？如何使用矩阵乘法的列观点向量化梯度求导过程？布尔索引(mask[score>0]=1)的含义是什么？切片索引(x[[0,1],[1,2]])的含义是什么？书写完整代码一般分为main,train,evaluate三个部分。说明他们各自的作用。文章目录一、实验目标二、数据集三、实验方法1、损失函数2、梯度更新3、加入正则项4、代码四
无聊的人生事无聊·2022-12-29 11:34

cs231n assignment1 svm作业

importnumpyasnpfromrandomimportshuffledefsvm_loss_naive(W,X,y,reg):"""StructuredSVMlossfunction,naiveimplementation(withloops).InputshavedimensionD,thereareCclasses,andweoperateonminibatchesofNexample
船桥·2022-12-29 11:04

CS231N课程作业Assignment1--SVM

Assignment1–SVM作业要求见这里.主要需要完成KNN，SVM，Softmax分类器，还有一个两层的神经网络分类器的实现。数据集CIFAR-10.SVM原理SVM(SupportVectorMachine，支持向量机)，是一种二类分类模型，其基本模型定义为特征空间上的即那个最大的线性分类器，器学习策略是间隔最大化，最终可转化为一个凸二次规划问题的解决。(线性支持向量机、非线性支持向量机)
鲁棒最小二乘支持向量机·2022-12-29 11:34

cs231n笔记：卷积神经网络（cnn）和池化（pooling）

卷积神经网络（convolutionalnuralnetwork）：更能保留输入的空间结构CNN的一些历史：感知机（perceptron）多层感知机（multilayerperceptronnetworks）反向传播AlexNet：与LetNet-5看上去差别不大，只是扩展得更大、更深。重点是能充分利用大量数据，也充分发挥了GPU并行计算能力的优势全连接层与卷积层的对比：卷积层的权重是一些小的卷积
未来我会更爱自己·2022-12-28 20:41

【CS231n assignment 2022】Assignment 2 - Part 2，优化器，批归一化以及层归一化

orz相关文章目录：【CS231nassignment2022】CS231nAssignment2-Part1，全连接网络的初始化以及正反向传播文章目录前言1.内容简介2.Updaterules2.1SG
睡晚不猿序程·2022-12-28 19:38

「cs231n」深度学习网络训练技巧3——After training

三、Aftertraining训练好一个model后该干什么：Modelensembles；transferlearning；large-batchtraining。Modelensembles（李沐大神也提到过这个）1.训练多个独立的models2.在test时，取多个model的结果的平均值（取预测概率分布的平均，选择argmax）会得到2%左右的提升TipsandTrickscyclicle
Deserve_p·2022-12-28 17:12

「cs231n」深度学习网络训练技巧2——Training NN

二、Trainingdynamicslearningrateschedule&hyperparameteroptimizationLearningrateschedule优化器optimizer的学习率的选取。Learningratedecay：一开始lr较大，随着epoch衰减StepLearningrateschedule：设置epoch节点decay学习率。但是需要决定在哪个epoch进行d
Deserve_p·2022-12-28 17:42

[cs231n] 深度学习训练的技巧——one time setup

一、Onetimesetup训练前需要提前考虑好的part:Activationfunctions;datapreprocessing;weightinitialization;regularization.Activationfunction1.Sigmoid在这里插入图片描述将输入x归一化到[0,1]表示了开关状态缺点：最关键：’饱和‘的神经元会’kill‘梯度。当输入x很小，localgra
Deserve_p·2022-12-28 17:42

[cs231n] Softmax Classifier/ SVM

scores由线性函数得到:损失函数Lossfunction:Softmax——交叉熵损失CrossEntropyLoss每个样本的损失：SVM——HingeLoss正则项：总损失=数据损失+正则项：损失函数求梯度gradientSoftmax对weights的梯度：矩阵大小和weights矩阵大小相同对bias的梯度：和bias矩阵大小相同，元素都为1。SVM对weights的梯度：矩阵大小和w
Deserve_p·2022-12-28 17:42

[DL] Transfer Learning

迁移学习摘自：cs231n资料问题背景：数据集不够，很难在大量数据上训练CNN网络，而且这需要大量算力资源和时间。因此，通常将在大型数据集上训练好的网络（pretrained），保存其weights。
Deserve_p·2022-12-28 17:41

Backpropagation反向传播算法（BP算法）

----cs231n2.whatproblemstoslove?
weixin_30707875·2022-12-26 22:46

【深度之眼cs231n第七期】笔记（二十六）

NetworkVisualization.ipynb预处理显著图foolingimages可视化类NetworkVisualization.ipynb在之前的代码中，我们定义损失来表达模型的满意程度，然后计算每个参数的梯度，并使用梯度下降来最小化损失。接下来会的代码则不一样：有一个在ImageNet上预训练好的分类模型用这个模型定义损失，用于表达对图像的满意程度计算图像中的每个像素的梯度，使用梯度
树天先森·2022-12-26 21:22

激活函数（Sigmoid, tanh, Relu）

其实这节CS231n讲的就很细了，但是！！！我感觉困惑还是有的。我沿着它的步骤慢慢来讲。
Aliz_·2022-12-26 15:47

Coursera机器学习+deeplearning.ai+斯坦福CS231n

日志20170410Coursera机器学习2017.11.28updatedeeplearning台大的机器学习课程：台湾大学林轩田和李宏毅机器学习课程Coursera机器学习Week5：NeuralNetworks:Learning本来上周开始该学习这个内容，也是先提交了作业，今天才来看看具体的代码；感觉这个课程本身对基础巩固很好。没有连续学习感觉有些有点忘了，最终的目的是自己能够推导这个内容
weixin_34005042·2022-12-26 07:34

1.1 图像分类：数据驱动的方法，k-近邻，划分训练集/验证集/测试集

本文是对斯坦福大学“CS231n：用于视觉识别的卷积神经网络”课程笔记的翻译。
Hao-qiang·2022-12-25 23:10

CS231n+assignment2（一）

assignment2目录CS231n+assignment2（一）文章目录assignment2目录前言一、环境搭建二、代码实现Multi-LayerFullyConnectedNetworkInitialLossandGradientCheckQuestion1SGD
但愿此生，从未邂逅·2022-12-25 22:46

深度学习CV学习笔记（Alexnet）

文章目录前言Alexnetmodueltrain.pypredic.py前言之前苦于CV不知道具体怎么入手，在看完cs231n的课程之后，算是对整体的套路和方法有了大概的认识，但是牵扯但具体的代码，感觉还是处于一个非常懵的状态
蜡笔tiny新·2022-12-24 14:22

精讲CS231N斯坦福计算机视觉公开课笔记

【子豪兄】精讲CS231N斯坦福计算机视觉公开课计算机视觉发展历史与课程概述大概讲了一些计算机视觉的运用范围（机器学习、生物、无人机、光学等）。
巧克力豆豆拌饭·2022-12-23 06:39

计算机视觉学习——李飞飞斯坦福大学计算机视觉公开课cs231n 图像分类 实现

首先我们下载cs231n提供的训练集和测试集。
mprogress·2022-12-23 06:38

『cs231n』计算机视觉基础

线性分类器损失函数明细：『cs231n』线性分类器损失函数最优化Optimiz部分代码：1.随机搜索bestloss=float('inf')#无穷大fornuminrange(1000):W=np.random.randn
weixin_30765319·2022-12-23 06:37

斯坦福大学深度学习公开课cs231n学习笔记（7）神经网络防止数据过拟合：损失函数和正则化

在第二节课中，大概提到了线性分类器的损失函数和正则化方法，类似的，在神经网络中也会用到这几个概念方法。这里我没有按照课中先正则化后损失函数的顺序做笔记，还是先说损失函数（也叫代价函数）部分。损失函数损失函数是一个有监督学习问题，用于衡量分类算法的预测结果（分类评分）和真实结果之间的一致性。数据损失是所有样本数据损失的平均值：，神经网络在实际应用时常用来解决的问题是：分类问题和回归问题。分类问题中，
Naruto_Q·2022-12-23 06:34

斯坦福大学深度学习公开课cs231n学习笔记（4）正向传播及反向传播

在cs231n反向传播这节课中，主要利用简单的函数讲了梯度的求解，梯度的链式求解法则，前向传播，后向传播等概念知识，其中对于梯度和链式求解方法，上过高数课的相信都比较了解，所以我主要对前向传播和后向传播作下学习笔记
Naruto_Q·2022-12-23 06:04

斯坦福大学深度学习公开课cs231n学习笔记（9）softmax分类和神经网络分类代码实现

在前面的几节课中，讲述了神经网络的基本原理和参数的优化方法等，在这节课中，讲师前面的知识进行总结运用，通过构建Softmax分类器和一个小型的神经网络让我们有更加深入和直接的了解。我按照课中的步骤进行实现。第一步：生成数据N=100#numberofpointsperclassD=2#dimensionalityK=3#numberofclassesimportnumpyasnpimportmat
Naruto_Q·2022-12-23 06:04

CS231N斯坦福计算机视觉公开课笔记

p6可视化卷积神经网络：导向反向传播让轮廓更明显，找到识别最大的原始图像p9：CNN网络工程的实践技巧，，3*3卷积，步长为1，padding=1使得featuremap维度不变。两个3*3替换一个5*5,感受野相同，可以减少参数，非线性变换的次数增多。输入H*W*C，C是通道数，要C个卷积核，卷积核大小是7*7，参数是7*7*C*C，3个3*3来代替，参数是3*3*C*C乘法运算量：featur
368chen·2022-12-23 06:04

斯坦福大学深度学习公开课cs231n学习笔记（3）最优化方法：梯度下降

继续cs231n课程的学习，最优化方法部分：随机梯度下降法。前面课程介绍了图像分类任务的两个关键部分：（1）评分函数。将原始图像像素映射为分类评分值。（2）损失函数。
Naruto_Q·2022-12-23 06:03

斯坦福大学深度学习公开课cs231n学习笔记（2）线性分类器及最优化

图像分类图像分类即是从已有的分类标签集中选择一个分配给一张图像。K近邻算法可以进行分裂，但存在不足之处：（1）分类器必须记住所有训练数据并将其存储起来，以便于未来测试数据用于比较。这在存储空间上是低效的。（2）对一个测试图像进行分类需要和所有训练图像作比较，算法计算资源耗费高。针对不足，需要更强大的方法来解决图像分类问题，并可以自然延伸到神经网络和卷积神经网络。这种方法主要由两部分组成：一是评分函
Naruto_Q·2022-12-23 06:03

CS231N斯坦福计算机视觉公开课 03 - 神经网络和反向传播

CS231N斯坦福计算机视觉公开课03-神经网络和反向传播一、神经网络1.输入与激活函数二、反向传播1.传播方式一、神经网络1.输入与激活函数输入：不同的权重与输入值的乘积和∑i=0wixi\sum_{
T4neYours·2022-12-23 06:28

CS231N斯坦福计算机视觉公开课 04 -卷积神经网络

CS231N斯坦福计算机视觉公开课04-卷积神经网络一、卷积层1.卷积操作2.1*1卷积核二、池化层三、全连接层一、卷积层1.卷积操作黄色部分：感受野粉色部分：featuremap，其数量成为通道数（channel
T4neYours·2022-12-23 06:28

CS231N斯坦福计算机视觉公开课 02 - 损失函数和优化

CS231N斯坦福计算机视觉公开课02-损失函数和优化一、SVM铰链损失函数二、正则化1.引入原因三、Softmax交叉熵损失函数四、优化过程1.梯度下降算法一、SVM铰链损失函数分类错误的分数减去分类正确的分数再加
T4neYours·2022-12-23 06:56

Tiny ImageNet 数据集分享

有需要TinyImageNet数据集的小伙伴可以点击这个下载链接：http://cs231n.stanford.edu/tiny-imagenet-200.zip数据集简介：TinyImageNetChallenge
波尔德·2022-12-22 07:22

【深度学习理论】(2) 卷积神经网络

各位同学好，最近学习了CS231N斯坦福计算机视觉公开课，讲的太精彩了，和大家分享一下。
立Sir·2022-12-21 01:36

[AI 笔记] Batch Normalization批量归一化

[AI笔记]BatchNormalization批量归一化BatchNormalization参考资料：CS231nBatchNormalization批量归一化（BatchNormalization）
mark__tuwen·2022-12-20 09:15

CS231n学习笔记-损失函数、损失函数与梯度下降

第三讲线性分类、损失函数与梯度下降问题：线性分类器是不能对非线性数据分类损失函数MulticlassSVMlossSVM（支持向量机）采取中庸的方法进行分类，分类时采用最大适配进行分类，不用精细到每个类公式：数学意义：将分类错误的分数Sj，减去分类正确的分数Syi，再加1.取该数和0二者的最大值函数图像类似于铰链，所以称为“Hingeloss”举例说明：从上面的例子可以看出，在一个分类中，如果错误
麻花地·2022-12-19 17:13

CS231n笔记-CNN网络结构

所有图片来自PPT官网Indexof/slides/2022代码：BatchNormalization和Dropout_iwill323的博客-CSDN博客目录全连接层存在的问题卷积层卷积核学到了什么超参数1×1卷积层pytorch池化层全连接层BatchNormalization为什么使用BatchNormalization计算方式全连接层的batchnorm卷积层的batchnorm——spa
iwill323·2022-12-18 07:20

深度学习第一篇论文阅读笔记（VQA Visual Question Answering）

1VQAVisualQuestionAnswering一，介绍二，数据集收集1，图像2，问题3，答案三，数据集分析1，问题2，答案3，常识与标题四，VQA基线和方法1，基线2，方法五，结论相关链接前言写这篇论文笔记之前，我已经学习了cs231n
是尘埃呀！·2022-12-17 11:40

CS231n 笔记- 对抗模型和对抗训练

目录对抗样本案例对抗干扰是系统性问题对抗干扰是欠拟合构造对抗样本对抗样本的迁移率现实中的应用防御对抗训练VirtualAdversarialTraining总结对抗样本案例大熊猫的图像加上微小的扰动，人眼看不出来区别，但是模型把最右边的图片分类成长臂猿，而且置信度还比他之前把图片分类成大熊猫的置信度还高对抗干扰是系统性问题扰动导致模型分类出错有点类似于过拟合问题：模型能够很好地适应训练集，但是对测
iwill323·2022-12-16 18:45

【CS231N笔记】P6:可视化卷积神经网络

子豪兄YYDShttps://www.bilibili.com/video/BV1K7411W7So?p=6一、什么是卷积神经网络的可视化卷积神经网络可以看作一个黑箱子，打破黑箱子就需要处理中间过程。打破黑箱子之后，神经网络的结构相当于一个多层的汉堡，每一层都处理了一个特征。对于卷积神经网络，按照上一节的内容，卷积核在不断的移动中提取输入中符合目标的特征，我们可以知道底层卷积核提取的特征是基础的特
林北不要忍了·2022-12-16 11:03

CS231n 2022PPT笔记- 生成模型Generative Modeling

代码：GenerativeAdversarialNetworks(GANs)_iwill323的博客-CSDN博客目录概念密度估计什么是生成模型生成模型分类PixelRNN和PixelCNNPixelRNNPixelCNNVariationalAutoencoders(VAE)自编码器VAE思想如何训练VAE生成数据总结生成对抗网络GANGAN思路目标函数训练流程GAN的探索总结概念密度估计估计数
iwill323·2022-12-16 08:32

对抗生成网络代码Generative Adversarial Networks (GANs)，Vanilla GAN，Deeply Convolutional GANs

理论部分：CS231n2022PPT笔记-生成模型GenerativeModeling_iwill323的博客-CSDN博客目录导包加载数据VanillaGANDiscriminatorGeneratorGANLossbcelossOptimizing
iwill323·2022-12-16 08:02

李沐精读论文：GAN

papers.nips.cc/paper/2014/file/5ca3e9b122f61f8f06494c97b1afccf3-Paper.pdf视频：GAN论文逐段精读【论文精读】_哔哩哔哩_bilibili课程：CS231n2022PPT
iwill323·2022-12-16 08:00

【深度学习理论】(3) 激活函数

各位同学好，最近学习了CS231N斯坦福计算机视觉公开课，讲的太精彩了，和大家分享一下。
立Sir·2022-12-15 16:31

【CS231n系列】

Stanford-cs231n课程学习笔记（一）Stanford课程原版是英文，奈何本人英语菜的一批。原版网站放在下面，xdm可以多多学习。BUT！B站upyyds好吧！！！
狗狗儿儿桥·2022-12-15 15:15

各种经典卷积网络架构介绍

各种经典卷积网络架构介绍内容来自论文：ASurveyoftheRecentArchitecturesofDeepConvolutionalNeuralNetworks参考网上的翻译：csdnblog部分内容来自cs231n
Chris-2021·2022-12-15 12:24

torch 梯度计算出现错误a leaf Variable that requires grad has been used in an in-place operation和梯度NoneType问题

aleafVariablethatrequiresgradhasbeenusedinanin-placeoperation.unsupportedoperandtype(s)for*:‘int’and‘NoneType’在CS231n
月下花弄影·2022-12-14 13:19

我的深度学习过程，你可以借鉴我的方法，该方法对初学者友好

Beginner-friendlyDeepLearningProcess1.观看李飞飞和吴恩达的机器学习系列课程斯坦福李飞飞CS231n计算机视觉课程吴恩达机器学习系列课程2.Pytorch入门课程Pytorch
Anefuer_kpl·2022-12-13 08:20

通俗理解卷积神经网络

通俗理解卷积神经网络（cs231n与5月dl班课程笔记）1前言2012年我在北京组织过8期machinelearning读书会，那时“机器学习”非常火，很多人都对其抱有巨大的热情。
gldbys·2022-12-12 01:09

【三种计算样本欧氏距离的方法——样本数据表示为矩阵】

三种计算样本欧氏距离的方法——样本数据表示为矩阵背景近期在看CS231n课程，作业中有关于计算图像样本间Kmeans距离的代码编写，涉及到的距离例如为欧氏距离，计算的三种方法效率由低到高，在学习的过程中令我收益匪浅
乎啦啦·2022-12-11 20:52

Pytorch迁移学习

您可以在cs231n便笺上读到更多关于迁移学习的内容，引用这些注释。实际上，很少有人从零开始(随机初始化)训练整个卷积网络，因为拥有足够大的数据集相对较少。
Alphapeople·2022-12-10 14:28

PyTorch中文教程 | (4) 迁移学习教程

您可以在cs231n笔记上阅读更多关于迁移学习的信息在实践中，很少有人从头开始训练整个卷积网络（随机初始化），因为拥有足够大小的数据集是相对罕见的。
CoreJT·2022-12-10 14:57
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他