深度学习笔记

吴恩达深度学习笔记(30)-正则化的解释

正则化（Regularization）深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但你可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高，但正则化通常有助于避免过拟合或减少你的网络误差。如果你怀疑神经网络过度拟合了数据，即存在高方差问题，那么最先想到的方法可能是正则化，另一个解决高方差的方法就是准备更多数据，这也是非常
极客Array·2024-09-16 00:23

吴恩达深度学习笔记(24)-为什么要使用深度神经网络？

为什么使用深层表示？（Whydeeprepresentations?）我们都知道深度神经网络能解决好多问题，其实并不需要很大的神经网络，但是得有深度，得有比较多的隐藏层，这是为什么呢？我们一起来看几个例子来帮助理解，为什么深度神经网络会很好用。首先，深度网络在计算什么？如果你在建一个人脸识别或是人脸检测系统，深度神经网络所做的事就是，当你输入一张脸部的照片，然后你可以把深度神经网络的第一层，当成一
极客Array·2024-09-01 16:18

【深度学习笔记】1 数据操作

注：本文为《动手学深度学习》开源内容，仅为个人学习记录，无抄袭搬运意图数据操作在深度学习中，我们通常会频繁地对数据进行操作。作为动手学深度学习的基础，本节将介绍如何对内存中的数据进行操作。在PyTorch中，torch.Tensor是存储和变换数据的主要工具。如果你之前用过NumPy，你会发现Tensor和NumPy的多维数组非常类似。然而，Tensor提供GPU计算和自动求梯度等更多功能，这些使
RIKI_1·2024-03-16 02:02

【深度学习笔记】6_4 循环神经网络的从零开始实现

注：本文为《动手学深度学习》开源内容，部分标注了个人理解，仅为个人学习记录，无抄袭搬运意图6.4循环神经网络的从零开始实现在本节中，我们将从零开始实现一个基于字符级循环神经网络的语言模型，并在周杰伦专辑歌词数据集上训练一个模型来进行歌词创作。首先，我们读取周杰伦专辑歌词数据集：importtimeimportmathimportnumpyasnpimporttorchfromtorchimport
RIKI_1·2024-03-12 07:23

【深度学习笔记】6_10 双向循环神经网络bi-rnn

注：本文为《动手学深度学习》开源内容，部分标注了个人理解，仅为个人学习记录，无抄袭搬运意图6.10双向循环神经网络之前介绍的循环神经网络模型都是假设当前时间步是由前面的较早时间步的序列决定的，因此它们都将信息通过隐藏状态从前往后传递。有时候，当前时间步也可能由后面时间步决定。例如，当我们写下一个句子时，可能会根据句子后面的词来修改句子前面的用词。双向循环神经网络通过增加从后往前传递信息的隐藏层来更
RIKI_1·2024-03-10 11:07

深度学习笔记１：神经网络端到端学习笔记

许多重要问题都可以抽象为变长序列学习问题（sequencetosequencelearning），如语音识别、机器翻译、字符识别。这类问题的特点是，1)输入和输出都是序列（如连续值语音信号/特征、离散值的字符），2)序列长度都不固定，3)并且输入输出序列长度没有对应关系。因此，传统的神经网络模型（DNN，CNN，RNN）不能直接以端到端的方式解决这类问题的建模和学习问题。解决变长序列的端到端学习，
撒哈拉土狼·2024-02-26 11:24

吴恩达深度学习-L1 神经网络和深度学习总结

作业地址：吴恩达《深度学习》作业线上版-知乎(zhihu.com)写的很好的笔记：吴恩达《深度学习》笔记汇总-知乎(zhihu.com)我的「吴恩达深度学习笔记」汇总帖（附18个代码实战项目）-知乎(zhihu.com
向来痴_·2024-02-20 07:26

深度学习笔记：推理服务

在线推理服务解决的问题样本处理特征抽取(生成)特征抽取过程特征定义通用定义具体定义特征抽取加速Embeding查询NN计算DL框架计算优化图优化量化优化异构计算CodeGen总结参考资料解决的问题模型训练解决模型效果问题，模型推理解决模型实时预测问题。推理服务是把训练好的模型部署到线上，进行实时预测的过程。如阿里的RTP系统顾名思义，实时预测是相对于非实时预测(离线预测)而言，非实时预测是将训练好
TaoTao Li·2024-02-14 03:58

fast.ai 深度学习笔记（三）

深度学习2：第1部分第6课原文：medium.com/@hiromi_suenaga/deep-learning-2-part-1-lesson-6-de70d626976c译者：飞龙协议：CCBY-NC-SA4.0来自fast.ai课程的个人笔记。随着我继续复习课程以“真正”理解它，这些笔记将继续更新和改进。非常感谢Jeremy和Rachel给了我这个学习的机会。第6课[##2017年深度学习优
绝不原创的飞龙·2024-02-12 21:27

深度学习笔记

DeepLearningBasic神经网络：algorithm1input1outputinput2input3input4algorithm2监督学习：1个x对应1个y；Sigmoid:激活函数sigmoid=11+e−xsigmoid=\frac{1}{1+e^{-x}}sigmoid=1+e−x1ReLU:线性整流函数；##LogisticRegression-->binaryclassif
stoAir·2024-02-12 14:28

fast.ai 深度学习笔记（六）

深度学习2：第2部分第12课原文：medium.com/@hiromi_suenaga/deep-learning-2-part-2-lesson-12-215dfbf04a94译者：飞龙协议：CCBY-NC-SA4.0来自fast.ai课程的个人笔记。随着我继续复习课程以“真正”理解它，这些笔记将继续更新和改进。非常感谢Jeremy和Rachel给了我这个学习的机会。生成对抗网络（GANs）视频
绝不原创的飞龙·2024-02-11 14:13

fast.ai 深度学习笔记（一）

深度学习2：第1部分第1课原文：medium.com/@hiromi_suenaga/deep-learning-2-part-1-lesson-1-602f73869197译者：飞龙协议：CCBY-NC-SA4.0来自fast.ai课程的个人笔记。随着我继续复习课程以“真正”理解它，这些笔记将继续更新和改进。非常感谢Jeremy和Rachel给了我这个学习的机会。第一课开始[0:00]：为了训练
绝不原创的飞龙·2024-02-11 00:45

吴恩达深度学习笔记(15）-浅层神经网络之神经网络概述

神经网络概述（NeuralNetworkOverview）从今天开始你将学习如何实现一个神经网络。这里只是一个概述，详细的在后面会讲解，看不懂也没关系，先有个概念，就是前向计算然后后向计算，理解了这个就可以了，有一些公式和表达在后面会详细的讲解。在我们深入学习具体技术之前，我希望快速的带你预览一下后续几天你将会学到的东西。现在我们开始快速浏览一下如何实现神经网络。之前我们讨论了逻辑回归，我们了解了
极客Array·2024-02-03 08:27

Tensorflow实战深度学习笔记一

人类直观能力----人工智能（自然语言理解、图像识别、语音识别等）。经验----机器学习。训练----特征相关度。特征提取深度学习---自动地将简单的特征组合成更加复杂的特征，并使用这些复杂特征解决问题。深度学习--------不等于模仿人类大脑。
独立开发者Lau·2024-01-31 20:13

吴恩达深度学习笔记(82)-深度卷积神经网络的发展史

为什么要探索发展史(实例分析)？我们首先来看看一些卷积神经网络的实例分析，为什么要看这些实例分析呢？上周我们讲了基本构建，比如卷积层、池化层以及全连接层这些组件。事实上，过去几年计算机视觉研究中的大量研究都集中在如何把这些基本构件组合起来，形成有效的卷积神经网络。最直观的方式之一就是去看一些案例，就像很多人通过看别人的代码来学习编程一样，通过研究别人构建有效组件的案例是个不错的办法。实际上在计算机
极客Array·2024-01-25 12:33

深度学习笔记：灾难性遗忘

1灾难性遗忘介绍当神经网络被训练去学习新的任务时，它可能会完全忘记如何执行它以前学过的任务。这种现象尤其在所谓的“连续学习”（continuouslearning）或“增量学习”（incrementallearning）场景中很常见2不同视角下看待灾难性遗忘以及对应的解决方法2.1从梯度的视角2.1.1从梯度的视角看灾难性遗忘我们有两个不同任务的损失曲面，用平滑的曲面训练完之后，再在坑坑洼洼的曲面
UQI-LIUWJ·2024-01-23 22:08

深度学习笔记（九）——tf模型导出保存、模型加载、常用模型导出tflite、权重量化、模型部署

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。本篇博客主要是工具性介绍，可能由于软件版本问题导致的部分内容无法使用。首先介绍tflite:TensorFlowLite是一组工具，可帮助开发者在移动设备、嵌入式设备和loT设备上运行模型，以便实现设备端机器学习。框架具有的主要特性：延时（数据无需往返服务器）隐私（没有任何个人数据离开设备）
絮沫·2024-01-22 20:20

深度学习笔记（八）——构建网络的常用辅助增强方法：数据增强扩充、断点续训、可视化和部署预测

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。截图和程序部分引用自北京大学机器学习公开课要构建一个完善可用的神经网络，除了设计网络结构以外，还需要添加一些辅助代码来增强网络运行的稳定性，鲁棒性。可以用来增强的方向主要有个，首先是数据输入前的预处理环节，其次是数据在训练过程中的优化，最后的数据在训练结束后的导出和可视化，同时能够及时保存结
絮沫·2024-01-17 08:45

深度学习笔记（七）——基于Iris/MNIST数据集构建基础的分类网络算法实战

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。截图和程序部分引用自北京大学机器学习公开课认识网络的构建结构在神经网络的构建过程中，都避不开以下几个步骤：导入网络和依赖模块原始数据处理和清洗加载训练和测试数据构建网络结构，确定网络优化方法将数据送入网络进行训练，同时判断预测效果保存模型部署算法，使用新的数据进行预测推理使用Keras快速构
絮沫·2024-01-16 08:49

《动手学深度学习》学习笔记 第10章 注意力机制

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知识，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-15 19:13

深度学习笔记（六）——网络优化（2）：参数更新优化器SGD、SGDM、AdaGrad、RMSProp、Adam

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。截图和程序部分引用自北京大学机器学习公开课前言在前面的博文中已经学习了构建神经网络的基础需求，搭建了一个简单的双层网络结构来实现数据的分类。并且了解了激活函数和损失函数在神经网络中发挥的重要用途，其中，激活函数优化了神经元的输出能力，损失函数优化了反向传播时参数更新的趋势。我们知道在简单的反
絮沫·2024-01-15 10:49

李沐—动手学深度学习笔记

目录引言1.2机器学习中的关键组件1.3.1监督学习2.预备知识2.1数据操作2.1.3.广播机制2.1.4.索引和切片2.1.5.节省内存2.1.6.转换为其他Python对象2.2.数据预处理2.2.1.读取数据集2.2.2.处理缺失值2.2.3.转换为张量格式2.3.线性代数2.3.2.向量2.3.5.张量算法的基本性质2.3.6.降维3.线性神经网络4.多层感知机4.1多层感知机4.1.1
比三毛多一根头发·2024-01-14 07:30

深度学习笔记（四）——使用TF2构建基础网络的常用函数+简单ML分类实现

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。截图和程序部分引用自北京大学机器学习公开课TF2基础常用函数1、张量处理类强制数据类型转换：a1=tf.constant([1,2,3],dtype=tf.float64)print(a1)a2=tf.cast(a1,tf.int64)#强制数据类型转换print(a2)查找数据中的最小值和
絮沫·2024-01-14 00:09

深度学习笔记（三）——NN网络基础概念（神经元模型，梯度下降，反向传播，张量处理）

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。截图部分引用自北京大学机器学习公开课人工智能算法的主流分类首先明白一个概念，广义上的人工智能算法并不是只有MachineLearning或DeepLearning，而是一个相对的，能够使用计算机模拟人类智能在一定场景下自动实现一些功能。所以系统控制论中的很多最优控制算法同样可以称之为智能算法
絮沫·2024-01-14 00:39

深度学习笔记（五）——网络优化（1）：学习率自调整、激活函数、损失函数、正则化

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。截图和程序部分引用自北京大学机器学习公开课通过学习已经掌握了主要的基础函数之后具备了搭建一个网络并使其正常运行的能力，那下一步我们还需要进一步对网络中的重要节点进行优化并加深认知。首先我们知道NN（自然神经）网络算法能够相比传统建模类算法发挥更好效果的原因是网络对复杂非线性函数的拟合效果更好
絮沫·2024-01-14 00:34

《动手学深度学习》学习笔记 第9章 现代循环神经网络

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知识，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-12 15:02

《动手学深度学习》学习笔记 第8章 循环神经网络

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知识，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-12 15:54

深度学习笔记（二）——Tensorflow环境的安装

本篇文章只做基本的流程概述，不阐述具体每个软件的详细安装流程，具体的流程网上教程已经非常丰富。主要是给出完整的安装流程，以供参考环境很重要一个好的算法环境往往能够帮助开发者事半功倍，入门学习的时候往往搭建好环境就已经成功了一半。在机器学习或者深度学习的设计研究中，人们往往会使用已经有的网络框架来构建网络模型和设计各种识别分类或者生成算法。主要可以给我们学习和使用的框架这里推荐两个：Tensorfl
絮沫·2024-01-11 07:34

2022-01-23 深度学习笔记

深度学习笔记引言：机器学习——自动寻找函数。1.你想要找什么函数？
Luo_淳·2024-01-11 01:14

深度学习笔记：下载鸢尾花数据集，并展示所有的属性

背景：深度学习课程作业。通过此作业，可了解tensorflow、matplotlib、pandas和numpy。可学习到matplot画图及细节设计，如图的颜色、字体大小、循环画图方法等代码：importtensorflowastfimportmatplotlib.pyplotaspltimportpandasaspdimportnumpyasnpTRAIN_URL="http://downloa
BioVS·2024-01-10 12:36

吴恩达深度学习笔记(50)-超参数训练的实践

超参数训练的实践：PandasVSCaviar（Hyperparameterstuninginpractice:Pandasvs.Caviar）到现在为止，你已经听了许多关于如何搜索最优超参数的内容，在结束我们关于超参数搜索的讨论之前，我想最后和你分享一些建议和技巧，关于如何组织你的超参数搜索过程。如今的深度学习已经应用到许多不同的领域，某个应用领域的超参数设定，有可能通用于另一领域，不同的应用领
极客Array·2024-01-09 05:56

《动手学深度学习》学习笔记 第5章 深度学习计算

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知道，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-07 03:13

深度学习笔记

激活函数激活函数可以让神经网引入非线性性质，去除线性相关特征映射，是网络捕获数据中的不同特征；relu=max（0，x）输出为0到正无穷sigmod输出为0-1形状为srelu输出为-1-1以0为中心，形状为sNumpy广播机制1：两个tensor维度完全相同2：两个tensor维度不同，此时从最后一维开始比较，若其中一个tensor最后一维为1则可以进行广播，继续比较倒数第二维，若有一个为1或者
warren@伟_·2024-01-06 06:24

pytorch深度学习笔记（共计169页，基于本人听完B站小土堆PyTorch深度学习快速入门教程所写）

一、笔记视频pytorch深度学习（共计169页，基于本人听完B站小土堆PyTorch深度学习快速入门教程所写）二、获取方式方式一：点击下面的链接pytorch深度学习笔记如果链接无法打开直接复制下方链接即可
-希冀-·2024-01-04 23:50

2019年上半年收集到的人工智能迁移学习干货文章

迁移学习之最大分类器差异的无监督域适应吴恩达深度学习笔记(67)-迁移学习（Transferlearning)深度学习不
城市中迷途小书童·2024-01-04 20:11

《动手学深度学习》学习笔记 第7章 现代卷积神经网络

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知识，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-03 20:58

《动手学深度学习》学习笔记 第4章 多层感知机

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知道，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-03 20:58

《动手学深度学习》学习笔记 第6章 卷积神经网络

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知道，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-03 20:24

TensorFlow深度学习笔记 文本与序列的深度模型

DeepModelsforTextandSequence转载请注明作者：梦里风林Github工程地址：https://github.com/ahangchen/GDLnotes欢迎star，有问题可以到Issue区讨论官方教程地址视频/字幕下载RareEvent与其他机器学习不同，在文本分析里，陌生的东西（rareevent）往往是最重要的，而最常见的东西往往是最不重要的。语法多义性一个东西可能有
城市中迷途小书童·2024-01-03 10:41

动手深度学习笔记（四十八）8.4. 循环神经网络

动手深度学习笔记（四十八）8.4.循环神经网络8.4.循环神经网络8.4.1.无隐状态的神经网络8.4.2.有隐状态的循环神经网络8.4.3.基于循环神经网络的字符级语言模型8.4.4.困惑度（Perplexity
落花逐流水·2024-01-02 13:54

动手深度学习笔记（四十九）8.5. 循环神经网络的从零开始实现

动手深度学习笔记（四十九）8.5.循环神经网络的从零开始实现8.5.循环神经网络的从零开始实现8.5.1.独热编码8.5.2.初始化模型参数8.5.3.循环神经网络模型8.5.4.预测8.5.循环神经网络的从零开始实现本节将根据
落花逐流水·2024-01-02 13:23

oracle buffer block,8 Oracle深度学习笔记——BUFFER CACHE深入一

8.Oracle深度学习笔记——BUFFERCACHE深入一最近项目一直和ORACLE死磕，感觉总是找不到出口，只能多看书少说话了。先记录多少是多少吧！
赵轩昂·2024-01-02 02:04

【深度学习笔记】4.前馈神经网络

前馈神经网络发展历程神经元（M-P）神经元是1943年由两名科学家首次提出的神经元模型。在M-P模型中，神经元接受其他n个神经元的输入信号(0或1)，这些输入信号经过权重加权并求和，将求和结果与阈值(threshold)θ比较，然后经过激活函数处理，得到神经元的输出。y=∑i=1nωijxi+θy=\sum^n_{i=1}\omega_{ij}x_i+\thetay=i=1∑nωijxi+θM-P
不休的turkeymz·2024-01-01 07:49

吴恩达深度学习笔记（2）-什么是神经网络（Neural Network）

什么是神经网络？(WhatisaNeuralNetwork)我们常常用深度学习这个术语来指训练神经网络的过程。有时它指的是特别大规模的神经网络训练。那么神经网络究竟是什么呢？在这个视频中，会讲解一些直观的基础知识。首先，让我们从一个房价预测的例子开始讲起。假设你有一个数据集，它包含了六栋房子的信息。所以，你知道房屋的面积是多少平方英尺或者平方米，并且知道房屋价格。这时，你想要拟合一个根据房屋面积预
极客Array·2023-12-27 20:02

批量归一化(Batch normalization)

动手学深度学习笔记-批量归一化Batchnormalization什么是批量归一化?为什么需要批量归一化？批量归一化如何起作用？总结与注意事项什么是批量归一化?  
安静的钢琴·2023-12-26 11:28

paddlepaddle深度学习笔记（二）使用飞桨重写房价预测任务

在之前的章节中，学习了使用Python和NumPy实现波士顿房价预测任务的方法，本章将尝试使用飞桨重写房价预测任务，体会二者的异同。在数据处理之前，需要先加载飞桨框架的相关类库。paddlepaddle飞浆官网CPU版的PaddlePaddlepipinstallpaddlepaddle==2.4.2-ihttps://pypi.tuna.tsinghua.edu.cn/simpleGPU版的Pa
PEACE_小石头·2023-12-23 16:54

吴恩达深度学习笔记(28)-网络训练验证测试数据集的组成介绍

从今天开始我们进入新的一个大方向了，改善深层神经网络：超参数调试、正则化以及优化，首先进入深度学习的一个新层面，先认识下在深度学习中的数据集的分类。之前可能大家已经了解了神经网络的组成的几个部分，那么我们将继续学习如何有效运作神经网络，内容涉及超参数调优，如何构建数据，以及如何确保优化算法快速运行，从而使学习算法在合理时间内完成自我学习。训练，验证，测试集（Train/Dev/Testsets）在
极客Array·2023-12-21 06:18

fast.ai 深度学习笔记：第一部分第二课

原文：DeepLearning2:Part1Lesson2作者：HiromiSuenaga论坛笔记本回顾上一课[01:02]我们使用3行代码来构建图像分类器。为了训练模型，需要在PATH下以某种方式组织数据（在本例中为data/dogscats/）：image应该有train文件夹和valid文件夹，并且在每个文件夹下都有带有分类标签的文件夹（例如本例中的cats），其中包含相应的图像。训练输出：
布客飞龙·2023-12-20 00:31

动手学深度学习笔记（二）

1.线性回归简化模型房价预测的模型可以理解为用一些能够表示房子特点的因素如卧室个数、卫生间个数、面积等nnn个属性组成的特征向量：x=[x1x2⋮xn]\mathbf{x}=\left[\begin{matrix}x_1\\x_2\\\vdots\\x_n\end{matrix}\right]x=⎣⎢⎢⎢⎡x1x2⋮xn⎦⎥⎥⎥⎤房价的预测是这些属性的加权和：y=w1x1+w2x2+⋯+wnxn+
上官永石·2023-12-19 18:31

深度学习笔记_6经典预训练网络LeNet-18解决FashionMNIST数据集

1、调用模型库，定义参数，做数据预处理importnumpyasnpimporttorchfromtorchvision.datasetsimportFashionMNISTimporttorchvision.transformsastransformsfromtorch.utils.dataimportDataLoaderimporttorch.nn.functionalasFimporttor
Element_南笙·2023-12-18 20:23
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他