动手学深度学习学习整理第7页

JAVA面试题整理——内存溢出与内存泄露的区别与联系

内存溢出与内存泄露的区别与联系在前面jvm学习整理的时候其实用过一个简单的例子了解过内存溢出，在jvm内存模型章节下，大家有兴趣的可以去看看：JVM初学GC_knowwait的博客-CSDN博客内存溢出内存溢出

knowwait·2023-11-30 10:45

【《Unity着色器和屏幕特效开发秘笈》】学习整理：关于屏幕特效【1】

屏幕特效也被成为后期特效，通过抓取整个屏幕的画面，并对其进行渲染，可以实现诸如Bloom特效、运动模糊、HDR效果、景深效果等。由于需要对Unity摄像机的画面进行渲染，所以我们在制作屏幕特效时都需要将一个特制的脚本挂在摄像机上，通过这个脚本将渲染纹理传递给着色器。通用脚本首先记录一下脚本的基础结构。[ExecuteInEditMode]//添加此特性后，这个脚本就可以在编辑状态下运行public

艾沃尼斯·2023-11-29 23:40

动手学深度学习笔记day9

卷积神经网络（convolutionalneuralnetworks，CNN）图像不是二维张量，而是一个由高度、宽度和颜色组成的三维张量，比如包含个像素。前两个轴与像素的空间位置有关，而第三个轴可以看作是每个像素的多维表示。互相关运算互相关运算（cross-correlation）：在卷积层中，输入张量和核张量通过互相关运算产生输出张量。在图中，输入是高度为3、宽度为3的二维张量（即形状为3×3）

努力学习的廖同学·2023-11-29 17:24

动手学深度学习（5.3）——卷积神经网络进阶

深度卷积神经网络（AlexNet）LeNet:在大的真实数据集上的表现并不尽如⼈意。1.神经网络计算复杂。2.还没有⼤量深⼊研究参数初始化和⾮凸优化算法等诸多领域。机器学习的特征提取:手工定义的特征提取函数神经网络的特征提取：通过学习得到数据的多级表征，并逐级表⽰越来越抽象的概念或模式。神经网络发展的限制:数据、硬件AlexNet首次证明了学习到的特征可以超越⼿⼯设计的特征，从而⼀举打破计算机视觉

贾如钊·2023-11-28 19:43

讲授-给他人一杯水，自己得有一桶水

然因此段时间内搬家，未能有用和有心思去学习整理，故说好的等忙完。不料，他导师直接联系我说，就讲授软件基础入门的操作，另外深层次的分析和处理以后会找老师讲，问我这个是否可以。

雨落玉心·2023-11-27 23:35

typora整理markdown笔记

睿智闷骚男·2023-11-27 09:06

2021-6-9昨日复盘

任务清单昨日完成的任务，最重要的三件事：1.完成11个班级的课程学习整理，找出一大推一点都没有学过的人！中午回家，和小宝两个人吃完就两点了，然后说昏昏沉沉睡了一觉，醒来16:00了。然后开始干活

中年中二病·2023-11-27 08:27

动手学深度学习(三)---Softmax回归

文章目录一、理论知识1.图像分类数据集2.softmax回归的从零开始实现3.Softmax简洁实现softmax回归一、理论知识回归估计一个连续值分类预测一个离散类别回归单连续数值输出自然区间R跟真实值的区别作为损失分类通常多个输出输出i是预测为第i类的置信度一般我们使用交叉熵用来衡量两个概率的区别将它作为损失其梯度是真实概率和预测概率的区别：其梯度是真实概率和预测概率的区别损失函数(1)L2L

释怀°Believe·2023-11-26 20:14

动手学深度学习(二)---线性回归

文章目录1.理论知识2.线性回归从0实现3.线性回归简洁实现【相关方法】torch.normal()1.理论知识线性假设是指目标可以表示为特征的加权和：ex1;在机器学习领域，一般用线性代数处理会更方便向量x对应单个数据样本的特征。对于特征集合X，我们可以采用矩阵-向量乘法2.线性回归从0实现从0开始实现整个方法，包括数据流水线、模型、损失函数和小批量随机梯度下降优化器（1）导入需要的包%matp

释怀°Believe·2023-11-26 20:13

动手学深度学习(四)---多层感知机

文章目录一、理论知识1.感知机2.XOR问题3.多层感知机4.多层感知机的从零开始实现【相关总结】1.torch.randn()2.torch.zeros_like()一、理论知识1.感知机给定输入x,权重w，和偏移b,感知机输出：2.XOR问题感知机不能拟合XOR问题，他只能产生线性分割面3.多层感知机多层感知机和softmax没有本质区别,只是多加了一层隐藏层没有隐藏层就是softmax回归,

释怀°Believe·2023-11-26 20:40

[深度学习]动手学深度学习笔记-10

Task5——卷积神经网络基础；leNet；卷积神经网络进阶10.1卷积神经网络（CNN）基础卷积神经网络是一种用来处理局部和整体相关性的计算网络结构，被应用在图像识别、自然语言处理甚至是语音识别领域，因为图像数据具有显著的局部与整体关系，其在图像识别领域的应用获得了巨大的成功。10.1.1卷积神经网络的组成层图10.1卷积神经网络示意图以图像分类任务为例，在表10.1所示卷积神经网络中，一般包含

田纳尔多·2023-11-26 12:16

《动手学深度学习》笔记2.3 线性代数

2.3线性代数前言范数小结前言原文档：https://zh-v2.d2l.ai/chapter_preliminaries/linear-algebra.html本文章为学习笔记这一章的内容都很重要，特别是范数，建议看原文档重点是L1范数和L2范数，及Lp范数范数小结·标量、向量、矩阵和张量是线性代数中的基本数学对象。·向量泛化自标量，矩阵泛化自向量。·标量、向量、矩阵和张量分别具有零、一、二和任

开哥kg·2023-11-26 09:59

【动手学深度学习v2】注意力机制—4 Transformer

Transformer模型多头注意力Multi-HeadAttention有掩码的多头注意力Maskedmulti-headattention基于位置的前馈网络PositionwiseFFN残差+层归一化Add&Norm信息传递预测总结参考系列文章模型基于编码器-解码器架构处理序列对；跟使用注意力的seq2seq不同，Transformer纯用基于注意力，不用RNN多头注意力Multi-HeadA

Hannah2425·2023-11-26 09:20

秋竹晨间日记 Day204 2018.4.12

工作/个人提升/人际/财务当日关键词：整理/健康/个人提升【晨间日记^30分钟】【微博主战场^】【整理^5分钟】整理-手机桌面一页就足够健康-早起4:50工作or人际-职场相处个人提升-备考心得【整理】学习整理以后

整理师秋竹·2023-11-26 07:33

【前端学习整理】入门：领域知识与基础HTML文档说明。

想好开始学习前端了吗，先来了解一下基础吧。什么是前端Web与贯穿前端的HTML我的第一个HTML文档什么是前端前端是非常热门的职业，涉及广泛，可以设计和制作各种网站，手机app，小程序的开发等等。要掌握前端需要学习基础的网页开发语言，例如:HTML:描写网页的内容，和布局。就像修造子，一砖一瓦的砌。css:修饰网页的内容，便于用户读者观看浏览。砖瓦砌成了房子不能直接住人吧，还要装修。javascr

梦叙·2023-11-25 16:15

沐神深度学习报错 can only concatenate str (not “int“) to str

学习背景：动手学深度学习第二章数据预处理中报错：canonlyconcatenatestr(not“int”)tostr报错原因：panda新版本对fillna函数做了调整，原先是忽略str。

In 2029·2023-11-24 21:25

动手学深度学习之kaggle竞赛

实战Kaggle比赛：图像分类(CIFAR-10)importcollectionsimportmathimportosimportshutilimportpandasaspdimporttorchimporttorchvisionfromtorchimportnnfromd2limporttorchasd2l我们提供包含前1000个训练图像和5个随机测试图像的数据集的小规模样本d2l.DATA_

哈哈哈捧场王·2023-11-24 21:04

Linux常用命令

最近博主学习整理了一份Linux常用的基本命令，可以作为参考手册和复习使用！

_Puitar_·2023-11-24 03:47

【C++优先队列使用】问题总结

说明：文章内容为关于priority_queue的使用总结，在C++中要包含头文件文章内容为个人的学习整理，如有错误，欢迎指正。

10000hours·2023-11-23 15:46

《动手学深度学习》第二章预备知识

2.1获取和运行本书的代码大家可以在自己的环境试验2.2数据操作NDArray提供GPU计算和自动求梯度等更多功能，这些使NDArray更加适合深度学习。2.2.1创建NDArraynd.arrangend.shapend.reshapend.sizend.zerosnd.onesnd.arraynd.random.normal2.2.2运算+、-、*、/、exp、dot、concatenate、

irving不会机器学习·2023-11-23 01:35

linux内存管理机制--学习整理汇总（2）

Linux内存分配算法内存管理算法——对讨厌自己管理内存的人来说是天赐的礼物1、内存碎片1)基本原理产生原因：内存分配较小，并且分配的这些小的内存生存周期又较长，反复申请后将产生内存碎片的出现优点：提高分配速度，便于内存管理，防止内存泄露缺点：大量的内存碎片会使系统缓慢，内存使用率低，浪费大2)如何避免内存碎片少用动态内存分配的函数(尽量使用栈空间)分配内存和释放的内存尽量在同一个函数中尽量一次性

junwua·2023-11-22 17:23

linux内存管理机制--学习整理汇总 dma-buf（3）

目录内存映射mmap总介一、用户进程访问内存分析二、dma_buf关键代码解读三、内核处理器访问dma-buf缓冲区对象四、引入dma-buf机制的原因五、dma-buf实现内存映射mmap总介内存映射mmap是Linux内核的一个重要机制，它和虚拟内存管理以及文件IO都有直接的关系，这篇细说一下mmap的一些要点。Linux的虚拟内存管理是基于mmap来实现的。vm_area_struct是在m

junwua·2023-11-22 17:23

linux内存管理机制--学习整理汇总（1）

linux内核几种内存管理的方法，内存使用场景以及内存使用的那些坑2、内存地址——用户态&内核态用户态：Ring3运行于用户态的代码则要受到处理器的诸多内核态：Ring0在处理器的存储保护中，核心态用户态切换到内核态的3种方式：系统调用、异常、外设中断区别：每个进程都有完全属于自己的，独立的，不被干扰的内存空间；用户态的程序就不能随意操作内核地址空间，具有一定的安全保护作用；内核态线程共享内核地址

junwua·2023-11-22 17:53

动手学深度学习笔记---4.3 解决过拟合_权重衰减与Dropout

一、权重衰退（Weight_decay）正则限制针对模型训练时出现的过拟合问题，限制模型容量是一种很好的解决方法，目前常用的方法有以下两种：缩小模型参数量，例如降低模型层数，使得模型更加轻量化，L1L1L1正则化通过限制参数值的选择范围来控制模型容量，L2L2L2正则化：使用均方范数作为硬性限制，即对于参数w,bw,bw,b，假设其损失函数为l(w,b)l(w,b)l(w,b)，则其优化目标为mi

Aaaaaki·2023-11-22 15:06

关于引导---（教练学习第13周）

环环相扣的教练能力三周前，在教练的练习中，督导反馈到关于引导的方面，自己疑惑了一段时间了，今日总算有时间学习整理一下，伴着午后的小雨和咖啡，整理一下这周的教练学习：关于如何避免引导。

逍遥子的逍遥·2023-11-22 15:49

Altium Designer 超详细学习教程——前言

前言写在前面：本笔记主要内容来自于AltiumDesigner（Protel）原理图与PCB设计教程——江思敏，主要是站在巨人的肩膀上进行相关学习整理，加入更多个人学习中的困惑和心得体验，主要是想助力后续新人们能够少走弯路

541板哥·2023-11-22 10:27

前端初探——typescript学习整理

typescript补充TS的脑图VSCode实现用Ctrl+滚轮实现代码的缩放格式化代码打断点1.基础类型类型断言2.接口普通接口readonlyvsconst函数类型可索引的类型类类型混合类型接口继承类3.类readonly修饰符存取器4.函数（转demo3）为函数的参数和返回值添加类型重载5.泛型泛型接口泛型类6.枚举数字枚举字符串枚举计算的和常量成员反向映射const枚举7.高级类型交叉类

Sax_no·2023-11-22 02:43

2020.05.18 空无一物训练营结营总结

入营第一天我就傻眼了，因为我只知道自己是来学习整理的，自认为自由职业的我时间应该能安排开，需要的是来学习方法，其实我对空营一无所知，开营仪式让我

Lily刘莉·2023-11-21 04:50

【Dive into Deep Learning |动手学深度学习（李沐）】4.5权重衰退--学习笔记

目录使用均方范数作为硬性限制使用均方范数作为硬性限制证明过程梯度更新法则小结代码实现从零开始生成数据集初始化模型参数定义L2范数惩罚定义训练代码实现简洁实现小结权重衰减（weightdecay）是最广泛使用的正则化的技术之一，它通常也被称为L2正则化。这项技术通过函数与零的距离来衡量函数的复杂度，因为在所有函数f中，函数f=0（所有输入都得到值0）在某种意义上是最简单的。使用均方范数作为硬性限制通

爱吃白菜的金小妞·2023-11-21 04:11

《动手学深度学习》4.5. 权重衰减（李沐）

4.5.1.高维线性回归代码学习笔记（含详细注释）通过一个简单的例子来演示权重衰减4.5.1.高维线性回归%matplotlibinlineimporttorchfromtorchimportnnfromd2limporttorchasd2l若在pycharm上面用到matplotlib库，可以将上述代码中的：%matplotlibinline替换为：importmatplotlib.pyplot

认真学习！！！·2023-11-21 04:10

李沐动手学深度学习第四章-4.5权重衰减（正则化）

1.高维线性回归一个简单的例子来演示权重衰减。%matplotlibinlineimporttorchfromtorchimportnnfromd2limporttorchasd2l选择标签是关于输入的线性函数。标签同时被均值为0，标准差为0.01高斯噪声破坏。为了使过拟合的效果更加明显，我们可以将问题的维数增加到d=200，并使用一个只包含20个样本的小训练集。n_train,n_test,nu

nousefully·2023-11-21 04:09

《动手学深度学习——李沐》课后练习

引言你当前正在编写的代码的哪些部分可以“学习”，即通过学习和自动确定代码中所做的设计选择来改进？你的代码是否包含启发式设计选择？常见的机器学习，自动优化算法可以通过学习来进行改进。首先说明启发式设计选择，在平时的代码中还没有包含这种设计启发式设计选择：启发式设计选择是指在缺乏明确指导或完整信息的情况下，基于经验、直觉和规则-of-thumb（经验法则）来进行设计决策的过程。它是一种以启发式方式解决

mili-coding·2023-11-21 04:09

李沐动手学深度学习课后习题

这里是我学习李沐老师的动手学深度学习时，教材课后题的一些解答，如果有不正确的解答还请指出来。

无眠·2023-11-21 04:08

GRU、LSTM、双向循环神经网络

动手学深度学习笔记一、门控循环单元(GRU)1.重置门和更新门2.候选隐状态3.隐状态4.PyTorch代码二、长短期记忆网络(LSTM)1.输入门、遗忘门和输出门2.记忆元3.隐状态4.PyTorch

葫芦娃啊啊啊啊·2023-11-21 02:42

笔记56：深度循环神经网络

本地笔记地址：D:\work_file\DeepLearning_Learning\03_个人笔记\3.循环神经网络\第9章：动手学深度学习~现代循环神经网络aaaaaaaa

恨晨光熹微·2023-11-21 02:11

笔记55：长短期记忆网络 LSTM

本地笔记地址：D:\work_file\DeepLearning_Learning\03_个人笔记\3.循环神经网络\第9章：动手学深度学习~现代循环神经网络aaaaaaaaa

恨晨光熹微·2023-11-21 02:41

mysql存储过程与函数、触发器、游标、变量等知识点详解

引言：该文章仅供自己学习整理mysql执行顺序语法顺序写sql的关键字顺序select[distinct]fromjoin（如leftjoin）onwheregroupbyhavingunionorderbylimit

m0_小淼·2023-11-21 02:32

笔记57：双向循环神经网络

本地笔记地址：D:\work_file\DeepLearning_Learning\03_个人笔记\3.循环神经网络\第9章：动手学深度学习~现代循环神经网络aaaaaaaaaaaa

恨晨光熹微·2023-11-21 02:58

MapReduce-WritableComparable排序（From 尚硅谷）

个人学习整理，所有资料来自尚硅谷B站学习连接：添加链接描述MapReduce-WritableComparable排序1.WritableComparable排序1.1排序概述排序是MapReduce框架中最重要的操作之一

lavineeeen·2023-11-21 00:04

周检视 20190122-20190127

3.学习：听书，学习整理，学习感恩，学习峰值时刻，参加班会，小组会。4.家人：回老家看望父母。5.休闲：和家人在一起聊天6.健康：早睡早起，缺乏锻炼。7.社交：建立强链接。

泓希麻麻·2023-11-20 16:05

《明天也是小春日和》学习整理

为了防止自己读完书就忘记，要求自己读完一本书后做到三点：1、用自己的语言概括本书（不用网站上的读书介绍）；2、整理出金句摘抄，3、对自己的启发。一、故事梗概富家小姐出身的英子从少女时代就憧憬嫁给一个“从事城市建设的理想家”，在相亲时遇到了完全符合自己想象的津端修一。婚后英子女士一直以丈夫的理想为重，跟随他到处奔波，终于待丈夫退休后，收到了一份甜蜜的礼物——携手归隐乡间，一圆她多年的田园梦。一居室的

小狮子王后·2023-11-20 14:53

Vue学习整理(三)

Vue中的动画需求：屏幕上有HelloWorld文字，还有一个切换按钮，点击切换按钮，文字渐渐消失，再次点击按钮，文字渐渐出现。transition标签，当一个元素被该标签包裹后，vue会分析CSS样式，自动构建动画流程。.fade-enter,.fade-leave-to{opacity:0;}.fade-enter-active,.fade-leave-to{transition:opacit

茶还是咖啡·2023-11-19 19:47

深度学习环境配置Anaconda+cuda+cudnn+PyTorch——李沐大神《动手学深度学习》环境配置（巨详细，持续迭代）

李沐大神《动手学深度学习》安装篇——通用AI、深度学习、机器学习环境Anaconda+cuda+cudnn+Pytorch(手把手教你安装深度学习环境）——这里是GPU+PyTorch版本文章目录李沐大神

Beyond_April·2023-11-19 14:54

李沐动手学深度学习环境配置（Win）

环境配置（Win）一、安装MinicondaMiniconda—condadocumentation更改镜像源condanotepad.condarcpypipipconfigsetglobal.index-urlhttps://mirror.sjtu.edu.cn/pypi/web/simple二、安装Githttps://ghproxy.com/https://github.com/git-f

MhjGreat·2023-11-19 14:53

结合李沐动手学深度学习配置环境

Anacondaubuntu可以看这个博文：Ubuntu安装Anaconda详细步骤windows:从官网上下载对应版本的anaconda,https://www.anaconda.com/。也可以通过镜像源下载：清华源：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/(大家安装完了千万不用pipinstalljupyter在一个虚拟环境

鱼小丸·2023-11-19 14:14

动手学深度学习——矩阵求导之矩阵的迹和微分

目录一、矩阵的迹1.迹的定义2.迹的性质二、微分与全微分1.（全）微分的表达式2.（全）微分的法则三、矩阵的微分1.矩阵微分的实质2.矩阵微分的意义3.矩阵微分的法则4.矩阵微分的常用公式四、矩阵求导实例1.迹在微分中的应用2.利用微分求导本篇博客总结自知乎文章：矩阵求导公式的数学推导（矩阵求导——进阶篇），需要详细推导过程可以查看原文学习。文章主要介绍了矩阵迹的性质，并将矩阵微分引入到矩阵求导中

时生丶·2023-11-19 05:27

SystemVerilog学习整理——例化连接与接口

目录3、SystemVerilog——设计例化和连接以及验证结构3.1设计例化和连接3.2验证结构4、SystemVerilog——接口interface4.1接口（把信号封装，便于维护和使用）4.2采样和数据驱动（竞争、接口中的clocking用于信号的同步）4.2.1竞争问题4.2.2接口中的clocking块4.3测试的开始和结束（时钟复位信号开始，系统函数调用stop、finish结束、p

Like_ai·2023-11-19 04:20

如何查询Oracle用户的角色/权限

在开发环境迁移测试环境时，分配的oracle用户SMARTYD经常会报用户权限异常/服务端连接异常等错误信息；初步排除代码异常问题后，开始排查是否新分配的oracle用户问题；学习整理如下：1、查询oracle

岳尚工·2023-11-19 02:40

动手学深度学习——循环神经网络（原理解释与代码详解）

文章目录一、循环神经网络1.无隐状态的神经网络2.有隐状态的循环神经网络3.基于循环神经网络的字符级语言模型4.困惑度5.小结二、循环神经网络的从零开始实现1.独热编码2.初始化模型参数3.循环神经网络模型4.预测5.梯度裁剪6.训练一、循环神经网络n元语法模型，单词xt在时间步t的条件概率仅取决于前n-1个单词如果想要引入时间步t-(n-1)之前单词的影响到xt上，则需要增加n，但会造成模型参数

緈福的街口·2023-11-19 01:36

动手学深度学习——语言模型和数据集（代码详解）

文章目录语言模型与数据集1.学习语言模型2.马尔可夫模型与n元语法3.自然语言统计4.读取长序列数据4.1随机采样4.2顺序分区语言模型与数据集了解到如何将文本数据映射到词元，以及将这些词元视作一系列的离散观测，例如单词或字符。给定一个文本序列的，xt表示文本序列在时间步t的观测或标签，语言模型的目标是估计序列的联合概率1.学习语言模型如何对一个文档或者是一个词元序列进行建模？假设在单词级别对文本

緈福的街口·2023-11-19 01:06

推荐频道

动手学深度学习学习整理