李宏毅机器学习课程笔记

李宏毅机器学习笔记—— 15. Network Compression( 网络压缩)

摘要：本章主要是讲解了为什么要去做网络压缩，以及怎样去做压缩的五种方式。分别是网络剪枝，知识蒸馏，参数量化，架构设计和动态计算。（本章仅从软件方面去考虑）网络剪枝的基本思想是先评估weight和neuron的重要性，然后把不重要的删除掉。知识蒸馏的基本思想是训练一个大网络，用小网络（StudentNet）学习大网络（teachernet）。并计算两者之间的cross-entropy，使其最小化，从
HSR CatcousCherishes·2022-11-06 14:32

李宏毅机器学习笔记第18周_神经网络压缩（Network Compression）

文章目录一、NetworkPruning1.Networkcanbepruned2.Weightpruning3.Neuronpruning4.WhyPruning?二、KnowledgeDistillation三、ParameterQuantization四、ArchitectureDesign1.DepthwiseSeparableConvolution2.Lowrankapproximati
MoxiMoses·2022-11-06 14:57

2021李宏毅机器学习（2）：PyTorch

2021李宏毅机器学习（2）：PyTorch1基础内容1.1产生tensor1.2squeeze压缩维度1.3unsqueeze展出维度1.4transpose转置1.5cat指定dimension连接多个
三耳01·2022-11-06 14:56

李宏毅机器学习笔记——卷积神经网络

卷积神经网络为什么CNN来做图片识别CNN的整体框架卷积Convolution最大池化MaxPooling压平FlattenCNNinKerasCNN学习了什么DeepDreamCNN的应用为什么CNN来做图片识别图片一般有很多个像素，如果一个像素表示一个data的话，一般的神经网络的参数会很多很多，训练起来将会耗费大量时间。我们要求神经网络要做的其实是识别patterns，而patterns一般
Brandon1017·2022-11-06 14:50

李宏毅机器学习—读书笔记

李宏毅机器学习笔记(LeeML-Notes)leeml-notes机器学习人工智慧（ArtificialIntelligence）是我们想要达成的目标，希望机器可以跟人一样的聪明。
studyeboy·2022-11-06 07:41

李宏毅svm_【李宏毅机器学习笔记】 18、支持向量机（Support Vector Machine，SVM）...

【李宏毅机器学习笔记】1、回归问题(Regression)【李宏毅机器学习笔记】2、error产生自哪里？
三毛不是三毛·2022-11-06 07:39

[机器学习入门] 李宏毅机器学习笔记-23（Support Vector Machine；支持向量机）

[机器学习入门]李宏毅机器学习笔记-23（SupportVectorMachine；支持向量机）PDFVIDEOSupportVectorMachineOutlineHingeLossBinaryClassification
holeung·2022-11-06 07:08

[机器学习入门] 李宏毅机器学习笔记-26（Structured Support Vector Machine part 1;结构化支持向量机part 1）

[机器学习入门]李宏毅机器学习笔记-26（StructuredSupportVectorMachinepart1;结构化支持向量机part1）PDFVIDEO首先回顾一下StructuredLearning
holeung·2022-11-06 07:08

李宏毅机器学习——学习笔记（18）Support Vector Machine（SVM）

HingeLoss+KernelMethod就是SVM。hingeloss进行二分类的过程中，采取sigmoid和crossentropy的原因是gradientdescent的梯度很大，利于参数调整。Hingelossfunction就是：图中的紫色段，hingeloss和crossentropy的差别在于对于预测准确后的样本的奖赏程度。LinearSVM：hingeloss在某些位置是不可微分
青芒·1·2022-11-06 07:58

【李宏毅机器学习笔记】4、Classification

【李宏毅机器学习笔记】1、回归问题（Regression）【李宏毅机器学习笔记】2、error产生自哪里？
qqqeeevvv·2022-11-06 07:55

【李宏毅机器学习笔记】3、gradient descent

【李宏毅机器学习笔记】1、回归问题（Regression）【李宏毅机器学习笔记】2、error产生自哪里？
qqqeeevvv·2022-11-06 07:25

【李宏毅机器学习笔记】2、error产生自哪里？

【李宏毅机器学习笔记】1、回归问题（Regression）【李宏毅机器学习笔记】2、error产生自哪里？
qqqeeevvv·2022-11-06 07:54

李宏毅机器学习笔记（2016年的课程）：Support Vector Machine (SVM)

1.各种loss函数f=np.arange(-3,3+1e-8,0.001)py=np.array([1.]*len(f))defget_ideal(yf):returnnp.where(yf>=0,0,1)defsquare(yf):returnnp.square(yf-1.)defsigmoid(x):return1./(1+np.exp(-x))defsquare_sigmoid(yf):r
一杯敬朝阳一杯敬月光·2022-11-06 07:24

吴恩达机器学习系列课程笔记——第二章：单变量线性回归(Linear Regression with One Variable)

2.1模型描述https://www.bilibili.com/video/BV164411b7dx?p=5我们的第一个学习算法是线性回归算法。在这段视频中，你会看到这个算法是什么样子的，更重要的是你将会了解监督学习过程完整的流程。让我们通过一个例子来开始：这个例子是预测住房价格的，我们要使用一个数据集，数据集包含俄勒冈州波特兰市的住房价格。在这里，我要根据不同房屋尺寸所售出的价格，画出我的数据集
Lishier99·2022-11-04 13:25

数据挖掘与分析课程笔记（Chapter 21）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:17

数据挖掘与分析课程笔记（Chapter 15）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:16

数据挖掘与分析课程笔记（Chapter 20）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:16

数据挖掘与分析课程笔记（Chapter 14）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:15

数据挖掘与分析课程笔记（Chapter 1）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:15

数据挖掘与分析课程笔记（Chapter 2）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:45

数据挖掘与分析课程笔记（Chapter 7）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:45

数据挖掘与分析课程笔记

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.笔记目录数据挖掘与分析课程笔记Chapter1：准备1.1数据矩阵1.2
yyywxk·2022-11-04 11:44

Python数据分析课程笔记

Python数据分析课程笔记本笔记仅用于记录个人学习课程章节列表Chapter1数据获取Chapter2单因子探索分析与可视化第一章数据获取数据挖掘及建模主要分为以下五个部分，数据获取阶段可采用诸如数据仓库
meichuantx·2022-11-04 11:43

数据挖掘与分析课程笔记（目录）

前言由于之前的文章《数据挖掘与分析课程笔记》篇幅过大，导致打开的时候加载缓慢，也不利于阅读，同时由于CSDN的限制原文已经不可更改，原文特将其分拆以满足不同读者的阅读需要。
yyywxk·2022-11-04 11:13

数据挖掘与分析课程笔记（Chapter 5）

数据挖掘与分析课程笔记参考教材：DataMiningandAnalysis:MOHAMMEDJ.ZAKI,WAGNERMEIRAJR.文章目录数据挖掘与分析课程笔记（目录）数据挖掘与分析课程笔记（Chapter1
yyywxk·2022-11-04 11:05

机器学习【吴恩达|周志华|李宏毅|算法】清单 #收藏#

网络转自：https://blog.csdn.net/julialove102123/article/details/78729602系列学习记录：1、吴恩达机器学习系列；2、李宏毅机器学习课程；3、周志华西瓜书
guomutian911·2022-11-04 09:59

隐马尔可夫模型HMM推导

隐马尔可夫模型HMM推导机器学习-白板推导系列(十四)-隐马尔可夫模型HMM（HiddenMarkovModel）课程笔记背景介绍介绍一下频率派和贝叶斯派两大流派发展出的建模方式。
Adenialzz·2022-11-04 06:09

黑手安全网-------那些年我们抓过的肉鸡课程笔记

黑手安全网的一套抓鸡教程地址：链接：https://pan.baidu.com/s/1EK9Q1hYs4_bEN648Bg0LWA提取码：6u2x工具集合：链接：https://pan.baidu.com/s/1gJ8l-UGE4LvVFsldJok6CA提取码：1bkb一.端口扫描篇1.tcp全扫描抓鸡专用S扫描器.exe使用方法：输入开始IP和结束IP，选择TCP，端口号，线程数，点开始进行扫
02be55f·2022-11-02 07:46

day1-李宏毅机器学习

目录心得体会一、hand-craftedrules二、三类学习方法三、迁移学习四、强化学习心得体会今天开始参加开源学习组织datawhale的组队学习--李宏毅机器学习，再次写一系列文章记录我的学习笔记与感悟
苏晨星·2022-11-01 23:35

吴恩达深度学习课程笔记（2）

（一）对于神经网络的初识可以以logistic回归作为例子，基本的logistic网络可以如下图所示：其中x1，x2，x3可以是各种特征，最后得到预测值a。但是面对复杂问题，一层的网络预测的结果往往是不够的，这就需要多个类似这样的模型叠加，如下图所示：可以将第一层预测的结果输入第二层再次运算，例如第一层可能根据疾病的不同特征预测了疾病的分类、疾病的传染性、疾病是细菌还是病毒导致的，再经过第二层来预
啥都不会的初学者·2022-11-01 23:04

机器学习笔记（李宏毅 2021/2022）——第一节：基本概念

由于我先学过吴恩达老师的机器学习课程，所以该课程笔记很多地方就简单记录一下。一、2021-（上）-机器学习基本概念简介这节内容就是简单介绍一下机器学习的概念，讲了机器学习的三大步骤。
toro180·2022-11-01 22:58

机器学习 - 李宏毅笔记

李宏毅机器学习笔记1.机器学习简介1.1机器学习项目流程1.1.1找到未知函数1.1.2定义训练损失函数1.1.3优化2.机器学习攻略指南（实现一个好的模型）2.1训练集loss过大or过小2.1.1如果
EDG viper·2022-11-01 03:02

DATAWHALE-李宏毅机器学习-1

机器学习引言人工智能(ArtificialIntelligence)是机器学习方法(MachineLearning)追求实现的目标。河狸造堤坝是生物的本能，机器学习的天赋则来自hand-craftedrules。hand-craftedrules的缺点在于它考虑不到存在情况的所有可能性，也永远无法超越人类，同时又需要耗费大量的人力。未来机器学习方法或许不需要过多人力，而只需使用大量数据。机器学习也
樟宜·2022-11-01 03:32

李宏毅机器学习1-机器学习介绍

李宏毅机器学习1-机器学习介绍在整个机器学习的Framework里有step1：找一个fuctionsetstep2：machine可以衡量一个function是好还是不好step3：让machine有一个自动的方法
HammerDeng·2022-10-30 17:52

李宏毅机器学习2-回归

李宏毅机器学习2-回归案例学习Regression股票预测系统：input过去十年股票起伏资料，output股市明天的平均值自动驾驶车辆：inputsensor感受到的信息，output方向盘的角度推荐系统
HammerDeng·2022-10-30 17:52

Hetian lab day 8 xss原理和利用

文章目录Part1课程笔记概念危害分类实验反射型：low等级反射型：medium等级存储型：low等级存储型：medium等级小结Part2课后习题Part1课程笔记概念xss，crosssitescript
温酒的周同学·2022-10-30 12:44

李宏毅机器学习--self-supervised：BERT、GPT、Auto-encoder

目录Self-SupervisedLearningBERTBERT训练maskinginput（随机遮盖一些输入单位）nextsentenceprediction（预测前后两个句子是否相接）BERT的fine-tune应用BERT框架GLUE（测试BERT的能力）case1-语句分类case2-词性标注case3-句意立场分析case4-问答系统Pre-trainingaseq2seqmodelT
iwill323·2022-10-28 20:28

李宏毅机器学习：self-attention（自注意力机制）和transformer及其变形

目录self-attentionself-attention的输入文字处理领域语音领域图自注意力机制的输出输出序列长度与输入序列相同输出序列长度为1模型决定输出序列长度Self-attention原理self-attention模型的内部实现相关性计算计算self-attention输出矩阵实现小结Multi-headSelf-attention位置编码PositionalEncodingSelf
iwill323·2022-10-28 20:28

Chapter1-4_Speech_Recognition(HMM)

文章目录1HMM用在哪里2HMM的state3改造成DNN3.1Tandem3.2DNN-HMMHybrid本文为李弘毅老师【SpeechRecognition-HMM(optional)】的课程笔记，
zjuPeco·2022-10-28 05:36

Chapter1-6_Speech_Recognition(RNN-T Training)

alignment概率的计算2所有alignments概率的计算3Training4Inference5小结本文为李弘毅老师【SpeechRecognition-RNN-TTraining(optional)】的课程笔记
zjuPeco·2022-10-28 05:36

【深度学习】01-04-深度学习（选修）-李宏毅老师21&22深度学习课程笔记

01-04-深度学习（选修）IntroductionDeeplearningattractslotsofattentionUpsanddownsofDeepLearningNeuralNetworkThreeStepsforDeepLearningDefineAFunctionSetGoodnessofFunctionLossFunctionGradientDescentTheBestFuncti
暖焱·2022-10-28 05:29

2021李宏毅机器学习笔记--14 conditional generation by RNN & attention

2021李宏毅机器学习笔记--14ConditionalGenerationbyRNN&Attention摘要一、Generation1.1Generation1.2ConditionalGeneration
guoxinxin0605·2022-10-28 05:58

2021李宏毅机器学习笔记--22 Generative Adversarial Network 01

@[TOC](2021李宏毅机器学习笔记–22GenerativeAdversarialNetwork01(GAN,生成式对抗网络))摘要GAN是建立于神经网络的基础上的，其核心思想是“生成”与“对抗”
guoxinxin0605·2022-10-28 05:58

[pytorch]小土堆课程笔记P6-P7：

这两节课的题目分别是：P6:PyTorch加载数据初认识P7：Dataset类代码实战首先放上课程代码:main.py"""@Author:时礼@Contact:[email protected]@Software:pycharm@File:MyData.py@Desc:小土堆课程P6的笔记"""fromtorch.utils.dataimportDatasetfromPILimportIma
花名时礼·2022-10-27 11:24

课程笔记：卷积Convolution和转置卷积ConvTranspose

卷积Convolution：分为3种：（一般情况下，卷积核在几个维度上滑动，就是几维卷积）1）一维卷积2）二维卷积3）三维卷积一维卷积：卷积核只在一个方向上滑动二维卷积：卷积核在横轴和纵轴两个方向上滑动三维卷积：卷积核在x,y和z轴方向上滑动卷积运算是线性运算：卷积核在图片上滑动，在相应位置上进行乘加运算卷积核是某种模板，某种特征提取器，activationmap是模板在原始图像上的体现。卷积过程
笨笨同学·2022-10-25 17:01

[课程笔记]（李沐-动手学深度学习）

文章目录矩阵计算标量导数亚导数梯度自动求导向量链式求导法则自动求导复杂度自动求导实现softmax回归+损失函数softmax回归损失函数QA权重衰退丢弃法Dropout从零开始实现dropout数值稳定性+模型初始化和激活函数数值稳定性——梯度消失和梯度爆炸梯度爆炸梯度消失如何让训练更加稳定？梯度消失和梯度爆炸的产生原因和解决办法？模型初始化和激活函数深度神经网络权值初始化的几种方式及为什么不能
初之代·2022-10-24 18:22

【李宏毅机器学习】TransFormer框架基础储备知识（p51） 学习笔记 | 全程手码，放心食用

全文总结于哔哩大学的视频：李宏毅2020机器学习深度学习(完整版)国语2020版课后作业范例和作业说明在github上：点击此处李宏毅上传了2020版本的机器学习视频和吴恩达的CS229机器学习相比，中文版本的机器学习显得亲民了许多，李宏毅的机器学习是英文的ppt+中文讲解，非常有利于大家入门。吴恩达的CS229中偏向于传统机器学习（线性回归、逻辑回归、NaiveBayes、决策树、支持向量机等）
running snail szj·2022-10-24 18:43

NLP-D6-李宏毅机器学习L3hw-L4self-attention-L5seq2seq(Transformer)

昨天的进度被一些意外的事情打乱了，而且搞得心烦意乱，但是没关系！！！留得青山在，不怕没柴烧，昨天第一次给同学讲解ML，发现了自己不牢固的知识，感觉很好！----0553开始预习hw3的slides&&看课。----------0609看了作业要求，感觉很干！！！打算边吃饭边看。------0628吃完了，产生了问题1、交叉验证不会使模型提前见到训练集嘛？我自己的想法：我们本来做的就是用val调mo
甄小胖·2022-10-24 18:12

2020李宏毅机器学习笔记——19. Transformer(全自注意力网络)

摘要：本章主要是介绍了Transformer(全自注意力网络)，首先通过sequence-to-sequence模型中的RNN存在问题——不能并行计算，CNN替换可以解决一部分问题，但也存在缺陷。是便引入了Self-AttentionLayer来替代RNN的sequence-to-sequence模型——Transformer，之后讲解Self-Attention的基本原理与具体过程。接着增加了一
HSR CatcousCherishes·2022-10-24 18:40

自然语言处理学习——CS224课程笔记

自然语言处理学习——CS224课程笔记第一部分：词向量（Lecture1）对于自然语言处理问题，涉及到的基本处理单元是一个个单词（英文为单词，中文为词汇），将单词表示成计算机能够理解的符号是解决自然语言处理问题的基础
skyseezhang123·2022-10-24 18:08
上一页 40 41 42 43 44 45 46 47 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他