李宏毅机器学习知识梳理第23页

2021李宏毅机器学习笔记--14 conditional generation by RNN & attention

2021李宏毅机器学习笔记--14ConditionalGenerationbyRNN&Attention摘要一、Generation1.1Generation1.2ConditionalGeneration

guoxinxin0605·2022-10-28 05:58

2021李宏毅机器学习笔记--22 Generative Adversarial Network 01

@[TOC](2021李宏毅机器学习笔记–22GenerativeAdversarialNetwork01(GAN,生成式对抗网络))摘要GAN是建立于神经网络的基础上的，其核心思想是“生成”与“对抗”

guoxinxin0605·2022-10-28 05:58

【李宏毅机器学习】TransFormer框架基础储备知识（p51）学习笔记 | 全程手码，放心食用

全文总结于哔哩大学的视频：李宏毅2020机器学习深度学习(完整版)国语2020版课后作业范例和作业说明在github上：点击此处李宏毅上传了2020版本的机器学习视频和吴恩达的CS229机器学习相比，中文版本的机器学习显得亲民了许多，李宏毅的机器学习是英文的ppt+中文讲解，非常有利于大家入门。吴恩达的CS229中偏向于传统机器学习（线性回归、逻辑回归、NaiveBayes、决策树、支持向量机等）

running snail szj·2022-10-24 18:43

NLP-D6-李宏毅机器学习L3hw-L4self-attention-L5seq2seq(Transformer)

昨天的进度被一些意外的事情打乱了，而且搞得心烦意乱，但是没关系！！！留得青山在，不怕没柴烧，昨天第一次给同学讲解ML，发现了自己不牢固的知识，感觉很好！----0553开始预习hw3的slides&&看课。----------0609看了作业要求，感觉很干！！！打算边吃饭边看。------0628吃完了，产生了问题1、交叉验证不会使模型提前见到训练集嘛？我自己的想法：我们本来做的就是用val调mo

甄小胖·2022-10-24 18:12

2020李宏毅机器学习笔记——19. Transformer(全自注意力网络)

摘要：本章主要是介绍了Transformer(全自注意力网络)，首先通过sequence-to-sequence模型中的RNN存在问题——不能并行计算，CNN替换可以解决一部分问题，但也存在缺陷。是便引入了Self-AttentionLayer来替代RNN的sequence-to-sequence模型——Transformer，之后讲解Self-Attention的基本原理与具体过程。接着增加了一

HSR CatcousCherishes·2022-10-24 18:40

2022李宏毅机器学习深度学习学习笔记第五周--BERT

文章目录前言一、pre-train模型二、Howtofine-tune总结前言介绍什么是pre-train模型，有了模型后怎么做fine-tune以及pre-train模型怎么被训练出来。一、pre-train模型pre-train模型希望把输入的每一个token表示成一个embeddingvector，vector包含了token的语义，意思相近的token要有比较相近的embedding，em

hehehe2022·2022-10-24 18:36

2021/2022李宏毅机器学习笔记-Transform

Transformer就是一个Sequence-to-sequence的model,他的缩写,我们会写做Seq2seq,那Sequence-to-sequence的model,又是什么呢？我们之前在讲inputasequence的,case的时候我们说input是一个sequence,那output有几种可能●一种是input跟output的长度-样,这个是在作业二的时候做的●有一个case是ou

nousefully·2022-10-24 18:04

李宏毅机器学习笔记【未完】

李宏毅2021/2022春机器学习课程【《2021机器学习-李宏毅》学习笔记】一、机器学习1.机器学习基本概念找一个函数。深度学习：使用类神经网络的函数。可以有各式各样的输入：向量，矩阵（如图像），序列（如语音，文本）；也可以有各式各样的输出：数值（regression），类别（classification），文本图像…函数类别Regression（回归）：输出是一个数值（scalar）Class

AbyssssssssssS·2022-10-24 18:30

李宏毅机器学习2022春季-第五课和HW5

李宏毅2022课程视频全部以线上视频的形式给出（已经全部录好，你可以选择短时间全部学完），上课时间会直播讲解额外的内容（可以不听）和作业（建议一定要做），目前已更新到作业五。第五课主要内容是transformer，是目前自然语音处理、语音处理，甚至是图像处理中使用非常多的网络架构，详细内容见课程视频。课程视频：b站视频号：机器学习手艺人网址：https://www.bilibili.com/vid

机器学习手艺人·2022-10-19 19:13

2022李宏毅机器学习深度学习学习笔记第三周--transformer

文章目录摘要一、transformer的引入怎么做seq2seq模型encoder的架构decoderNon-autoregressive(NAT)二、总结摘要本文介绍的内容是transformer（全自注意力网络），它主要分成两块，encoder和decoder，并对encoder和decoder的架构分别作了解释，通过对比encoder和decoder的架构的不同之处，介绍了maskedsel

hehehe2022·2022-10-19 19:42

李宏毅机器学习笔记——Transformer

李宏毅机器学习笔记——Transformer本章主要是介绍了Transformer(全自注意力网络)：1.通过sequence-to-sequence模型中的RNN存在问题——不能并行计算，CNN替换可以解决一部分问题

NLP小白+·2022-10-19 19:41

基于单片机内部的ADC知识系统总结

基于单片机内部的ADC，相关知识梳理编写这篇文章的初衷一、什么是ADC？

printf_warm·2022-10-19 07:18

梧桐朝阳 015

015考试结束“哎，早上考完，咱们就可以撤了”唐思可看着这满满一页A4纸的知识梳理，心中不由的佩服那两大佬，她两是怎么记下来的。“太羡慕你们艺术系了，就这一场考试课，还这么早就考完了。”

一木荒唐·2022-10-18 23:54

人工智能学习梳理和总结

入门篇人工智能学习心得人工智能入门书籍推荐深度学习框架的比较（1）深度学习的框架比较（2）深度学习框架比较（3）Python篇Python基础自测题(上）Python基础自测题答案和基础知识梳理（上）Python

喜欢打酱油的老鸟·2022-10-17 11:23

计算机图形图像知识梳理,计算机图形学知识点总结

第一章计算机图形学概论1．比较计算机图形学与图象处理技术相同点和不同点。ComputerGraphics(计算机图形学)和ComputerVision(计算机图像识别)是同一过程的两个方向。ComputerGraphics将抽象的语义信息转化成图像，ComputerVision从图像中提取抽象的语义信息。ImageProcessing(图像处理)探索的是从一个图像或者一组图像之间的互相转化和关系，

weixin_39554434·2022-10-14 20:01

【李宏毅机器学习2021】Task01 机器学习介绍

【李宏毅机器学习2021】本系列是针对datawhale《李宏毅机器学习-2022》的学习笔记。本次是对机器学习介绍的学习总结。

王多头发·2022-10-14 16:09

自注意力机制（self-attention）

B站视频-李宏毅机器学习2021-自注意力机制1.要解决的问题当把输入看成一个向量，输出是数值或者类别。但是如果遇到更复杂的问题呢？假设输入是多个向量，而且数目不固定，要怎么处理呢？

oyou-2021·2022-10-12 22:31

计算机知识梳理——缓存穿透、缓存击穿和缓存雪崩的区别和解决方案

https://blog.csdn.net/kongtiao5/article/details/82771694一、缓存处理流程前台请求，后台先从缓存中取数据，取到直接返回结果，取不到时从数据库中取，数据库取到更新缓存，并返回结果，数据库也没取到，那直接返回空结果。二、缓存穿透描述：缓存穿透是指缓存和数据库中都没有的数据，而用户不断发起请求，如发起为id为“-1”的数据或id为特别大不存在的数据。

Slayer_Zhao·2022-10-12 19:20

【鸟哥杂谈】物联网体系知识梳理

忘记过去，超越自己❤️博客主页单片机菜鸟哥，一个野生非专业硬件IOT爱好者❤️❤️本篇创建记录2022-10-13❤️❤️本篇更新记录2022-10-13❤️欢迎关注点赞收藏⭐️留言此博客均由博主单独编写，不存在任何商业团队运营，如发现错误，请留言轰炸哦！及时修正！感谢支持！ArduinoESP8266教程累计帮助过超过1W+同学入门学习硬件网络编程，入选过选修课程，刊登过无线电杂志【鸟哥杂谈】物

单片机菜鸟哥·2022-10-11 15:20

2020李宏毅机器学习笔记-More about Auto-encoder

目录摘要1.MoreaboutAuto-Encoder1.1Whatisgoodembedding1.2BeyondReconstruction：Discriminator2.SequentialData2.1Skipthought2.2Quickthought2.3ContrastivePredictiveCoding(CPC)3.FeatureDisentangle(特征解耦)3.1Featu

ZN_daydayup·2022-10-10 10:36

李宏毅机器学习28——more about auto-encoder

摘要：上节课讲了auto-encoder，这节课更详细的学习auto-encoder。主要从两个角度来学习。一是衡量encoder好坏的其他方法。与minimizereconstructionerror不同，这里引入了判别式模型，来衡量embedding和输入的密切程度。通过训练encoder中的参数和判别式模型中的参数，来找到最合适的encoder。二是对embedding的解释。为了让embe

zeng-233·2022-10-10 10:35

李宏毅机器学习27—Unsupervised learning auto-encoder

Unsupervisedlearningauto-encoder摘要：auto-encoder是针对无监督学习，缺失label的数据无法训练而发明的一种方法，简单来说，就是将数据转换成code，再将code转换成数据，minimize前后数据的差别，进而达到降维的目的当auto-encoder有多个隐藏层时，就转换成了deepauto-encoder，deepauto-encoder会比一般的PC

zeng-233·2022-10-10 10:04

2020李宏毅机器学习笔记——22.More about Auto-encoder（自动编码器）

MoreaboutAuto-encoder文章目录摘要1.（最小化重构误差）minimizingreconstructionerror1.1回顾Auto-encode2.评估encoder2.1Whatisgoodembedding？2.2BeyondReconstruction：Discriminator2.3Typicalauto-encoderisaspecialcase3.auto-enc

HSR CatcousCherishes·2022-10-10 10:03

李宏毅机器学习2016 第十四讲深度自编码器

视频链接：李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩课程资源：Hung-yiLee课程相关PPT已经打包命名好了：链接：https://pan.baidu.com/s/1c3Jyh6S

Joe-Peng_hitsz·2022-10-10 10:01

2021李宏毅机器学习课程笔记——Auto Encoder

注：这个是笔者用于期末复习的一个简单笔记，因此难以做到全面详细，有疑问欢迎大家在评论区讨论https://speech.ee.ntu.edu.tw/~hylee/ml/ml2021-course-data/auto_v8.pptxI.BasicIdea简单来说，AutoEncoder就是一个Encoder+Decoder的架构。Encoder负责将图片给编码为向量，而Decoder负责将向量给解码

xiongxyowo·2022-10-10 10:00

李宏毅机器学习笔记——自编码器(Auto-encoder)

概念自编码器（autoencoder,AE）是一类在半监督学习和非监督学习中使用的人工神经网络（ArtificialNeuralNetworks,ANNs），其功能是通过将输入信息作为学习目标，对输入信息进行表征学习（representationlearning）。自编码器包含编码器（encoder）和解码器（decoder）两部分。Self-supervisedLearning自监督学习self

vincewm·2022-10-10 10:00

李宏毅机器学习（八）自编码器（Auto-encoder）

前情提要什么自监督学习？做不需要标注资料的任务，比如做填空题，比如预测下一个任务！这个时候我们只需要对在自监督中训练的模型进行fine-tune就可以用在下游任务中了！但是在不需要标注的数据之前呢，在BERT、self-supervisedlearning之前有一个工具叫做Auto-Encoder！也是不需要标注的数据的。Auto-Encoder怎么运作的？它是一个无监督的，不需要任何标注资料的任

追赶早晨·2022-10-10 10:58

李宏毅机器学习笔记第15周_自编码器（Auto-encoder）

文章目录前言一、BasicIdeaofAuto-encoder二、FeatureDisentanglement三、DiscreteLatentRepresentation四、MoreApplications总结前言自编码器（Auto-encoder）是一种能够通过无监督学习，学习到输入数据高效表示的人工神经网络。本文会简要地说明什么是自编码器（Auto-encoder），以及会介绍到自编码器（Au

MoxiMoses·2022-10-10 10:28

2021李宏毅机器学习笔记--19 unsupervised learning--Deep Auto-encoder

2021李宏毅机器学习笔记--19unsupervisedlearning--DeepAuto-encoder摘要一、Auto-encoder简介二、与PCA的联系三、DeepAuto-encoder四

guoxinxin0605·2022-10-10 10:51

【李宏毅机器学习】自编码器auto-encoder

文章目录一、auto-encoder二、自编码器的应用2.1FeatureDisentangle2.2TextasRepresentation（学会产生摘要）2.3AnomalyDetection（欺诈检测）三、HW8：FCNauto-encoder四、VAEs在推荐系统的应用Reference附：时间安排一、auto-encoderautoencoder是一个基本的生成模型，以encoder-d

山顶夕景·2022-10-10 10:49

AI学习路线

spm_id_from=333.337.search-card.all.click经典的李宏毅机器学习课程，学完就很厉害了。

出尘呢·2022-10-07 19:14

vue3部分知识梳理

1、script-setup模式中父组件获取子组件的数据我们可以使用全局编译器宏的defineExpose宏，将子组件中需要暴露给父组件获取的参数，通过{key:vlaue}方式作为参数即可，父组件通过模版ref方式获取子组件实例，就能获取到对应值：//子组件letname=ref("pingan8787")defineExpose({name});//显式暴露的数据，父组件才可以获取//父组件l

·2022-09-28 15:47

第九届大唐杯省赛知识梳理-5G+垂直行业应用（20%）

5G+垂直行业应用（20%）掌握5G+车联网基本概念及应用，掌握5G车联网网络架构和主流部署方案，掌握车路协同信息通信技术标准与实现，掌握基于5G技术的智能网联汽车场景解决方案。掌握基于5G的人工智能算法应用，掌握5G+人工智能算法在垂直行业领域应用的创新方法。一、5G车联网基本概念（频段），优势，挑战两大阵营：（1）DSRC——较为成熟的IEEE主导的方案，车辆专用短程的通信技术，端到端直接通行

m0_58547949·2022-09-26 20:34

从零到亿系统性的建立前端构建知识体系✨（开篇）

对我来言，主要有以下原因：个人成长：构建体系作为前端工程化中的重要一环，有必要进行全面的知识梳理和查漏补缺，同时也是对我这几年工作的总结和复盘工作需要：我目前所处的团队是做CICD流程相关的，涉及到大量前端工程化相关的知识

·2022-09-26 14:01

C++ 知识梳理——AUTO

需要改变迭代对象for(auto&i:s)strings="hello";for(auto&i:s)i=toupper(i);//改变成大写，影响s的值cout#includeusingnamespacestd;intmain(){mapstudent;student.insert(pair(2,"li"));student.insert(pair(1,"wang"));student.inser

cccdddbbb88·2022-09-24 09:54

C++学习笔记（零）——C++重要知识梳理

本专栏对C++最基本的语法，比如数据类型、分支、循环、关系表达式、逻辑运算符等十分基础的知识不再加以整理总结，以后若是有需要，会再重点总结。本专栏旨在对C++中高阶技术进行梳理。按照C++语言的特性，我们的内容也分为三个部分。第一部分是针对C++的过程性编程相关的知识点，比如指针、数组、引用、函数、内存模型等，这一部分是C++的基础语法中比较复杂的部分，也是后面两部分内容的基础。第二部分是针对C+

Undergoer_TW·2022-09-23 07:16

SpringBoot核心知识梳理

目录基础篇一.SpringBoot的自动配置原理是什么?二.SpringBoot中如何解决跨域问题?源码篇四.源码剖析-自动配置SpringBoot到底是如何进行自动配置的，都把哪些组件进行了自动配置？@SpringBootApplication@SpringBootConfiguration@EnableAutoConfiguration@AutoConfigurationPackage六.在S

lzy-烈阳·2022-09-21 17:09

李宏毅机器学习26—Anomaly Detection

AnomalyDetection异常侦测这节课学习了异常侦测，通俗来讲，就是让机器识别出与训练集不同的异常输入。anomalydetection的主要想法就是将正常数据与异常数据进行分类anomalydetection分为两大类：训练数据有label和训练数据无label。对于有label这类，做法是将x输入给分类器，得到一个信心分数，用信心分数的大小，来评价数据是否异常。同时，针对不同的需求，评

zeng-233·2022-09-20 16:52

2020李宏毅机器学习笔记——24. Anomaly Detection（异常侦测）

AnomalyDetection（异常检测）文章目录摘要1.介绍AnomalyDetection1.1ProblemFormulation（问题简要）1.2WhatisAnomaly?1.3Applications2.怎么做AnomalyDetection2.1BaseIdea—BinaryClassification（二元分类器）2.2AnomalyDetection—Categories（两种

HSR CatcousCherishes·2022-09-20 16:21

2021李宏毅机器学习笔记--21 Anomaly Detection

2021李宏毅机器学习笔记--21AnomalyDetection（异常侦测）摘要一、问题描述二、Anomaly异常三、AnomalyDetection（异常侦测）做法3.1BinaryClassification

guoxinxin0605·2022-09-20 16:17

【机器学习】PCA主成分项目实战：MNIST手写数据集分类

手写数据集分类PCA处理手写数字集1模块加载与数据导入2模型创建与应用手动反爬虫：原博地址https://blog.csdn.net/lys_828/article/details/122651759知识梳理不易

百木从森·2022-09-19 07:04

【操作系统】知识梳理（十二）保护与安全

12.1系统安全的基本概念1.系统安全的内容系统安全性包括三个方面的内容，即物理安全、逻辑安全和安全管理。物理安全是指系统设备及相关设施受到物理保护，使之免遭破坏或丢失;安全管理包括各种安全管理的政策和机制;而逻辑安全则是指系统中信息资源的安全，它又包括以下三个方面:(1)数据机密性。数据机密性是指系统仅允许被授权的用户访问计算机系统中的信息。(2)数据完整性。数据完整性是指系统中所保存的信息既不

Aaron_Liu0730·2022-09-11 11:33

深度学习Deep Learning学习笔记——卷积神经网络CNN

笔记参考李宏毅机器学习课程一、CNN基本结构二、CNN用于图像处理只需要较少的参数就能进行影像处理。

待落灯花·2022-09-10 07:20

网络安全协议SSL的知识梳理

背景在上信息安全课程的时候，经常听到SSL层协议为web安全提供一种安全保障机制，但是该协议的具体操作过程以及对协议的格式不甚了解。现所看论文是对网络安全协议验证方法的研究，并使用CSP（通信顺序进场）语言对SSL协议进行了描述，在对抽象语言进行理解之前，我想首先得理清SSL的具体过程。协议简介安全套接字（SecureSocketLayer，SSL）协议是一种用于Web浏览器与Web服务器之间安全

夏不哉下·2022-09-04 20:08

2020李宏毅机器学习笔记-Unsupervised Learning: Deep Auto-encoder

目录摘要1.Introduction2.ComparewithPCA3.DeepAuto-encoder3.1MultiLayer3.2Visualize4.TextRetrieval4.1Bag-of-word4.2Auto-encoder5.SimilarImageSearch6.CNNasEncoder6.1Unpooling6.2Deconvolution总结和展望摘要文节主要介绍了自编码

ZN_daydayup·2022-08-30 07:35

2020李宏毅机器学习笔记——21. Unsupervised Learning-Deep Auto-encoder(无监督学习之自编码器)

摘要：本章主要是关于自编码器的原理及其应用，自编码器是一种无监督学习方法，可用于数据降维及特征抽取。其中自编码器由编码器（Encoder）和解码器（Decoder）两部分组成。编码器通常对输入对象进行压缩表示，解码器对经压缩表示后的code进行解码重构。Auto-encoder还可以对模型进行预训练，得到好的模型初始化的参数。以及Auto-encoder可以对数据进行降维处理，且降维后的数据可以很

HSR CatcousCherishes·2022-08-30 07:00

UE导入FBX、GLTF模型

最近准备入手一下UE，顺便做一下知识梳理。所以文章可能都是比较粗浅的，对于UE大佬可以忽略。目标主要是实现数字孪生可视化相关，会围绕此目标整理相关的知识点。有兴趣的读者可以关注本人的公众号。

·2022-08-27 19:58

李宏毅机器学习笔记p5-p8：误差和梯度下降

文章目录前言误差Error偏差Bias偏差过大方差Variance方差过大选择平衡偏差和方差的模型N-折交叉验证梯度下降调整学习率1.固定学习率2.自适应学习率——Adagrad随机梯度下降特征缩放梯度下降的理论基础总结前言这篇开始涉及到了我未涉及的领域，也算是机器学习的慢慢深入，虽然知识点是新的，但通过视频和笔记，还是基本可以理解透彻。提示：以下是本篇文章正文内容，下面案例可供参考误差Error

鸿鹄一夏·2022-08-25 07:32

李宏毅机器学习笔记：新版p5-p9网络设计的技巧

文章目录前言局部最小值和鞍点鉴别方法批次batch和动量momentumbatchsmallbatch和largebatchmomentum自动调整学习率warmup分类softmax()分类下所用的loss批次标准化featureNormalizationtesting总结前言在学习完之后，我发现整个前面的学习过程相当于给我们搭建了一整个框架。而这五章的学习，相当于查漏补缺提升，让我们更加熟悉里