李宏毅机器学习课程笔记第45页

【深度学习】05-01-Transformer-李宏毅老师21&22深度学习课程笔记

Transformer总结Sequence-to-sequence（Seq2seq）适用任务恰当任务：语音识别恰当任务：机器翻译恰当任务：语音翻译恰当任务：语音合成恰当任务：聊天机器人恰当任务：自然语言处理硬解任务：文法分析硬解任务：多标签分类硬解任务：目标检测Sequence-to-sequence（Seq2seq）EncoderTransformer'sEncoder原始论文设计Transfo

暖焱·2022-10-24 18:33

2019年CS224N课程笔记-Lecture 8: MachineTranslation seq2seq Attention

资源链接：https://www.bilibili.com/video/BV1r4411本节课主要介绍了机器翻译、seq2seqtoseq2seq和注意力机制。正课内容机器翻译的任务机器翻译(MT)是将一个句子x从一种语言(源语言)转换为另一种语言(目标语言)的句子y的任务，如下图：早期的机器翻译始于1950s，主要是俄语->英语，起因是冷战，系统主要是基于规则的，使用双语词典来讲俄语单词映射为对

任菜菜学编程·2022-10-24 18:31

李宏毅2021春季机器学习课程笔记7： Seq2seq & Transformer

文章目录1.Seq2seq2.Encoder2.1Block2.Decoder2.1Autoregressive（AT）2.2Non-autoregressive（NAT）2.3Crossattention4.Training4.1CopyMechanism4.2GuidedAttention4.3BeamSearch4.4Crossentropy&BLEUscore4.5ScheduledSam

Andy in boots·2022-10-24 18:00

李宏毅机器学习笔记【未完】

李宏毅2021/2022春机器学习课程【《2021机器学习-李宏毅》学习笔记】一、机器学习1.机器学习基本概念找一个函数。深度学习：使用类神经网络的函数。可以有各式各样的输入：向量，矩阵（如图像），序列（如语音，文本）；也可以有各式各样的输出：数值（regression），类别（classification），文本图像…函数类别Regression（回归）：输出是一个数值（scalar）Class

AbyssssssssssS·2022-10-24 18:30

强化学习课程笔记（二）——马尔科夫决策过程和动态规划寻找最优策略

参考材料1.强化学习入门课程(英文)https://www.bilibili.com/video/av372950482.课程对应知乎讲解https://zhuanlan.zhihu.com/reinforce3.强化学习（莫烦）https://www.bilibili.com/video/BV13W411Y75P4.《强化学习入门——从原理到实践》-叶强第二章马尔科夫决策过程当环境状态是完全可观

小郁同学·2022-10-23 17:18

计算机网络课程笔记--------- 网络层笔记

网络层网络层的功能路由路由与转发路由算法层次路由IPv4IPv4分组总结IPv4地址IP地址重要特点与疑问点子网划分与子网掩码子网掩码CIDRAPRICMP路由协议路由选择协议RIPOSPF网络层设备路由器该内容是计算机网络中最重要的一章了（对于考试来说）。核心考点子网划分和无分类编制CIDR路由与转发，各种路由算法IP地址的分类、IP数据报格式、NAT有时候根本没有明确定义过这些协议的在网络体系

落春只在无意间·2022-10-23 12:19

李宏毅机器学习2022春季-第五课和HW5

李宏毅2022课程视频全部以线上视频的形式给出（已经全部录好，你可以选择短时间全部学完），上课时间会直播讲解额外的内容（可以不听）和作业（建议一定要做），目前已更新到作业五。第五课主要内容是transformer，是目前自然语音处理、语音处理，甚至是图像处理中使用非常多的网络架构，详细内容见课程视频。课程视频：b站视频号：机器学习手艺人网址：https://www.bilibili.com/vid

机器学习手艺人·2022-10-19 19:13

2022李宏毅机器学习深度学习学习笔记第三周--transformer

文章目录摘要一、transformer的引入怎么做seq2seq模型encoder的架构decoderNon-autoregressive(NAT)二、总结摘要本文介绍的内容是transformer（全自注意力网络），它主要分成两块，encoder和decoder，并对encoder和decoder的架构分别作了解释，通过对比encoder和decoder的架构的不同之处，介绍了maskedsel

hehehe2022·2022-10-19 19:42

李宏毅机器学习笔记——Transformer

李宏毅机器学习笔记——Transformer本章主要是介绍了Transformer(全自注意力网络)：1.通过sequence-to-sequence模型中的RNN存在问题——不能并行计算，CNN替换可以解决一部分问题

NLP小白+·2022-10-19 19:41

oracle量子,量子计算

这是量子计算的课程笔记，教材是:MichaelA.Nielsen,IsaacL.Chuang.QuantumComputationandQuantumInformation推荐入门和实践向的书有:付鹏,

K8S技术社区·2022-10-16 13:39

22张图全解深度学习知识，建议收藏

这不仅仅是一份课程笔记，

视学算法·2022-10-15 07:27

哈佛大学CS50课程笔记--C语言，源代码，编译器（1）

当你着手去完成一件属于你自己的工程，或者参阅他人现在的作品，参考工程设计书中提到的无数链接，至关重要的一点是，你必须让它工作，然后再继续下一环节。如果你仅仅干坐着，不费吹灰之力，凭空幻想我可以把这个项目搞定，你会想得发疯的。也许你会写出一点东西出来，可能会有一点点错误，紧接着那或又出现一点小错误，这些小错误一点一点地堆积起来，直到你运行整个项目。程序设计，只是一些让问题更简单，更容易的小技巧。今天

组煮珠竹·2022-10-15 01:52

【李宏毅机器学习2021】Task01 机器学习介绍

【李宏毅机器学习2021】本系列是针对datawhale《李宏毅机器学习-2022》的学习笔记。本次是对机器学习介绍的学习总结。

王多头发·2022-10-14 16:09

C语言单链表实现初始化、创建、增、删、查等基本操作（详细）

提示：文章参考王道的课程，相当于课程笔记目录一、单链表的定义及初始化1、定义2、初始化1)不带头结点的单链表2)带头节的单链表二、单链表插入和删除1)插入1、按位序插入（带头结点）2、按位插入（不带头结点

莫浅子·2022-10-13 07:58

自注意力机制（self-attention）

B站视频-李宏毅机器学习2021-自注意力机制1.要解决的问题当把输入看成一个向量，输出是数值或者类别。但是如果遇到更复杂的问题呢？假设输入是多个向量，而且数目不固定，要怎么处理呢？

oyou-2021·2022-10-12 22:31

李沐《动手学深度学习》课程笔记：00预告、01课程安排、02深度学习介绍

目录00预告01课程安排02深度学习介绍00预告学习深度学习关键是动手深度学习是人工智能最热的领域核心是神经网络应该像学习Python/C++一样学习深度学习01课程安排目标介绍深度学习经典和最新模型：LeNet,ResNet,LSTM,BERT,...机器学习基础：损失函数、目标函数、过拟合、优化实践：使用Pytorch实现介绍的知识点；在真实数据上体验算法效果内容深度学习基础-线性神经网络，多

feiwen110·2022-10-11 14:43

2020李宏毅机器学习笔记-More about Auto-encoder

目录摘要1.MoreaboutAuto-Encoder1.1Whatisgoodembedding1.2BeyondReconstruction：Discriminator2.SequentialData2.1Skipthought2.2Quickthought2.3ContrastivePredictiveCoding(CPC)3.FeatureDisentangle(特征解耦)3.1Featu

ZN_daydayup·2022-10-10 10:36

李宏毅机器学习28——more about auto-encoder

摘要：上节课讲了auto-encoder，这节课更详细的学习auto-encoder。主要从两个角度来学习。一是衡量encoder好坏的其他方法。与minimizereconstructionerror不同，这里引入了判别式模型，来衡量embedding和输入的密切程度。通过训练encoder中的参数和判别式模型中的参数，来找到最合适的encoder。二是对embedding的解释。为了让embe

zeng-233·2022-10-10 10:35

李宏毅机器学习27—Unsupervised learning auto-encoder

Unsupervisedlearningauto-encoder摘要：auto-encoder是针对无监督学习，缺失label的数据无法训练而发明的一种方法，简单来说，就是将数据转换成code，再将code转换成数据，minimize前后数据的差别，进而达到降维的目的当auto-encoder有多个隐藏层时，就转换成了deepauto-encoder，deepauto-encoder会比一般的PC

zeng-233·2022-10-10 10:04

2020李宏毅机器学习笔记——22.More about Auto-encoder（自动编码器）

MoreaboutAuto-encoder文章目录摘要1.（最小化重构误差）minimizingreconstructionerror1.1回顾Auto-encode2.评估encoder2.1Whatisgoodembedding？2.2BeyondReconstruction：Discriminator2.3Typicalauto-encoderisaspecialcase3.auto-enc

HSR CatcousCherishes·2022-10-10 10:03

李宏毅机器学习2016 第十四讲深度自编码器

视频链接：李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩课程资源：Hung-yiLee课程相关PPT已经打包命名好了：链接：https://pan.baidu.com/s/1c3Jyh6S

Joe-Peng_hitsz·2022-10-10 10:01

2021李宏毅机器学习课程笔记——Auto Encoder

注：这个是笔者用于期末复习的一个简单笔记，因此难以做到全面详细，有疑问欢迎大家在评论区讨论https://speech.ee.ntu.edu.tw/~hylee/ml/ml2021-course-data/auto_v8.pptxI.BasicIdea简单来说，AutoEncoder就是一个Encoder+Decoder的架构。Encoder负责将图片给编码为向量，而Decoder负责将向量给解码

xiongxyowo·2022-10-10 10:00

李宏毅机器学习笔记——自编码器(Auto-encoder)

概念自编码器（autoencoder,AE）是一类在半监督学习和非监督学习中使用的人工神经网络（ArtificialNeuralNetworks,ANNs），其功能是通过将输入信息作为学习目标，对输入信息进行表征学习（representationlearning）。自编码器包含编码器（encoder）和解码器（decoder）两部分。Self-supervisedLearning自监督学习self

vincewm·2022-10-10 10:00

李宏毅机器学习（八）自编码器（Auto-encoder）

前情提要什么自监督学习？做不需要标注资料的任务，比如做填空题，比如预测下一个任务！这个时候我们只需要对在自监督中训练的模型进行fine-tune就可以用在下游任务中了！但是在不需要标注的数据之前呢，在BERT、self-supervisedlearning之前有一个工具叫做Auto-Encoder！也是不需要标注的数据的。Auto-Encoder怎么运作的？它是一个无监督的，不需要任何标注资料的任

追赶早晨·2022-10-10 10:58

李宏毅机器学习笔记第15周_自编码器（Auto-encoder）

文章目录前言一、BasicIdeaofAuto-encoder二、FeatureDisentanglement三、DiscreteLatentRepresentation四、MoreApplications总结前言自编码器（Auto-encoder）是一种能够通过无监督学习，学习到输入数据高效表示的人工神经网络。本文会简要地说明什么是自编码器（Auto-encoder），以及会介绍到自编码器（Au

MoxiMoses·2022-10-10 10:28

2021李宏毅机器学习笔记--19 unsupervised learning--Deep Auto-encoder

2021李宏毅机器学习笔记--19unsupervisedlearning--DeepAuto-encoder摘要一、Auto-encoder简介二、与PCA的联系三、DeepAuto-encoder四

guoxinxin0605·2022-10-10 10:51

【李宏毅机器学习】自编码器auto-encoder

文章目录一、auto-encoder二、自编码器的应用2.1FeatureDisentangle2.2TextasRepresentation（学会产生摘要）2.3AnomalyDetection（欺诈检测）三、HW8：FCNauto-encoder四、VAEs在推荐系统的应用Reference附：时间安排一、auto-encoderautoencoder是一个基本的生成模型，以encoder-d

山顶夕景·2022-10-10 10:49

06 卷积神经网络CNN-学习笔记-李宏毅深度学习2021年度

05Classification-学习笔记-李宏毅深度学习2021年度下一篇：07SelfAttention-学习笔记-李宏毅深度学习2021年度本节内容及相关链接CNN的相关概念视频链接PPT链接课堂作业课程笔记卷积神经网络

iioSnail·2022-10-10 09:15

数据挖掘课程笔记--分类（3）最近邻分类

一、最小距离分类在统计模式识别中，可以采用最小距离分类器，它是计算待分类的样本到各个已知类别的中心（通常是训练集中同类样本的重心）的距离，将其划分到据它最近的类别中去，这可以看做是一种最近邻的分类规则。二、最近邻分类器最近邻分类器是在最小距离分类的基础上进行拓展，将训练集中的每一个样本作为判别依据，找出和测试样例属性比较接近的所有训练样例，这些训练样例被称为最近邻，可以用来确定测试样例的类标号。这

嘤桃小团子·2022-10-10 07:33

京东T7架构师手写的10万字Spring Boot详细学习笔记

内容介绍课程笔记均基于京东大牛在实际项目中剥离出来的

Java技术那些事儿·2022-10-09 22:33

AI学习路线

spm_id_from=333.337.search-card.all.click经典的李宏毅机器学习课程，学完就很厉害了。

出尘呢·2022-10-07 19:14

【Python 小白到精通 | 课程笔记】第三章：数据处理就像侦探游戏（函数和包）

文章目录写在前面划分学习内容学到的一些操作（简单的罗列）保留问题课后作业1、写出1960年GDP最高的国家：有一行是World不是国家2、求多个年份GDP前三的国家3、选择几个你感兴趣的国家，画合适的图表示他们在60年间的GDP变化4、自选问题：这60年间，GDP增长前三的国家（或组织）是哪些？经验总结参考资料（仅部分）写在前面AlStudio课程地址：第三章：数据处理就像侦探游戏（函数和包）第三

清风莫追·2022-10-07 07:26

全连接神经网络、卷积神经网络

基于李宏毅老师的机器学习课程，图片和内容也是来自老师的课程笔记整理(科学上网，然后这里)。全连接神经网络介绍深度学习有三个步骤选择一个合适的神经

Yruner·2022-10-05 08:12

【python小白到精通 | 课程笔记】第一章初识Python（这几个小错误你会犯吗？）

文章目录【python小白到精通】第一章初识Python数据类型解密和加密课后作业，错题记录第一组，关于赋值、变量和print第二组，关于字符串第四组，关于index（索引）操作第五组，关于list（列表）的操作第六组，关于dictionary（字典）的操作【python小白到精通】第一章初识Python数据类型Number(数字)String(字符串)List(列表)列表里面甚至可以再装列表Tu

清风莫追·2022-10-03 07:14

【Python 小白到精通 | 课程笔记】第二章：图灵和恩尼格马密码机2（文本分析）

Alstudio课程地址：飞桨AIStudio-人工智能学习实训社区(baidu.com)Python小白到精通——第二章：图灵和恩尼格马密码机2（文本分析）今天的任务：破解密钥原以为是像昨天一样，用已有的密码表，转换一下文本就好了。没想到，今天没有密码表！当我听到说用统计和对比字母出现的频率的方法来破解密码时，我心里浮现出两个字：”天才！”，怎么别人就可以这么聪明呢？读取文件查看文件列表操作#请

清风莫追·2022-10-03 07:34

吴恩达机器学习课程笔记——第一周

吴恩达机器学习课程笔记文章目录吴恩达机器学习课程笔记第一周一、机器学习是什么？

片叶云舟·2022-09-29 19:20

吴恩达机器学习系列课程笔记——第十三章：聚类(Clustering)

13.1无监督学习：简介https://www.bilibili.com/video/BV164411b7dx?p=76在这个视频中，我将开始介绍聚类算法。这将是一个激动人心的时刻，因为这是我们学习的第一个非监督学习算法。我们将要让计算机学习无标签数据，而不是此前的标签数据。那么，什么是非监督学习呢？在课程的一开始，我曾简单的介绍过非监督学习，然而，我们还是有必要将其与监督学习做一下比较。在一个典

Lishier99·2022-09-26 22:52

2022吴恩达机器学习第二周

吴恩达老师机器学习课程笔记-第二周-知乎机器学习笔记Markdown文件(视频下载地址公布)：https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes

nousefully·2022-09-26 22:47

Java设计模式精讲—课程笔记5（第9章原型模式 + 第10章外观模式 + 第11章装饰者模式）

Java设计模式精讲—课程笔记59原型模式讲解+Coding+源码解析9.1原型模式讲解9.2原型模式coding9.3原型模式coding—克隆破坏单例9.4原型模式源码解析10外观模式讲解+Coding

江南土豆·2022-09-25 19:27

CS231n课程笔记：Leture5 Convolutional Neural Networks

目录convolutionPoolingconvolutionhowtovisualizethesefeatures？ifstride2whataboutstride3？zeropadtheborderspaddingvalue*2+NIfyougotanyquestionshere，youcanlearnfromthisblogindetails(21条消息)CNN中卷积核数和输出通道数的关系_

Lyttonkeepgoing·2022-09-24 14:47

Java SE 025 单例模式详解

JavaSE025单例模式详解前言：此笔记为圣思园张龙老师讲述的java视频课程笔记，自己看视频学习时记录的，用于积累与复习，在此分享给学习软件编程的兄弟姐妹们，以供参考。

清风百草·2022-09-22 16:11

【Pytorch深度学习实践】B站up刘二大人之BasicCNN & Advanced CNN -代码理解与实现(9/9)

这是刘二大人系列课程笔记的最后一个笔记了，介绍的是BasicCNN和AdvancedCNN，我做图像，所以后面的RNN我可能暂时不会花时间去了解了；写在前面：本节把基础个高级CNN放在一起记录了，注意查看对应关系

nemo_0410·2022-09-21 07:49

李宏毅机器学习26—Anomaly Detection

AnomalyDetection异常侦测这节课学习了异常侦测，通俗来讲，就是让机器识别出与训练集不同的异常输入。anomalydetection的主要想法就是将正常数据与异常数据进行分类anomalydetection分为两大类：训练数据有label和训练数据无label。对于有label这类，做法是将x输入给分类器，得到一个信心分数，用信心分数的大小，来评价数据是否异常。同时，针对不同的需求，评

zeng-233·2022-09-20 16:52

2020李宏毅机器学习笔记——24. Anomaly Detection（异常侦测）

AnomalyDetection（异常检测）文章目录摘要1.介绍AnomalyDetection1.1ProblemFormulation（问题简要）1.2WhatisAnomaly?1.3Applications2.怎么做AnomalyDetection2.1BaseIdea—BinaryClassification（二元分类器）2.2AnomalyDetection—Categories（两种

HSR CatcousCherishes·2022-09-20 16:21

2021李宏毅机器学习笔记--21 Anomaly Detection

2021李宏毅机器学习笔记--21AnomalyDetection（异常侦测）摘要一、问题描述二、Anomaly异常三、AnomalyDetection（异常侦测）做法3.1BinaryClassification

guoxinxin0605·2022-09-20 16:17

MyBatisPlus基础

MyBatisPlus内容除了锁，代码生成器等内容，其余均有所涉猎，且较为基础~~~~这是看黑马视频时的课程笔记~1，MyBatisPlus入门案例与简介先体会下它相对于mybatis简化在哪，然后再学习它是什么

马航行·2022-09-20 08:17

层次分析法及matlab代码

数学建模算法（一）层次分析法Theanalytichierarchyprocess(AHP)【清风数学建模课程笔记】文章目录数学建模算法（一）层次分析法Theanalytichierarchyprocess

小风啊吼吼吼·2022-09-20 07:20

Udacity机器人软件工程师课程笔记（二十一) - 对点云进行集群可视化 - 聚类的分割 - K-means|K均值聚类, DBSCAN算法

聚类的分割1.K-均值聚类（1）K-均值聚类介绍k均值聚类算法（k-meansclusteringalgorithm）是一种迭代求解的聚类分析算法，其步骤是随机选取K个对象作为初始的聚类中心，然后计算每个对象与各个种子聚类中心之间的距离，把每个对象分配给距离它最近的聚类中心。聚类中心以及分配给它们的对象就代表一个聚类。每分配一个样本，聚类的聚类中心会根据聚类中现有的对象被重新计算。这个过程将不断重

Stan Fu·2022-09-16 06:23

课程笔记：第13章算法相关面试问题

字符串反转Q：给定字符串"Hello,world"，实现将其反转输出结果：dlrow,olleH。解决思路：使用两个指针，一个指向字符串的首部begin，一个指向字符串尾部end，遍历过程逐渐交换两个指针指向的字符，结束条件begin大于等于end，以下分别为OC实现和C实现过程oc代码实现-(void)viewDidLoad{[superviewDidLoad];//Doanyadditiona

飘摇的水草·2022-09-10 18:13

深度学习Deep Learning学习笔记——卷积神经网络CNN

笔记参考李宏毅机器学习课程一、CNN基本结构二、CNN用于图像处理只需要较少的参数就能进行影像处理。

待落灯花·2022-09-10 07:20

推荐频道

李宏毅机器学习课程笔记