李宏毅机器学习知识梳理第15页

李宏毅机器学习之Attack and Defense

李宏毅机器学习之AttackandDefense机器训练出来的模型不光性能要强，还要能够对抗人类的恶意、攻击通过人为地对图片加上噪声，使得分类产生错误。

loserChen.·2023-01-04 09:01

2021李宏毅机器学习笔记--12 attack ML models

2021李宏毅机器学习笔记--12attackMLmodels摘要一、图像模型的攻击1.1原理1.2Constraint1.3参数训练1.4一个例子1.5攻击方法1.5.1FGSM(FastGradientSignMethod

guoxinxin0605·2023-01-04 09:56

李宏毅机器学习笔记(十九)——对ML模型的攻击和防御

文章目录一.背景二.对图像模型进行攻击1.基本思想2.相似度限制3.训练参数4.攻击效果与出现的原因5.更多的新型攻击方式(1).FGSM(2).OnePixelAttack6.面向纯黑箱的攻击三.对语音模型进行攻击1.对ASR和ASV的攻击2.隐藏语音攻击(1).TDI(2).RPG(3).HFA(4).TS四.对模型进行防御1.被动防御2.主动防御一.背景神经网络不仅是要用在研究上，最后更

Unique13·2023-01-04 09:23

李宏毅机器学习（9）

CNNWhyCNNforImageFNN处理图片的缺点需要很多的参数假设有一张尺寸100×100的图片（尺寸已经算很小了），那输入层就有100×100×3=30K个像素，假设第一个隐藏层有1K个神经元（一个神经元包含30K个参数），这就已经需要30M个参数了……该架构中每个神经元就是一个分类器，这是没必要的第一个隐藏层作为最基础的pattern分类器（比如判断有无绿色、边缘等），第二个隐藏层基于第

Baigker·2023-01-02 10:03

2020李宏毅机器学习笔记——18. Recursive Network(递归网络)

摘要：本章主要讲解了RecursiveNetwork(递归网络)的基本原理，首先通过情感分析任务为例来说明递归神经网络（recursiveneuralnetwork）和循环神经网络（recurrentneuralnetwork）的关系，即循环神经网络可以看做递归神经网络的特殊情况，以及Recursive模型与具体的实现过程。接着阐述了RecursiveStructure中functionf的具体设

HSR CatcousCherishes·2023-01-01 20:29

Vue基础语法知识梳理下篇

目录计算属性键盘事件监视属性绑定样式class样式style样式条件渲染v-ifv-show列表渲染v-for指令vue监测data中的数据收集表单数据计算属性定义：要用的属性不存在，要通过已有属性计算得来原理：底层借助了Objcet.defineProperty方法提供的getter和setterget函数什么时候执行？(1).初次读取时会执行一次(2).当依赖的数据发生改变时会被再次调用注：计

·2022-12-31 15:43

自动驾驶规划与控制（一、前言）

正值寒假，时间充裕，所以准备借深蓝学院自动驾驶规划与控制课程将知识梳理、回忆，不懂得地方查找论文，并借博客好好将难点、知识点以及公式完整记录下来，以备后续查阅。

Saurfangg·2022-12-31 09:30

李宏毅机器学习（六）自监督学习（一）

学习内容前情提要BERT与芝麻街这些都是BERT的组件BERT与进击的巨人BERT（340M参数）ELMO（94M）GPT-2（1542M）Megatron（8B）T5（11B）TuringNLG（17billion）GPT-3（170billion）Bert的基本知识前提监督学习：有标签自监督学习：由于没有标签，我们需要将文章的某一部分作为特征，另一部分作为标签，使得特征经过模型后和标签距离更近

追赶早晨·2022-12-30 21:33

百度系强化学习的先导工程知识梳理

本文是使用百度的强化学习框架的前置知识铺垫，梳理了几个必要的python包及其熟悉流程，算是一个百度系强化学习的先导工程知识梳理。

JIMMMY0·2022-12-30 08:52

基于深度学习的恶意代码分类（三）

基于深度学习的恶意代码分类（三）序言下面我们继续对本次报告涉及的相关概念、模型、算法等理论知识进行理论知识梳理。

秃头选拔赛形象大使·2022-12-30 07:54

李宏毅机器学习（四）Spatial Transformer Layer

学习内容架构；目的就是克服CNN的旋转和缩放不变性的缺点的！前情提要CNNisnotinvarianttoscalingandrotation；CNN对缩放和旋转不是不变的；也就是说CNN是变化的，不具有旋转和缩放不变性；因为如果你将某个小狗缩放到一张图片的小部分或者是将3旋转为m，那么CNN可能会给你识别成金拱门；所以怎么消除这个问题呢？添加一个NNlayer！将目标放大！当然，它也是一个neu

追赶早晨·2022-12-29 15:25

【机器学习】多项式回归案例四：员工职位与薪回归模型分析

模型对比3.1.5模型过拟合手动反爬虫，禁止转载：原博地址https://blog.csdn.net/lys_828/article/details/121458428（CSDN博主：Be_melting）知识梳理不易

百木从森·2022-12-27 14:26

2021-08-21

李宏毅机器学习P13深度学习简介DL的发展DL的步骤1.构建model2.设置lossfunction3.调整参数，使得totalloss最小（这样就获得最好的function）深度学习与机器学习反向传播机制深度学习简介

z7mysun·2022-12-26 15:15

2021-08-16

李宏毅机器学习P1-P2P1机器学习介绍P1机器学习介绍机器学习是具有一种学习能力（寻找最好的function）；Regression输出是一个数，Classification输出的是Yes/no或classx

z7mysun·2022-12-26 15:45

2021-08-19

李宏毅机器学习P5-P8P5误差误差的来源BiasVarianceHowtodowitherror?

z7mysun·2022-12-26 15:45

遗传算法GA(Genetic Algorithm)入门知识梳理

一、遗传算法进化论背景知识作为遗传算法生物背景的介绍，下面内容了解即可：种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。个体：组成种群的单个生物。基因(Gene)：一个遗传因子。染色体(Chromosome)：包含一组的基因。生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少

weixin_33704234·2022-12-26 08:56

Coursera机器学习+deeplearning.ai+斯坦福CS231n

日志20170410Coursera机器学习2017.11.28updatedeeplearning台大的机器学习课程：台湾大学林轩田和李宏毅机器学习课程Coursera机器学习Week5：NeuralNetworks

weixin_34005042·2022-12-26 07:34

NLP-D8-李宏毅机器学习---预训练模型问题&adaptation&explainable AI&RL&learningmap

----0648今天还是醒的挺早的，4点50就起床了。在犹豫是去看比赛，还是把老师的课听完。因为还是很想看无监督学习和强化学习的，最后决定先看课叭。看了姜成翰助教关于预训练模型中遇到问题的讲解。一共讲了两个问题，以及相应解决方法：1、数据量小，模型难以fine-tune的问题2、参数量过大问题其中我产生了两个问题：1、promt-tuning和fine-tuning有什么不同？大体来说，原来是多加

甄小胖·2022-12-25 21:31

[Datawhale组队学习|李宏毅机器学习]学习笔记03

本篇笔记包含学习章节：P5误差从哪来P6梯度下降P7梯度下降（用AOE演示）P8梯度下降（用Minecraft演示）目录一、误差的来源二、梯度下降（一）学习率的选择（1）手动调整（2)自适应学习率（3）Adagrad算法（4）随机梯度下降法（5）特征缩放（二）梯度下降法的数学基础（三）梯度下降的限制：局部最优一、误差的来源error来自于bias和variance。关于偏差和方差的认识可以从射箭的

喜欢皂粉·2022-12-24 14:16

【学习】无监督学习、PCA、Matrix Factorization、HAC、K-means、分布式表示、NE、LLE、 t-SNE

李宏毅机器学习一、无监督学习clustering1、K-means2、HAC分布式表示线性降维3、PCA弱点应用矩阵分解MatrixFactorization无监督学习:邻居嵌入NEManifoldLearningLLE

Raphael9900·2022-12-24 13:14

Datawhale 李宏毅机器学习 Task6

这期学习的主题是：卷积神经网络。百科上的解释：卷积神经网络（ConvolutionalNeuralNetworks,CNN）是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。卷积神经网络具有表征学习能力，能够按其阶层结构对输入信息进行平移不变分类，因此也被称为“平移不变人工神经网络。卷积神经网络一、为什么用CNN我们都知道CNN常常被用在影像处理上，如果你今天用CNN来做影

社区小萌新·2022-12-23 16:37

李宏毅机器学习三天速成~第八课~Backprapagation

1.什么是Backpropagation(反向传播)?Backpropagation是一种有效计算Gradient(梯度)，即微分（偏微分）的方法。在推导Backpropagation的过程前首先需要介绍一下计算微分的链式规则2.ChainRule链式规则这是计算偏微分的基本功3.Backpropagation的推导下图中，是指在train的过程中output的y与实际的y之间的距离Functio

薛定谔小猫@Historia·2022-12-23 09:03

状态机知识梳理: 先可以有个印象

什么是状态机：一组状态，各个状态之间，依据一定的条件（如：输入一个1 或者是 0），存在一定的转换，（从状态X转换到状态Y）它有一个起始状态和若干终结状态，从起始状态开始，根据输入的串转换状态，直到所有的输入的被状态机处理，看看最后停留的状态是否为终结状态，是,说明这个串符合这个状态机规则，或者说明这个状态被这个状态机接受！流程可能是瞬间的动作经历很多步骤，比如“登录”流程，点击“登录”按钮之后，

weixin_43784390·2022-12-23 08:38

AI Studio学习笔记:李宏毅机器学习研讨课（三）

深度学习前置知识：线性映射的复合依然是线性映射。前馈神经网络：L：神经网络的层数:第l层的神经元的净输入:第l层神经元的输出关于神经元计算：全连接：l+1的第i个神经元和l层的第j个神经元连接关于矩阵计算：关于数据处理:原始数据输入->线性变化（Y=AX+b）->激活函数（Z=(Y)）->神经元得到输入输出->所有神经元后计算losspytorch中backward()：反向传播计算中自动求梯度均

陈曦749·2022-12-23 01:59

飞桨【李宏毅机器学习特训营】心得记录

【李宏毅机器学习特训营】心得记录百度paddle训练营的机器学习课程，是由台大教授李宏毅正式授权的，全网最新最全系列AI课程视频，有中文字幕、配套专属课程作业，在线助教答疑的入门课程课程链接：https

€M@ichelle&·2022-12-23 01:29

【小白学AI】百度PaddlePaddle《李宏毅机器学习》特训营--学习心得

（本人水平有限，此文档只适合小白，高手就直接飞过啦）文章目录一、数学基础复习：二、英文名词对照：三、Pthon语法操作：四、最后精华总结数学、英语、派森勤查、勤看、勤练有幸观看了飞桨AiStudio在B站组织的机器学习课程，虽然从头到尾都是一头雾水，但还是硬着头皮坚持了下来，回看一段时期以来的紧张学习才感到收获还是不小的。下面就个人在学习中遇到的问题及学习方法向各位新入手小白做个简单的介绍，希望大

sxaah·2022-12-23 01:57

李宏毅机器学习特训营*PaddlePaddle小白初探课节一

李宏毅机器学习特训营*PaddlePaddle小白初探课节一课节一—1机器学习介绍1.1机器学习及相关名词间的关系1.2机器学习出现前的“机器学习(误)”1.3SowhatisMachineLearning1.4FrameworkofMachineLearning1.5

baddy`·2022-12-23 01:57

李宏毅机器学习特训营之作业二年收入判断

作业2-年收入判断课程链接https://aistudio.baidu.com/aistudio/education/group/info/1978项目链接https://aistudio.baidu.com/aistudio/projectdetail/1774774项目描述二元分类是机器学习中最基础的问题之一，在这份教学中，你将学会如何实作一个线性二元分类器，来根据人们的个人资料，判断其年收入

独上高楼望尽天涯路·2022-12-23 01:56

【李宏毅机器学习特训营】完结撒花！

目录一、我的作业二、学习情况1.自行搭建模型2.自行封装数据集三、遇到的困难1.对模型的理解不足2.数据集调用四、谈谈收获一、我的作业作业1-PM2.5.作业2-年收入判断.作业3-食物图片分类.作业4-语句分类.作业5-迁移学习.(课程链接).二、学习情况这是第二次完整的参与百度飞浆，距离第一次参加(第一次Paddle深度学习训练营之旅)已经过去了快一年的时间。实际上这次课程期间自己并没有太多时

_小十三·2022-12-23 01:56

李宏毅机器学习作业三

前言项目三是训练一个简单的卷积神经网络，实现食物图片的分类。现在还没有完成，在这里做一个记录。第三个作业比前面两个难了不少，遇到了很多困难，首先还是去理解老师已经给出的代码。这里用了paddlepaddle的深度学习框架，代码里碰到很多不懂的api就去paddlepaddle官网找文档然后加了注释。现在代码已经理解了但是运行还有一些错误。数据集分别为training、validation以及tes

qq_37195826·2022-12-23 01:55

李宏毅机器学习2021系列作业2-年收入判断

李宏毅机器学习2021系列作业2-年收入判断项目描述二元分类是机器学习中最基础的问题之一，在这份教学中，你将学会如何实作一个线性二元分类器，来根据人们的个人资料，判断其年收入是否高于50,000美元。

闲人_Yty·2022-12-23 01:25

《李宏毅机器学习特训营》免费开放！直播教学！

AlphaGo战胜“石神”李世石，人工智能开始闯进大众的视野，机器学习成为同学入门人工智能领域的学习首选。提起机器学习，就不能不说一位人物，他就是台湾大学李宏毅教授。李宏毅老师说：“你可以将它作为你机器学习的第一门课！”李宏毅老师官方授权百度飞桨最新系列课程，在飞桨WAVESUMMIT峰会期间，老师也对开发者送上了祝福????????????点击边框调出视频工具条课程上线后，好评如潮。但是，通过上

PaperWeekly·2022-12-23 01:23

课程笔记-00开营仪式-paddlepaddle李宏毅机器学习特训营

课程特色·课程有课程群，每个阶段有助教直播讲解，与作业难点解析。·通过实践作业、考试、打卡、时间完成比赛。·表现突出的同学有机会获得前往台湾的机会。课程形式：录播视频理论讲述+自我锻炼学习能力作业实践课后针对关键知识强化变成动手能力直播讲解助教结合课程讲解作业难点打比赛通过比赛检验自身技术助教老师：李老师、晓沐老师等晓沐老师：计算机视觉物体检测语义分割和三维重建与部署有相当多的经验课程学习计划课程

Jason_____Wang·2022-12-23 01:53

李宏毅机器学习特训营机器学习作业4-语句分类

目录项目描述数据集介绍项目要求环境配置/安装编码1-of-NencodingBagofWords(BOW)wordembedding文本数据预处理Word2Vec定义数据读取器定义模型半监督学习训练预测测试集修改总结项目描述本次作业是要让同学接触自然语言处理当中一个简单的任务——语句分类（文本分类）给定一个语句，判断他有没有恶意（负面标1，正面标0）数据集介绍有三个文件，分别是training_l

bianhuaHYQ·2022-12-23 01:53

李宏毅机器学习hw1~4作业强化点

李宏毅机器学习hw1~4作业强化点总结李宏毅机器学习hw11.特征选择2.激活函数3.学习率李宏毅机器学习hw2HMM李宏毅机器学习hw31.dropout2.目标检测Loss设置3.模型融合李宏毅机器学习

沅沅要努力学习啊!!!·2022-12-22 18:42

李宏毅机器学习 hw2 boss baseline 解析

hw2代码任务描述：MulticlassClassification，让你判断给定的向量是属于哪一个phoneme,由于一个phoneme可能包含好多个向量，所以要对数据进行处理，对向量进行拼接。不同baseline要求方法分析先给出我最终使用的过bossbaseline的方法，后面再介绍我一步步的思考过程。助教提示过bossbaseline要使用RNN模型，所以我们直接使用BiLSTM模型，在p

失败人生自救指南·2022-12-22 18:07

李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码

目录为什么需要机器学习的可解释性？InterpretableVSPowerful什么叫做好的ExplanationexplainableML的分类LocalExplanation（局部可解释性）哪个元件最重要遮挡实验SaliencyMap改进SaliencyMap——noisygradient与SmoothGradSaliencyMap局限性：gradientsaturation（梯度饱和）网络如

iwill323·2022-12-22 13:44

李沐论文精读：BERT 《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》

Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding官方代码地址：https://github.com/google-research/bert课程推荐：李宏毅机器学习

iwill323·2022-12-22 12:29

独家 | 机器学习基础知识梳理，新手必备！（附链接）

翻译：吴金笛校对：丁楠雅本文约4000字，建议阅读16分钟。本文介绍了机器学习以及几个易与其混淆的术语，并给出了几个机器学习的应用。介绍在过去的几年里，人们对机器学习重新产生了兴趣。这种复兴似乎是由强大的基础因素推动的-全球传感器正在产生大量数据，低廉的存储成本和最低的计算成本！然而，并非每个人都了解机器学习是什么。这里有一些例子：机器学习是什么？它与大数据和业务分析有何不同？https://di

「已注销」·2022-12-22 12:28

2020李宏毅机器学习笔记-ELMO, BERT, GPT

目录摘要1.Background2.ELMO3.BERT3.1TrainingofBERT3.1.1Approach1:MaskedLM3.1.2Approach2:NextSentencePrediction(NSP)3.2HowtouseBERT3.2.1case1:classification3.2.2case2:SlotFilling（插槽填充）3.2.3case3:NLI（自然语言推理）

ZN_daydayup·2022-12-22 06:03

【李宏毅机器学习】Transformer（p23）学习笔记

老二次元了。。。文章目录TransformerSequence用CNN取代RNNSelf-AttentionSelf-attentionisallyouneed.流程Self-attention是如何并行计算的？矩阵运算！Self-attention的变形Multi-headSelf-attentionPositionEncodingSeq2SeqwithAttentionTransformerE

duanyuchen·2022-12-22 06:00

【DL】5 BERT入门——李宏毅机器学习课程笔记(ELMO，BERT，GPT)

ELMO，BERT，GPT1.Review2.ELMO3.BERT3.1训练BERT3.2使用BERT3.3ERNIE3.4BERT学到了什么4.GPT小结视频地址1.Review如何让电脑读人类的词汇？最早采用1-of-NEncoding，显然一个词用一个向量表示不合理，之后采用Word-Class，但是这种分类还是太粗糙了，再后来采用WordEmbedding同一个词汇可能有不同的意思：Hav

Yang SiCheng·2022-12-22 06:29

【DL】3 Transformer入门——李宏毅机器学习课程笔记

Transformer1.为什么要使用Self-attention？2.Self-Attention2.1基本思想2.2平行化(矩阵)计算2.3Multi-headSelf-attention2.4PositionalEncoding3.Transformer结构4.Attention可视化5.应用场景小结1.为什么要使用Self-attention？Transformer的中文意思是’变形金刚’

Yang SiCheng·2022-12-22 06:58

训练seq2seq模型的一些Tips——李宏毅机器学习笔记

CopyMechanism有时我们并不需要decoder创造一些东西出来，有些内容是可以从encoder复制而来。最早具有复制能力的模型：PointerNetwork例如：chat-botSummarization至少要训练百万篇文章GuidedAttentionMonotonicAttentionLocation-awareattention语音识别往往也会犯很多低级的错误，例如语音合成中念短句

我是小蔡呀～～～·2022-12-22 06:27

2021李宏毅机器学习笔记--17 transformer

2021李宏毅机器学习笔记--17transformer摘要一、transformer二、Self-Attention三、Muliti-headself-attention四、PositionEncoding

guoxinxin0605·2022-12-22 06:25

【Transformer】——李宏毅机器学习笔记

Transformer前言transformer是一个sequence-to-sequence(seq2seq)的modelinputasequence，outputasequence.Theoutputlengthisdeterminedbymodel.例如语音辨识：那么为什么不能把以上三种模型结合起来，进行语音识别呢？因为有一些语言根本没有文字。Languagewithouttext.台语、闽

我是小蔡呀～～～·2022-12-22 06:23

Transformer及变体详解教程（更新中）

Transformer：李宏毅机器学习笔记——Transformer_NLP小白+的博客-CSDN博客_李宏毅transformer详解Transformer中Self-Attention以及Multi-HeadAttention

KuromiHan·2022-12-22 03:11

【学习】numpy、self-supervised learning自监督学习

李宏毅机器学习和numpy基础一、numpy1、NumPyNdarray对象2、NumPy数据类型3、NumPy数组属性4、NumPy创建数组numpy.emptynumpy.zerosnumpy.ones5

Raphael9900·2022-12-20 19:02

【学习】自监督学习2、GPT、PLM

李宏毅机器学习一、自监督学习1、GPT模型怎么使用GPT？

Raphael9900·2022-12-20 19:00

使用Pytorch搭建CNN模型完成食物图片分类（李宏毅视频课2020作业3，附超详细代码讲解）

模型训练2.4.1Training2.4.2Validating2.5模型测试2.6运行结果3完整代码3.1我的版本3.2原始版本（需要GPU且安装cuda）0前言本文利用深度学习框架-Pytorch复现了李宏毅机器学习

Y_蒋林志·2022-12-20 01:51

推荐频道

李宏毅机器学习知识梳理