漫谈机器学习系列第35页

生成扩散模型漫谈：一般框架之SDE篇

©PaperWeekly原创·作者|苏剑林单位|追一科技研究方向|NLP、神经网络在写生成扩散模型的第一篇文章时，就有读者在评论区推荐了宋飏博士的论文《Score-BasedGenerativeModelingthroughStochasticDifferentialEquations》[1]，可以说该论文构建了一个相当一般化的生成扩散模型理论框架，将DDPM、SDE、ODE等诸多结果联系了起来。

PaperWeekly·2022-11-26 12:29

生成扩散模型漫谈：DDPM = 贝叶斯 + 去噪

©PaperWeekly原创·作者|苏剑林单位|追一科技研究方向|NLP、神经网络到目前为止，笔者给出了生成扩散模型DDPM的两种推导，分别是《生成扩散模型漫谈：DDPM=拆楼+建楼》中的通俗类比方案和

PaperWeekly·2022-11-26 12:29

生成扩散模型漫谈：DDPM = 拆楼 + 建楼

©PaperWeekly原创·作者|苏剑林单位|追一科技研究方向|NLP、神经网络说到生成模型，VAE、GAN可谓是“如雷贯耳”，本站也有过多次分享。此外，还有一些比较小众的选择，如flow模型[1]、VQ-VAE[2]等，也颇有人气，尤其是VQ-VAE及其变体VQ-GAN[3]，近期已经逐渐发展到“图像的Tokenizer”的地位，用来直接调用NLP的各种预训练方法。除了这些之外，还有一个本来更

PaperWeekly·2022-11-26 12:28

生成扩散模型漫谈：统一扩散模型（应用篇）

©PaperWeekly原创·作者|苏剑林单位|追一科技研究方向|NLP、神经网络在《生成扩散模型漫谈：统一扩散模型（理论篇）》中，笔者自称构建了一个统一的模型框架（UnifiedDiffusionModel

PaperWeekly·2022-11-26 12:24

Python手撸机器学习系列（二）：逻辑斯蒂回归（Logistic Regression）(附Python实现坐标点分类及鸢尾花分类)

目录一、原理1.1将回归变为分类1.2目标函数的确立1.2.1极大似然估计求目标函数1.3求解二、代码实现2.1平面坐标点的分类2.2鸢尾花分类三、联系方式一、原理1.1将回归变为分类逻辑斯蒂回归是一个经典的二分类模型，它的精髓在于用线性回归做二分类（或多分类，本文以二分类为主）。线性回归的输出为没有约束的连续值，而分类在于0和1两个值，如何从回归值到分类值就需要一个映射，于是引入了sigmoid

锌a·2022-11-26 02:21

【吴恩达机器学习笔记】三、矩阵

视频地址：吴恩达机器学习系列课程❤️如果有收获的话，欢迎点赞收藏，您的支持就是我创作的最大动力三、矩阵1.矩阵和向量矩阵（Matrix）矩

Pandaconda·2022-11-25 19:17

【吴恩达机器学习笔记】一、引言

视频地址：吴恩达机器学习系列课程❤️如果有收获的话，欢迎点赞收藏，您的支持就是我创作的最大动力一、引言1.监督学习定义：监督学习（Supe

Pandaconda·2022-11-25 19:13

品读百味人生之——漫谈“面子与里子”这件事情

在我们传统文化中有这样的一句话语，曰：“世事洞明皆学问，人情练达即文章。”这句话语原来的、表面的意思就是在说：对于世事洞悉明白也是一门学问，对于人情熟悉通达就能化作文章。引申的意思就是在说：个人如若想要把“洞明”和“练达”都能做到一致的高度时，则是不需要去考虑什么“面子”和“里子”的问题哦！然而，对于绝大多数的国人而言，在绝大多数的时候，“面子问题”或“面子工程”，往往要比“里子问题”来的更为重要

杜老倌侠客居70后欢喜写作·2022-11-25 14:30

【吴恩达机器学习笔记】二、单变量线性回归

视频地址：吴恩达机器学习系列课程❤️如果有收获的话，欢迎点赞收藏，您的支持就是我创作的最大动力二、单变量线性回归常用表达符号：假设函数（H

Pandaconda·2022-11-25 08:27

连续型和离散型随机变量（基于Gumbel Softmax）的重参数化

本文是阅读苏剑林大佬的博客漫谈重参数：从正态分布到GumbelSoftmax之后的记录，算是自己的阅读笔记吧。

风吹草地现牛羊的马·2022-11-25 07:27

吴恩达机器学习系列课程笔记——第八章：神经网络：表述(Neural Networks: Representation)

8.1非线性假设https://www.bilibili.com/video/BV164411b7dx?p=43我们之前学的，无论是线性回归还是逻辑回归都有这样一个缺点，即：当特征太多时，计算的负荷会非常大。下面是一个例子：当我们使用x1、x2的多次项式进行预测时，我们可以应用的很好。之前我们已经看到过，使用非线性的多项式项，能够帮助我们建立更好的分类模型。但假设我们有非常多的特征，例如大于100

Lishier99·2022-11-24 05:39

机器学习系列8：逻辑回归的代价函数

还记得我们原来在线性回归中学过的代价函数吗？我们把黄色部分用函数的形式来表示：如果我们在逻辑回归中也用这个代价函数去拟合参数行不行呢？答案是不行。因为这个代价函数在逻辑回归中的图像是这个样子的：这是一个非凸函数，有多个局部最优解，运用梯度下降算法并不会收敛到它的全局最优解，这样就达不到我们预期的效果。那该怎么办呢？让我们来学习逻辑回归中的代价函数吧。逻辑回归的代价函数是这样的：让我们具体的看一下它

SuperFengCode·2022-11-24 05:24

VScode使用tensorflow全程记录

VScode开发机器学习系列一如何使用vscode进行tensorflow开发python安装下载pip查看CUDAtensorflow下载安装配置vscode如何使用vscode进行tensorflow

小白小白快点跑·2022-11-23 23:35

正则化防止过拟合

为了更好的了解过拟合以及为后面做铺垫，还是先看一个吴恩达机器学习系列课程中一个线性回归来预测房价的例子吧Size表示房子的大小，Price表示预测的房子价格。

words8·2022-11-23 10:53

＜＜从零入门机器学习＞＞通过Anaconda管理工具安装Scikit-Learn机器学习算法库并举例使用（以K近邻算法为例）第四讲

3.2整个测试案例的源代码(供大家参考)4.本篇博客的总结5.机器学习系列博客的说明和展望1.文章主要内容本篇博客致力于讲解Scikit-

弗兰随风小欢·2022-11-23 06:18

漫谈图神经网络

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达本文转自：机器学习算法那些事作者最近看了一些图与图卷积神经网络的论文，深感其强大，但一些Survey或教程默认了读者对图神经网络背景知识的了解，对未学过信号处理的读者不太友好。同时，很多教程只讲是什么，不讲为什么，也没有梳理清楚不同网络结构的区别与设计初衷(Motivation)。因此，本文试图沿着图神经网络的历史脉络，从最早基

小白学视觉·2022-11-22 01:11

基于深度学习的车牌识别系统【YOLO+MLP】

chimigaipangsh8139·2022-11-21 12:10

机器学习系列文章-决策树

决策树由于我们是使用sklearn对决策树代码进行实现，所以并不是很关心其原理部分。但我仍需要对其进行一定的了解。通过查询资料，去学习了下决策树的原理，这里对其原理进行简要介绍。注：这里决策树的原理是通过这个网站来学习的，这里只做记录。机器学习实战教程（二）：决策树基础篇之让我们从相亲说起(cuijiahua.com)决策树原理决策树是一种基本的分类与回归方法。决策树可以这样理解为：由决策树的根结

「已注销」·2022-11-21 08:23

xgboost简单介绍_XGBOOST模型介绍

描述前言这是机器学习系列的第三篇文章，对于住房租金预测比赛的总结这将是最后一篇文章了，比赛持续一个月自己的总结竟然也用了一个月，牵强一点来说机器学习也将会是一个漫长的道路，后续机器学习的文章大多数以知识科普为主

一直成长·2022-11-21 08:42

深度增强学习（DRL）漫谈 - 信赖域（Trust Region）系方法

原文地址：http://blog.csdn.net/jinzhuojun/article/details/78007628一、背景深度学习的兴起让增强学习这个古老的机器学习分支迎来一轮复兴。它们的结合领域-深度增强学习（Deepreinforcementlearning,DRL）随着在一系列极具挑战的控制实验场景及其它跨领域的成功应用，现在已是各大顶级AI会议的热门topic之一。之前两篇杂文《深

sorroooo·2022-11-20 23:41

重保漫谈｜你家的云上业务，安全么？

金秋十月，举国欢庆但每逢重要时期网络攻击也最为猖獗特别在喷薄的上云应用时代当把“家当”放在别人家服务器时心里总会隐隐打鼓：我家的云上业务安全没问题吧？数据中心系统上云后，安全能力降级……对于数据中心当系统整体上云后原有的硬件安全设备常常会出现上云无法部署的状况：云上安全能力无法达到和原有设备一样的安全防护能力导致上云后系统整体安全能力降级公有云安全隐患……公有云服务厂商拥有云原生安全能力但不同于专

知道创宇KCSC·2022-11-20 23:06

吴恩达机器学习系列课程笔记——第三章：线性代数回顾(Linear Algebra Review)

3.1矩阵和向量https://www.bilibili.com/video/BV164411b7dx?p=12矩阵的维数即行数×列数矩阵元素（矩阵项）：Aij指第i行，第j列的元素。向量是一种特殊的矩阵，讲义中的向量一般都是列向量，如如下图为1索引向量和0索引向量，左图为1索引向量，右图为0索引向量，一般我们用1索引向量。3.2加法和标量乘法https://www.bilibili.com/vi

Lishier99·2022-11-20 23:43

上手机器学习系列-第6篇（上）-LightGBM编码

LightGBM相比于XGBoost，LightGBM官网的文档、Github写得都不敢让人恭维（缺少细节、案例语焉不详）。因此本篇从实际使用角度来介绍用法，就显得更有意义了。安装LightGBM号称的速度快不是没有成本的，它底层依赖了一些并行处理的库文件，因此在安装的时候会遇到各种问题。笔者已经单独写了一篇短文分享，详见本人CSDN博客《Mac环境下安装LightGBM的苦难记》。假设你已经排除

a_step_further·2022-11-20 19:11

python-机器学习-决策树深度影响分析

python-机器学习-决策树深度影响本文是python-机器学习系列第三篇，对决策数深度影响分析此次的决策树算法是引用我上一篇决策树算法链接：python-机器学习-决策树算法代码如下：#-*-coding

weixin_35830789·2022-11-20 16:35

梦想漫谈

差不多每个人都有过属于自己的梦想，特别是当人年轻时，梦想的色彩更加绚丽多彩。梦想按其实现概率的大小，可以分为两种：一种是实现概率较大的梦想，另外一种就是实现概率为零或者渺茫的梦想。前者值得人重视和期待，如果实现概率大到一定程度，就可以被称之为理想，后者则是人们通常所谓的白日梦。梦想有着它生长的土壤，这生长的土壤就是人天生的感性，和人内心深处的欲望。人的感性越丰富，身上和内心深处的欲望越强烈，梦想也

蓝矿·2022-11-20 16:03

向毕业妥协系列之深度学习笔记（一）浅层神经网络

普通式子反向传播求导2.逻辑回归中的梯度下降3.m个样本的梯度下降三.向量化四.python广播五.激活函数六.随机初始化深度学习系列的文章也可以结合下面的笔记来看：深度学习笔记-目录一.神经网络杂记这个系列的学习和机器学习系列的课程有很多重复的部分

深海鱼肝油ya·2022-11-20 13:35

Python手撸机器学习系列（六）：决策树（附Python实现西瓜书决策树构建及剪枝代码）

目录决策树一、ID3决策树1.1信息熵1.2信息增益1.3数据集1.3ID3决策树基础代码实现二、C4.5决策树2.1增益率2.2C4.5决策树基础代码实现三、CART决策树3.1基尼指数3.2CART决策树基础代码实现四、决策树剪枝五、连续值决策树、缺失值决策树六、参考文献及联系方式决策树根据划分方法不同可以分为ID3、CART、C4.5三种决策树一、ID3决策树1.1信息熵决策树算法的关键在于

锌a·2022-11-20 08:28

吴恩达机器学习系列课程笔记

视频资源获取：https://www.bilibili.com/video/BV164411b7dx?p=1有监督学习：给算法包含正确答案的数据集，算法的任务就是根据数据集给出更多的正确答案。回归问题（Regression）：预测一个连续的输出值，预测出连续值属性的类型。在回归问题中，我们试图在连续输出中预测结果，这意味着我们试图将输入变量映射到某个连续函数。分类问题（Classification

chen_nnn·2022-11-20 04:15

机器学习系列5---偏差和方差分解

机器学习的目的就是通过选择合适的算法确定输入和输出变量之间的映射关系，不同学习算法的对比指标一般是对应模型的泛化性能，但是在实际分析过程中模型泛化性能不是单一成分，不同数据集划分或者样本选择均会对泛化性能的不同部分产生影响，一般将学习算法对应模型的泛化误差分为两部分：偏差（预测集）+方差（训练集），具体推导过程如下：假设对于测试样本，令对应变量标记为，真实输出为；训练集D的模型输出为，则对于测试样

一条大咸咸鱼·2022-11-19 11:15

蒙氏漫谈：提早轻松做铺垫，避免日后急跳脚

蒙氏的很多教学，都是不知不觉中，提前做了铺垫的。起步时，并不做很高要求，很轻松，但打的基础，对后续教学却很重要。比如，2.5岁的孩子在做插座圆柱体的工作时，我们除了知道它能帮助孩子感知粗细、高矮、形状、序列，谁知能想到，它也在为书写的握笔做了准备？它还潜藏着对十进制的感知？比如，一听说拼音的培训，一位园长只安排了大班老师来听，殊不知，孩子最早的拼音学习，是在3.5岁左右描摹砂拼音板就开始的？更早的

博苑云飞·2022-11-18 08:38

机器学习系列：朴素贝叶斯算法

这是之前写的一篇东西，目的是让人能够全面的理解以朴素贝叶斯为代表的相关算法。0.机器学习的任务给定一系列分布未知的数据{xi,yi}i=1N\{{\bf{x_i}},y_i\}_{i=1}^{N}{xi,yi}i=1N，其中yyy符合未知条件分布F(y∣x)F(y|{\bfx})F(y∣x)。机器学习需要确定一个函数集f(x,θ),θ∈Θf({\bfx},\theta),\theta\in\The

弹键盘的小孩·2022-11-18 00:09

机器学习系列（4）——朴素贝叶斯法

本文介绍朴素贝叶斯法，及其在sklearn中的实现。0x01、朴素贝叶斯法简介朴素贝叶斯（naiveBayes）法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入输出的联合概率分布，然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。（1）朴素贝叶斯法是典型的生成学习方法。生成方法由训练数据学习联合概率分布，然后求得后验概率分

陌简宁·2022-11-17 13:37

机器学习系列11-卷积神经网络CNN part1

ConvolutionalNeuralnetwork(part1)如果本文对你有帮助，请给我的github打个star叭，上面附有全系列目录和内容！更多优质内容欢迎关注我的微信公众号“Sakura的知识库”：CNN常常被用在影像处理上WhyCNNforImage？CNNV.s.DNN我们当然可以用一般的neuralnetwork来做影像处理，不一定要用CNN，比如说，你想要做图像的分类，那你就去t

Sakura_gh·2022-11-15 17:18

机器学习原来这么有趣-Part3-深度学习与卷积神经网络

最近看了AdamGeitgey的机器学习系列文章。寻思着闲着也是闲着，干脆翻译以下，顺便学习下英语啥的哈哈哈。第一次做这种事，有不到位的地方欢迎指教噢。

twelvecoder·2022-11-15 17:47

机器学习原来这么有趣 Part3: 深度学习与卷积神经网络

最近看了AdamGeitgey的机器学习系列文章。寻思着闲着也是闲着，干脆翻译以下，顺便学习下英语啥的哈哈哈。第一次做这种事，有不到位的地方欢迎指教噢。

YuHang·Lin·2022-11-15 17:13

漫谈数仓OLAP技术哪家强？

【提醒：公众号推送规则变了，如果您想及时收到推送，麻烦右下角点个在看，或者把本号置顶】正文开始数据应用，是真正体现数仓价值的部分，包括且又不局限于数据可视化、BI、OLAP、即席查询，实时大屏，用户画像，推荐系统，数据分析，数据挖掘，人脸识别，风控反欺诈，ABtest等等。数据仓库架构图本文侧重于数据应用之BI可视化和OLAP技术选型。一、BI可视化工具1.1BI现状大数据时代商业智能（BI）和数

傅一平·2022-11-15 10:08

共同富裕漫谈

图片发自App几天前的一个晚上，我在南上海一条叫梁典北路的村路上散步。这条路，东西走向，南面是一条河流，我就叫它梁典河，北面则是村庄和稻田，有的地方是房子临河，有的地方是稻田临河，房子在稻田的后面。住在这里的人们，既可以长年享受着枕河而居的浪漫，也能得见春夏秋冬四季里田野的不同风光。我在上海奉贤的某小镇上住了十几年，几乎每隔一两天都会坐电驴子（对电瓶车的戏称）沿梁典河逛逛。我只是坐电驴，不是骑电驴

铁妩·2022-11-14 08:42

机器学习系列——最小二乘法（一）

原理：（由于不能加载公式，只能这样粗暴地截图了，参考同济第六版高等数学下册第九章第十节）进一步学习可参考网址：http://www.cnblogs.com/lc1217/p/6514734.htmlhttp://ml.shenmabang.com/archives/83.html转载于:https://www.cnblogs.com/lchzlp/p/7300296.html

weixin_30906671·2022-11-14 07:25

品读百味人生之——漫谈优雅的高贵来自心灵

我是这样来理解、认识并去认为“优雅的高贵”这件事情的，“优雅的高贵”和“出生”、“外貌”、“家世”、“学识”、“文凭”……未必就存在着某种必然的联系。那些拥有高学历和学识的人，未必就能表明其本人会拥有“优雅的高贵”；而那些虽然学历比较低的人，由于见多识广和社会接触长久，有可能会存有“优雅的高贵”。不仅是如此哩，我依旧还会去认为“优雅的高贵”既是来源于自身的心灵深处，是从心灵深处飞翔出来的声音与呼唤

杜老倌侠客居70后欢喜写作·2022-11-08 15:14

【十分钟机器学习系列笔记】决策树-剪枝

视频作者：简博士-知乎(zhihu.com)；简博士的个人空间_哔哩哔哩_bilibili链接：【合集】十分钟机器学习系列视频《统计学习方法》_哔哩哔哩_bilibili原书：《统计学习方法》李航决策树生成算法递归地产生决策树

烧灯续昼2002·2022-11-07 15:27

【机器学习系列】概率图模型第三讲：深入浅出无向图中的条件独立性和因子分解

作者：CHEONG公众号：AI机器学习与知识图谱研究方向：自然语言处理与知识图谱阅读本文之前，先注意一下两点：1、机器学习系列文章常含有大量公式推导证明，为了更好理解，文章在最开始会给出本文的重要结论，

CHEONG_KG·2022-11-07 11:37

蒙氏漫谈：不要捡了芝麻丢了西瓜-口语工作的关键

不要捡了芝麻丢了西瓜-口语工作的关键三个小朋友的自己讨论故事情节，有描述，有辩论，有听清，是典型的语言区口语工作。很好地呈现了口语群组的五个核心目标：蒙氏语言区的口语活动-三个孩子的故事讨论1.锻炼表达2.锻炼倾听3.锻炼逻辑思考4.社会性能力发展5.发展自信在这个视频当中，这些目标都实现了。在口语活动当中，老师最大的误区是目的性太强，这是很多园需要改进的。其实目标性强其实也没错，但目标要正确。老

博苑云飞·2022-11-06 09:28

吴恩达机器学习系列课程笔记——第二章：单变量线性回归(Linear Regression with One Variable)

2.1模型描述https://www.bilibili.com/video/BV164411b7dx?p=5我们的第一个学习算法是线性回归算法。在这段视频中，你会看到这个算法是什么样子的，更重要的是你将会了解监督学习过程完整的流程。让我们通过一个例子来开始：这个例子是预测住房价格的，我们要使用一个数据集，数据集包含俄勒冈州波特兰市的住房价格。在这里，我要根据不同房屋尺寸所售出的价格，画出我的数据集

Lishier99·2022-11-04 13:25

机器学习【吴恩达|周志华|李宏毅|算法】清单 #收藏#

网络转自：https://blog.csdn.net/julialove102123/article/details/78729602系列学习记录：1、吴恩达机器学习系列；2、李宏毅机器学习课程；3、周志华西瓜书

guomutian911·2022-11-04 09:59

品读百味人生之——漫谈人性中的孤独

在人世间会有诸多的话题是属于永恒不变的，其中之一就是要数关于“孤独”这个话题。“孤独”既是人类永恒的话题，同时也是每个人都要独自去面对的，值得我们去好好地学习、沉思与研究。词语“孤独”中的“孤”就可以称之为“王者”，是独一无二无可替代的，“孤”的说法与来源，最早则是出现于春秋战国时期，原先的含义和意思是指脱离群众，孤立无助的人。诸侯们自嘲为孤，就像孤家寡人一样。“孤”在先秦时期一般为诸侯王所用，各

杜老倌侠客居70后欢喜写作·2022-11-03 15:21

卷积神经网络（Convolutional Neural Network）

本博客是针对李宏毅教授在youtube上上传的机器学习系列课程视频的学习笔记。

蓝色枫魂·2022-11-03 08:32

漫谈Entity-Component-System

原文链接简介对于很多人来说，ECS只是一个可以提升性能的架构，但是我觉得ECS更强大的地方在于可以降低代码复杂度。在游戏项目开发的过程中，一般会使用OOP的设计方式让GameObject处理自身的业务，然后框架去管理GameObject的集合。但是使用OOP的思想进行框架设计的难点在于一开始就要构建出一个清晰类层次结构。而且在开发过程中需要改动类层次结构的可能性非常大，越到开发后期对类层次结构的改

·2022-10-30 23:38

每天点一盏思想的灯

——读魏书生《教学工作漫谈》第八辑有感拜读魏书生《教学工作漫谈》最后一辑“我和我的学生”，许多魏老师的教学指导思想和班级管理的妙招，非常实用。

冰清九月·2022-10-30 15:49

自动驾驶漫谈之二：无人驾驶与高精度地图

对机器人而言，常见的地图有四种：图特征地图（几何地图）、拓扑地图、栅格地图以及直接表征法（AppearanceBasedMethods）。对人类而言，常见的地图主要是语义地图，告诉人们这是什么路，路边是什么建筑或什么单位等包含人类可理解的语义信息。栅格地图用栅格表示环境，易于创建和维护，但所占用的内存和处理时间会随着地图规模的扩大而增长。几何地图从环境信息中提取线段、角点等抽象的几何特征，方便用于

阿尼固·2022-10-28 07:13

品读百味人生之——漫谈“标准答案”这件事情

我自己则是这样来理解、认识并去认为“标准答案”这件事情的，在当今的中国，时不时地会去上演各式各样的、“千奇百怪的可笑事情”，在其中最为可笑的事情之一，恐怕就是要数——“所谓的标准答案”这件事情。可是，往往所给予的“所谓的最最标准的答案”，又会让人感到有些“啼笑皆非”、“丈二和尚摸不着头脑”……原上海人民广播电台有一档栏目叫做《滑稽王小毛》，它创办于1987年5月11日，它的主持人、导演和编辑，则是

杜老倌侠客居70后欢喜写作·2022-10-26 09:04

推荐频道

漫谈机器学习系列