我是疯子喽
我是疯子喽

机器学习--聚类算法（无监督）--高斯混合模型算法理论

目录

一 算法概述

1 算法概念

2 算法概念的公式化表达

二 算法原理

1 构建对数似然函数

2 使用EM算法

1）初始化参数

2）E-step：设隐变量的概念分布期望函数

3）M-stpe：由期望函数，最大化似然函数，估计参数

4）判断参数时候收敛，不收敛进行下一轮迭代（E-step与M-step）

一 算法概述

1 算法概念

高斯混合模型（GMM）是指由多个n元高斯模型线性叠加，描述了数据本身的一种分布情况，其中每个高斯模型称为一个component（类别）

注意：高斯混合模型一般使用在聚类算法中

2 算法概念的公式化表达

p(x)=\sum _{k=1}^{K}\pi _{k}p(x|\mu _{k},\Sigma _{k})=\sum _{k=1}^{K}p(x|\mu _{k},\Sigma _{k},\pi _{k})

  • \pi _{k}：是指每个类别发生的概率大小，其中\sum _{k=1}^{K}\pi _{k}=1
  • \mu _{k}：是指每个类别中的特征的均值向量
  • \Sigma _{k}：是指每个类型中的特征的协方差矩阵（c_{ij}=E((X_{i}-EX_{i})(X_{j}-EX_{j}))，对称矩阵）
  • p(x|\mu _{k},\Sigma _{k})：表示n元高斯概率密度函数

二 算法原理

1 构建对数似然函数

p(x^{(1)},x^{(2)},...,x^{(m)})=\prod_{i=1}^{m}p(x^{(i)})=\prod_{i=1}^{m}\sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})

L(\pi,\mu ,\Sigma )=\prod_{i=1}^{m}\sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})

l(\pi,\mu ,\Sigma )=log\left \{ \prod_{i=1}^{m}\sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j}) \right \}

2 使用EM算法

1）初始化参数\mu ,\Sigma ,\pi

2）E-step：设隐变量z=\pi的概念分布期望函数

Q(z^{(i)}=j|\mu_{j} ,\Sigma_{j} ,\pi_{j} )=\frac{p(x^{(i)},z^{(i)}_{j}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}{\sum_{z}p(x^{(i)},z^{(i)}_{j}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}=\frac{p(x^{(i)}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}{\sum_{j}^{K}p(x^{(i)}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}

令：w^{(i)}_{j}=Q(z^{(i)}=j|\mu_{j} ,\Sigma_{j} ,\pi_{j} )

3）M-stpe：由期望函数，最大化似然函数，估计参数

  • 第一点：使用Jesson不等式特性，似然函数进行变形

l(\pi,\mu ,\Sigma )=\sum_{i=1}^{m}log\left \{ \sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})\right \}

=\sum_{i=1}^{m}log \sum_{j=1}^{K}w^{(i)}_{j}\frac{p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})}{w^{(i)}_{j}}

=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})}{w^{(i)}_{j}}

=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{p(x^{(i)}|\mu _{j},\Sigma _{j})\pi _{j}}{w^{(i)}_{j}}

=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{\frac{1}{(2\pi )^{n/2}|\Sigma_{j}| ^{1/2}}exp\left \{ -\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}) \right \}\pi _{j}}{w^{(i)}_{j}}

\Rightarrow l(\mu, \Sigma, \pi )=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{\frac{1}{(2\pi )^{n/2}|\Sigma_{j}| ^{1/2}}exp\left \{ -\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}) \right \}\pi _{j}}{w^{(i)}_{j}}

  • 第二点：构造拉格朗日函数（目标函数）

\left\{\begin{matrix} max\left \{ l(\mu ,\Sigma ,\pi ) \right \}\\ \sum _{j=1}^{K}\pi _{j}=1 \end{matrix}\right.\Rightarrow L(\mu ,\Sigma ,\pi,\beta )= l(\mu ,\Sigma ,\pi )+\beta (\sum _{j=1}^{K}\pi _{j}-1)

  • 第三点：求解\mu ,\Sigma ,\pi

求解：\mu

\frac{\partial }{\partial \mu _{j}}L(\mu ,\Sigma ,\pi ,\beta )=\frac{\partial }{\partial \mu _{j}}\left \{[\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}(-\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}))] +c\right \}

=\frac{\partial }{\partial \mu _{j}}\left \{[-\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}((x^{(i)})^{T}\Sigma _{j}^{-1}x^{(i)}-(x^{(i)})^{T}\Sigma _{j}^{-1}\mu _{j}-(\mu _{j})^{T}\Sigma_{j} ^{-1}x^{(i)}+(\mu _{j})^{T}\Sigma_{j} ^{-1}\mu _{j})] +c\right \}

=-\frac{1}{2}\sum_{i=1}^{m}w^{(i)}_{j}(-\Sigma_{j} ^{-1}x^{(i)}-\Sigma _{j}^{-1}x^{(i)}+2\Sigma_{j}^{-1}\mu _{j})

=-\frac{1}{2}\sum_{i=1}^{m}w^{(i)}_{j}(-2\Sigma _{j}^{-1}x^{(i)}+2\Sigma _{j}^{-1}\mu _{j})

=\sum_{i=1}^{m}w^{(i)}_{j}(\Sigma_{j} ^{-1}x^{(i)}-\Sigma_{j} ^{-1}\mu _{j})

\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}(\Sigma _{j}^{-1}x^{(i)}-\Sigma_{j} ^{-1}\mu _{j})=0\Rightarrow \Sigma_{j} ^{-1}\sum_{i=1}^{m}w^{(i)}_{j}(x^{(i)}-\mu _{j})=0

\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}(x^{(i)}-\mu _{j})=0\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}x^{(i)}=\sum_{i=1}^{m}w^{(i)}_{j}\mu _{j}

\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}x^{(i)}=\mu _{j}\sum_{i=1}^{m}w^{(i)}_{j}

\Rightarrow \mu _{j}=\frac{\sum_{i}^{m}w^{(i)}_{j}x^{(i)}}{\sum_{i=1}^{m}w^{(i)}_{j}}

求解：\Sigma

\frac{\partial L(\mu, \Sigma ,\pi, \beta ) }{\partial \Sigma _{j}}=\frac{\partial }{\partial \Sigma _{j}}\left \{[\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}(-\frac{1}{2}log|\Sigma_{j}|-\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}(x^{(i)}-\mu _{j})]+c\right \}

=\sum_{i=1}^{m} w^{(i)}_{j}(-\frac{1}{2}|\Sigma |^{-1}|\Sigma|(\Sigma_{j}^{-1})^{T}-(-\frac{1}{2}(\Sigma_{j}^{-1})^{T}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}(\Sigma_{j}^{-1})^{T}))

=\sum_{i=1}^{m} w^{(i)}_{j}(-\frac{1}{2}(\Sigma_{j}^{T})^{-1}+\frac{1}{2}(\Sigma_{j}^{T})^{-1}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}(\Sigma_{j}^{T})^{-1})

=\sum_{i=1}^{m} w^{(i)}_{j}(-\frac{1}{2}\Sigma_{j}^{-1}+\frac{1}{2}\Sigma_{j}^{-1}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1})

=-\frac{\Sigma_{j}^{-1}}{2}\sum_{i=1}^{m} w^{(i)}_{j}(I-(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1})

\Rightarrow -\frac{\Sigma_{j}^{-1}}{2}\sum_{i=1}^{m} w^{(i)}_{j}(I-(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1})=0

\Rightarrow -\frac{\Sigma_{j}^{-1}}{2}[\sum_{i=1}^{m} w^{(i)}_{j}I-\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}]=0

\Rightarrow \sum_{i=1}^{m} w^{(i)}_{j}I-\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}=0

\Rightarrow \sum_{i=1}^{m} w^{(i)}_{j}I=\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}

\Rightarrow \sum_{i=1}^{m} w^{(i)}_{j}\Sigma_{j}=\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}I

\Rightarrow \Sigma_{j}=\frac{\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}I}{\sum_{i=1}^{m} w^{(i)}_{j}}

求解：\pi,\beta

\Rightarrow l(\mu, \Sigma, \pi )=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{\frac{1}{(2\pi )^{n/2}|\Sigma_{j}| ^{1/2}}exp\left \{ -\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}) \right \}\pi _{j}}{w^{(i)}_{j}}

\frac{\partial L(\mu ,\Sigma ,\pi ,\beta )}{\partial \pi _{j}}=\frac{\partial }{\partial \pi _{j}}\left \{ \sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}log\pi _{j}+\beta(\sum_{j=1}^{K}\pi _{j}-1)+c \right \}

=\sum_{i=1}^{m}w^{(i)}_{j}\pi _{j}^{-1}+\beta=0

\Rightarrow \beta=-\pi _{j}^{-1}\sum_{i=1}^{m}w^{(i)}_{j}\Rightarrow \pi _{j} \beta=-\sum_{i=1}^{m}w^{(i)}_{j}\Rightarrow \sum_{j=1}^{K} \pi _{j} \beta=-\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}

\Rightarrow \beta=-\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}=-m

\Rightarrow \pi _{j} =\frac{1}{m}\sum_{i=1}^{m}w^{(i)}_{j}

4）判断参数\mu ,\Sigma ,\pi,\beta时候收敛，不收敛进行下一轮迭代（E-step与M-step）

你可能感兴趣的:(聚类,机器学习,数据挖掘,python,算法)

  • 【Python】一文详细介绍 py格式 文件 高斯小哥 Python基础【高质量合集】python新手入门学习
    【Python】一文详细介绍py格式文件个人主页：高斯小哥高质量专栏：Matplotlib之旅：零基础精通数据可视化、Python基础【高质量合集】、PyTorch零基础入门教程希望得到您的订阅和支持~创作高质量博文(平均质量分92+)，分享更多关于深度学习、PyTorch、Python领域的优质内容！（希望得到您的关注~）文章目录一、py格式文件简介二、如何创建和编辑py格式文件三、如何运行py
  • 数据结构奇妙旅程之深入解析快速排序 山间漫步人生路 数据结构排序算法算法
    快速排序（QuickSort）是一种高效的排序算法，它使用了分治法的策略来将一个数组排序。其基本思想是选择一个基准元素，通过一趟排序将待排序的数据分割成独立的两部分，其中一部分的所有数据都比基准元素小，另一部分的所有数据都比基准元素大，然后再按此方法对这两部分数据分别进行快速排序，整个排序过程可以递归进行，以此达到整个数据变成有序序列。工作原理选择基准：从待排序的序列中选一个元素作为基准（pivo
  • python抓包与解包_Python—网络抓包与解包（pcap、dpkt） weixin_39691055 python抓包与解包
    pcap安装[root@localhost~]#pipinstallpypcap抓包与解包#-*-coding:utf-8-*-importpcap,dpktimportre,threading,requests__black_ip=['103.224.249.123','203.66.1.212']#抓包：param1eth_name网卡名，如：eth0,eth3。param2p_type日志捕
  • 华为OD机试 - 单向链表中间节点（Java & JS & Python & C & C++） 华为OD题库 华为od链表java
    须知哈喽，本题库完全免费，收费是为了防止被爬，大家订阅专栏后可以私信联系退款。感谢支持文章目录须知题目描述输出描述解析代码题目描述给定一个单链表L，请编写程序输出L中间结点保存的数据。如果有两个中间结点，则输出第二个中间结点保存的数据。例如：给定L为1→7→5，则输出应该为7；给定L为1→2→3→4，则输出应该为3；输入描述每个输入包含1个测试用例。每个测试用例：第一行给出链表首结点的地址、结点总
  • php 把一个数组分成有n个元素的二维数组的算法 风清扬-独孤九剑 phpphp算法
    一、第一种解法0){$columns_map[$position]++;//这个地方格外注意,$position与$columns比较$position=($position<$columns-1)?++$position:0;$array_length--;}foreach($columns_mapas$val){$newarray[]=array_splice($array,0,$val);}
  • python 推导式(派生、衍生) sanduo112 人工智能pythonwindows开发语言
    python推导式一、推导式(派生、衍生)1.Python推导式是一种独特的数据处理方式，可以从一个数据序列构建另一个新的数据序列的结构体。2.列表(list)推导式3.字典(dict)推导式4.集合(set)推导式5.元组(tuple)推导式二、代码概述一、推导式(派生、衍生)1.Python推导式是一种独特的数据处理方式，可以从一个数据序列构建另一个新的数据序列的结构体。Python支持各种数
  • 【算法分析与设计】去除重复字母 五敷有你 算法分析与设计javajavascript开发语言算法数据结构
    个人主页：五敷有你系列专栏：算法分析与设计⛺️稳中求进，晒太阳题目给你一个字符串s，请你去除字符串中重复的字母，使得每个字母只出现一次。需保证返回结果的字典序最小（要求不能打乱其他字符的相对位置）。示例示例1：输入：s="bcabc"输出："abc"示例2：输入：s="cbacdcbc"输出："acdb"思路贪心+单调栈实现【字符串删除一个字符使其字典序最小的贪心策略】：对于两个长度相同的字符串，
  • 数据挖掘|数据预处理|基于Python的数据标准化方法 皖山文武 数据挖掘数据建模与分析python数据挖掘开发语言
    基于Python的数据标准化方法1.z-score方法2.极差标准化方法3.最大绝对值标准化方法在数据分析之前，通常需要先将数据标准化（Standardization），利用标准化后的数据进行数据分析，以避免属性之间不同度量和取值范围差异造成数据对分析结果的影响。1.z-score方法Z-score方法是基于原始数据的均值和标准差来进行数据标准化的，处理后的数据均值为0，方差为1，符合标准正态分布
  • CSV指南：Python程序获取大型CSV文件行数 孤独打铁匠Julian 笔记经验分享python
    本指南提供了几种使用Python来获取大型CSV文件行数的方法，并解释了每种方法的适用场景。方法1:使用csv.reader处理复杂CSV文件当你的CSV文件中包含多行字段（即某些字段的值中包含换行符）时，使用csv.reader是一个可靠的选择，因为它能够正确处理这些复杂情况。这个方法适用于大多数大小的CSV文件，但是对于非常大的文件，读取整个文件可能会占用较多的时间和内存。对于极大的文件，考虑
  • yarn的安装和使用全网最详细教程 zxj19880502 yarnnpm
    一、yarn的简介：Yarn是facebook发布的一款取代npm的包管理工具。二、yarn的特点：速度超快。Yarn缓存了每个下载过的包，所以再次使用时无需重复下载。同时利用并行下载以最大化资源利用率，因此安装速度更快。超级安全。在执行代码之前，Yarn会通过算法校验每个安装包的完整性。超级可靠。使用详细、简洁的锁文件格式和明确的安装算法，Yarn能够保证在不同系统上无差异的工作。三、yarn的
  • 图论记录之最短路迪杰斯特拉 Just right 算法图论java开发语言
    简述思想这个思想能用一句话来概括，精简到的极致:每次找到一个最短距离的点并更新起点到各个点的最短距离如果要可视化的话，B站搜索Dijksra算法，有视频讲解伪代码写到这里，其实是想整一个动画的，这样效果更好点，但由于种种原因所以就拖一下intdijkstr(){dist[1]=0;其余的点的距离全部初始化为真无穷，不要写成int的最大值迭代n次将不在s中的，且距离最近的点给tsj即先到t，再加上t
  • 谷歌浏览器驱动Chromedriver（114-120版本）文件以及驱动下载教程 pigerr杨 Pythonpythonchromedrivers
    ChromeDriver官方网站GitHub||GoogleChromeLabs/chrome-for-testingChromeDriver113-125_JSONChromeforTestingavailability123-125zip白月黑羽Python基础|进阶|Qt图形界面|Django|自动化测试|性能测试|JS语言|JS前端|原理与安装
  • 大创项目推荐 深度学习 opencv python 公式识别(图像识别 机器视觉) laafeer python
    文章目录0前言1课题说明2效果展示3具体实现4关键代码实现5算法综合效果6最后0前言优质竞赛项目系列，今天要分享的是基于深度学习的数学公式识别算法实现该项目较为新颖，适合作为竞赛课题方向，学长非常推荐！学长这里给一个题目综合评分(每项满分5分)难度系数：3分工作量：4分创新点：4分更多资料,项目分享：https://gitee.com/dancheng-senior/postgraduate1课题
  • ES-LTR粗排模块 poins jenkins运维
    ES-LTR粗排模块官方资源：https://github.com/HeiBoWang/elasticsearch-learning-to-rankElasticsearch学习排名插件使用机器学习提高搜索相关性排名。它为维基媒体基金会和Snagajob等地方的搜索提供了动力！这个插件有什么功能此插件：允许您在Elasticsearch中存储特征（Elasticsearch查询模板）记录特征得分（
  • python转码 Desamond python开发语言
    转码在许多场景中都有应用，以下是一些常见的场景：网页开发：当用户在网页上输入文本时，可能需要将特殊字符（如空格、引号、特殊符号等）进行转码，以防止这些字符对URL或HTML代码产生干扰。文件名处理：在处理文件名时，可能需要将特殊字符进行转码，以避免文件名被错误地解析或显示。数据传输：在数据传输过程中，为了确保数据的完整性和正确性，可能需要将数据中的特殊字符进行转码。数据存储：在数据库或数据存储中，
  • 排序算法太多？常用排序都在这了，一篇文章总结和实现所有面试会考的排序算法（基于Python实现） 宇宙之一粟 不归路之Python#IT面试题收集与总结数据结构与算法算法数据结构排序算法pythonjava
    文章目录排序算法1.常见的排序算法1.1选择排序1.1.1思想1.1.2实现**1.1.3选择排序分析**1.2冒泡排序**1.2.1思想****1.2.2实现****1.2.3冒泡排序分析**1.3插入排序**1.3.1思想****1.3.2实现****1.3.3插入排序分析**1.4归并排序☆☆★**1.4.1思想****1.4.2实现****1.4.3归并排序分析**1.5快速排序☆★★**
  • 【数据结构】实验一 实现顺序表各种基本运算的算法 张鱼·小丸子 数据结构实验c++数据结构
    题目：实现顺序表各种基本运算的算法要求：1、建立一个顺序表，输入n个元素并输出；2、查找线性表中的最大元素并输出；3、在线性表的第i个元素前插入一个正整数x；4、删除线性表中的第j个元素；5、将线性表中的元素按升序排列；6、将线性表中的元素就地逆序（只允许用一个暂存单元）；#include#defineSIZE1000usingnamespacestd;typedefstruct{int*a;//
  • 27.Python从入门到精通—Python异常处理 抛出异常 用户自定义异常 定义清理行为 预定义的清理行为 以山河作礼。 #Python基础入门—详解版pythonjava服务器
    27.从入门到精通：Python异常处理抛出异常用户自定义异常定义清理行为预定义的清理行为异常处理抛出异常用户自定义异常定义清理行为预定义的清理行为异常处理在Python中，异常处理是一种处理程序在执行期间可能遇到的错误的方法。当Python解释器遇到错误时，它会引发异常。异常是一种Python对象，它包含有关错误的信息，例如错误类型和错误位置。为了处理异常，您可以使用try-except语句。在
  • python清华大学出版社答案_Python机器学习及实践 weixin_39805119 python清华大学出版社答案
    第1章机器学习的基础知识1.1何谓机器学习1.1.1传感器和海量数据1.1.2机器学习的重要性1.1.3机器学习的表现1.1.4机器学习的主要任务1.1.5选择合适的算法1.1.6机器学习程序的步骤1.2综合分类1.3推荐系统和深度学习1.3.1推荐系统1.3.2深度学习1.4何为Python1.4.1使用Python软件的由来1.4.2为什么使用Python1.4.3Python设计定位1.4.
  • Python | Redis工具类 -拟墨画扇- Pythonredis数据库缓存python
    一、需求自动连接Redis数据库，通过连接池处理数据对输出结果进行Log打印并保存到文件二、代码Utils.redisUtils.py#!/usr/bin/envpython#-*-coding:utf-8-*-importredisfromUtils.loggerimportlog"""Redis数据格式(1)字符串|存储形式:key-value:str-存储二进制数据:可以存储任意类型的数据，
  • Python dict字符串转json对象，小数精度丢失问题 朝如青丝 暮成雪 jsonpython
    一前言JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式，dict是Python的一种数据格式。本篇介绍一个float数据转换时精度丢失的案例。二问题描述importjsontest_str1='{"π":3.1415926535897932384626433832795028841971}'test_str2='{"value":10.00000}'print
  • UNDERSTANDING HTML WITH LARGE LANGUAGE MODELS liferecords LLM语言模型人工智能自然语言处理
    UNDERSTANDINGHTMLWITHLARGELANGUAGEMODELS相关链接：arXiv关键字：大型语言模型、HTML理解、Web自动化、自然语言处理、机器学习摘要大型语言模型（LLMs）在各种自然语言任务上表现出色。然而，它们在HTML理解方面的能力——即解析网页的原始HTML，对于自动化基于Web的任务、爬取和浏览器辅助检索等应用——尚未被充分探索。我们为HTML理解模型（经过微调
  • Python+Requests模拟发送GET请求 爱学习的执念 自动化测试软件测试技术分享python开发语言
    模拟发送GET请求前置条件：导入requests库一、发送不带参数的get请求代码如下：以百度首页为例importrequests#发送get请求response=requests.get(url="http://www.baidu.com")print(response.content.decode("utf-8"))#以utf-8的编码输出内容二、发送带参数的get请求发送带参数的get请求有
  • Java回溯知识点（含面试大厂题和源码） 一成码农 java面试开发语言
    回溯算法是一种通过遍历所有可能的候选解来寻找所有解的算法，如果候选解被确认不是一个解（或至少不是最后一个解），回溯算法会通过在上一步进行一些变化来丢弃这个解，即“回溯”并尝试另一个候选解。回溯法通常用递归方法来实现，在解决排列、组合、选择问题时非常有效。回溯算法的核心要点：路径：也就是已经做出的选择。选择列表：也就是你当前可以做的选择。结束条件：也就是到达决策树底层，无法再做出选择的条件。回溯算法
  • Python极速入门：五分钟开启实战之旅！ 知白守黑V Python编程语言系统运维python编程语言python开发python学习python入门python数据分析
    1.Python基础语法和结构：了解Python的基本语法，包括变量、数据类型、运算符、注释等。控制流：掌握条件语句（if-elif-else）、循环（for和while）及其控制（break和continue）。函数：学习如何定义和使用函数，包括参数传递、返回值、作用域和闭包。模块和包：理解如何导入和使用模块，以及如何创建和使用自己的包。2.数据处理列表、元组和集合：学习这些序列类型的操作和方法
  • Python Flask 使用数据库 安果移不动 pythonflask开发语言
    pipinstallflask_sqlalchemy官方文档：Flask-SQLAlchemy—Flask-SQLAlchemyDocumentation(3.1.x)为了不报错也需要导入另外两个库#pipinstallflask_sqlalchemy#pipinstallmysqlclient完整代码importosfromflaskimportFlaskfromflask_sqlalchemy
  • PaperWeekly sapienst PapersPaperwithCodeGeneralML
    1.Python软件包解决DL在未见过的数据分布下性能差的问题：（1）神经网络和损失分离的模块化设计（2）强大便捷的基准测试能力（3）易于使用但难以修改（4）github:https://github.com/marrlab/domainlabTrainer和Models之间是什么关系Trainer和Models是DomainLab中的两个核心概念。Trainer是一个用于指导数据流向模型并计算S
  • 第七章 索引及执行计划，存储引擎 执笔为剑 #MySQL运维篇编辑器mysql
    第七章索引及执行计划，存储引擎1，索引及执行计划1，作用：提供类似书目录的作用，目的是优化查询2，所用的种类（根据算法）B树索引Hash索引R树FulltextGIS3，B树基于不同的查找算法分类介绍B-tree：在范围查询方面提供了更好的性能（>showengines;#存储引擎作用在表上，不同的表可能有不同的存储引擎mysql>select@@default_storage_engine;#查
  • 使用Python读取Excel文件并计算平均分 嘻嘻爱编码 Python从入门到放弃pythonexcel开发语言
    在这篇博客中，我们将探讨如何使用Python的pandas库来读取Excel文件，并计算其中数据的平均分。pandas是一个强大的数据分析工具，它允许我们以简单直观的方式处理表格数据。安装必要的库在开始之前，确保你的环境中安装了pandas和openpyxl库。可以使用以下命令进行安装：pipinstallpandasopenpyxl读取Excel文件首先，我们需要读取Excel文件。假设我们有一
  • Java面试题：解释JVM的内存结构，并描述堆、栈、方法区在内存结构中的角色和作用，Java中的多线程是如何实现的，Java垃圾回收机制的基本原理，并讨论常见的垃圾回收算法 杰哥在此 Java系列javajvm算法面试
    Java内存模型与多线程的深入探讨在Java的世界里，内存模型和多线程是开发者必须掌握的核心知识点。它们不仅关系到程序的性能和稳定性，还直接影响到系统的可扩展性和可靠性。下面，我将通过三个面试题，带领大家深入理解Java内存模型、多线程以及并发编程的相关原理和实践。面试题一：请解释JVM的内存结构，并描述堆、栈、方法区在内存结构中的角色和作用。关注点：JVM内存结构的基本组成堆、栈、方法区的功能和
  • JVM StackMapTable 属性的作用及理解 lijingyao8206 jvm字节码Class文件StackMapTable
            在Java 6版本之后JVM引入了栈图(Stack Map Table)概念。为了提高验证过程的效率，在字节码规范中添加了Stack Map Table属性，以下简称栈图，其方法的code属性中存储了局部变量和操作数的类型验证以及字节码的偏移量。也就是一个method需要且仅对应一个Stack Map Table。在Java 7版
  • 回调函数调用方法 百合不是茶 java
    最近在看大神写的代码时,.发现其中使用了很多的回调 ,以前只是在学习的时候经常用到 ,现在写个笔记 记录一下   代码很简单:           MainDemo  :调用方法  得到方法的返回结果        
  • [时间机器]制造时间机器需要一些材料 comsci 制造
          根据我的计算和推测,要完全实现制造一台时间机器,需要某些我们这个世界不存在的物质     和材料...       甚至可以这样说,这种材料和物质,我们在反应堆中也无法获得......      
  • 开口埋怨不如闭口做事 邓集海 邓集海 做人 做事 工作
    “开口埋怨，不如闭口做事。”不是名人名言，而是一个普通父亲对儿子的训导。但是，因为这句训导，这位普通父亲却造就了一个名人儿子。这位普通父亲造就的名人儿子，叫张明正。 　　 　　张明正出身贫寒，读书时成绩差，常挨老师批评。高中毕业，张明正连普通大学的分数线都没上。高考成绩出来后，平时开口怨这怨那的张明正，不从自身找原因，而是不停地埋怨自己家庭条件不好、埋怨父母没有给他创造良好的学习环境。 　　 　　
  • jQuery插件开发全解析，类级别与对象级别开发 IT独行者 jquery开发插件　函数
    jQuery插件的开发包括两种： 一种是类级别的插件开发，即给 jQuery添加新的全局函数，相当于给 jQuery类本身添加方法。 jQuery的全局函数就是属于 jQuery命名空间的函数，另一种是对象级别的插件开发，即给 jQuery对象添加方法。下面就两种函数的开发做详细的说明。   1 、类级别的插件开发 类级别的插件开发最直接的理解就是给jQuer
  • Rome解析Rss 413277409 Rome解析Rss
    import java.net.URL;  import java.util.List;    import org.junit.Test;    import com.sun.syndication.feed.synd.SyndCategory;  import com.sun.syndication.feed.synd.S
  • RSA加密解密 无量 加密解密rsa
    RSA加密解密代码 代码有待整理 package com.tongbanjie.commons.util; import java.security.Key; import java.security.KeyFactory; import java.security.KeyPair; import java.security.KeyPairGenerat
  • linux 软件安装遇到的问题 aichenglong linux遇到的问题ftp
    1 ftp配置中遇到的问题    500 OOPS: cannot change directory   出现该问题的原因:是SELinux安装机制的问题.只要disable SELinux就可以了   修改方法:1 修改/etc/selinux/config 中SELINUX=disabled    2 source /etc
  • 面试心得 alafqq 面试
    最近面试了好几家公司。记录下； 支付宝，面试我的人胖胖的，看着人挺好的；博彦外包的职位，面试失败； 阿里金融，面试官人也挺和善，只不过我让他吐血了。。。 由于印象比较深，记录下； 1，自我介绍 2，说下八种基本类型；（算上string。楼主才答了3种，哈哈，string其实不是基本类型，是引用类型） 3，什么是包装类，包装类的优点； 4，平时看过什么书？NND，什么书都没看过。。照样
  • java的多态性探讨 百合不是茶 java
    java的多态性是指main方法在调用属性的时候类可以对这一属性做出反应的情况 //package 1; class A{ public void test(){ System.out.println("A"); } } class D extends A{ public void test(){ S
  • 网络编程基础篇之JavaScript-学习笔记 bijian1013 JavaScript
    1.documentWrite <html> <head> <script language="JavaScript"> document.write("这是电脑网络学校"); document.close(); </script> </h
  • 探索JUnit4扩展：深入Rule bijian1013 JUnitRule单元测试
            本文将进一步探究Rule的应用，展示如何使用Rule来替代@BeforeClass，@AfterClass，@Before和@After的功能。         在上一篇中提到，可以使用Rule替代现有的大部分Runner扩展，而且也不提倡对Runner中的withBefores()，withAfte
  • [CSS]CSS浮动十五条规则 bit1129 css
    这些浮动规则，主要是参考CSS权威指南关于浮动规则的总结，然后添加一些简单的例子以验证和理解这些规则。   1. 所有的页面元素都可以浮动 2. 一个元素浮动后，会成为块级元素，比如<span>,a, strong等都会变成块级元素 3.一个元素左浮动，会向最近的块级父元素的左上角移动，直到浮动元素的左外边界碰到块级父元素的左内边界；如果这个块级父元素已经有浮动元素停靠了
  • 【Kafka六】Kafka Producer和Consumer多Broker、多Partition场景 bit1129 partition
    0.Kafka服务器配置 3个broker 1个topic，6个partition，副本因子是2 2个consumer，每个consumer三个线程并发读取   1. Producer package kafka.examples.multibrokers.producers; import java.util.Properties; import java.util.
  • zabbix_agentd.conf配置文件详解 ronin47 zabbix 配置文件
    Aliaskey的别名，例如 Alias=ttlsa.userid:vfs.file.regexp[/etc/passwd,^ttlsa:.:([0-9]+),,,,\1]， 或者ttlsa的用户ID。你可以使用key：vfs.file.regexp[/etc/passwd,^ttlsa:.: ([0-9]+),,,,\1]，也可以使用ttlsa.userid。备注: 别名不能重复，但是可以有多个
  • java--19.用矩阵求Fibonacci数列的第N项 bylijinnan fibonacci
    参考了网上的思路，写了个Java版的： public class Fibonacci { final static int[] A={1,1,1,0}; public static void main(String[] args) { int n=7; for(int i=0;i<=n;i++){ int f=fibonac
  • Netty源码学习-LengthFieldBasedFrameDecoder bylijinnan javanetty
    先看看LengthFieldBasedFrameDecoder的官方API http://docs.jboss.org/netty/3.1/api/org/jboss/netty/handler/codec/frame/LengthFieldBasedFrameDecoder.html API举例说明了LengthFieldBasedFrameDecoder的解析机制，如下： 实
  • AES加密解密 chicony 加密解密
    AES加解密算法，使用Base64做转码以及辅助加密： package com.wintv.common; import javax.crypto.Cipher; import javax.crypto.spec.IvParameterSpec; import javax.crypto.spec.SecretKeySpec; import sun.misc.BASE64Decod
  • 文件编码格式转换 ctrain 编码格式
    package com.test; import java.io.File; import java.io.FileInputStream; import java.io.FileOutputStream; import java.io.IOException; import java.io.InputStream; import java.io.OutputStream;
  • mysql 在linux客户端插入数据中文乱码 daizj mysql中文乱码
    1、查看系统客户端，数据库，连接层的编码  查看方法： http://daizj.iteye.com/blog/2174993 进入mysql，通过如下命令查看数据库编码方式： mysql>  show variables like 'character_set_%'; +--------------------------+------
  • 好代码是廉价的代码 dcj3sjt126com 程序员读书
      长久以来我一直主张：好代码是廉价的代码。 当我跟做开发的同事说出这话时，他们的第一反应是一种惊愕，然后是将近一个星期的嘲笑，把它当作一个笑话来讲。 当他们走近看我的表情、知道我是认真的时，才收敛一点。 当最初的惊愕消退后，他们会用一些这样的话来反驳： “好代码不廉价，好代码是采用经过数十年计算机科学研究和积累得出的最佳实践设计模式和方法论建立起来的精心制作的程序代码。” 我只
  • Android网络请求库——android-async-http dcj3sjt126com android
    在iOS开发中有大名鼎鼎的ASIHttpRequest库，用来处理网络请求操作，今天要介绍的是一个在Android上同样强大的网络请求库android-async-http，目前非常火的应用Instagram和Pinterest的Android版就是用的这个网络请求库。这个网络请求库是基于Apache HttpClient库之上的一个异步网络请求处理库，网络处理均基于Android的非UI线程，通
  • ORACLE 复习笔记之SQL语句的优化 eksliang SQL优化Oracle sql语句优化SQL语句的优化
    转载请出自出处：http://eksliang.iteye.com/blog/2097999   SQL语句的优化总结如下   sql语句的优化可以按照如下六个步骤进行： 合理使用索引 避免或者简化排序 消除对大表的扫描 避免复杂的通配符匹配 调整子查询的性能 EXISTS和IN运算符 下面我就按照上面这六个步骤分别进行总结：
  • 浅析：Android 嵌套滑动机制（NestedScrolling） gg163 android移动开发滑动机制嵌套
    谷歌在发布安卓 Lollipop版本之后，为了更好的用户体验，Google为Android的滑动机制提供了NestedScrolling特性 NestedScrolling的特性可以体现在哪里呢？<!--[if !supportLineBreakNewLine]--><!--[endif]--> 比如你使用了Toolbar，下面一个ScrollView，向上滚
  • 使用hovertree菜单作为后台导航 hvt JavaScriptjquery.nethovertreeasp.net
      hovertree是一个jquery菜单插件，官方网址：http://keleyi.com/jq/hovertree/ ，可以登录该网址体验效果。 0.1.3版本：http://keleyi.com/jq/hovertree/demo/demo.0.1.3.htm hovertree插件包含文件： http://keleyi.com/jq/hovertree/css
  • SVG 教程 （二）矩形 天梯梦 svg
    SVG <rect> SVG Shapes SVG有一些预定义的形状元素，可被开发者使用和操作： 矩形 <rect> 圆形 <circle> 椭圆 <ellipse> 线 <line> 折线 <polyline> 多边形 <polygon> 路径 <path>
  • 一个简单的队列 luyulong java数据结构队列
    public class MyQueue { private long[] arr; private int front; private int end; // 有效数据的大小 private int elements; public MyQueue() { arr = new long[10]; elements = 0; front
  • 基础数据结构和算法九：Binary Search Tree sunwinner Algorithm
      A binary search tree (BST) is a binary tree where each node has a Comparable key (and an associated value) and satisfies the restriction that the key in any node is larger than the keys in all
  • 项目出现的一些问题和体会 Steven-Walker DAOWebservlet
         第一篇博客不知道要写点什么，就先来点近阶段的感悟吧。     这几天学了servlet和数据库等知识，就参照老方的视频写了一个简单的增删改查的，完成了最简单的一些功能，使用了三层架构。 dao层完成的是对数据库具体的功能实现，service层调用了dao层的实现方法，具体对servlet提供支持。  &
  • 高手问答：Java老A带你全面提升Java单兵作战能力！ ITeye管理员 java
    本期特邀《Java特种兵》作者：谢宇，CSDN论坛ID: xieyuooo 针对JAVA问题给予大家解答，欢迎网友积极提问，与专家一起讨论! 作者简介： 淘宝网资深Java工程师，CSDN超人气博主，人称“胖哥”。 CSDN博客地址： http://blog.csdn.net/xieyuooo 作者在进入大学前是一个不折不扣的计算机白痴，曾经被人笑话过不懂鼠标是什么，
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他