我是疯子喽
我是疯子喽

机器学习--聚类算法（无监督）--高斯混合模型算法理论

目录

一 算法概述

1 算法概念

2 算法概念的公式化表达

二 算法原理

1 构建对数似然函数

2 使用EM算法

1）初始化参数

2）E-step：设隐变量的概念分布期望函数

3）M-stpe：由期望函数，最大化似然函数，估计参数

4）判断参数时候收敛，不收敛进行下一轮迭代（E-step与M-step）

一 算法概述

1 算法概念

高斯混合模型（GMM）是指由多个n元高斯模型线性叠加，描述了数据本身的一种分布情况，其中每个高斯模型称为一个component（类别）

注意：高斯混合模型一般使用在聚类算法中

2 算法概念的公式化表达

p(x)=\sum _{k=1}^{K}\pi _{k}p(x|\mu _{k},\Sigma _{k})=\sum _{k=1}^{K}p(x|\mu _{k},\Sigma _{k},\pi _{k})

  • \pi _{k}：是指每个类别发生的概率大小，其中\sum _{k=1}^{K}\pi _{k}=1
  • \mu _{k}：是指每个类别中的特征的均值向量
  • \Sigma _{k}：是指每个类型中的特征的协方差矩阵（c_{ij}=E((X_{i}-EX_{i})(X_{j}-EX_{j}))，对称矩阵）
  • p(x|\mu _{k},\Sigma _{k})：表示n元高斯概率密度函数

二 算法原理

1 构建对数似然函数

p(x^{(1)},x^{(2)},...,x^{(m)})=\prod_{i=1}^{m}p(x^{(i)})=\prod_{i=1}^{m}\sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})

L(\pi,\mu ,\Sigma )=\prod_{i=1}^{m}\sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})

l(\pi,\mu ,\Sigma )=log\left \{ \prod_{i=1}^{m}\sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j}) \right \}

2 使用EM算法

1）初始化参数\mu ,\Sigma ,\pi

2）E-step：设隐变量z=\pi的概念分布期望函数

Q(z^{(i)}=j|\mu_{j} ,\Sigma_{j} ,\pi_{j} )=\frac{p(x^{(i)},z^{(i)}_{j}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}{\sum_{z}p(x^{(i)},z^{(i)}_{j}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}=\frac{p(x^{(i)}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}{\sum_{j}^{K}p(x^{(i)}|\mu_{j} ,\Sigma_{j} ,\pi_{j} )}

令：w^{(i)}_{j}=Q(z^{(i)}=j|\mu_{j} ,\Sigma_{j} ,\pi_{j} )

3）M-stpe：由期望函数，最大化似然函数，估计参数

  • 第一点：使用Jesson不等式特性，似然函数进行变形

l(\pi,\mu ,\Sigma )=\sum_{i=1}^{m}log\left \{ \sum_{j=1}^{K}p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})\right \}

=\sum_{i=1}^{m}log \sum_{j=1}^{K}w^{(i)}_{j}\frac{p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})}{w^{(i)}_{j}}

=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{p(x^{(i)}|\mu _{j},\Sigma _{j},\pi _{j})}{w^{(i)}_{j}}

=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{p(x^{(i)}|\mu _{j},\Sigma _{j})\pi _{j}}{w^{(i)}_{j}}

=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{\frac{1}{(2\pi )^{n/2}|\Sigma_{j}| ^{1/2}}exp\left \{ -\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}) \right \}\pi _{j}}{w^{(i)}_{j}}

\Rightarrow l(\mu, \Sigma, \pi )=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{\frac{1}{(2\pi )^{n/2}|\Sigma_{j}| ^{1/2}}exp\left \{ -\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}) \right \}\pi _{j}}{w^{(i)}_{j}}

  • 第二点：构造拉格朗日函数（目标函数）

\left\{\begin{matrix} max\left \{ l(\mu ,\Sigma ,\pi ) \right \}\\ \sum _{j=1}^{K}\pi _{j}=1 \end{matrix}\right.\Rightarrow L(\mu ,\Sigma ,\pi,\beta )= l(\mu ,\Sigma ,\pi )+\beta (\sum _{j=1}^{K}\pi _{j}-1)

  • 第三点：求解\mu ,\Sigma ,\pi

求解：\mu

\frac{\partial }{\partial \mu _{j}}L(\mu ,\Sigma ,\pi ,\beta )=\frac{\partial }{\partial \mu _{j}}\left \{[\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}(-\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}))] +c\right \}

=\frac{\partial }{\partial \mu _{j}}\left \{[-\frac{1}{2}\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}((x^{(i)})^{T}\Sigma _{j}^{-1}x^{(i)}-(x^{(i)})^{T}\Sigma _{j}^{-1}\mu _{j}-(\mu _{j})^{T}\Sigma_{j} ^{-1}x^{(i)}+(\mu _{j})^{T}\Sigma_{j} ^{-1}\mu _{j})] +c\right \}

=-\frac{1}{2}\sum_{i=1}^{m}w^{(i)}_{j}(-\Sigma_{j} ^{-1}x^{(i)}-\Sigma _{j}^{-1}x^{(i)}+2\Sigma_{j}^{-1}\mu _{j})

=-\frac{1}{2}\sum_{i=1}^{m}w^{(i)}_{j}(-2\Sigma _{j}^{-1}x^{(i)}+2\Sigma _{j}^{-1}\mu _{j})

=\sum_{i=1}^{m}w^{(i)}_{j}(\Sigma_{j} ^{-1}x^{(i)}-\Sigma_{j} ^{-1}\mu _{j})

\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}(\Sigma _{j}^{-1}x^{(i)}-\Sigma_{j} ^{-1}\mu _{j})=0\Rightarrow \Sigma_{j} ^{-1}\sum_{i=1}^{m}w^{(i)}_{j}(x^{(i)}-\mu _{j})=0

\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}(x^{(i)}-\mu _{j})=0\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}x^{(i)}=\sum_{i=1}^{m}w^{(i)}_{j}\mu _{j}

\Rightarrow \sum_{i=1}^{m}w^{(i)}_{j}x^{(i)}=\mu _{j}\sum_{i=1}^{m}w^{(i)}_{j}

\Rightarrow \mu _{j}=\frac{\sum_{i}^{m}w^{(i)}_{j}x^{(i)}}{\sum_{i=1}^{m}w^{(i)}_{j}}

求解：\Sigma

\frac{\partial L(\mu, \Sigma ,\pi, \beta ) }{\partial \Sigma _{j}}=\frac{\partial }{\partial \Sigma _{j}}\left \{[\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}(-\frac{1}{2}log|\Sigma_{j}|-\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}(x^{(i)}-\mu _{j})]+c\right \}

=\sum_{i=1}^{m} w^{(i)}_{j}(-\frac{1}{2}|\Sigma |^{-1}|\Sigma|(\Sigma_{j}^{-1})^{T}-(-\frac{1}{2}(\Sigma_{j}^{-1})^{T}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}(\Sigma_{j}^{-1})^{T}))

=\sum_{i=1}^{m} w^{(i)}_{j}(-\frac{1}{2}(\Sigma_{j}^{T})^{-1}+\frac{1}{2}(\Sigma_{j}^{T})^{-1}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}(\Sigma_{j}^{T})^{-1})

=\sum_{i=1}^{m} w^{(i)}_{j}(-\frac{1}{2}\Sigma_{j}^{-1}+\frac{1}{2}\Sigma_{j}^{-1}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1})

=-\frac{\Sigma_{j}^{-1}}{2}\sum_{i=1}^{m} w^{(i)}_{j}(I-(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1})

\Rightarrow -\frac{\Sigma_{j}^{-1}}{2}\sum_{i=1}^{m} w^{(i)}_{j}(I-(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1})=0

\Rightarrow -\frac{\Sigma_{j}^{-1}}{2}[\sum_{i=1}^{m} w^{(i)}_{j}I-\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}]=0

\Rightarrow \sum_{i=1}^{m} w^{(i)}_{j}I-\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}=0

\Rightarrow \sum_{i=1}^{m} w^{(i)}_{j}I=\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}\Sigma_{j}^{-1}

\Rightarrow \sum_{i=1}^{m} w^{(i)}_{j}\Sigma_{j}=\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}I

\Rightarrow \Sigma_{j}=\frac{\sum_{i=1}^{m} w^{(i)}_{j}(x^{(i)}-\mu _{j})(x^{(i)}-\mu _{j})^{T}I}{\sum_{i=1}^{m} w^{(i)}_{j}}

求解：\pi,\beta

\Rightarrow l(\mu, \Sigma, \pi )=\sum_{i=1}^{m} \sum_{j=1}^{K}w^{(i)}_{j}log\frac{\frac{1}{(2\pi )^{n/2}|\Sigma_{j}| ^{1/2}}exp\left \{ -\frac{1}{2}(x^{(i)}-\mu _{j})^{T}\Sigma_{j} ^{-1}(x^{(i)}-\mu _{j}) \right \}\pi _{j}}{w^{(i)}_{j}}

\frac{\partial L(\mu ,\Sigma ,\pi ,\beta )}{\partial \pi _{j}}=\frac{\partial }{\partial \pi _{j}}\left \{ \sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}log\pi _{j}+\beta(\sum_{j=1}^{K}\pi _{j}-1)+c \right \}

=\sum_{i=1}^{m}w^{(i)}_{j}\pi _{j}^{-1}+\beta=0

\Rightarrow \beta=-\pi _{j}^{-1}\sum_{i=1}^{m}w^{(i)}_{j}\Rightarrow \pi _{j} \beta=-\sum_{i=1}^{m}w^{(i)}_{j}\Rightarrow \sum_{j=1}^{K} \pi _{j} \beta=-\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}

\Rightarrow \beta=-\sum_{i=1}^{m}\sum_{j=1}^{K}w^{(i)}_{j}=-m

\Rightarrow \pi _{j} =\frac{1}{m}\sum_{i=1}^{m}w^{(i)}_{j}

4）判断参数\mu ,\Sigma ,\pi,\beta时候收敛，不收敛进行下一轮迭代（E-step与M-step）

你可能感兴趣的:(聚类,机器学习,数据挖掘,python,算法)

  • 机器学习与深度学习间关系与区别 ℒℴѵℯ心·动ꦿ໊ོ꫞ 人工智能学习深度学习python
    一、机器学习概述定义机器学习（MachineLearning,ML）是一种通过数据驱动的方法，利用统计学和计算算法来训练模型，使计算机能够从数据中学习并自动进行预测或决策。机器学习通过分析大量数据样本，识别其中的模式和规律，从而对新的数据进行判断。其核心在于通过训练过程，让模型不断优化和提升其预测准确性。主要类型1.监督学习（SupervisedLearning）监督学习是指在训练数据集中包含输入
  • 理解Gunicorn：Python WSGI服务器的基石 范范0825 ipythonlinux运维
    理解Gunicorn：PythonWSGI服务器的基石介绍Gunicorn，全称GreenUnicorn，是一个为PythonWSGI（WebServerGatewayInterface）应用设计的高效、轻量级HTTP服务器。作为PythonWeb应用部署的常用工具，Gunicorn以其高性能和易用性著称。本文将介绍Gunicorn的基本概念、安装和配置，帮助初学者快速上手。1.什么是Gunico
  • Python数据分析与可视化实战指南 William数据分析 pythonpython数据
    在数据驱动的时代，Python因其简洁的语法、强大的库生态系统以及活跃的社区，成为了数据分析与可视化的首选语言。本文将通过一个详细的案例，带领大家学习如何使用Python进行数据分析，并通过可视化来直观呈现分析结果。一、环境准备1.1安装必要库在开始数据分析和可视化之前，我们需要安装一些常用的库。主要包括pandas、numpy、matplotlib和seaborn等。这些库分别用于数据处理、数学
  • python os.environ 江湖偌大 python深度学习
    os.environ['TF_CPP_MIN_LOG_LEVEL']='0'#默认值，输出所有信息os.environ['TF_CPP_MIN_LOG_LEVEL']='1'#屏蔽通知信息（INFO）os.environ['TF_CPP_MIN_LOG_LEVEL']='2'#屏蔽通知信息和警告信息（INFO\WARNING）os.environ['TF_CPP_MIN_LOG_LEVEL']='
  • Python中os.environ基本介绍及使用方法 鹤冲天Pro #Pythonpython服务器开发语言
    文章目录python中os.environos.environ简介os.environ进行环境变量的增删改查python中os.environ的使用详解1.简介2.key字段详解2.1常见key字段3.os.environ.get()用法4.环境变量的增删改查和判断是否存在4.1新增环境变量4.2更新环境变量4.3获取环境变量4.4删除环境变量4.5判断环境变量是否存在python中os.envi
  • Pyecharts数据可视化大屏：打造沉浸式数据分析体验 我的运维人生 信息可视化数据分析数据挖掘运维开发技术共享
    Pyecharts数据可视化大屏：打造沉浸式数据分析体验在当今这个数据驱动的时代，如何将海量数据以直观、生动的方式展现出来，成为了数据分析师和企业决策者关注的焦点。Pyecharts，作为一款基于Python的开源数据可视化库，凭借其丰富的图表类型、灵活的配置选项以及高度的定制化能力，成为了构建数据可视化大屏的理想选择。本文将深入探讨如何利用Pyecharts打造数据可视化大屏，并通过实际代码案例
  • Goolge earth studio 进阶4——路径修改与平滑 陟彼高冈yu Googleearthstudio进阶教程旅游
    如果我们希望在大约中途时获得更多的城市鸟瞰视角。可以将相机拖动到这里并创建一个新的关键帧。camera_target_clip_7EarthStudio会自动平滑我们的路径，所以当我们通过这个关键帧时，不是一个生硬的角度，而是一个平滑的曲线。camera_target_clip_8路径上有贝塞尔控制手柄，允许我们调整路径的形状。右键单击，我们可以选择“平滑路径”，这是默认的自动平滑算法，或者我们可
  • Python教程：一文了解使用Python处理XPath 旦莫 Python进阶python开发语言
    目录1.环境准备1.1安装lxml1.2验证安装2.XPath基础2.1什么是XPath？2.2XPath语法2.3示例XML文档3.使用lxml解析XML3.1解析XML文档3.2查看解析结果4.XPath查询4.1基本路径查询4.2使用属性查询4.3查询多个节点5.XPath的高级用法5.1使用逻辑运算符5.2使用函数6.实战案例6.1从网页抓取数据6.1.1安装Requests库6.1.2代
  • python os.environ_python os.environ 读取和设置环境变量 weixin_39605414 pythonos.environ
    >>>importos>>>os.environ.keys()['LC_NUMERIC','GOPATH','GOROOT','GOBIN','LESSOPEN','SSH_CLIENT','LOGNAME','USER','HOME','LC_PAPER','PATH','DISPLAY','LANG','TERM','SHELL','J2REDIR','LC_MONETARY','QT_QPA
  • 基于社交网络算法优化的二维最大熵图像分割 智能算法研学社（Jack旭） 智能优化算法应用图像分割算法php开发语言
    智能优化算法应用：基于社交网络优化的二维最大熵图像阈值分割-附代码文章目录智能优化算法应用：基于社交网络优化的二维最大熵图像阈值分割-附代码1.前言2.二维最大熵阈值分割原理3.基于社交网络优化的多阈值分割4.算法结果：5.参考文献：6.Matlab代码摘要：本文介绍基于最大熵的图像分割，并且应用社交网络算法进行阈值寻优。1.前言阅读此文章前，请阅读《图像分割：直方图区域划分及信息统计介绍》htt
  • 使用Faiss进行高效相似度搜索 llzwxh888 faisspython
    在现代AI应用中，快速和高效的相似度搜索是至关重要的。Faiss（FacebookAISimilaritySearch）是一个专门用于快速相似度搜索和聚类的库，特别适用于高维向量。本文将介绍如何使用Faiss来进行相似度搜索，并结合Python代码演示其基本用法。什么是Faiss？Faiss是一个由FacebookAIResearch团队开发的开源库，主要用于高维向量的相似性搜索和聚类。Faiss
  • python是什么意思中文-在python中%是什么意思 编程大乐趣
    Python中%有两种：1、数值运算：%代表取模，返回除法的余数。如：>>>7%212、%操作符（字符串格式化，stringformatting），说明如下：%[(name)][flags][width].[precision]typecode(name)为命名flags可以有+，-，''或0。+表示右对齐。-表示左对齐。''为一个空格，表示在正数的左侧填充一个空格，从而与负数对齐。0表示使用0填
  • Day1笔记-Python简介&标识符和关键字&输入输出 ~在杰难逃~ Pythonpython开发语言大数据数据分析数据挖掘
    大家好，从今天开始呢，杰哥开展一个新的专栏，当然，数据分析部分也会不定时更新的，这个新的专栏主要是讲解一些Python的基础语法和知识，帮助0基础的小伙伴入门和学习Python，感兴趣的小伙伴可以开始认真学习啦！一、Python简介【了解】1.计算机工作原理编程语言就是用来定义计算机程序的形式语言。我们通过编程语言来编写程序代码，再通过语言处理程序执行向计算机发送指令，让计算机完成对应的工作，编程
  • python八股文面试题分享及解析(1) Shawn________ python
    #1.'''a=1b=2不用中间变量交换a和b'''#1.a=1b=2a,b=b,aprint(a)print(b)结果：21#2.ll=[]foriinrange(3):ll.append({'num':i})print(11)结果:#[{'num':0},{'num':1},{'num':2}]#3.kk=[]a={'num':0}foriinrange(3):#0,12#可变类型，不仅仅改变
  • 121. 买卖股票的最佳时机 薄荷糖的味道_fb40
    给定一个数组，它的第i个元素是一支给定股票第i天的价格。如果你最多只允许完成一笔交易（即买入和卖出一支股票），设计一个算法来计算你所能获取的最大利润。注意你不能在买入股票前卖出股票。示例1:输入:[7,1,5,3,6,4]输出:5解释:在第2天（股票价格=1）的时候买入，在第5天（股票价格=6）的时候卖出，最大利润=6-1=5。注意利润不能是7-1=6,因为卖出价格需要大于买入价格。示例2:输入:
  • 每日算法&面试题，大厂特训二十八天——第二十天（树） 肥学 ⚡算法题⚡面试题每日精进java算法数据结构
    目录标题导读算法特训二十八天面试题点击直接资料领取导读肥友们为了更好的去帮助新同学适应算法和面试题，最近我们开始进行专项突击一步一步来。上一期我们完成了动态规划二十一天现在我们进行下一项对各类算法进行二十八天的一个小总结。还在等什么快来一起肥学进行二十八天挑战吧！！特别介绍小白练手专栏，适合刚入手的新人欢迎订阅编程小白进阶python有趣练手项目里面包括了像《机器人尬聊》《恶搞程序》这样的有趣文章
  • Python快速入门 —— 第三节：类与对象 孤华暗香 Python快速入门python开发语言
    第三节：类与对象目标：了解面向对象编程的基础概念，并学会如何定义类和创建对象。内容：类与对象：定义类：class关键字。类的构造函数：__init__()。类的属性和方法。对象的创建与使用。示例：classStudent:def__init__(self,name,age,major):self.name&#
  • Faiss Tips：高效向量搜索与聚类的利器 焦习娜Samantha
    FaissTips：高效向量搜索与聚类的利器faiss_tipsSomeusefultipsforfaiss项目地址:https://gitcode.com/gh_mirrors/fa/faiss_tips项目介绍Faiss是由FacebookAIResearch开发的一个用于高效相似性搜索和密集向量聚类的库。它支持多种硬件平台，包括CPU和GPU，能够在海量数据集上实现快速的近似最近邻搜索（AN
  • pyecharts——绘制柱形图折线图 2224070247 信息可视化pythonjava数据可视化
    一、pyecharts概述自2013年6月百度EFE(ExcellentFrontEnd）数据可视化团队研发的ECharts1.0发布到GitHub网站以来，ECharts一直备受业界权威的关注并获得广泛好评，成为目前成熟且流行的数据可视化图表工具，被应用到诸多数据可视化的开发领域。Python作为数据分析领域最受欢迎的语言，也加入ECharts的使用行列，并研发出方便Python开发者使用的数据
  • 回溯算法-重新安排行程 chirou_ 算法数据结构图论c++图搜索
    leetcode332.重新安排行程这题我还没自己ac过，只能现在凭着刚学完的热乎劲把我对题解的理解记下来。本题我认为对数据结构的考察比较多，用什么数据结构去存数据，去读取数据，都是很重要的。classSolution{private:unordered_map>targets;boolbacktracking(intticketNum,vector&result){//1.确定参数和返回值//2
  • Python 实现图片裁剪（附代码） | Python工具 剑客阿良_ALiang
    前言本文提供将图片按照自定义尺寸进行裁剪的工具方法，一如既往的实用主义。环境依赖ffmpeg环境安装，可以参考我的另一篇文章：windowsffmpeg安装部署_阿良的博客-CSDN博客本文主要使用到的不是ffmpeg，而是ffprobe也在上面这篇文章中的zip包中。ffmpy安装：pipinstallffmpy-ihttps://pypi.douban.com/simple代码不废话了，上代码
  • 【华为OD技术面试真题 - 技术面】- python八股文真题题库（4) 算法大师 华为od面试python
    华为OD面试真题精选专栏：华为OD面试真题精选目录:2024华为OD面试手撕代码真题目录以及八股文真题目录文章目录华为OD面试真题精选**1.Python中的`with`**用途和功能自动资源管理示例：文件操作上下文管理协议示例代码工作流程解析优点2.\_\_new\_\_和**\_\_init\_\_**区别__new____init__区别总结3.**切片（Slicing）操作**基本切片语法
  • python os 环境变量 CV矿工 python开发语言numpy
    环境变量：环境变量是程序和操作系统之间的通信方式。有些字符不宜明文写进代码里，比如数据库密码，个人账户密码，如果写进自己本机的环境变量里，程序用的时候通过os.environ.get（）取出来就行了。os.environ是一个环境变量的字典。环境变量的相关操作importos"""设置/修改环境变量：os.environ[‘环境变量名称’]=‘环境变量值’#其中key和value均为string类
  • Python爬虫解析工具之xpath使用详解 eqa11 python爬虫开发语言
    文章目录Python爬虫解析工具之xpath使用详解一、引言二、环境准备1、插件安装2、依赖库安装三、xpath语法详解1、路径表达式2、通配符3、谓语4、常用函数四、xpath在Python代码中的使用1、文档树的创建2、使用xpath表达式3、获取元素内容和属性五、总结Python爬虫解析工具之xpath使用详解一、引言在Python爬虫开发中，数据提取是一个至关重要的环节。xpath作为一门
  • Faiss：高效相似性搜索与聚类的利器 网络·魚 大数据faiss
    Faiss是一个针对大规模向量集合的相似性搜索库，由FacebookAIResearch开发。它提供了一系列高效的算法和数据结构，用于加速向量之间的相似性搜索，特别是在大规模数据集上。本文将介绍Faiss的原理、核心功能以及如何在实际项目中使用它。Faiss原理：近似最近邻搜索：Faiss的核心功能之一是近似最近邻搜索，它能够高效地在大规模数据集中找到与给定查询向量最相似的向量。这种搜索是近似的，
  • 【华为OD技术面试真题 - 技术面】- python八股文真题题库（1） 算法大师 华为od面试python
    华为OD面试真题精选专栏：华为OD面试真题精选目录:2024华为OD面试手撕代码真题目录以及八股文真题目录文章目录华为OD面试真题精选1.数据预处理流程数据预处理的主要步骤工具和库2.介绍线性回归、逻辑回归模型线性回归（LinearRegression）模型形式：关键点：逻辑回归（LogisticRegression）模型形式：关键点：参数估计与评估：3.python浅拷贝及深拷贝浅拷贝（Shal
  • 数字里的世界17期：2021年全球10大顶级数据中心，中国移动榜首 张三叨
    你知道吗？2016年，全球的数据中心共计用电4160亿千瓦时，比整个英国的发电量还多40％！前言每天，我们都会创造超过250万TB的数据。并且随着物联网（IOT）的不断普及，这一数据将持续增长。如此庞大的数据被存储在被称为“数据中心”的专用设施中。虽然最早的数据中心建于20世纪40年代，但直到1997-2000年的互联网泡沫期间才逐渐成为主流。当前人类的技术，比如人工智能和机器学习，已经将我们推向
  • nosql数据库技术与应用知识点 皆过客，揽星河 NoSQLnosql数据库大数据数据分析数据结构非关系型数据库
    Nosql知识回顾大数据处理流程数据采集(flume、爬虫、传感器)数据存储(本门课程NoSQL所处的阶段)Hdfs、MongoDB、HBase等数据清洗(入仓)Hive等数据处理、分析(Spark、Flink等)数据可视化数据挖掘、机器学习应用(Python、SparkMLlib等)大数据时代存储的挑战(三高)高并发(同一时间很多人访问)高扩展(要求随时根据需求扩展存储)高效率(要求读写速度快)
  • 《Python数据分析实战终极指南》 xjt921122 python数据分析开发语言
    对于分析师来说，大家在学习Python数据分析的路上，多多少少都遇到过很多大坑**，有关于技能和思维的**：Excel已经没办法处理现有的数据量了，应该学Python吗？找了一大堆Python和Pandas的资料来学习，为什么自己动手就懵了？跟着比赛类公开数据分析案例练了很久，为什么当自己面对数据需求还是只会数据处理而没有分析思路？学了对比、细分、聚类分析，也会用PEST、波特五力这类分析法，为啥
  • insert into select 主键自增_mybatis拦截器实现主键自动生成 weixin_39521651 insertintoselect主键自增mybatisdelete返回值mybatisinsert返回主键mybatisinsert返回对象mybatisplusinsert返回主键mybatisplus插入生成id
    前言前阵子和朋友聊天，他说他们项目有个需求，要实现主键自动生成，不想每次新增的时候，都手动设置主键。于是我就问他，那你们数据库表设置主键自动递增不就得了。他的回答是他们项目目前的id都是采用雪花算法来生成，因此为了项目稳定性，不会切换id的生成方式。朋友问我有没有什么实现思路，他们公司的orm框架是mybatis，我就建议他说，不然让你老大把mybatis切换成mybatis-plus。mybat
  • JVM StackMapTable 属性的作用及理解 lijingyao8206 jvm字节码Class文件StackMapTable
            在Java 6版本之后JVM引入了栈图(Stack Map Table)概念。为了提高验证过程的效率，在字节码规范中添加了Stack Map Table属性，以下简称栈图，其方法的code属性中存储了局部变量和操作数的类型验证以及字节码的偏移量。也就是一个method需要且仅对应一个Stack Map Table。在Java 7版
  • 回调函数调用方法 百合不是茶 java
    最近在看大神写的代码时,.发现其中使用了很多的回调 ,以前只是在学习的时候经常用到 ,现在写个笔记 记录一下   代码很简单:           MainDemo  :调用方法  得到方法的返回结果        
  • [时间机器]制造时间机器需要一些材料 comsci 制造
          根据我的计算和推测,要完全实现制造一台时间机器,需要某些我们这个世界不存在的物质     和材料...       甚至可以这样说,这种材料和物质,我们在反应堆中也无法获得......      
  • 开口埋怨不如闭口做事 邓集海 邓集海 做人 做事 工作
    “开口埋怨，不如闭口做事。”不是名人名言，而是一个普通父亲对儿子的训导。但是，因为这句训导，这位普通父亲却造就了一个名人儿子。这位普通父亲造就的名人儿子，叫张明正。 　　 　　张明正出身贫寒，读书时成绩差，常挨老师批评。高中毕业，张明正连普通大学的分数线都没上。高考成绩出来后，平时开口怨这怨那的张明正，不从自身找原因，而是不停地埋怨自己家庭条件不好、埋怨父母没有给他创造良好的学习环境。 　　 　　
  • jQuery插件开发全解析，类级别与对象级别开发 IT独行者 jquery开发插件　函数
    jQuery插件的开发包括两种： 一种是类级别的插件开发，即给 jQuery添加新的全局函数，相当于给 jQuery类本身添加方法。 jQuery的全局函数就是属于 jQuery命名空间的函数，另一种是对象级别的插件开发，即给 jQuery对象添加方法。下面就两种函数的开发做详细的说明。   1 、类级别的插件开发 类级别的插件开发最直接的理解就是给jQuer
  • Rome解析Rss 413277409 Rome解析Rss
    import java.net.URL;  import java.util.List;    import org.junit.Test;    import com.sun.syndication.feed.synd.SyndCategory;  import com.sun.syndication.feed.synd.S
  • RSA加密解密 无量 加密解密rsa
    RSA加密解密代码 代码有待整理 package com.tongbanjie.commons.util; import java.security.Key; import java.security.KeyFactory; import java.security.KeyPair; import java.security.KeyPairGenerat
  • linux 软件安装遇到的问题 aichenglong linux遇到的问题ftp
    1 ftp配置中遇到的问题    500 OOPS: cannot change directory   出现该问题的原因:是SELinux安装机制的问题.只要disable SELinux就可以了   修改方法:1 修改/etc/selinux/config 中SELINUX=disabled    2 source /etc
  • 面试心得 alafqq 面试
    最近面试了好几家公司。记录下； 支付宝，面试我的人胖胖的，看着人挺好的；博彦外包的职位，面试失败； 阿里金融，面试官人也挺和善，只不过我让他吐血了。。。 由于印象比较深，记录下； 1，自我介绍 2，说下八种基本类型；（算上string。楼主才答了3种，哈哈，string其实不是基本类型，是引用类型） 3，什么是包装类，包装类的优点； 4，平时看过什么书？NND，什么书都没看过。。照样
  • java的多态性探讨 百合不是茶 java
    java的多态性是指main方法在调用属性的时候类可以对这一属性做出反应的情况 //package 1; class A{ public void test(){ System.out.println("A"); } } class D extends A{ public void test(){ S
  • 网络编程基础篇之JavaScript-学习笔记 bijian1013 JavaScript
    1.documentWrite <html> <head> <script language="JavaScript"> document.write("这是电脑网络学校"); document.close(); </script> </h
  • 探索JUnit4扩展：深入Rule bijian1013 JUnitRule单元测试
            本文将进一步探究Rule的应用，展示如何使用Rule来替代@BeforeClass，@AfterClass，@Before和@After的功能。         在上一篇中提到，可以使用Rule替代现有的大部分Runner扩展，而且也不提倡对Runner中的withBefores()，withAfte
  • [CSS]CSS浮动十五条规则 bit1129 css
    这些浮动规则，主要是参考CSS权威指南关于浮动规则的总结，然后添加一些简单的例子以验证和理解这些规则。   1. 所有的页面元素都可以浮动 2. 一个元素浮动后，会成为块级元素，比如<span>,a, strong等都会变成块级元素 3.一个元素左浮动，会向最近的块级父元素的左上角移动，直到浮动元素的左外边界碰到块级父元素的左内边界；如果这个块级父元素已经有浮动元素停靠了
  • 【Kafka六】Kafka Producer和Consumer多Broker、多Partition场景 bit1129 partition
    0.Kafka服务器配置 3个broker 1个topic，6个partition，副本因子是2 2个consumer，每个consumer三个线程并发读取   1. Producer package kafka.examples.multibrokers.producers; import java.util.Properties; import java.util.
  • zabbix_agentd.conf配置文件详解 ronin47 zabbix 配置文件
    Aliaskey的别名，例如 Alias=ttlsa.userid:vfs.file.regexp[/etc/passwd,^ttlsa:.:([0-9]+),,,,\1]， 或者ttlsa的用户ID。你可以使用key：vfs.file.regexp[/etc/passwd,^ttlsa:.: ([0-9]+),,,,\1]，也可以使用ttlsa.userid。备注: 别名不能重复，但是可以有多个
  • java--19.用矩阵求Fibonacci数列的第N项 bylijinnan fibonacci
    参考了网上的思路，写了个Java版的： public class Fibonacci { final static int[] A={1,1,1,0}; public static void main(String[] args) { int n=7; for(int i=0;i<=n;i++){ int f=fibonac
  • Netty源码学习-LengthFieldBasedFrameDecoder bylijinnan javanetty
    先看看LengthFieldBasedFrameDecoder的官方API http://docs.jboss.org/netty/3.1/api/org/jboss/netty/handler/codec/frame/LengthFieldBasedFrameDecoder.html API举例说明了LengthFieldBasedFrameDecoder的解析机制，如下： 实
  • AES加密解密 chicony 加密解密
    AES加解密算法，使用Base64做转码以及辅助加密： package com.wintv.common; import javax.crypto.Cipher; import javax.crypto.spec.IvParameterSpec; import javax.crypto.spec.SecretKeySpec; import sun.misc.BASE64Decod
  • 文件编码格式转换 ctrain 编码格式
    package com.test; import java.io.File; import java.io.FileInputStream; import java.io.FileOutputStream; import java.io.IOException; import java.io.InputStream; import java.io.OutputStream;
  • mysql 在linux客户端插入数据中文乱码 daizj mysql中文乱码
    1、查看系统客户端，数据库，连接层的编码  查看方法： http://daizj.iteye.com/blog/2174993 进入mysql，通过如下命令查看数据库编码方式： mysql>  show variables like 'character_set_%'; +--------------------------+------
  • 好代码是廉价的代码 dcj3sjt126com 程序员读书
      长久以来我一直主张：好代码是廉价的代码。 当我跟做开发的同事说出这话时，他们的第一反应是一种惊愕，然后是将近一个星期的嘲笑，把它当作一个笑话来讲。 当他们走近看我的表情、知道我是认真的时，才收敛一点。 当最初的惊愕消退后，他们会用一些这样的话来反驳： “好代码不廉价，好代码是采用经过数十年计算机科学研究和积累得出的最佳实践设计模式和方法论建立起来的精心制作的程序代码。” 我只
  • Android网络请求库——android-async-http dcj3sjt126com android
    在iOS开发中有大名鼎鼎的ASIHttpRequest库，用来处理网络请求操作，今天要介绍的是一个在Android上同样强大的网络请求库android-async-http，目前非常火的应用Instagram和Pinterest的Android版就是用的这个网络请求库。这个网络请求库是基于Apache HttpClient库之上的一个异步网络请求处理库，网络处理均基于Android的非UI线程，通
  • ORACLE 复习笔记之SQL语句的优化 eksliang SQL优化Oracle sql语句优化SQL语句的优化
    转载请出自出处：http://eksliang.iteye.com/blog/2097999   SQL语句的优化总结如下   sql语句的优化可以按照如下六个步骤进行： 合理使用索引 避免或者简化排序 消除对大表的扫描 避免复杂的通配符匹配 调整子查询的性能 EXISTS和IN运算符 下面我就按照上面这六个步骤分别进行总结：
  • 浅析：Android 嵌套滑动机制（NestedScrolling） gg163 android移动开发滑动机制嵌套
    谷歌在发布安卓 Lollipop版本之后，为了更好的用户体验，Google为Android的滑动机制提供了NestedScrolling特性 NestedScrolling的特性可以体现在哪里呢？<!--[if !supportLineBreakNewLine]--><!--[endif]--> 比如你使用了Toolbar，下面一个ScrollView，向上滚
  • 使用hovertree菜单作为后台导航 hvt JavaScriptjquery.nethovertreeasp.net
      hovertree是一个jquery菜单插件，官方网址：http://keleyi.com/jq/hovertree/ ，可以登录该网址体验效果。 0.1.3版本：http://keleyi.com/jq/hovertree/demo/demo.0.1.3.htm hovertree插件包含文件： http://keleyi.com/jq/hovertree/css
  • SVG 教程 （二）矩形 天梯梦 svg
    SVG <rect> SVG Shapes SVG有一些预定义的形状元素，可被开发者使用和操作： 矩形 <rect> 圆形 <circle> 椭圆 <ellipse> 线 <line> 折线 <polyline> 多边形 <polygon> 路径 <path>
  • 一个简单的队列 luyulong java数据结构队列
    public class MyQueue { private long[] arr; private int front; private int end; // 有效数据的大小 private int elements; public MyQueue() { arr = new long[10]; elements = 0; front
  • 基础数据结构和算法九：Binary Search Tree sunwinner Algorithm
      A binary search tree (BST) is a binary tree where each node has a Comparable key (and an associated value) and satisfies the restriction that the key in any node is larger than the keys in all
  • 项目出现的一些问题和体会 Steven-Walker DAOWebservlet
         第一篇博客不知道要写点什么，就先来点近阶段的感悟吧。     这几天学了servlet和数据库等知识，就参照老方的视频写了一个简单的增删改查的，完成了最简单的一些功能，使用了三层架构。 dao层完成的是对数据库具体的功能实现，service层调用了dao层的实现方法，具体对servlet提供支持。  &
  • 高手问答：Java老A带你全面提升Java单兵作战能力！ ITeye管理员 java
    本期特邀《Java特种兵》作者：谢宇，CSDN论坛ID: xieyuooo 针对JAVA问题给予大家解答，欢迎网友积极提问，与专家一起讨论! 作者简介： 淘宝网资深Java工程师，CSDN超人气博主，人称“胖哥”。 CSDN博客地址： http://blog.csdn.net/xieyuooo 作者在进入大学前是一个不折不扣的计算机白痴，曾经被人笑话过不懂鼠标是什么，
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他