spark ml 源码分析

git上找到的一个大神写的spark ml源码分析,非常详尽

地址:https://github.com/endymecy/spark-ml-source-analysis         

spark机器学习算法研究和源码分析

  本项目对spark ml包中各种算法的原理加以介绍并且对算法的代码实现进行详细分析,旨在加深自己对机器学习算法的理解,熟悉这些算法的分布式实现方式。

本系列文章支持的spark版本

  本系列文章大部分的算法基于spark 1.6.1,少部分基于spark 2.x。

本系列的目录结构

  本系列目录如下:

  • 数据类型
  • 基本统计
    • summary statistics(概括统计)
    • correlations(相关性系数)
    • tratified sampling(分层取样)
    • hypothesis testing(假设检验)
    • random data generation(随机数生成)
    • Kernel density estimation(核密度估计)
  • 协同过滤
    • 交换最小二乘
  • 分类和回归
    • 线性模型
      • SVMs(支持向量机)
      • 逻辑回归
      • 线性回归
      • 广义线性回归
    • 朴素贝叶斯
    • 决策树
    • 组合树
      • 随机森林
      • 梯度提升树
    • 生存回归
    • 保序回归
  • 聚类
    • k-means||算法
    • GMM(高斯混合模型)
    • PIC(快速迭代聚类)
    • LDA(隐式狄利克雷分布)
    • 二分k-means算法
    • 流式k-means算法
  • 最优化算法
    • 梯度下降算法
    • 拟牛顿法
    • NNLS(非负最小二乘)
    • 带权最小二乘
    • 迭代再加权最小二乘
  • 降维
    • EVD(特征值分解)
    • SVD(奇异值分解)
    • PCA(主成分分析)
  • 特征抽取和转换
    • 特征抽取
      • TF-IDF
      • Word2Vec
      • CountVectorizer
    • 特征转换
      • Tokenizer
      • StopWordsRemover
      • n-gram
      • Binarizer
      • PolynomialExpansion
      • Discrete Cosine Transform (DCT)
      • StringIndexer
      • IndexToString
      • OneHotEncoder
      • VectorIndexer
      • Normalizer(规则化)
      • StandardScaler(特征缩放)
      • MinMaxScaler
      • MaxAbsScaler
      • Bucketizer
      • ElementwiseProduct(元素智能乘积)
      • SQLTransformer
      • VectorAssembler
      • QuantileDiscretizer
    • 特征选择
      • VectorSlicer
      • RFormula
      • ChiSqSelector(卡方选择器)

你可能感兴趣的:(spark,ml,git)