史上最全的机器学习资料（上）

摘要： 机器学习牵涉的编程语言十分之广，包括了MATLAB、Python、Clojure、Ruby等等。为了让开发者更加广泛、深入地了解机器学习，云栖社区组织翻译了GitHub Awesome Machine Learning 资源，涵盖24种编程语言的机器学习的框架、库以及其他相关资料。

机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习牵涉的编程语言十分之广，包括了MATLAB、Julia、R、Perl、Python、Clojure、Ruby等等。

为了让开发者更加广泛、深入地了解机器学习，云栖社区组织翻译了GitHub Awesome Machine Learning 资源，涵盖24种编程语言的机器学习的框架、库以及其他相关资料。

目录

• C
  • 通用机器学习
  • 计算机视觉
• C++
  • 计算机视觉
  • 通用机器学习
  • 自然语言处理
  • 序列分析
  • 手势识别
• Common Lisp
  • 通用机器学习 
• Clojure
  • 自然语言处理
  • 通用机器学习
  • 数据分析 /数据可视化
• Erlang
  • 通用机器学习
• Go
  • 自然语言处理
  • 通用机器学习 
  • 数据分析 /数据可视化
• Haskell
  • 通用机器学习
• Java
  • 自然语言处理 
  • 通用机器学习
  • 数据分析 /数据可视化
  • 深度学习
• Javascript
  • 自然语言处理
  • 数据分析 /数据可视化 
  • 通用机器学习 
  • 其他
• Julia
  • 通用机器学习
  • 自然语言处理
  • 数据分析/数据可视化
  • 其他项 /展示
• Lua
  • 通用机器学习
  • 示例和脚本
• Matlab
  • 计算机视觉
  • 自然语言处理
  • 通用机器学 
  • 数据分析 / 数据可视化
• .NET
  • 计算机视觉
  • 自然语言处理 
  • 通用机器学习
  • 数据分析 /数据可视化 
• Objective C
  • 通用机器学习
• OCaml
  • 通用机器学习
• PHP
  • 自然语言处理 
  • 通用机器学习 
• Python
  •  计算机视觉
  • 自然语言处理
  • 通用机器学习
  • 数据分析 /数据可视化 
  • 杂项脚本/ iPython笔记 /源码库 
  • Kaggle竞赛源码 
• Ruby
  • 自然语言处理
  • 通用机器学习 
  • 数据分析 /数据处理 
  • 杂项
• Rust
  • 通用机器学习
• R
  • 通用机器学习
  • 数据分析 /数据可视化 
• SAS
  • 通用机器学习 
  • 数据分析 /数据可视化 
  • 高性能机器学习（MPP） 
  • 自然语言处理
  • 示例和脚本
• Scala
  • 自然语言处理
  • 数据分析 /数据可视化 
  • 通用机器学习 
• Swift
  • 通用机器学习 
• Credits

C

通用机器学习

• Recommender  – 一个C语言库，利用协同过滤（CF）进行产品推荐/建议；
• Darknet  -是一个用C和CUDA编写的开源神经网络框架，它速度快，易于安装，并支持CPU和GPU计算。

计算机视觉

• CCV  -基于C语言、高速缓存的核计算机视觉库，是一个现代化的计算机视觉库；
• VLFeat  -开放、可便携的计算机视觉算法库，内有matlab工具箱。

语音识别

• HTK  -隐马尔可夫模型工具包（HTK）是一个便携式工具包，用于构建和操作隐马尔可夫模型。

C++

计算机视觉

• OpenCV -OpenCV自带C ++、C、Python、Java和MATLAB接口，并支持Windows、Linux、Android版和Mac OS等系统；
• DLib -DLib有C ++和Python接口，用于人脸检测和训练通用的目标探测器；
• EBLearn -Eblearn是一种面向对象的C++库，能够实现各种机器学习模型；
• VIGRA -VIGRA是通用跨平台的C++计算机视觉和机器学习库，能够用Python绑定任意维度的体积。

通用机器学习

• mlpack  -可扩展的C++机器学习库；
• DLib -ML工具套件，能够很容易嵌入到其他应用程序中；
• encog-cpp
• shark
• Vowpal Wabbit (VW)  -一个快速的核外（out-of-core ）学习系统；
• sofia-ml  -快速增量算法套件；
• Shogun  -Shogun机器学习工具箱；
• Caffe  -基于清洁度、可读性和速度考虑而开发的深度学习框架。[深度学习]
• CXXNET  -另一个深度学习框架，其核心代码少于1000行；[深度学习]
• XGBoost  -一种并行、优化、通用的梯度推进库；
• CUDA  -利用C++ / CUDA快速实现卷积；[深度学习]
• Stan  -一种概率性的编程语言，能够实现Hamiltonian Monte Carlo抽样的全贝叶斯统计推断；
• BanditLib  -一个简单、有多重保护的Bandit库；
• Timbl ：一个软件包/ C ++库，能够实现多种基于内存的学习算法，其中有IB1-IG–k-最近邻分类的实现、IGTree–IB1-IG的决策树近似值；常用于NLP；
• Disrtibuted Machine learning Tool Kit (DMTK)  -微软开发的分布式机器学习（参数服务器）框架，能够在多台机器的大型数据集上实现训练模型，与它捆绑的现有工具包括：LightLDA和分布式（多传感）字嵌入；
• igraph  -通用图形库；
• Warp-CTC  -在CPU和GPU上快速并行地实现连接时域分类（Connectionist Temporal Classification，CTC）；
• CNTK  -微软研究院开发的计算网络工具包（CNTK），它作为一系列计算步骤，通过有向图来描述神经网络，是统一的深度学习工具包；
• DeepDetect  -一个机器学习API，服务器用C++11编写，它使机器学习的状态易于工作，并容易集成到现有应用程序；
• Fido  -一个高度模块化的C++机器学习库，用于嵌入式电子产品和机器人中。

自然语言处理

• MIT Information Extraction Toolkit -C，C ++和Python的工具，用于命名实体识别与关系抽取；
• CRF++  -条件随机域（Conditional Random Fields，CRFs）的开源实现，用于分割/标记序列数据及其他自然语言处理任务；
• CRFsuite  -条件随机域（CRFs）的实现，用于标记序列数据；
• BLLIP Parser  -BLLIP自然语言解析器（也称为Charniak-Johnson解析器）；
• colibri-core  -是C++库、命令行工具，和Python绑定用于提取与使用基本的语言结构，例如用快速和高效存储的方式实现n-grams和skipgrams模型；
• ucto  -是一种工具和C++库，基于支持各种语言的编译器，内含统一字符标准及规则表达式；支持FoLiA格式；
• libfolia  -支持FoLiA格式的C++库；
• frog  -为Dutch开发的基于内存的NLP套件：POS标签、归类分析、依存句法分析、NER、浅层句法分析、形态分析；
• MeTA  –MeTA : ModErn 语篇分析（ModErn Text Analysis），是一个C++数据科学工具包，便于挖掘大文本数据。

语音识别

• Kaldi  -Kaldi是用于语音识别的工具包，用C++编写，由Apache许可证V2.0协议授权，专门给语音识别的研究人员使用。

序列分析

• ToPS  -这是一种面向对象的框架，便于在用户定义的字母序列中整合概率模型。

手势检测

• grt  -手势识别工具包（GRT）是一个跨平台、开源的C++机器学习库，用于实时的手势识别。

Common Lisp

通用机器学习

• mgl  -神经网络（玻耳兹曼机，前馈和循环网络）以及高斯过程；
• mgl-gpr  -演化算法；
• cl-libsvm -LIBSVM支持向量机库的包装。

Clojure

自然语言处理

• Clojure-openNLP – Clojure中自然语言处理的工具包（openNLP）；
• Infections-clj – Clojure和Clojure中类似于Rails的inflection库。

通用机器学习

• Touchstone – Clojure A/B 测试库；
• Clojush – Clojure中的Push程序语言和PushGP遗传编程系统；
• Infer – Clojure中分析和机器学习的工具；
• Clj-ML – Clojure中基于Weka及其相关环境的深度学习库；
• Encog – 在Clojure中封装成Encog (v3) （专门研究神经网络的机器学习框架）；
• Fungp –  Clojure中的遗传编程实例库；
• Statistiker – Clojure中基础机器学习算法；
• clortex -采用Numenta’s Cortical 学习算法的通用机器学习库；
• comportex – 采用Numenta’s Cortical 学习算法的功能组合的机器学习库。

数据分析/数据可视化

• Incanter – Incanter是基于 Clojure，类似R的统计计算与制图平台；
• PigPen –  Clojure中的Map-Reduce；
• Envision – 基于Statistiker和D3Clojure 数据可视化库。

Erlang

通用机器学习

• Disco–  Erlang中的Map Reduce模型。

Go

自然语言处理

• go-porterstemmer – 一个用于实现Porter词干提取算法的原生Go语言净室；
• paicehusk – Go语言中用于实现Paice/Husk词干提取算法；
• snowball – Go语言中的Snowball 词干提取器；
• go-ngram -内存N-gram索引压缩 。

通用机器学习

• Go Learn – Go语言中的机器学习库；
• go-pr – Go语言中的模式识别包；
• go-ml – 线性/逻辑回归、神经网络、协同过滤和多元高斯分布；
• bayesian – Go语言中朴素贝叶斯分类库；
• go-galib – Go语言版的遗传算法库；
• Cloudforest – GO语言中的决策树集合；
• gobrain – GO语言版的神经网络；
• GoNN – GoNN 是用Go语言实现的神经网络，它包括BPNN、RBF、PCN ；
• MXNet – 轻量级、便携式、灵活的分布式/深度学习系统，可对动态的、突变数据流调度部署，同时也支持Python、R、Julia、Go、Javascript 等编程语言。

数据分析/数据可视化

• go-graph – Go语言图形库；
• SVGo – Go语言的SVG生成库；
• RF – Go语言的随机森林库；

Haskell

通用机器学习

• haskell-ml – Haskell 语言实现的各种深度学习算法 ；
• HLearn – 根据代数结构解释其深度模型的库；
• hnn – Haskell语言的神经网络库；
• hopfield-networks – Haskell中用于无监督学习的Hopfield网络；
• caffegraph – 一种用于深度神经网络的领域特定语言（DSL）；
• LambdaNet – Haskell中的可配置的神经网络。

Java

自然语言处理

• Cortical.io – 像人脑一样快速、精确处理复杂的NLP（自然语言处理）操作（如消歧、分类、流文本过滤等操作）的Retina API；
• CoreNLP – 斯坦福大学的CoreNLP提供的一系列的自然语言处理工具，该工具可以根据输入原始英语文本，给出单词的基本形式；
• Stanford Parser – 一种自然语言分析器，可以分析语句的语法结构；
• Stanford POS Tagger -一个词性分类器  (POS Tagger）；
• Stanford Name Entity Recognizer – Stanford NER是一个Java实现的名称识别器；
• Stanford Word Segmenter – 分词器，很多NLP工作中都要用到的标准预处理步骤；
• Tregex, Tsurgeon and Semgrex – Tregex基于树关系以及节点匹配的正则表达式，用于在树状数据结构中进行模式匹配（名字是“tree regular expressions”的缩写） ；
• Stanford Phrasal: 一个基于短语的翻译系统
• Stanford English Tokenizer – Stanford Phrasal 用Java写成的最新的基于统计短语的机器翻译系统；
• Stanford Tokens Regex – 一个分解器，可以将文本大致分成一系列对应于“词”的符号；
• Stanford Temporal Tagger – SUTime是一个用于识别并标准化时间表达式的库；
• Stanford SPIED -在种子集上使用模式，以迭代方式从无标签文本中进行学习实体；
• Stanford Topic Modeling Toolbox – 为社会科学家及其他希望分析数据集的人员提供的主题建模工具；
• Twitter Text Java – Java实现的推特文本处理库；
• MALLET – 基于Java的统计自然语言处理、文档分类、聚类、主题建模、信息提取以及其他机器学习的文本应用包；
• OpenNLP – 基于机器学习的自然语言文本处理工具包；
• LingPipe – 一个使用计算机语言学文本处理的工具包；
• ClearTK – 在Java中ClearTK为开发统计语言处理组件提供了一个框架，该框架是基于Apache UIMA；
• Apache cTAKES – Apache cTAKES是一个开源自然语言处理系统，用于从临床电子病历的自由文本中提取信息；
• ClearNLP – ClearNLP工程为自然语言处理提供了软件和资源提供了。该项目最早在计算机愈合和教育研究中心启动，目前由Emory 大学的语言和信息研究中心继续开发。该项目遵循Apache 2 license。

通用机器学习

• aerosolve – 是由Airbnb设计的定价建议系统的机器学习库；
• Datumbox -应对机器学习和统计应用快速发展的机器学习框架；
• ELKI – 用于数据挖掘的Java工具包(无监督：聚类、异常检测等等)；
• Encog – 一种先进的神经网络和机器学习框架。 Encog包含用于创建各类网络的类，同时也支持为神经网络规范和处理数据的类。它的训练采用多线程弹性传播。它也能使用GPU加快处理时间。提供了图形化界面来帮助建模和训练神经网络。
• EvA2 – 包含遗传算法、差分进化、协方差自适应进化策略等等的进化算法框架；
• FlinkML in Apache Flink – Flink中的分布式机器学习库；
• H2O – 深度学习引擎，支持在Hadoop、Spark 或者通过R、Python、Scala 、REST/JSONML 的APIs连到的笔记本上进行分布式学习；
• htm.java – 采用Numenta Cortical 学习算法的通用机器学习库 ；
• java-deeplearning – Java、Clojure、Scala的分布式深度学习平台；
• JAVA-ML – 包含所有Java算法的通用接口的通用深度学习库；
• JSAT – 用于分类、回归、聚类的机器学习算法集合；
• Mahout – 分布式的机器学习库；
• Meka – MEKA提供了一个面向多标签学习和评价方法的开源实现（扩展成Weka）；
• MLlib in Apache Spark – Spark中的分布式机器学习程序库；
• Neuroph – Neuroph 是轻量级的Java神经网络框架；
• ORYX – 采用Apache Spark和Apache Kafka的Lambda 结构框架，专门用于实时大规模机器学习；
• Samoa – SAMOA 是一个包含用于分布式机器学习数据流的框架，同时为数据流流入不同的流处理平台提供了接口；
• RankLib – RankLib是一个排序学习算法库；
• rapaio – Java中用于统计、数据挖掘和机器学习的工具箱；
• RapidMiner – RapidMiner integration into Java code
• Stanford Classifier – 斯坦福大学分类器是一种机器学习工具，它可以将数据项归置不同的类别中；
• SmileMiner – 统计机器智能与学习引擎；
• SystemML – 灵活、可扩展的机器学习语言；
• WalnutiQ – 人脑部分面向对象模型；
• Weka – Weka是数据挖掘方面的机器学习算法集 。

语音识别

• CMU Sphinx – CMU Sphinx 是基于Java 语音识别库，用于纯语音识别开源工具包。

数据分析/数据可视化

• Flink – Apache Flink是一个面向分布式数据流处理和批量数据处理的开源计算平台；
• Hadoop – 大数据分析平台；
• Spark – Spark是一个快速通用的大规模数据处理引擎；
• Storm – Storm是一个分布式实时计算系统；
• Impala – 为Hadoop实现实时查询
• DataMelt – 用于数字计算、统计、符号计算、数据分析和数据可视化的数学软件；
• Dr. Michael Thomas Flanagan’s Java Scientific Library

深度学习

• Deeplearning4j – 采用并行GPU的商用可扩展深度学习库。

数 Javascript

---

自然语言处理

• Twitter-text – Twitter文本处理库中使用JavaScript的实现；
• NLP.js – 使用JavaScript和CoffeeScript的NLP实用工具；
• natural – 用于节点的通用自然语言工具；
• Knwl.js – JS中的自然语言处理器；
• Retext -用于分析和处理自然语言的可扩展系统；
• TextProcessing -情感分析，词干和词形还原，部分词性标注和组块，短语提取和命名实体识别；
• NLP Compromise – 浏览器中的自然语言处理。

数据分析/数据可视化

• D3.js
• High Charts
• NVD3.js
• dc.js
• chartjs
• dimple
• amCharts
• D3xter –直接建立在D3上的绘图；
• statkit – JavaScript的统计工具；
• datakit – JavaScript的轻量级数据分析框架；
• science.js – JavaScript中的科学统计计算；
• Z3d – 在Three.js上轻松地绘制交互式3D图；
• Sigma.js – JavaScript库，专门用于图形绘制；
• C3.js – 基于D3.js的定制库，能够轻松绘制图表；
• ZingChart – Vanilla JS编写的库，用于大数据可视化；
• cheminfo – 数据可视化和分析的平台，使用可视化项目。

通用机器学习

• Convnet.js – ConvNetJS是一个JavaScript库，用于训练深度学习模型[深度学习]；
• Clusterfck – 为Node.js和浏览器，用Javascript实现的凝聚层次聚类；
• Clustering.js – Javascript为Node.js和浏览器实现的聚类算法；
• Decision Trees -使用ID3算法实现NodeJS决策树；
• figue – K-均值、模糊C均值和凝聚聚类；
• Node-fann -Node.js绑定的快速人工神经网络库（Fast Artificial Neural Network Library，FANN）；
• Kmeans.js – K-均值算法用JavaScript的简单实现，用于Node.js和浏览器；
• LDA.js – Node.js的LDA主题建模；
• Learning.js –用Javascript实现逻辑回归/ c4.5决策树；
• Machine Learning – Node.js的机器学习库；
• Node-SVM – Node.js的支持向量机；
• Brain – JavaScript中的神经网络[已弃用]；
• Bayesian-Bandit – Node和浏览器的贝叶斯实现；
• Synaptic – 用于Node.js和浏览器的无架构神经网络库；
• kNear – JavaScript实现的k个最近邻算法，用于监督学习；
• NeuralN – Node.js的C++神经网络库，其优点是有大量的数据集和多线程训练；
• kalman – Javascript的卡尔曼滤波器；
• shaman – Node.js库，同时支持简单和多元的线性回归；
• ml.js –用于Node.js和浏览器的机器学习和数值分析工具；
• Pavlov.js -利用马尔可夫决策过程强化学习；
• MXNet – 轻量级、便携式、灵活的分布式/深度学习系统，可对动态的、突变数据流调度部署，同时也支持Python、R、Julia、Go、Javascript 等编程语言。

其它

• sylvester – 用于JavaScript的向量和矩阵数学；
• simple-statistics – 描述，回归和推断统计的JavaScript实现；用文字实现的JavaScript，没有依赖性，能在所有现代浏览器（包括IE）以及在node.js中工作；
• regression-js – JavaScript库，包含小二乘法拟合方法的集合，用于寻找数据集的趋势；
• Lyric -线性回归库；
• GreatCircle – 计算大圆距的库。

Julia

通用机器学习

• MachineLearning – Julia机器学习库；
• MLBase -一组支持机器学习算法的发展的函数；
• PGM – 一个概率图模型的Julia框架；
• DA – 正则判别分析的Julia组件；
• Regression – 回归分析算法（例如线性回归和逻辑回归）；
• Local Regression -局部回归，超级流畅！
• Naive Bayes – Julia朴素贝叶斯方法的简单实现；
• Mixed Models – 用于装配（统计）混合效应模型的Julia组件；
• Simple MCMC – Julia实现基本的MCMC采样；
• Distance – Julia距离评估模块；
• Decision Tree -决策树分类和回归；
• Neural – Julia神经网络；
• MCMC – Julia 的MCMC工具；
• Mamba – Julia中马尔可夫链蒙特卡罗（MCMC）的贝叶斯分析；
• GLM – Julia的广义线性模型。
• Online Learning
• GLMNet – GMLNet的Julia包装版，适合套索/弹性网模型；
• Clustering -集群数据的基本功能：K-均值，DP-均值等；
• SVM – Julia适用的SVM；
• Kernal Density – Julia的核密度估计量；
• Dimensionality Reduction -降维方法；
• NMF – 非负矩阵分解的Julia包；
• ANN – Julia人工神经网络；
• Mocha – 受Caffe启发，Julia的深度学习框架；
• XGBoost – Julia中的eXtreme Gradient Boosting 包；
• ManifoldLearning – 用于流形学习和非线性降维的Julia组件；
• MXNet – 轻量级、便携式、灵活的分布式/深度学习系统，可对动态的、突变数据流调度部署，同时也支持Python、R、Julia、Go、Javascript 等编程语言。
• Merlin – Julia灵活的深度学习框架。

自然语言处理

• Topic Models – Julia下的主题模型；
• Text Analysis – Julia下的文本分析包。

数据分析/数据可视化

• Graph Layout – 纯Julia实现的图布局算法；
• Data Frames Meta – DataFrames的元编程工具；
• Julia Data – 处理表格数据的Julia库；
• Data Read – 从Stata、SAS、SPSS读取文件；
• Hypothesis Tests – Julia的假设检验；
• Gadfly – Julia 灵活的统计制图法；
• Stats – Julia的统计图检验；
• RDataSets – 用于装载许多R中可用数据集的Julia包；
• DataFrames – 处理列表数据的Julia库；
• Distributions – 概率分布和相关函数的Julia包；
• Data Arrays – 允许缺失值的数据结构；
• Time Series – Julia的时间序列工具包；
• Sampling – Julia的基本采样算法。

其他项/展示

• DSP -数字信号处理（滤波，周期图，频谱图，窗函数）；
• JuliaCon Presentations – JuliaCon的演示文稿；
• SignalProcessing – Julia写的信号处理工具；
• Images – Julia的图像库。

编译自： https://github.com/josephmisiti/awesome-machine-learning

来源：云栖社区

译者：刘崇鑫   校对：王殿进