机器学习面试题-神经网络怎么降维?

问题引入

降维的算法有很多,那么在神经网络中适如何降维的呢?

问题回答

神经网络中可以通过autoencoder来实现降维,NN(神经网络)来对数据进行大量的降维是从2006开始的,这起源于science上的一篇文章:reducing the dimensionality of data with neural networks,作者就是鼎鼎有名的Hinton。autoencod一个e的基本结构如下所示,主要包含以及编码器(encoder)和一个解码器(decoder)。这种方法被认为是对PCA的一个非线性泛化方法。
机器学习面试题-神经网络怎么降维?_第1张图片
encode和decode两个过程可以理解成互为反函数,在encode过程不断降维,在decode过程提高维度。机器学习面试题-神经网络怎么降维?_第2张图片decoder后的结果和input的误差要最小,也即 A − A ^ A-\hat A AA^最小,举个例子,输入一张图片猫,经过decoder后的输出应该是一模一样的猫。那么我们可以看到编码后的结果就可以拿来当降维后的结果用。

更多内容,查看如下(百面机器学习):
机器学习面试题-神经网络怎么降维?_第3张图片

https://www.zhihu.com/search?type=content&q=autoencoder
https://www.cnblogs.com/tornadomeet/archive/2013/04/29/3051393.html

你可能感兴趣的:(算法题,机器学习,深度学习)