Torch学习——开始

Torch学习——开始

1. 深度学习框架

到目前为止出现了各种各样的深度学习的解决方案框架，其中包括Caffe，CUDA convnet，Pylearn2，Theano，Torch以及TensorFlow等。Caffe和CUDA convnet没用过，不过一直很火的样子，Pylearn2包含了CUDA covnet，入门用Theano，TensorFlow刚出来，谷歌又开始挖坑了，具体评价见知乎[1]，所以TensorFlow暂时先放放。Torch也不错，用Lua语言编写，跟Python有点像，itorch是torch的iPython版本。iPython的Jupyter版本编写界面变成了本地的网页，很漂亮。Torch的教程也很详细[2]。

2. 代码示例

itorch.display(i)输出会出错，应该是image.display(i)，会弹出新窗口显示图像i。根据require时image包的输出结果可以看到display函数是属于image的。

空间滤波的参数需要说明一下[3]：
module=nn.SpatialConvolution(nInputPlane, nOutputPlane, kW, kH, [dW], [dH])

nInputPlane——送进 forward()函数的 图像中的输入平面个数；

nOutputPlane—— 卷基层将会产生的输出平面个数；

kW—— 卷积核宽度；

kH—— 卷积核高度；

dW—— 宽度维度上卷积的步长，默认为1；

dH—— 宽度维度上卷积的步长，默认为1。

卷积时必然会有一些图像边缘会丢失，用户可根据需要补0。如果输入图像为3D张量（width x height x nInputPlane），则输出图像的大小为owidth x oheight x nOutputPlane：

owidth  = (width  - kW) / dW + 1
oheight = (height - kH) / dH + 1

卷积的参数存放在self.weight（张量大小为kH x kW x nInputPlane x nOutputPlane）和self.bias（张量大小为nOutputPlane）。分别对应的梯度为self.gradWeight和self.gradBias。

3. 参考链接

[1] http://www.zhihu.com/question/37243838
[2] http://code.madbits.com/wiki/doku.php
[3] http://torch5.sourceforge.net/manual/nn/index-2-5-1.html