学习日记:深度学习CPU与GPU

我所用的笔记本电脑没有独立显卡,因此也不支持cuda等软件的安装

1.batch_size

今天用cpu跑深度学习的时候,原本代码的batch_size=512,我知道我的电脑肯定跑不了这么大的batch_size,就设置成batch_size=256,但是jupyter notebook在跑第一个epoch的时候还是显示我的内核挂掉了,重启两三次都仍会遇到这个问题。

解决办法:把batch_size大小设置为100,在我的电脑上就可以正常运行了

每台电脑的cpu也不同,遇到类似的内核挂掉的问题,可以试着减少batch_size的大小

2.epoch

可以简单地理解为迭代的次数,与batch_size一样也会影响深度学习的速度

当epoch=50 batch_size=100的时候运行到第32个epoch还是显示内核挂掉了,我不太清楚是这两个哪个的问题,或者可能是数据量的问题。

但是我试验过,当epoch=30 batch_size=100的时候,是可以运行的。

3.运行速度

cpu处理深度学习的速度要比gpu慢很多,具体可以看下面的数据对比:

us/step batch_size epoch
GPU 449us/step 512 200
CPU 480ms/step 100 50


很明显,两者的差异非常大,所以还是建议有GPU的一定要在GPU上跑,训练的数据量可以更大一些,得到的准度也会更高一些,实在不行的话再在CPU上跑。

4.continue

你可能感兴趣的:(深度学习,人工智能,学习)