《python深度学习》总结与感想

总结

关键网络架构及用法

1.密集型连接网络

二分类问题:层堆叠的最后一层是使用sigmoid的激活并且只有一个单元。使用“binary_crossentropy”作为损失函数

单标签多分类问题:(每个样本只有一个类别)层堆叠的最后一层是Dense层,使用softmax激活,单元个数等于类别个数。如果目标是one-hot编码,使用“categorical-crossentropy”作为损失函数。如果目标是整数(1,2,3,4,5,6),shiyong“sparse-categorical-crossentropy”作为损失函数

多标签多分类问题:(一个样本可以有多个类别)层堆叠的最后一层是一个Dense层,使用Sigmoid激活,其单元个数等于类别数,使用binary-croessentropy作为损失函数,目标应该是k-hot编码(011,111,110等)

回归问题:最后一层是不带激活函数的Dense层(通常只有一个值,比如房价)。有几种损失函数可用于回归问题,例如mean-squared-error(MSE,均方误差),mean-absolute-error(MAE,平均绝对误差)

2.卷积神经网络

卷积层和池化层的堆叠,最后加上一个Flatten层,在连接Dense层,用于分类或回归
深度可分离卷积在不久的将来会代替卷积层

3.循环神经网络(SimpleRNN,SRU,LSTM)

处理时间序列

感想

从入学到现在,自己也学了很多知识,机器学习方面,吴恩达老师的课程,李航的《统计学习方法》,《机器学习实战》,《scikit-learn机器学习》还有一些机器学习的网课以及特征工程的网课。深度学习方面,刚开始学,只看了吴恩达老师的网课以及这本书。目前,感觉自己还是只学到了皮毛,还是要继续努力啊。要学习的东西还很多,之前的学习过程没有记录过,导致现在很多知识都遗忘了,只希望从现在开始将自己的学习之路记录下来。加油吧!

你可能感兴趣的:(学习笔记)