Day11 #100DaysofMLCoding#

2018-08-23 24
https://github.com/hse-aml/intro-to-dl
以及如何用colab来完成作业

使用keras搭建网络
学习使用python 的 yield

知识点

1.代码

np.allclose(numeric_dw,grad_w,rtol=1e-3,atol=0)

a = np.array([1,2,3,4,5,6,7,8])
a[slice(3, 8)] #array([4, 5, 6, 7, 8])

np.random.permutation(100) # 生成一个array，内部是被打乱的0-99数字

np.mean()可以用在bool型数据上

from IPython.display import clear_output # 在ipython上清空输出，便于实时更新输出

plt.xticks(原本数值，更改后文字) #更改坐标轴显示

权重初始化的数学道理

BN

在激励函数之前

更多

dropout
数据增强 （不用采用平移策略）
用1*1卷积降维

用3x3代替5x5减少计算量

高斯模糊

3x3改为两个方向的卷积，再次减少计算量

图像semantic segmentation任务

transposed convolution
解pooling

非监督学习

自动编码器 Autoencoder

使用非监督学习算法学习图片特征

但要考虑到自编码网络由大量生活图像非监督训练成，用这个网络进行癌症照片识别，是很不合理的。

AE（autoencoder）应用
图像合成：综合两个图片的特征，对其编码取平均

图像更改：一个图片自编码后，其编码加上代表胡子的编码——实现让一个人的图片有胡子、查看一个人变老的样貌等等