Day10 #100DaysofMLCoding#

2018-08-20 21 22

今日安排

  1. 完成cs231n一节课内容
  2. AML课程
  3. 吴恩达DeepLearning最后一点视频刷完
  4. 实战。着手做零样本学习

知识点

  1. 代码
np.linalg.norm # 求范数,可求矩阵范数(非F...的那个)
np.meshgrid() # 生成网格坐标
np.random.choice(X_expanded.shape[0], batch_size) # 随机选择几个 返回index array
>>> import numpy as np
>>> b=[1,2,3,4,5,6,7]
>>> np.cumsum(a)
array([  1,   3,   6,  10,  15,  21,  28,  36,  45,  55,  75, 105])
Day10 #100DaysofMLCoding#_第1张图片
  1. 线性分类 微积分


    Day10 #100DaysofMLCoding#_第2张图片
  2. AML学习


    Day10 #100DaysofMLCoding#_第3张图片

    这个思想,可以引出多层网络


    Day10 #100DaysofMLCoding#_第4张图片

BP时,保存各个节点相对于loss的偏导数。这样的话,每个节点的值则为本节点的导数值乘以正向传播时后面节点的导数值。
大大减少计算量,只要把每条边都往回遍历一遍即可

矩阵除法,标量除以矩阵=矩阵


Day10 #100DaysofMLCoding#_第5张图片

Day10 #100DaysofMLCoding#_第6张图片

Day10 #100DaysofMLCoding#_第7张图片

Day10 #100DaysofMLCoding#_第8张图片
高维度下使用chain rule

Day10 #100DaysofMLCoding#_第9张图片

tensorflow

tf.reset_default_graph()


Day10 #100DaysofMLCoding#_第10张图片

Day10 #100DaysofMLCoding#_第11张图片

???

Day10 #100DaysofMLCoding#_第12张图片
Day10 #100DaysofMLCoding#_第13张图片

Day10 #100DaysofMLCoding#_第14张图片

Day10 #100DaysofMLCoding#_第15张图片

你可能感兴趣的:(Day10 #100DaysofMLCoding#)