tensorflow2.0 rc版使用教程 常用操作集合系列1——Layer自定义层的设计add.weight(w,b权重设置)

推荐:
【tensorflow2.0最新建模教程】,如下:
tensorflow2.0教程 常用操作集合1—Layer自定义层的设计

常用操作集合系列2—Model自定义模型的设计

常用操作集合系列3—Model自定义模型的训练和参数调优loss gradient optimizer
常用操作集合系列4—损失函数正则化解决模型过拟合
常用操作集合系列5:tf2.0基于keras构建深度学习模型
常用操作集合系列6.案例-tf2.0如何构建交通标识识别CNN
今天分享的是如何使用tensorflow2.0展开自定义层Layer的设计。
注意点1权重初始化如下:
w_initial=tf.random_normal_initializer()
b_initial=tf.zeros_initializer()

Class Mydense(Layers.layer):
#例如Linear层  y=wa+b
  def _init_(self,input_dim,units):
      super(Mydense,self)._init_()
      w_initial=tf.random_normal_initializer()
      b_initial=tf.zeros_initializer()
      self.w=tf.variable(w_initial(shape=input_dim,units),dtype='float32')
      self.b=tf.variable(b_initial(shape=(units,)),dtype='float32')
  def call(self,inputs):
  return tf.matmul(inputs,self.w)+self.b
      

w和b的权重设置也可以单独在build中实现,调用add_weight来做权重设置,代码如下:

Class Mydense(Layers.layer):
   def _init_(self,units):
       super(Mydense,self)._init_
       self.units=units
   def build(self,input_shape):
       self.w=self.add_weight(shape=(input_shape[-1],units),initializer='random_normal',trainable=True)
       self.b=self.add_weight(shape=(self.units,),initializer='random_normal',trainable=True)
   def call(self,inputs):
       return tf.matmul(inputs,self.w) + self.b
       

你可能感兴趣的:(深度学习,人工智能技术)