TensorFlow2.0学习笔记-2.建模方式
2.建模方式
2.1.常用层
tf.keras.layers：tf.keras.layers是基于tf.nn的高度封装。
tf.keras.layers.LSTM(100)
tf.keras.layers.Dense(10)
tf.keras.layers.Dense(64, kernel_regularizer=tf.keras.regularizers.l1(0.01))
tf.nn：底层的函数库，其他各种库可以说都是基于这个底层库来进行扩展的
tf.nn.softmax(b)
tf.keras.layers.Dense(64, activation=tf.nn.relu)
在大多数据情况下，可以使用TensorFlow封装的tf.keras.layers构建的一些层建模，Keras层是非常有用的。它包括Dense，Conv2D，LSTM，BatchNormalization，Dropout等。
2.2.三种建模方式
Sequential model (顺序模型)
Functional model (函数模型)
Subclassing model (子类化模型)
Sequential model (顺序模型)
from tensorflow.keras import layers
import tensorflow as tf
# 方式一
model = tf.keras.Sequential()
model.add(layers.Dense(64, activation='relu'))#第一层
model.add(layers.Dense(64, activation='relu'))#第二层
model.add(layers.Dense(10))#第三层
# 。。。。。。。
# 方式二
model = tf.keras.Sequential([
layers.Dense(64, activation='relu', input_shape=(32,)),#第一层
layers.Dense(64, activation='relu'),#第二层
layers.Dense(10)#第三层
#。。。。。
])
# 定义模型，分别定义优化器、损失函数、评估函数
model.compile(optimizer=tf.keras.optimizers.Adam(0.01),
loss=tf.keras.losses.CategoricalCrossentropy(from_logits=True),
metrics=['accuracy'])
import numpy as np
# 随机生成数据与labels
data = np.random.random((1000, 32))
labels = np.random.random((1000, 10))
# 训练模型
model.fit(data, labels, epochs=10, batch_size=32)
Train on 1000 samples
Epoch 1/10
1000/1000 [==============================] - 2s 2ms/sample - loss: 38.8803 - accuracy: 0.0810
...
Epoch 10/10
1000/1000 [==============================] - 1s 901us/sample - loss: 27653.8396 - accuracy: 0.1080
Functional model (函数模型)
函数式模型是一种创建模型的方法，该模型比tf.keras.Sequential更灵活。函数式模型可以处理具有非线性拓扑的模型，具有共享层的模型以及具有多个输入或输出的模型等等
深度学习模型通常是层的有向无环图（DAG）的主要思想。因此，函数式模型是一种构建层图的方法。
inputs = tf.keras.Input(shape=(32,))
x = layers.Dense(64, activation='relu')(inputs) #第一层
x = layers.Dense(64, activation='relu')(x) #第二层
predictions = layers.Dense(10)(x) #第三层
model = tf.keras.Model(inputs=inputs, outputs=predictions)
model.compile(optimizer=tf.keras.optimizers.RMSprop(0.001),
loss=tf.keras.losses.CategoricalCrossentropy(from_logits=True),
metrics=['accuracy'])
import numpy as np
data = np.random.random((1000, 32))
labels = np.random.random((1000, 10))
model.fit(data, labels, batch_size=32, epochs=5)
Train on 1000 samples
Epoch 1/5
1000/1000 [==============================] - 1s 900us/sample - loss: 14.9791 - accuracy: 0.0840
...
Epoch 5/5
1000/1000 [==============================] - 0s 106us/sample - loss: 136.6048 - accuracy: 0.0890
# 多个输入
inputs1 = tf.keras.Input(shape=(32,)) #输入1
inputs2 = tf.keras.Input(shape=(32,)) #输入2
x1 = layers.Dense(64, activation='relu')(inputs1) #第一层
x2 = layers.Dense(64, activation='relu')(inputs2) #第一层
x = tf.concat([x1,x2],axis=-1) #拼接
x = layers.Dense(64, activation='relu')(x) #第二层
predictions = layers.Dense(10)(x) #第三层
model = tf.keras.Model(inputs=[inputs1,inputs2], outputs=predictions)
model.compile(optimizer=tf.keras.optimizers.RMSprop(0.001),
loss=tf.keras.losses.CategoricalCrossentropy(from_logits=True),
metrics=['accuracy'])
import numpy as np
data1 = np.random.random((1000, 32))
data2 = np.random.random((1000, 32))
labels = np.random.random((1000, 10))
# 多个输入为元祖的形式
model.fit((data1,data2), labels, batch_size=32, epochs=5)
Train on 1000 samples
Epoch 1/5
1000/1000 [==============================] - 1s 1ms/sample - loss: 18.0165 - accuracy: 0.0920
...
Epoch 5/5
1000/1000 [==============================] - 0s 488us/sample - loss: 150.3576 - accuracy: 0.1060
Subclassing model (子类化模型)
通过子类化tf.keras.Model和定义自己的前向传播模型来构建完全可定制的模型。
class MyModel(tf.keras.Model):
def __init__(self, num_classes=10):
super(MyModel, self).__init__(name='my_model')
self.num_classes = num_classes
# 定义自己需要的层
self.dense_1 = layers.Dense(32, activation='relu') #
self.dense_2 = layers.Dense(num_classes)
def call(self, inputs):
#定义前向传播
# 使用在 (in `__init__`)定义的层
x = self.dense_1(inputs)
x = self.dense_2(x)
return x
model = MyModel(num_classes=10)
model.compile(optimizer=tf.keras.optimizers.RMSprop(0.001),
loss=tf.keras.losses.CategoricalCrossentropy(from_logits=True),
metrics=['accuracy'])
import numpy as np
data = np.random.random((1000, 32))
labels = np.random.random((1000, 10))
# Trains for 5 epochs.
model.fit(data, labels, batch_size=32, epochs=5)
Train on 1000 samples
Epoch 1/5
1000/1000 [==============================] - 1s 853us/sample - loss: 12.9870 - accuracy: 0.1170
...
Epoch 5/5
1000/1000 [==============================] - 0s 274us/sample - loss: 21.4926 - accuracy: 0.1270
三种构建模型的区别
