keras技巧——如何获取某一个网络层的输出
前言：keras默认提供了如何获取某一个层的某一个节点的输出，但是没有提供如何获取某一个层的输出的接口，所以有时候我们需要获取某一个层的输出，则需要自己编写代码，但是鉴于keras高层封装的特性，编写起来实际上很简单，本文提供两种常见的方法来实现，基于上一篇文章的模型和代码： keras自定义回调函数查看训练的loss和accuracy
一、模型加载以及各个层的信息查看
从前面的定义可知，参见上一篇文章，一共定义了8个网络层，定义如下：
-
model.add(Convolution2D(filters=6, kernel_size=(5, 5), padding='valid', input_shape=(img_rows, img_cols, 1), activation='tanh')) -
model.add(MaxPooling2D(pool_size=(2, 2))) -
model.add(Convolution2D(filters=16, kernel_size=(5, 5), padding='valid', activation='tanh')) -
model.add(MaxPooling2D(pool_size=(2, 2))) -
model.add(Flatten()) -
model.add(Dense(120, activation='tanh')) -
model.add(Dense(84, activation='tanh')) -
model.add(Dense(n_classes, activation='softmax'))
这里每一个层都没有起名字，实际上最好给每一个层取一个名字，所以这里就使用索引来访问层，如下：
-
for index in range(8): -
layer=model.get_layer(index=index) -
# layer=model.layers[index] # 这样获取每一个层也是一样的 -
print(model) -
'''运行结果如下： -
-
-
-
-
-
-
-
-
'''
当然由于 model.laters是一个列表，所以可以一次性打印出所有的层信息，即
print(model.layers) # 打印出所有的层
二、模型的加载
准备测试数据
-
# 训练参数 -
learning_rate = 0.001 -
epochs = 10 -
batch_size = 128 -
n_classes = 10 -
# 定义图像维度reshape -
img_rows, img_cols = 28, 28 -
# 加载keras中的mnist数据集 分为60,000个训练集，10,000个测试集 -
(x_train, y_train), (x_test, y_test) = mnist.load_data() -
# 将图片转化为（samples,width,height,channels)的格式 -
x_train = x_train.reshape(x_train.shape[0], img_rows, img_cols, 1) -
x_test = x_test.reshape(x_test.shape[0], img_rows, img_cols, 1) -
# 将X_train, X_test的数据格式转为float32 -
x_train = x_train.astype('float32') -
x_test = x_test.astype('float32') -
# 将X_train, X_test归一化0-1 -
x_train /= 255 -
x_test /= 255 -
# 输出0-9转换为ont-hot形式 -
y_train = np_utils.to_categorical(y_train, n_classes) -
y_test = np_utils.to_categorical(y_test, n_classes)
模型的加载
model=keras.models.load_model('./models/lenet5_weight.h5')注意事项：
keras的每一个层有一个input和output属性，但是它是只针对单节点的层而言的哦，否则就不需要我们再自己编写输出函数了，
如果一个层具有单个节点 (i.e. 如果它不是共享层), 你可以得到它的输入张量、输出张量、输入尺寸和输出尺寸:
layer.inputlayer.outputlayer.input_shapelayer.output_shape
如果层有多个节点 (参见: 层节点和共享层的概念), 您可以使用以下函数:
layer.get_input_at(node_index)layer.get_output_at(node_index)layer.get_input_shape_at(node_index)layer.get_output_shape_at(node_index)
三、获取某一个层的输出的方法定义
3.1 第一种实现方法
-
def get_output_function(model,output_layer_index): -
''' -
model: 要保存的模型 -
output_layer_index：要获取的那一个层的索引 -
''' -
vector_funcrion=K.function([model.layers[0].input],[model.layers[output_layer_index].output]) -
def inner(input_data): -
vector=vector_funcrion([input_data])[0] -
return vector -
return inner -
# 现在仅仅测试一张图片 -
#选择一张图片,选择第一张 -
x= np.expand_dims(x_test[1],axis=0) #[1,28,28,1] 的形状 -
get_feature=get_output_function(model,6) # 该函数的返回值依然是一个函数哦，获取第6层输出 -
feature=get_feature(x) # 相当于调用 定义在里面的inner函数 -
print(feature) -
'''运行结果为 -
[[-0.99986297 -0.9988328 -0.9273474 0.9101525 -0.9054705 -0.95798373 -
0.9911243 0.78576803 0.99676156 0.39356467 -0.9724135 -0.74534595 -
0.8527011 -0.9968267 -0.9420816 -0.32765102 -0.41667578 0.99942905 -
0.92333794 0.7565034 -0.38416263 -0.994241 0.3781617 0.9621943 -
0.9443946 0.9671554 -0.01000021 -0.9984282 -0.96650964 -0.9925837 -
-0.48193568 -0.9749565 -0.79769516 0.9651831 0.9678705 -0.9444472 -
0.9405674 0.97538495 -0.12366439 -0.9973782 0.05803521 0.9159217 -
-0.9627071 0.99898154 0.99429387 -0.985909 0.5787794 -0.9789403 -
-0.94316894 0.9999644 0.9156823 0.46314353 -0.01582102 0.98359734 -
0.5586145 -0.97360635 0.99058044 0.9995654 -0.9800733 0.99942625 -
0.8786553 -0.9992093 0.99916387 -0.5141877 0.99970615 0.28427476 -
0.86589384 0.7649907 -0.9986046 0.9999706 -0.9892468 0.99854743 -
-0.86872625 -0.9997323 0.98981035 -0.87805724 -0.9999373 -0.7842255 -
-0.97456616 -0.97237325 -0.729563 0.98718935 0.9992022 -0.5294769 ]] -
'''
但是上面的实现方法似乎不是很简单，还有更加简单的方法，思想来源与keras中，可以将整个模型model也当成是层layer来处理，实现如下面。
3.2 第二种实现方法
-
import keras -
import numpy as np -
from keras.datasets import mnist -
from keras.models import Model -
model=keras.models.load_model('./models/lenet5_weight.h5') -
#选择一张图片,选择第一张 -
x= np.expand_dims(x_test[1],axis=0) #[1,28,28,1] 的形状 -
# 将模型作为一个层，输出第7层的输出 -
layer_model = Model(inputs=model.input, outputs=model.layers[6].output) -
feature=layer_model.predict(x) -
print(feature) -
'''运行结果为： -
[[-0.99986297 -0.9988328 -0.9273474 0.9101525 -0.9054705 -0.95798373 -
0.9911243 0.78576803 0.99676156 0.39356467 -0.9724135 -0.74534595 -
0.8527011 -0.9968267 -0.9420816 -0.32765102 -0.41667578 0.99942905 -
0.92333794 0.7565034 -0.38416263 -0.994241 0.3781617 0.9621943 -
0.9443946 0.9671554 -0.01000021 -0.9984282 -0.96650964 -0.9925837 -
-0.48193568 -0.9749565 -0.79769516 0.9651831 0.9678705 -0.9444472 -
0.9405674 0.97538495 -0.12366439 -0.9973782 0.05803521 0.9159217 -
-0.9627071 0.99898154 0.99429387 -0.985909 0.5787794 -0.9789403 -
-0.94316894 0.9999644 0.9156823 0.46314353 -0.01582102 0.98359734 -
0.5586145 -0.97360635 0.99058044 0.9995654 -0.9800733 0.99942625 -
0.8786553 -0.9992093 0.99916387 -0.5141877 0.99970615 0.28427476 -
0.86589384 0.7649907 -0.9986046 0.9999706 -0.9892468 0.99854743 -
-0.86872625 -0.9997323 0.98981035 -0.87805724 -0.9999373 -0.7842255 -
-0.97456616 -0.97237325 -0.729563 0.98718935 0.9992022 -0.5294769 ]] -
'''
可见和上面的结果是一样的，
总结：由于keras的层与模型之间实际上的转化关系，所以提供了非常灵活的输出方法，推荐使用第二种方法获得某一个层的输出。总结为以下几个主要的步骤（四步走）：
-
import keras -
import numpy as np -
from keras.datasets import mnist -
from keras.models import Model -
# 第一步：准备输入数据 -
x= np.expand_dims(x_test[1],axis=0) #[1,28,28,1] 的形状 -
# 第二步：加载已经训练的模型 -
model=keras.models.load_model('./models/lenet5_weight.h5') -
# 第三步：将模型作为一个层，输出第7层的输出 -
layer_model = Model(inputs=model.input, outputs=model.layers[6].output) -
# 第四步：调用新建的“曾模型”的predict方法，得到模型的输出 -
feature=layer_model.predict(x) -
print(feature)
======================================================================
keras输出中间层结果的2种方法
哈哈进步 2017-09-14 17:20:40 
38136 
收藏 21
分类专栏： 机器学习 其他随笔
版权
1.使用函数模型API，新建一个model，将输入和输出定义为原来的model的输入和想要的那一层的输出，然后重新进行predict.
-
#coding=utf-8 -
import seaborn as sbn -
import pylab as plt -
import theano -
from keras.models import Sequential -
from keras.layers import Dense,Activation -
from keras.models import Model -
model = Sequential() -
model.add(Dense(32, activation='relu', input_dim=100)) -
model.add(Dense(16, activation='relu',name="Dense_1")) -
model.add(Dense(1, activation='sigmoid',name="Dense_2")) -
model.compile(optimizer='rmsprop', -
loss='binary_crossentropy', -
metrics=['accuracy']) -
# Generate dummy data -
import numpy as np -
#假设训练和测试使用同一组数据 -
data = np.random.random((1000, 100)) -
labels = np.random.randint(2, size=(1000, 1)) -
# Train the model, iterating on the data in batches of 32 samples -
model.fit(data, labels, epochs=10, batch_size=32) -
#已有的model在load权重过后 -
#取某一层的输出为输出新建为model，采用函数模型 -
dense1_layer_model = Model(inputs=model.input, -
outputs=model.get_layer('Dense_1').output) -
#以这个model的预测值作为输出 -
dense1_output = dense1_layer_model.predict(data) -
print dense1_output.shape -
print dense1_output[0]