卷积神经网络设计主要是tensorflow网络层的定义和编写，本部分可能较多的涉及到相关函数的说明。
- 卷积模块
tf.nn.conv2d(x, w, strides=[1,1,1,1], padding='SAME')
* x 对应一个batch_size的图像，[ batch_size, img_height, img_width, channel ] （channel_last 模式）
* w 对应卷积核，[kernel_height, kernel_width, input_channels, output_channels]
* strides 对应步长，即卷积核每一步前进的长度，[1, stride_height, stride_width, 1]
* padding 对应same和valid模式
卷积封装模块
def conv2d(x, W, bias):
conv = tf.nn.conv2d(x, W, strides=[1, 1, 1, 1], padding="SAME")
return tf.nn.bias_add(conv, bias)
- 池化模块
tf.nn.max_pool(x,ksize=[1,2,2,1],strides=[1,2,2,1],padding='SAME')
* ksize 池化核的大小
* strides 池化核的步长
* padding 周围是否补全
池化封装模块
def max_pool(x):
return tf.nn.max_pool(x, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding="SAME")
- 激活层
tf.nn.relu(x)
- softmax层
tf.nn.softmax(x, dim)
* dim指定维度来进行softmax变换
* default dim = -1 表示最后一个维度
**************** 举例说明 ****************
a = tf.ones([3,2], name="test", dtype=tf.float32)
b = tf.nn.softmax(a, dim=0)
# 第一个维度上的变换
# b= [[0.33, 0.33][0.33 0.33][0.33 0.33]]
b = tf.nn.softmax(a, dim=1)
# 第二个维度上的变换
# b = [[ 0.5 0.5] [ 0.5 0.5] [0.5 0.5]]
#b = tf.nn.softmax(a, dim=-1)
常见函数的封装
- tf.reduce_sum & tf.reduce_mean
tf.reduce_sum(x, axis = 0)
* 计算一个张量的各个维度上元素的总和
**************** 举例说明 ****************
x = tf.constant([[1, 1, 1], [1, 1, 1]])
b = tf.reduce_sum(x)
# 6
# 如果axis没有条目，则缩小所有维度，并返回具有单个元素的张量
b = tf.reduce_sum(x, axis = 0)
# [2 , 2, 2]
# shape [2,3] 把第一个维度衰减了 [1 3]
- tf.argmax
tf.argmax(input, axis=None, name=None, dimension=None)
* 对矩阵按行或列计算最大值
* 返回行或列的最大值下标向量
**************** 举例说明 ****************
a=tf.get_variable(name='a',
shape=[3,4],
dtype=tf.float32,
initializer=tf.random_uniform_initializer(minval=-1,maxval=1))
b=tf.argmax(input=a,axis=0)
c=tf.argmax(input=a,dimension=1)
print(sess.run(a))
#[[ 0.04261756 -0.34297419 -0.87816691 -0.15430689]
# [ 0.18663144 0.86972666 -0.06103253 0.38307118]
# [ 0.84588599 -0.45432305 -0.39736366 0.38526249]]
print(sess.run(b))
#[2 1 1 2]
print(sess.run(c))
#[0 1 0]
- tf.cast
tf.cast(x, dtype, name=None)
* 类型转换函数
* dtype：转换目标类型
* name：名称
**************** 举例说明 ****************
# tensor `a` is [1.8, 2.2], dtype=tf.float
tf.cast(a, tf.int32) ==> [1, 2] # dtype=tf.int32
- tf.equal
A = [[1,3,4,5,6]]
B = [[1,3,4,3,2]]
print(sess.run(tf.equal(A, B)))
# [[ True True True False False]]
实际中的运用
correct_prediction=tf.equal(tf.argmax(y_out,1),tf.argmax(y_,1))
accuracy=tf.reduce_mean(tf.cast(correct_prediction,tf.float32))
- tf.concat
# reference : https://blog.csdn.net/loseinvain/article/details/79638183
a = tf.constant([[1,2,3],[3,4,5]]) # shape (2,3)
b = tf.constant([[7,8,9],[10,11,12]]) # shape (2,3)
ab1 = tf.concat([a,b], axis=0) # shape(4,3)
ab2 = tf.concat([a,b], axis=1) # shape(2,6)
- tf.stack
a = tf.constant([[1,2,3],[3,4,5]]) # shape (2,3)
b = tf.constant([[7,8,9],[10,11,12]]) # shape (2,3)
ab = tf.stack([a,b], axis=0) # shape (2,2,3)