caffe在[1]讲到如何看一个图片的特征和分类结果,但是如何批量抽取特征呢?可以使用c++的版本,这里我们谈下如何用python批量抽取特征。
首先,我们要注意caffe filter_visualization.ipynb的程序中deploy.prototxt中网络每一轮的图片batch是10, 这个数刚好和oversample=true的crop数量是一样的,也就是net一轮forward 刚好是一张图片的10个crop。
第一种,oversample = true的情况, 也就是每张图片会产生10张crop的图片: center, 4 corner, 和mirror
假如我们要抽取两张图片, 每张图片有10个crop
首先是修改deploy.prototxt: input_dim : 20
然后:将imagelist 放入predict参数。
scores = net.predict([caffe.io.load_image(caffe_root + "building.jpg"), caffe.io.load_image(caffe_root + "thumb.jpg")])
最后用
net.blobs['fc7'].data[4] net.blobs['fc7'].data[14]
import numpy as np import scipy caffe_root = '/home/hduser/Project/caffe/' import sys sys.path.insert(0,caffe_root + 'python/') import caffe net = caffe.Classifier(caffe_root + 'models/bvlc_reference_caffenet/deploy.prototxt', caffe_root + 'models/bvlc_reference_caffenet/bvlc_reference_caffenet.caffemodel',image_dims=(256, 256)) net.set_phase_test() net.set_mode_cpu() net.set_mean('data', np.load(caffe_root + 'python/caffe/imagenet/ilsvrc_2012_mean.npy')) net.set_raw_scale('data', 255) net.set_channel_swap('data', (2,1, 0)) #in fact, you can input a list of images. scores = net.predict([caffe.io.load_image(caffe_root + "building.jpg"), caffe.io.load_image(caffe_root + "thumb.jpg")]) output = open("feature.txt", "w") #the fc6 is the fc6 layer feature, data[4] means the five crop images, because each image will be crop to 10 sub-images. feat = net.blobs['fc6'].data[4] feat2 = net.blobs['fc6'].data[14]
这样不好的地方是需要修改deploy.prototxt, 另一种方法[2]:modify predict() in python/caffe/classifier.py to store them before the blobs in net are overwritten by the features of a subsequent batch. 该种方法我还没尝试,改天试下。
<span style="font-family: Arial, Helvetica, sans-serif; background-color: rgb(255, 255, 255);">第二种情况, 如果图片不需要crop成10张子图片的话,可以用oversample=False,如果设置image_dims=(256, 256), 由于bvlc_reference_caffenet trained model 是227*227的图片大小,所以python/caffe/classifier.py的代码会take center crop 227*227 from 256*256.</span>
input_dim : 2
<span style="font-family: Arial, Helvetica, sans-serif; background-color: rgb(255, 255, 255);">第一张图片:net.blobs['fc7'].data[0],</span>
<span style="font-family: Arial, Helvetica, sans-serif; background-color: rgb(255, 255, 255);">第二张图片:net.blobs['fc7'].data[1]</span>
后记:还需要熟悉下caffe的python接口函数,可惜貌似看不到这方面的api,只有自己先琢磨琢磨。
参考文章:
1. http://nbviewer.ipython.org/github/BVLC/caffe/blob/master/examples/filter_visualization.ipynb
2. https://groups.google.com/forum/#!searchin/caffe-users/python$20batch$20feature$20extraction/caffe-users/wIgLYMF54AI/iuDf3fZ0_K0J