【计算机视觉】基于BOW的图像检索

一、原理

1. BOW(bag-of-words)模型及检索运用
用视觉单词直方图来表示图像，则该模型便称为BOW模型。对定输入图像的BOW直方图，在数据库中查找K个最邻近的图像，当训练数据足以表达所有图像时，检索效果良好。

2. 视觉单词将描述子空间量化成一些典型实例，并将途中的每个描述子指派到其中的某个实例中。这些典型实例可以通过分析训练图像集确定，并被视为视觉单词。
2.1 视觉单词获取：从一个（很大的训练图像）集提取特征描述子，利用一些聚类算法可以构建出视觉单词。视觉单词只是在给定特征描述子空间中的一组向量集，采用K-means进行聚类时得到的视觉单词时聚类质心。
2.2 视觉词典/视觉码本：这些视觉单词构成的集合成为视觉词典/视觉码本。

3. 单词的TF-IDF(term frequency-inverse document frequency，词频-逆向文档频率)权重
通常，数据集（或语料库）中一个单词的重要性与它在文档中出现次数成正比，而与它在语料库中出现次数成反比。
左侧式子是单词w在文档d中的词频；右侧式子是逆向词频。二者相乘得到矢量v中对应元素的tf-idf权重。
|D|是在语料库D中文档的数目，分母是语料库中包含单词w的文档d

4. 倒排表(inveted file) 图像可以视为一种文档对象，图像中不同的局部区域或其特征可看做构成图像的词汇，其中相近的区域或其特征可以视作为一个词。这样，就能够把文本检索及分类的方法用到图像分类及检索中去。（如图）
同理，从图像中提取特征内容，作为横坐标，出现频率作为纵坐标。出现次数越多的（可能成为该图片区别于其他图片的标志的概率越小，即越不可能成为标识内容，所以）权重应该越小。

5. 图像检索流程

1. 特征提取
2. 学习 “视觉词典(visual vocabulary)”
3. 针对输入特征集，根据视觉词典进行量化
4. 把输入图像，根据TF-IDF转化成视觉单词(visual words)的频率直方图
5. 构造特征到图像的倒排表(inverted file)，通过倒排表快速索引相关图像
6. 根据索引结果进行直方图匹配

二、代码

1.配置sift并生成词汇

import pickle
from PCV.imagesearch import vocabulary
from PCV.tools.imtools import get_imlist
from PCV.localdescriptors import sift

#获取图像列表
imlist = get_imlist('first100/')
nbr_images = len(imlist)
#获取特征列表
featlist = [imlist[i][:-3]+'sift' for i in range(nbr_images)]

#提取文件夹下图像的sift特征
for i in range(nbr_images):
    sift.process_image(imlist[i], featlist[i])

#生成词汇
voc = vocabulary.Vocabulary('ukbenchtest')
voc.train(featlist, 100, 10)#创建词汇表大小为100，k=10
#保存词汇
# saving vocabulary
with open('first100/vocabulary.pkl', 'wb') as f:
    pickle.dump(voc, f)
print ('vocabulary is:', voc.name, voc.nbr_words)

2.将模型导入数据库

利用python的pysqlite导入数据图像。

import pickle
from PCV.imagesearch import imagesearch
from PCV.localdescriptors import sift
from sqlite3 import dbapi2 as sqlite
from PCV.tools.imtools import get_imlist

#获取图像列表
imlist = get_imlist('first100/')
nbr_images = len(imlist)
#获取特征列表
featlist = [imlist[i][:-3]+'sift' for i in range(nbr_images)]

# load vocabulary
#载入词汇
with open('first100/vocabulary.pkl', 'rb') as f:
    voc = pickle.load(f)
#创建索引
indx = imagesearch.Indexer('testImaAdd.db',voc)
indx.create_tables()
# go through all images, project features on vocabulary and insert
#遍历所有的图像，并将它们的特征投影到词汇上
for i in range(nbr_images)[:100]:
    locs,descr = sift.read_features_from_file(featlist[i])
    indx.add_to_index(imlist[i],descr)
# commit to database
#提交到数据库
indx.db_commit()

con = sqlite.connect('testImaAdd.db')
print (con.execute('select count (filename) from imlist').fetchone())
print (con.execute('select * from imlist').fetchone())

运行结束会出现testImaAdd.db文件。

3.测试

将数据放进数据库中之后就可以开始测试我们的图片索引。执行结束后会出现两张图片，分别是常规查询和重拍后查询结果。

import pickle
from PCV.localdescriptors import sift
from PCV.imagesearch import imagesearch
from PCV.geometry import homography
from PCV.tools.imtools import get_imlist

# load image list and vocabulary
#载入图像列表
imlist = get_imlist('first100/')
nbr_images = len(imlist)
#载入特征列表
featlist = [imlist[i][:-3]+'sift' for i in range(nbr_images)]

#载入词汇
with open('first100/vocabulary.pkl', 'rb') as f:
    voc = pickle.load(f)

src = imagesearch.Searcher('testImaAdd.db',voc)

# index of query image and number of results to return
#查询图像索引和查询返回的图像数
q_ind = 0
nbr_results = 20

# regular query
# 常规查询(按欧式距离对结果排序)
res_reg = [w[1] for w in src.query(imlist[q_ind])[:nbr_results]]
print ('top matches (regular):', res_reg)

# load image features for query image
#载入查询图像特征
q_locs,q_descr = sift.read_features_from_file(featlist[q_ind])
fp = homography.make_homog(q_locs[:,:2].T)

# RANSAC model for homography fitting
#用单应性进行拟合建立RANSAC模型
model = homography.RansacModel()
rank = {}

# load image features for result
#载入候选图像的特征
for ndx in res_reg[1:]:
    locs,descr = sift.read_features_from_file(featlist[ndx])  # because 'ndx' is a rowid of the DB that starts at 1
    # get matches
    matches = sift.match(q_descr,descr)
    ind = matches.nonzero()[0]
    ind2 = matches[ind]
    tp = homography.make_homog(locs[:,:2].T)
    # compute homography, count inliers. if not enough matches return empty list
    try:
        H,inliers = homography.H_from_ransac(fp[:,ind],tp[:,ind2],model,match_theshold=4)
    except:
        inliers = []
    # store inlier count
    rank[ndx] = len(inliers)

# sort dictionary to get the most inliers first
sorted_rank = sorted(rank.items(), key=lambda t: t[1], reverse=True)
res_geom = [res_reg[0]]+[s[0] for s in sorted_rank]
print ('top matches (homography):', res_geom)

# 显示查询结果
imagesearch.plot_results(src,res_reg[:8]) #常规查询
imagesearch.plot_results(src,res_geom[:8]) #重排后的结果

4.建立演示程序及Web应用

运行此部分代码需要配置一个service.conf服务器，如下：
配置文件中的第一部分为IP地址和端口，第二部分为我们的图库的地址

[global] server.socket_host = "127.0.0.1" 
server.socket_port = 8080 
server.thread_pool = 50 
tools.sessions.on = True 
[/] 
tools.staticdir.root = "E:/Python/pythonwatch/pcv-book-code-master/ch07" 
tools.staticdir.on = True 
tools.staticdir.dir = ""

其中tools.staticdir.root存放的是图库的地址。

import cherrypy
import pickle
import urllib
import os
from numpy import *
#from PCV.tools.imtools import get_imlist
from PCV.imagesearch import imagesearch
import random

"""
This is the image search demo in Section 7.6.
"""


class SearchDemo:

    def __init__(self):
        # 载入图像列表
        self.path = 'first100/'
        #self.path = 'D:/python_web/isoutu/first500/'
        self.imlist = [os.path.join(self.path,f) for f in os.listdir(self.path) if f.endswith('.jpg')]
        #self.imlist = get_imlist('./first500/')
        #self.imlist = get_imlist('E:/python/isoutu/first500/')
        self.nbr_images = len(self.imlist)
        print (self.imlist)
        print (self.nbr_images)
        self.ndx = list(range(self.nbr_images))
        print (self.ndx)

        # 载入词汇
        # f = open('first100/vocabulary.pkl', 'rb')
        with open('first100/vocabulary.pkl','rb') as f:
            self.voc = pickle.load(f)
        #f.close()

        # 显示搜索返回的图像数
        self.maxres = 10

        # header and footer html
        self.header = """
            
            
            
            
            
            """
        self.footer = """
            
            
            """

    def index(self, query=None):
        self.src = imagesearch.Searcher('testImaAdd.db', self.voc)

        html = self.header
        html += """
            

            Click an image to search.  Random selection  of images.
            


            """
        if query:
            # query the database and get top images
            #查询数据库，并获取前面的图像
            res = self.src.query(query)[:self.maxres]
            for dist, ndx in res:
                imname = self.src.get_filename(ndx)
                html += ""
                
                html += ""
                print (imname+"################")
                html += ""
            # show random selection if no query
            # 如果没有查询图像则随机显示一些图像
        else:
            random.shuffle(self.ndx)
            for i in self.ndx[:self.maxres]:
                imname = self.imlist[i]
                html += ""
                
                html += ""
                print (imname+"################")
                html += ""

        html += self.footer
        return html

    index.exposed = True

#conf_path = os.path.dirname(os.path.abspath(__file__))
#conf_path = os.path.join(conf_path, "service.conf")
#cherrypy.config.update(conf_path)
#cherrypy.quickstart(SearchDemo())

cherrypy.quickstart(SearchDemo(), '/', config=os.path.join(os.path.dirname(__file__), 'service.conf'))

三、结果

运行“3.测试”代码出现两张图，一张是常规查询，一张是重排后的结果，这两个结果的顺序可能会不一样，但是我的碰巧一样了，如下

运行到最后一段代码后会出现下图：

点击蓝色链接（如果service.conf路径没错的话）会出现如下画面：

单击想要检索的图片，就可以检索出类似的图片，如下：
第一张是选中的图片，其余是检索出的结果（以下是我筛选的几次检索结果，所以请忽略他们的连贯性）

四、结果分析

可以看出大部分检索结果还是挺好的，并且当需要检索的图片的对应相似图片不足时，它检索结果会出现小分组内相似的现象。