几种搜索引擎算法研究

１．引言

   万维网WWW（World Wide Web）是一个巨大的，分布全球的信息服务中心，正在以飞快的速度扩展。1998年WWW上拥有约3.5亿个文档[14]，每天增加约1百万的文档[6]，不到9个月的时间文档总数就会翻一番[14]。WEB上的文档和传统的文档比较，有很多新的特点，它们是分布的，异构的，无结构或者半结构的，这就对传统信息检索技术提出了新的挑战。

   传统的WEB搜索引擎大多数是基于关键字匹配的，返回的结果是包含查询项的文档，也有基于目录分类的搜索引擎。这些搜索引擎的结果并不令人满意。有些站点有意提高关键字出现的频率来提高自身在搜索引擎中的重要性，破坏搜索引擎结果的客观性和准确性。另外，有些重要的网页并不包含查询项。搜索引擎的分类目录也不可能把所有的分类考虑全面，并且目录大多靠人工维护，主观性强，费用高，更新速度慢[2]。

   最近几年，许多研究者发现，WWW上超链结构是个非常丰富和重要的资源，如果能够充分利用的话，可以极大的提高检索结果的质量。基于这种超链分析的思想，Sergey Brin和Lawrence Page在1998年提出了PageRank算法[1] ，同年J. Kleinberg提出了HITS算法[5]，其它一些学者也相继提出了另外的链接分析算法，如SALSA，PHITS，Bayesian等算法。这些算法有的已经在实际的系统中实现和使用，并且取得了良好的效果。

   文章的第2部分按照时间顺序详细剖析了各种链接分析算法，对不同的算法进行了比较。第3部分对这些算法做了评价和总结，指出了存在的问题和改进方向。

 

２．WEB超链分析算法

 

２.１　Google和PageRank算法

   搜索引擎Google最初是斯坦福大学的博士研究生Sergey Brin和Lawrence Page实现的一个原型系统[2]，现在已经发展成为WWW上最好的搜索引擎之一。Google的体系结构类似于传统的搜索引擎，它与传统的搜索引擎最大的不同处在于对网页进行了基于权威值的排序处理，使最重要的网页出现在结果的最前面。Google通过PageRank元算法计算出网页的PageRank值，从而决定网页在结果集中的出现位置，PageRank值越高的网页，在结果中出现的位置越前。

２.１.１　PageRank算法

    PageRank算法基于下面2个前提：

   前提1：一个网页被多次引用，则它可能是很重要的；一个网页虽然没有被多次引用，但是被重要的网页引用，则它也可能是很重要的；一个网页的重要性被平均的传递到它所引用的网页。这种重要的网页称为权威（Authoritive）网页。

   前提2：假定用户一开始随机的访问网页集合中的一个网页，以后跟随网页的向外链接向前浏览网页，不回退浏览，浏览下一个网页的概率就是被浏览网页的PageRank值。

   简单PageRank算法描述如下：u是一个网页， 是u指向的网页集合， 是指向u的网页集合， 是u指向外的链接数，显然 =| | ，c是一个用于规范化的因子（Google通常取0.85），（这种表示法也适用于以后介绍的算法）则u的Rank值计算如下：

   这就是算法的形式化描述，也可以用矩阵来描述此算法，设A为一个方阵，行和列对应网页集的网页。如果网页i有指向网页j的一个链接，则 ，否则 ＝0。设V是对应网页集的一个向量，有V=cAV，V为A的特征根为c的特征向量。实际上，只需要求出最大特征根的特征向量，就是网页集对应的最终PageRank值，这可以用迭代方法计算。

   如果有2个相互指向的网页a，b,他们不指向其它任何网页，另外有某个网页c，指向a，b中的某一个，比如a，那么在迭代计算中，a，b的rank值不分布出去而不断的累计。如下图：

   为了解决这个问题，Sergey Brin和Lawrence Page改进了算法，引入了衰退因子E(u)，E(U)是对应网页集的某一向量，对应rank的初始值，算法改进如下：

其中， ＝1，对应的矩阵形式为V’=c(AV’+E)。

   另外还有一些特殊的链接，指向的网页没有向外的链接。PageRank计算时，把这种链接首先除去，等计算完以后再加入，这对原来计算出的网页的rank值影响是很小的。

   Pagerank算法除了对搜索结果进行排序外，还可以应用到其它方面，如估算网络流量，向后链接的预测器，为用户导航等[2]。

２.１.２　算法的一些问题

   Google是结合文本的方法来实现PageRank算法的[2]，所以只返回包含查询项的网页，然后根据网页的rank值对搜索到的结果进行排序，把rank值最高的网页放置到最前面，但是如果最重要的网页不在结果网页集中，PageRank算法就无能为力了，比如在 Google中查询search engines，像Google，Yahoo，Altivisa等都是很重要的，但是Google返回的结果中这些网页并没有出现。 同样的查询例子也可以说明另外一个问题，Google，Yahoo是WWW上最受欢迎的网页，如果出现在查询项car的结果集中，一定会有很多网页指向它们，就会得到较高的rank值， 事实上他们与car不太相关。

   在PageRank算法的基础上，其它的研究者提出了改进的PageRank算法。华盛顿大学计算机科学与工程系的Matthew Richardson和Pedro Dominggos提出了结合链接和内容信息的PageRank算法，去除了PageRank算法需要的前提2，增加考虑了用户从一个网页直接跳转到非直接相邻的但是内容相关的另外一个网页的情况[3]。斯坦大学计算机科学系Taher Haveliwala提出了主题敏感（Topic-sensitive）PageRank算法[4]。斯坦福大学计算机科学系Arvind Arasu等经过试验表明，PageRank算法计算效率还可以得到很大的提高[22]。

 

２.２　HITS算法及其变种

   PageRank算法中对于向外链接的权值贡献是平均的，也就是不考虑不同链接的重要性。而WEB的链接具有以下特征：

   1.有些链接具有注释性，也有些链接是起导航或广告作用。有注释性的链接才用于权威判断。
   2.基于商业或竞争因素考虑，很少有WEB网页指向其竞争领域的权威网页。
   3.权威网页很少具有显式的描述，比如Google主页不会明确给出WEB搜索引擎之类的描述信息。

   可见平均的分布权值不符合链接的实际情况[17]。J. Kleinberg[5]提出的HITS算法中引入了另外一种网页，称为Hub网页，Hub网页是提供指向权威网页链接集合的WEB网页，它本身可能并不重要，或者说没有几个网页指向它，但是Hub网页确提供了指向就某个主题而言最为重要的站点的链接集合，比一个课程主页上的推荐参考文献列表。一般来说，好的Hub网页指向许多好的权威网页；好的权威网页是有许多好的Hub网页指向的WEB网页。这种Hub与Authoritive网页之间的相互加强关系，可用于权威网页的发现和WEB结构和资源的自动发现，这就是Hub/Authority方法的基本思想。

２.２.１　HITS算法

   HITS（Hyperlink－Induced Topic Search）算法是利用Hub/Authority方法的搜索方法，算法如下：将查询q提交给传统的基于关键字匹配的搜索引擎．搜索引擎返回很多网页，从中取前n个网页作为根集(root set)，用S表示。S满足如下3个条件：

   1．S中网页数量相对较小
   2．S中网页大多数是与查询q相关的网页
   3．S中网页包含较多的权威网页。

   通过向S中加入被S引用的网页和引用S的网页将S扩展成一个更大的集合T．

   以T中的Hub网页为顶点集Vl，以权威网页为顶点集V2，Vl中的网页到V2中的网页的超链接为边集E，形成一个二分有向图SG＝(V1，V2，E)。对V1中的任一个顶点v，用h(v)表示网页v的Hub值，对V2中的顶点u，用a(u)表示网页的Authority值。开始时h(v)＝a(u)＝1，对u执行I操作修改它的a(u)，对v执行O操作修改它的h(v)，然后规范化a（u），h（v），如此不断的重复计算下面的操作I，O，直到a（u），h（v）收敛。（证明此算法收敛可见 ）

I 操作： （1） O操作： （2）

   每次迭代后需要对a(u),h(v)进行规范化处理：

   式(1)反映了若一个网页由很多好的Hub指向，则其权威值会相应增加(即权威值增加为所有指向它的网页的现有Hub值之和)。式(2)反映了若一个网页指向许多好的权威页，则Hub值也会相应增加(即Hub值增加为该网页链接的所有网页的权威值之和)。

   和PageRank算法一样，可以用矩阵形式来描述算法，这里省略不写。
   HITS算法输出一组具有较大Hub值的网页和具有较大权威值的网页。

２.２.２　HITS的问题

   HITS算法有以下几个问题：

   1．实际应用中，由S生成T的时间开销是很昂贵的，需要下载和分析S中每个网页包含的所有链接，并且排除重复的链接。一般T比S大很多，由T生成有向图也很耗时。需要分别计算网页的A/H值，计算量比PageRank算法大。

   2．有些时候，一主机A上的很多文档可能指向另外一台主机B上的某个文档，这就增加了A上文档的Hub值和B上文档的Authority，相反的情况也如此。HITS是假定某一文档的权威值是由不同的单个组织或者个人决定的，上述情况影响了A和B上文档的Hub和Authority值[7]。

   3．网页中一些无关的链接影响A，H值的计算。在制作网页的时候，有些开发工具会自动的在网页上加入一些链接，这些链接大多是与查询主题无关的。同一个站点内的链接目的是为用户提供导航帮助，也与查询主题不甚无关，还有一些商业广告，赞助商和用于友情交换的链接，也会降低HITS算法的精度[8]。

   4．HITS算法只计算主特征向量，也就是只能发现T集合中的主社区（Community），忽略了其它重要的社区[12]。事实上，其它社区可能也非常重要。

   5．HITS算法最大的弱点是处理不好主题漂移问题（topic drift）[7,8]，也就是紧密链接TKC（Tightly-Knit Community Effect）现象[8]。如果在集合T中有少数与查询主题无关的网页，但是他们是紧密链接的，HITS算法的结果可能就是这些网页，因为HITS只能发现主社区，从而偏离了原来的查询主题。下面讨论的SALSA算法中解决了TKC问题。

   6．用HITS进行窄主题查询时，可能产生主题泛化问题[5,9]，即扩展以后引入了比原来主题更重要的新的主题，新的主题可能与原始查询无关。泛化的原因是因为网页中包含不同主题的向外链接，而且新主题的链接具有更加的重要性。

２.２.３　HITS的变种

   HITS算法遇到的问题，大多是因为HITS是纯粹的基于链接分析的算法，没有考虑文本内容，继J. Kleinberg提出HITS算法以后，很多研究者对HITS进行了改进，提出了许多HITS的变种算法，主要有：

２.２.３.１　Monika R. Henzinger和Krishna Bharat对HITS的改进

   对于上述提到的HITS遇到的第2个问题，Monika R. Henzinger和Krishna Bharat在[7]中进行了改进。假定主机A上有k个网页指向主机B上的某个文档d，则A上的k个文档对B的Authority贡献值总共为1,每个文档贡献1/k，而不是HITS中的每个文档贡献1，总共贡献k。类似的，对于Hub值，假定主机A上某个文档t指向主机B上的m个文档，则B上m个文档对t的Hub值总共贡献1，每个文档贡献1/m。I，O操作改为如下

I 操作：

O操作：

   调整后的算法有效的解决了问题2，称之为imp算法。

   在这基础上，Monika R. Henzinger和Krishna Bharat还引入了传统信息检索的内容分析技术来解决4和5，实际上也同时解决了问题3。具体方法如下，提取根集S中的每个文档的前1000个词语，串连起来作为查询主题Q，文档Dj和主题Q的相似度按如下公式计算：

， ， ＝项i在查询Q中的出现次数，

＝项i在文档Dj中的出现次数，IDFi是WWW上包含项i的文档数目的估计值。

   在S扩展到T后，计算每个文档的主题相似度，根据不同的阈值（threshold）进行刷选，可以选择所有文档相似度的中值，根集文档相似度的中值，最大文档相似度的分数，如1/10，作为阈值。根据不同阈值进行处理，删除不满足条件的文档，再运行imp算法计算文档的A/H值，这些算法分别称为med，startmed，maxby10。

   在此改进的算法中，计算文档的相似度时间开销会很大。

２.２.３.２　ARC算法

   IBM Almaden研究中心的Clever工程组提出了ARC（Automatic Resource Compilation）算法，对原始的HITS做了改进，赋予网页集对应的连结矩阵初值时结合了链接的锚（anchor）文本，适应了不同的链接具有不同的权值的情况。

   ARC算法与HITS的不同主要有以下3点：

１．由根集S扩展为T时，HITS只扩展与根集中网页链接路径长度为1的网页，也就是只扩展直接与S相邻的网页，而ARC中把扩展的链接长度增加到2，扩展后的网页集称为增集（Augment Set）。

２．HITS算法中，每个链接对应的矩阵值设为1，实际上每个链接的重要性是不同的，ARC算法考虑了链接周围的文本来确定链接的重要性。考虑链接p－>q，p中有若干链接标记，文本1<a href=”q”>锚文本</a>文本2，设查询项t在文本1，锚文本，文本2，出现的次数为n（t），则w（p，q）＝1+n（t）。文本1和文本2的长度经过试验设为50字节[10]。构造矩阵W，如果有网页i－>j ，Wi,j＝w（i，j），否则Wi,j＝0，H值设为1，Z为W的转置矩阵，迭代执行下面3个的操作：

（1）A＝WH （2）H＝ZA （3）规范化A，H

３．ARC算法的目标是找到前15个最重要的网页，只需要A/H的前15个值相对大小保持稳定即可，不需要A/H整个收敛，这样2中迭代次数很小就能满足，[10]中指出迭代5次就可以，所以ARC算法有很高的计算效率，开销主要是在扩展根集上。　

２.２.３.３　Hub平均（ Hub－Averaging－Kleinberg）算法

   Allan Borodin等在[11]指出了一种现象，设有M＋1个Hub网页，M＋1个权威网页，前M个Hub指向第一个权威网页，第M＋1个Hub网页指向了所有M＋1个权威网页。显然根据HITS算法，第一个权威网页最重要，有最高的Authority值，这是我们希望的。但是，根据HITS，第M＋1个Hub网页有最高的Hub值，事实上，第M＋1个Hub网页既指向了权威值很高的第一个权威网页，同时也指向了其它权威值不高的网页，它的Hub值不应该比前M个网页的Hub值高。因此，Allan Borodin修改了HITS的O操作：

O操作： ，n是(v,u)的个数

   调整以后，仅指向权威值高的网页的Hub值比既指向权威值高又指向权威值低的网页的Hub值高，此算法称为Hub平均（Hub－Averaging－Kleinberg）算法。

２.２.３.４　阈值（Threshhold—Kleinberg）算法

   Allan Borodin等在[11]中同时提出了3种阈值控制的算法，分别是Hub阈值算法，Authority阈值算法，以及结合2者的全阈值算法。

   计算网页p的Authority时候，不考虑指向它的所有网页Hub值对它的贡献，只考虑Hub值超过平均值的网页的贡献，这就是Hub阈值方法。

   Authority阈值算法和Hub阈值方法类似，不考虑所有p指向的网页的Authority对p的Hub值贡献，只计算前K个权威网页对它Hub值的贡献，这是基于算法的目标是查找最重要的K个权威网页的前提。

   同时使用Authority阈值算法和Hub阈值方法的算法，就是全阈值算法

２.３　SALSA算法

   PageRank算法是基于用户随机的向前浏览网页的直觉知识，HITS算法考虑的是Authoritive网页和Hub网页之间的加强关系。实际应用中，用户大多数情况下是向前浏览网页，但是很多时候也会回退浏览网页。基于上述直觉知识，R. Lempel和S. Moran提出了SALSA（Stochastic Approach for Link-Structure Analysis）算法[8]，考虑了用户回退浏览网页的情况，保留了PageRank的随机漫游和HITS中把网页分为Authoritive和Hub的思想，取消了Authoritive和Hub之间的相互加强关系。

   具体算法如下：

１．和HITS算法的第一步一样，得到根集并且扩展为网页集合T，并除去孤立节点。
２．从集合T构造无向图G’＝（Vh，Va，E）
Vh = { sh |　　 s∈C and out-degree(s) > 0 } ( G’的Hub边).
Va = { sa |　　 s∈C and in-degree(s) > 0 } (G’的Authority边).
E= { (sh , ra) |　　s－>r　　 in T　}
这就定义了2条链，Authority链和Hub链。
３．定义2条马尔可夫链的变化矩阵，也是随机矩阵，分别是Hub矩阵H，Authority矩阵A。 
４．求出矩阵H，A的主特征向量，就是对应的马尔可夫链的静态分布。
５．A中值大的对应的网页就是所要找的重要网页。

SALSA算法没有HITS中相互加强的迭代过程，计算量远小于HITS。SALSA算法只考虑直接相邻的网页对自身A/H的影响，而HITS是计算整个网页集合T对自身AH的影响。

   实际应用中，SALSA在扩展根集时忽略了很多无关的链接，比如

１．同一站点内的链接，因为这些链接大多只起导航作用。
２．CGI 脚本链接。
３．广告和赞助商链接。

   试验结果表明，对于单主题查询java，SALSA有比HITS更精确的结果，对于多主题查询abortion，HITS的结果集中于主题的某个方面，而SALSA算法的结果覆盖了多个方面，也就是说，对于TKC现象，SALSA算法比HITS算法有更高的健壮性。

２.３.１　BFS（Backword Forward Step）算法

   SALSA算法计算网页的Authority值时，只考虑网页在直接相邻网页集中的受欢迎程度，忽略其它网页对它的影响。HITS算法考虑的是整个图的结构，特别的，经过n步以后，网页i的Authority的权重是 ， 为离开网页i的 的路径的数目，也就是说网页j<>i，对i的权值贡献等于从i到j的 路径的数量。如果从i到j包含有一个回路，那么j对i的贡献将会呈指数级增加，这并不是算法所希望的，因为回路可能不是与查询相关的。

   因此，Allan Borodin等[11]提出了BFS（Backward Forward Step）算法，既是SALSA的扩展情况，也是HITS的限制情况。基本思想是，SALSA只考虑直接相邻网页的影响，BFS扩展到考虑路径长度为n的相邻网页的影响。在BFS中， 被指定表示能通过 路径到达i的结点的集合，这样j对i的贡献依赖就与j到i的距离。BFS采用指数级降低权值的方式，结点i的权值计算公式如下：

＝ |B(i)|+ |BF(i)| + |BFB(i)|+……+| |

   算法从结点i开始，第一步向后访问，然后继续向前或者向后访问邻居，每一步遇到新的结点加入权值计算，结点只有在第一次被访问时加入进去计算。

 

２.４　PHITS

   D.　Cohn and H.　Chang提出了计算Hub和Authority的统计算法PHITS（Probabilistic analogue of the HITS）[12]。他们提出了一个概率模型，在这个模型里面一个潜在的因子或者主题z影响了文档d到文档c的一个链接，他们进一步假定，给定因子z，文档c的条件分布P(c|z)存在，并且给定文档d，因子z的条件分布P（z|d）也存在。
   P(d) P(z|d) P(c|z) ，其中

   根据这些条件分布，提出了一个可能性函数（likelihood function）L,

，M是对应的连结矩阵

   然后，PHITS算法使用Dempster等提出的EM算法[20]分配未知的条件概率使得L最大化，也就是最好的解释了网页之间的链接关系。算法要求因子z的数目事先给定。Allan Borodin指出，PHITS中使用的EM算法可能会收敛于局部的最大化，而不是真正的全局最大化[11]。D. Cohn和T. Hofmann还提出了结合文档内容和超链接的概率模型[13]。

 

２.５　贝叶斯算法

   Allan Borodin等提出了完全的贝叶斯统计方法来确定Hub和Authoritive网页[11]。假定有M个Hub网页和N个Authority网页，可以是相同的集合。每个Hub网页有一个未知的实数参数 ，表示拥有超链的一般趋势，一个未知的非负参数 ，表示拥有指向Authority网页的链接的趋势。每个Authoritive网页j，有一个未知的非负参数 ，表示j的Authority的级别。

   统计模型如下，Hub网页i到Authority网页j的链接的先验概率如下给定：
    P（i，j）＝Exp（ ＋ ）/（1＋Exp（ ＋ ））
   Hub网页i到Authority网页j没有链接时，P（i，j）＝1/（1＋Exp（ ＋ ））

   从以上公式可以看出，如果 很大（表示Hub网页i有很高的趋势指向任何一个网页），或者 和 都很大（表示i是个高质量Hub，j是个高质量的Authority网页），那么i－>j的链接的概率就比较大。

为了符合贝叶斯统计模型的规范，要给2M＋N个未知参数（ ， ， ）指定先验分布，这些分布应该是一般化的，不提供信息的，不依赖于被观察数据的，对结果只能产生很小影响的。Allan Borodin等在 中指定 满足正太分布N（μ， ）,均值μ＝0，标准方差δ＝10，指定 和 满足Exp（1）分布，即x>=0，P( >=x)＝P( >=x)＝Exp（－x）。

   接下来就是标准的贝叶斯方法处理和HITS中求矩阵特征根的运算。

２.５.１　简化的贝叶斯算法

   Allan Borodin同时提出了简化的上述贝叶斯算法，完全除去了参数 ，也就不再需要正太分布的参数μ，δ了。计算公式变为：P（i，j）＝ /（1＋ ），Hub网页到Authority网页j没有链接时，P（i，j）＝1/(1＋ )。

   Allan Borodin 指出简化的贝叶斯产生的效果与SALSA算法的结果非常类似。

 

２.６　Reputation

   上面的所有算法，都是从查询项或者主题出发，经过算法处理，得到结果网页。多伦多大学计算机系Alberto Mendelzon, Davood Rafiei提出了一种反向的算法，输入为某个网页的URL地址，输出为一组主题，网页在这些主题上有声望（repution）[16]。比如输入，www.gamelan.com，可能的输出结果是“java”，具体的系统可以访问htpp://www.cs.toronto.edu/db/topic。

   给定一个网页p，计算在主题t上的声望，首先定义2个参数，渗透率 和聚焦率 ，简单起见，网页p包含主题项t，就认为p在主题t上。

 

是指向p而且包含t的网页数目， 是指向p的网页数目， 是包含t的网页数目。结合非条件概率，引入 ， ， 是WEB上网页的数目。P在t上的声望计算如下：

   指定 是既指向p有包含t的概率，即 ，显然有

   我们可以从搜索引擎（如Altavista）的结果得到 ， , ,WEB上网页的总数估计值 某些组织会经常公布，在计算中是个常量不影响RM的排序，RM最后如此计算：

   给定网页p和主题t，RM可以如上计算，但是多数的情况的只给定网页p，需要提取主题后计算。算法的目标是找到一组t，使得RM（p，t）有较大的值。TOPIC系统中是抽取指向p的网页中的锚文本的单词作为主题（上面已经讨论过锚文本能很好描述目标网页，精度很高），避免了下载所有指向p的网页，而且RM（p，t）的计算很简单，算法的效率较高。主题抽取时，还忽略了用于导航、重复的链接的文本，同时也过滤了停止字（stop word），如“a”，“the”，“for”，“in”等。

   Reputation算法也是基于随机漫游模型的（random walk），可以说是PageRank和SALSA算法的结合体。

 

３.链接算法的分类及其评价

   链接分析算法可以用来提高搜索引擎的查询效果，可以发现WWW上的重要的社区，可以分析某个网站的拓扑结构，声望，分类等，可以用来实现文档的自动分类等。归根结底，能够帮助用户在WWW海量的信息里面准确找到需要的信息。这是一个正在迅速发展的研究领域。

   上面我们从历史的角度总结了链接分析算法的发展历程，较为详细的介绍了算法的基本思想和具体实现，对算法的存在的问题也做了讨论。这些算法有的处于研究阶段，有的已经在具体的系统实现了。这些算法大体可以分为3类，基于随机漫游模型的，比如PageRank，Repution算法，基于Hub和Authority相互加强模型的，如HITS及其变种，基于概率模型的，如SALSA，PHITS，基于贝叶斯模型的，如贝叶斯算法及其简化版本。所有的算法在实际应用中都结合传统的内容分析技术进行了优化。一些实际的系统实现了某些算法，并且获得了很好的效果，Google实现了PageRank算法，IBM Almaden Research Center 的Clever Project实现了ARC算法，多伦多大学计算机系实现了一个原型系统TOPIC，来计算指定网页有声望的主题。

   AT&T香农实验室的Brian Amento在指出，用权威性来评价网页的质量和人类专家评价的结果是一致的，并且各种链接分析算法的结果在大多数的情况下差别很小[15]。但是，Allan Borodin也指出没有一种算法是完美的，在某些查询下，结果可能很好，在另外的查询下，结果可能很差[11]。所以应该根据不同查询的情况，选择不同的合适的算法。

   基于链接分析的算法，提供了一种衡量网页质量的客观方法，独立于语言，独立于内容，不需人工干预就能自动发现WEB上重要的资源，挖掘出WEB上重要的社区，自动实现文档分类。但是也有一些共同的问题影响着算法的精度。

１．根集的质量。根集质量应该是很高的，否则，扩展后的网页集会增加很多无关的网页，产生主题漂移，主题泛化等一系列的问题，计算量也增加很多。算法再好，也无法在低质量网页集找出很多高质量的网页。

２．噪音链接。WEB上不是每个链接都包含了有用的信息，比如广告，站点导航，赞助商，用于友情交换的链接，对于链接分析不仅没有帮助，而且还影响结果。如何有效的去除这些无关链接，也是算法的一个关键点。

３．锚文本的利用。锚文本有很高的精度，对链接和目标网页的描述比较精确。上述算法在具体的实现中利用了锚文本来优化算法。如何准确充分的利用锚文本，对算法的精度影响很大。

４．查询的分类。每种算法都有自身的适用情况，对于不同的查询，应该采用不同的算法，以求获得最好的结果。因此，对于查询的分类也显得非常重要。

   当然，这些问题带有很大的主观性，比如，质量不能精确的定义，链接是否包含重要的信息也没有有效的方法能准确的判定，分析锚文本又涉及到语义问题，查询的分类也没有明确界限。如果算法要取得更好的效果，在这几个方面需要继续做深入的研究，相信在不久的将来会有更多的有趣和有用的成果出现。

 

搜索引擎算法和研究

TheEdge推荐 [2007-9-2]
出处：奕天锐新
作者：Christine Churchill

作为搜索者或搜索引擎优化专业人士，你真的需要理解支持搜索引擎的算法和技术吗？在近来召开的一次搜索引擎战略会议上，搜索引擎算法和研究座谈小组专家的答复是肯定的：绝对有必要。
　　
　　这是一份来自于2005年2月28到3月3日在美国纽约召开的搜索引擎战略会议中的特殊报道。

　　这个搜索引擎算法和研究座谈小组的成员包括：ASK Jeeves的产品管理和搜索技术副总裁Rahul Lahiri，Smart Interactive(近来被webSourced收购)的CEO，Mike Grehan以及来自于Mi Islita.com的Edel Garcia博士。

　　问题的来龙去脉是什么？

　　“我们真的需要了解搜索引擎技术层次上的所有内容吗？”Grehan问道。“是的！”他毫不含糊地进行了回答并继续解释当你理解了搜索引擎算法所带来的竞争优势。

　　“如果你知道是什么原因使得一个文档的 排名比另外一个要高，你可以有策略地优化并更好地为客户服务。而且，如果你的客户问道：‘为什么我的竞争对手总在前20名，而我却没有？搜索引擎的工作原理是什么？’如果你说‘我不知道——他们就那样——你认为他们还能让自己的账户存在多久？”

　　Grehan通过引用Brian Pinkerton——在1994年第一个开发出全文本检索搜索引擎的人的解释了自己的观点。“给它照相，”他解释说：“一个客户进入一个大型旅行用品商店，这个商店中什么都有，可用于世界各地的旅游，他看着在那里的小伙子，不加思索地问道 ‘旅游’。你想那个销售人员该从何讲起？”

　　搜索引擎用户想通过最小的感知和最大的快乐实现他们的目标。他们输入查询时不会仔细考虑的，他们采用不准确的3个词进行搜索，而且也没有学习正确的查询组成。这使得搜索引擎的工作更加困难。

　　搜索法、充裕问题和算法的演变

　　Grehan继续谈论搜索法在文件排名中的重要作用。“多种让人着魔事情的组合一道就产生了排名。我们应尽可能多地了解信息，因此，当我们谈论一篇文章的排名为什么要比另一篇高时，我们至少应能拿出一些证据说明正在发生什么。”

　　Grehan说明了随着时间的推移，搜索引擎算法的进程。早期的搜索引擎中，文本极其重要。但搜索研究家Jon Kleinberg发现了他所称之为的“充裕问题”。当输入一个搜索，然后返回包含适当文本的成千上万个网页时会出现充裕问题。你如何知道哪个是最重要的或者最合适的网页？搜索引擎如何确定哪个网页应出现在搜索结果列表的顶部？搜索引擎算法必须不断地向复杂性方面发展，以便适应过于充裕的问题。

　　来自于ASK Jeeves的看法

　　根据来自于ASK Jeeves Rahul Lahiri的说法，在网络上，ASK Jeeves财产 排名第七，在 搜索引擎中排名第四，Lahiri列举了对ASK Jeeves搜索引擎来讲是关键因素的几项内容，包括索引大小、内容的新鲜程度和数据结构。ASK Jeeves对数据结构的关注是很独特的，且通过这种方法与其他搜索引擎进行区分。

　　在网络搜索中有两种关键的驱动因素：内容分析和链接分析。Lahiri确认ASK Jeeves将网络视为一幅图画并将查看它们之间的链接关系，并尝试绘制相关信息之间的簇。

　　通过将网络分成不同的信息区块，ASK Jeeves可以根据来自于每个区块的权威“知识”来更好地理解一个查询并将更适应主题的查询结果提供给搜索者。如果你有一个较小的站点，但在你的区块中非常相关，你的站点可能比有些提供相关信息的区块之外大站点排名更好一些。

　　为什么共现非常重要

　　Edel Garcia博士被耽误了，未能在座谈小组中给大家作报告，但他准备了一份具有配音说明的PowerPoint文件。主持人Chris Sherman告诉大家，就当幻灯片是由Garcia博士给大家解说的。

　　Garcia博士是一位对人工智能和信息检索具有特殊兴趣的专家。他解释到，共现的短语更会倾向于被认为是相关的或者“相互联系的”。另外，语义联合影响我们对一个词语的理解。当我们看到“aloha（夏威夷人问候语：欢迎，再见）”一词时，我们想到的是“Hawaii（夏威夷）”，为什么？这是因为词语之间语义的联合。根据Garcia的观点，共现理论可以用来理解词语、商标和产品和服务等等之间的语义联合。

　　Garcia博士然后提出了一个问题。为什么我们必须关注搜索引擎中的词语联合？他的答案是：考虑一下关键词商标联合。这对搜索市场营销含义非常重要。

　　如果想了解Garcia博士更多的理论，请访问搜索引擎观察论坛Keywords Co-occurrence and Semantic Connectivity。

　　座谈会以气氛活跃的问答形式结束。搜索引擎算法的演变趋势如何？Grehan已经有了现成的答案：他期望能引入概率性潜在语义索引和概率性超文本导引主题搜索。那些满口的行话是什么意思？你必须参加下次搜索引擎会议才能找到答案。

　　关于作者：
　　
　　Christine Churchill 是 KeyRelevance.com的总裁，这时一家提供全方位自然搜索引擎优化、战略链接建立、可用性测试和付费点击管理服务的搜索引擎市场营销的公司。

FROM: http://www.cnblogs.com/zxjyuan/archive/2010/01/06/1640136.html