搜索引擎工作原理阿星seo

1.搜索引擎的概念

我们这样对搜索引擎进行定义：搜索引擎是一种能够通过因特网接受用户的查询命令，并向用户提供符合其查询要求的信息资源网址的系统。据统计，搜索引擎搜索仅次于电子邮件的应用。目前网上比较有影响的中文搜索工具有：google、百度、北大天网、爱问（iask）、雅虎（yahoo！）、搜狗（sogou）、搜搜（soso）等搜索引擎。英文的有：Yahoo! 、AltaVista、Excite、Infoseek、Lycos、Aol等。

真正意义上的搜索引擎，通常指的是收集了互联网上几千万到几十亿个网页并对我那个也中的每一个词（即关键词）进行索引。

搜索引擎的原理，可以分为四步：从互联网上抓取网页、建立索引数据库、在索引数据库中搜索排序、对搜索结果进行处理和排序。

(1)、从互联网上抓取网页：利用能够从互联网上自动收集网页的蜘蛛系统程序，自动访问互联网，并沿着任何网页中所有URL爬到其他网页，重复这个过程，并把爬过的所有网页收集回来。

(2)、建立索引数据库：由分析索引系统程序对收集回来的网页进行分析，提取相关网页信息（包括网页所在URL、编码类型、页面内容包含的关键词、关键词位置、生成时间、大小、与其他网页的链接关系等），并根据一定的相关度算法进行大量的复杂计算，得到每一个网页针对页面内容中及超链中每一个关键词的相关度（或重要性），然后利用这些相关信息建立网页索引数据库。

(3)、在索引数据库中搜索排序：当用户输入关键词后，由搜索系统程序从网页索引数据库中找到符合该关键词的所有相关网页。因为所用相关网页针对该关键词的相关度早已计算好，所以只需按照现成的相关数值排序，相关度越高，排名越靠前。最后由页面生成系统将搜索结果的链接地址和页面内容摘要等内容组织起来返回给用户。

(4)、对搜索结果进行处理排序：所有相关网页针对该关键词的相关信息在索引库中都有记录，只需综合相关信息和网页级别形成相关数值度，然后进行排序，相关度越高，排名越靠前。最后由页面生成系统将搜索结果的链接地址和页面内容摘要等内容组织起来返回给用户。

搜索引擎的分类

搜索引擎的技术基础是全文检索技术。全文检索通常指文本全文检索，包括信息的储存、组织、表现、查询、存取等各个方面，其核心为文本信息的索引和检索，一般用于企事业单位。随着互联网信息的发展，搜索引擎在全文检索技术上逐渐发展起来，并得到广泛的应用，但搜索引擎还是不同于全文检索。搜索引擎和常规意义上的全文检索主要区别有以下几点。

(1)、数据量。

传统全文检索系统面向的是企业本身的数据或者和企业相关的数据，一般索引数据库的规模多在GB级，数据量大的也只有几百万条；但互联网网页搜索需要处理几十亿的网页，搜索引擎的策略都是采用服务器群集和分布式据算技术。

(2)、内容相关性。

信息太多，差准和排序就是特别重要，Google等搜索引擎采用网页链接分析技术，根据互联网上网页被链接的次数作为重要性评判的依据；但全文检索的数据源中相互链接的程度并不高，不能作为判别重要性的依据，只能基于内容的相关性排序。

(3)、安全性。

互联网信息是公开的，除了文本内容外，其他信息都不太重要；而企业全文检索的数据源都是企业内部的信息，有等级、权限等限制，对查询方式也有更严格的要求，因此其数据一般会安全和集中地存放在数据库仓库中以保证数据安全和管理的要求。

(4)、个性化和智能化。

搜索引擎面向的是互联网的访问者，由于其数据量和客户数量的限制，自然语言处理技术、知识检索、知识挖掘等计算密集的智能计算技术很难应用，这也是目前搜索引擎技术努力的方向。而全文检索数据量小，检索需求明确，客户量少，在智能化和个性上更具有优势。

除了与全文检索系统有上述区别之外，搜索引擎按其工作方式主要可以分为3种，分别是全文搜索引擎（Full Text Search Engine）、目录索引类（Search Index/Directory）和元搜索引擎（Meta Search Engine）。

一、全文搜索引擎。

全文搜索引擎是名副其实的搜索引擎（google、AllTheWeb、AltaVista、Inktomi、Teoma、WiseNut、百度、中文搜索、北大天网等），他们都是通过从互联网上提取的各个网站的信息（以网页文字为主）而建立的数据库中，检索与用户查询条件匹配的相关记录，然后按一定的排列顺序将结果返回给用户，因此它们是真正的的搜索引擎。从搜索结果来源的角度，全文搜索引擎又可以细分为两种：一种是拥有自己的检索程序，俗称机器人程序或蜘蛛程序，并自建网页数据库，搜索结果直接从自身的数据库中调用，如上面提到的搜索引擎；另一种则是租用其他引擎的数据库，并按自定的格式排列搜索结果，如Lycos引擎。

全文搜索引擎有全文搜索、检索功能强、信息更新速度快等优点。但同时也有其不足之处，提供的信息虽然多而全，但可供选择的信息太多反而降低相应的命中率，并且提供的查询结果重复链接较多，层次结构不清晰，给人一种繁多杂乱的感觉。

二、目录索引类搜索引擎。

目录索引虽然有搜索功能，但在严格意义上算不上是真正的搜索引擎，仅仅是按目录分类的网站链接列表而已。用户完全可以不用进行关键词（keywords）查询，仅靠分类目录也可找到需要的信息。目录索引中最具代表性的莫过于大名鼎鼎的Yahoo！，其他的还有Open Directory Project（DMOZ）、LookSmart、About等。国内的搜狐、新浪、网易搜索也都属于这一类。

目录索引与全文搜索引擎的区别在于它是由人工建立的，通过“人工方式”将站点进行了分类，不像全文搜索引擎那样，将网站上的所有文中和信息都收录进去，而是首先将该网站划分到某个分类下，再记录一些摘要信息，对该网站进行概述性的简要介绍，用户提出搜索要求时，搜索引擎只在网站的简介中搜索。它的主要优点有：层次、结构清晰、易于查找；多级类目，便于查询到具体明确的主题；在内容提要、分类目录下有简明扼要的内容，方便使用户一目了然。其缺点是搜索范围较小、更新速度慢、查询交叉类目时容易遗漏。

三、元搜索引擎。

元搜索引擎在接受用户查询请求时，同时在其他多个搜索引擎上进行搜索，并将结果返回给用户。著名的元搜索引擎有InfoSpace、 Dogpile、Vivisimo等，中文元搜索引擎中具代表性的有北斗搜索。在搜索结果排列方面，有的直接按来源搜索引擎排列搜索结果，如 Dogpile，有的则按自定的规则将结果重新排列组合，如Vivisimo。

除上述三大类搜索引擎外，还有以下集中非主流形式。

(1)、集合式搜索引擎：如HotBot在2002年底推出的引擎。该搜索引擎类似于元搜索引擎，但区别在于不是同时调用多个搜索引擎，而是由用户从提供的4个引擎之中选择，因此他叫集合式搜索引擎更确切些。

(2)、门户搜索引擎：如Aol Search、Msn Search等虽然提供搜索服务，但自身既没有分类目录也没有网页数据库，其搜索结果完全来自于其他引擎。

(3)、免费链接目录(Free For ALL links,FFA)：这类网站一般只简单地的滚动排列链接条目，少部分有简单的分类目录，不过规模比起Yahoo！等目录索引要小得多。

除了上面的分类，搜索引擎还应具有以下功能：

A、网页搜索功能

B、网站搜索功能

C、图片搜索功能

D、新闻搜索功能

E、字典搜索功能

F、功能搜索功能