搜索引擎技术资源篇-2(转载)

搜索引擎的策略都是采用服务器群集和分布式计算技术。(搜索引擎技术资源篇-1)

经典文章:  google早期论文 The Anatomy of a Large-Scale Hypertextual Web Search Engine

搜索原理

主要做三个步骤：从互联网上抓取网页 → 建立索引数据库 → 在索引数据库中搜索排序。

从互联网上抓取网页——利用能够从互联网上自动收集网页的Spider系统程序，自动访问互联网，并沿着任何网页中的所有URL爬到其它网页，重复这过程，并把爬过的所有网页收集回来。建立索引数据库——由分析索引系统程序对收集回来的网页进行分析，提取相关网页信息（包括网页所在URL、编码类型、页面内容包含的关键词、关键词位置、生成时间、大小、与其它网页的链接关系等），根据一定的相关度算法进行大量复杂计算，得到每一个网页针对页面内容中及超链中每一个关键词的相关度（或重要性），然后用这些相关信息建立网页索引数据库。在索引数据库中搜索排序——当用户输入关键词搜索后，由搜索系统程序从网页索引数据库中找到符合该关键词的所有相关网页。因为所有相关网页针对该关键词的相关度早已算好，所以只需按照现成的相关度数值排序，相关度越高，排名越靠前。最后，由页面生成系统将搜索结果的链接地址和页面内容摘要等内容组织起来返回给用户。

搜索市场

据业内分析，今后以百度、Google和雅虎为主的水平搜索的增长将趋缓，而垂直搜索(手机移动搜索)、论坛搜索、本地搜索等未来新兴搜索引擎市场将以30%左右的速度增长，到2010年规模将达到78亿元。

也就是说，水平搜索风光不再，而垂直搜索则方兴未艾，垂直搜索是搜索市场新的“蓝海”。据市场研究机构Kelsey Group预测，在未来5年内，仅美国国内地区搜索市场规模将达34亿美元。

搜索历史

• 搜索引擎的历史

搜索引擎

List of search engines

• Google - http://www.google.com
• Yahoo - http://search.yahoo.com
• http://www.chacha.com/
• http://www.clusty.com
• http://www.search.com
• Autonomy - http://www.autonomy.com.cn
• WiseNut - http://www.wisenut.com/
• MSN Search - http://search.msn.com
• A9 - http://www.a9.com
• Baidu - http://www.baidu.com
• Sogou
• Koders - Source Code Search Engine http://www.koders.com/
• Ask Jeeves - http://www.ask.com/
• Teoma - http://www.teoma.com/
• WiseNut - http://www.wisenut.com/
• Gigablast - http://www.gigablast.com/
• Creative Commons Search - http://search.creativecommons.org/
• Scrub The Web - http://www.scrubtheweb.com/
• FactBites.com - http://www.factbites.com
• Dumbfind - http://www.dumbfind.com/
• Entireweb - http://www.entireweb.com/
• Objects Search - http://www.objectssearch.com/
• Pipeline - http://www.pipeline-search.com/
• Mojeek - http://www.mojeek.com/
• Ulysseek - http://www.ulysseek.com/
• SearchHippo - http://www.searchhippo.com/
• Wotbox - http://www.wotbox.com/
• meta 搜索引擎 Myriad Search - http://www.myriadsearch.com/
• Majestic-12: Distributed Search Engine - 一个搜索引擎的协作项目

开源项目

• Tesseract OCR - http://sourceforge.net/projects/tesseract-ocr

C,C++

• Apache Lucene4c
• CLucene is a C++ port of Lucene - http://clucene.sourceforge.net
• SWISH++ - http://swishplusplus.sourceforge.net/
• ht://Dig
• Larbin
• mnoGoSearch - http://mnogosearch.org/
• SF超高速FTP搜索引擎
• ASPSeek - http://www.aspseek.org/
• OpenFTS - http://openfts.sourceforge.net/
• Swish-e - http://www.swish-e.org/
• OpenWebSpider - http://www.openwebspider.org/
• DataparkSearch - http://www.dataparksearch.org/
• Managing Gigabytes - http://www.cs.mu.oz.au/mg/
• Namazu(a Full-Text Search Engine) - http://www.namazu.org/index.html.en (include perl)
• Zebra - http://indexdata.dk/zebra/
• Webglimpse - http://webglimpse.net/
• Xapian - http://www.xapian.org/
• Webbot

Java

• Apache Lucene Search Engine (no crawler) - http://lucene.apache.org
• Apache Nutch (open source web-scalable search engine) - http://lucene.apache.org/nutch/
• Apache Hadoop - http://lucene.apache.org/hadoop/
• Compass
• JXTA Search - http://search.jxta.org/
• XQEngine(XML Query Engine) - http://xqengine.sourceforge.net/

PHP

• Sphider

Perl

中文资源

• 搜索引擎研究 - http://www.wespoke.com/

相关文章

• Google的启示
• 中文分词和搜索引擎
• 中文搜索引擎技术揭密：中文分词
• 中文搜索引擎技术揭密：排序技术
• 中文搜索引擎技术揭密: 网络蜘蛛
• 中文搜索引擎技术揭密：系统架构
• 在 Linux 上构建 Web spider
• [中文/英文搜索引擎推广登录入口 ]
• [2006chinese search engine Situation ]

相关链接

• Search Engine Watch - http://searchenginewatch.com/
• Search Tools - http://www.searchtools.com/
• The Web Robots Pages : http://www.robotstxt.org/wc/robots.html ,一些很好的规则定义以及定义了Robots协议
• Guidelines for Robot Writers : http://www.robotstxt.org/wc/guidelines.html
• SearchTools.com: http://www.searchtools.com/robots/ ,All About Search Indexing Robots and Spiders