simHash

simhash与重复信息识别

在工作学习中，我往往感叹数学奇迹般的解决一些貌似不可能完成的任务，并且十分希望将这种喜悦分享给大家，就好比说：“老婆，出来看上帝”…… 随着信息爆炸时代的来临，互联网上充斥着着大量的近重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫系统来说，收录重复的网页是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。造成网页近重复的可能原因主
zaizai_loong·2013-08-30 12:00

simhash与Google的网页去重

Simhash  传统IR领域内文本相似度比较所采用的经典方法是文本相似度的向量夹角余弦，其主要思想是根据一个文章中出现词的词频构成一个向量，然后计算两篇文章对应向量的向量夹角。
rabbit9898·2013-08-29 14:00

海量数据相似度计算之simhash和海明距离

海量数据相似度计算之simhash和海明距离通过 采集系统 我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？
·2013-08-26 11:00

海量数据相似度计算之simhash和海明距离

通过采集系统我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本和数
blueoceanyl·2013-08-26 07:44

海量数据相似度计算之simhash和海明距离

通过采集系统我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本和数
blueoceanyl·2013-08-26 07:44

海量数据相似度计算之simhash和海明距离

通过 采集系统 我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本
lanceyan·2013-08-26 07:00

海量数据相似度计算之simhash和海明距离

通过采集系统我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本和数
lance_yan·2013-08-25 17:00

海量数据相似度计算之simhash和海明距离

通过 采集系统 我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本
观澜而索源·2013-08-25 17:00

海量数据相似度计算之simhash和海明距离

通过 采集系统 我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本
lance_yan·2013-08-25 09:00

simhash

simhash在我看来，这个也不算简单啊，计算量仍然很大，尤其是我比较讨厌的是feature的庞大，对文本来说。吼吼。
caoeryingzi·2013-08-12 17:00

相似文档查找算法之 simHash 简介及其 java 实现

传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。产生的两个签名，如果相等，说明原始内容在一定概率下是相等的；如果不相等，除了说明原始内容不相等外，不再提供任何信息，因为即使原始内容只相差一个字节，所产生的签名也很可能差别极大。从这个意义上来说，要设计一个hash算法，对相似的内容产生的签名也相近，是更为艰难的任务，因为它的签名值除了提供原始内容是否相
xrzs·2013-08-05 02:00

数字二进制中1的个数

   给定一个数字求该数字二进制中1的个数被广泛应用于simhash中，求两个hash值得相似程度可以先将两个hash值做异或操作，然后统计异或结果二进制中1的个数来判断两个hash值得相似性。  
wdxin1322·2013-07-25 10:00

大文本相似度比较

前一段时间做过测试，Google的SimHash算法效果还是不错的，文本长度与一篇论文长度差不多。 步骤为：a.给整篇文档分词term，分词用的是IKAnalyzer。       
huangxia73·2013-07-17 18:00

simhash与重复信息识别

我的数学之美系列二——simhash与重复信息识别博客分类：算法与数据结构互联网算法搜索引擎Google嵌入式在工作学习中，我往往感叹数学奇迹般的解决一些貌似不可能完成的任务，并且十分希望将这种喜悦分享给大家
pi9nc·2013-06-17 23:00

the simhash algorithm(外文经典）

why?shinglinggivesgreatresultsbuttheO(n2)runtimeispoorasetof1e6recordswouldrequire5e11comparisonsandeventhecppimplcan"only"do5e6/secthat's2monthsofruntime,1.999monthstoolonginmymind.weneedanheuristict
c289054531·2013-03-22 14:00

simhash算法的原理

   第一次听说google的simhash算法[1]时，我感到很神奇。传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。
c289054531·2013-03-22 13:00

simhash与Google的网页去重（转）

网上疯传巨NB的simhash算法，谁也不知道这个是怎么推导出来，有什么凭据可以以一维的字符串指示俩篇文章的相似程度。怀着对google无比崇拜，在最近的项目中使用过后，却感觉效果很不理想。
朱坤朋·2013-03-11 14:00

Simhash 网页重复

 Simhash传统IR领域内文本相似度比较所采用的经典方法是文本相似度的向量夹角余弦，其主要思想是根据一个文章中出现词的词频构成一个向量，然后计算两篇文章对应向量的向量夹角。
vergilwang·2013-03-11 12:00

simhash进行文本查重

http://blog.csdn.net/lgnlgn/article/details/6008498有1亿个不重复的64位的01字符串，任意给出一个64位的01字符串f，如何快速从中找出与f汉明距离小于3的字符串？ 大规模网页的近似查重主要翻译自WWW07的DetectingNear-DuplicatesforWebCrawling WWW上存在大量内容近似相同的网页，对搜索引擎而言，去除近似相
sunmenggmail·2013-02-01 10:00

【基础知识】simhash与重复信息识别

我看的原文也是转载，链接如下：http://blog.csdn.net/xiewenbo/article/details/7595843这东西在我工作中会用到，希望将来静下心来写一写它的code。=============================================================================在工作学习中，我往往感叹数学奇迹般的解决一些貌似不
xceman1997·2013-01-31 23:00

SimHash去重

今天，学习了网页去重的一些方法，算法当中SimHash算法，我尤为关注。
·2012-11-15 18:00

simHash 简介以及java实现

 传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。产生的两个签名，如果相等，说明原始内容在一定概率 下是相等的；如果不相等，除了说明原始内容不相等外，不再提供任何信息，因为即使原始内容只相差一个字节，所产生的签名也很可能差别极大。从这个意义上来 说，要设计一个hash算法，对相似的内容产生的签名也相近，是更为艰难的任务，因为它的签名值除了提供原始内容
gemantic·2012-10-18 16:00

文本去重之SimHash算法

    说到文本相似性计算，大家首先想到的应该是使用向量空间模型VSM（VectorSpaceModel）。使用VSM计算相似度，先对文本进行分词，然后建立文本向量，把相似度的计算转换成某种特征向量距离的计算，比如余弦角、欧式距离、Jaccard相似系数等。这种方法存在很大一个问题：需要对文本两两进行相似度比较，无法扩展到海量文本的处理。想想像Google这种全网搜索引擎，收录了上百亿的网页，爬虫
starstarstone·2012-10-12 19:00

Detecting Near-Duplicates for Web Crawling － simhash与重复信息识别

随着信息爆炸时代的来临，互联网上充斥着着大量的近重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫系统来说，收录重复的网页是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。造成网页近重复的可能原因主要包括： 镜像网站内容复制嵌入广告计数改变少量修改一个简化的爬虫系统架构如下图所示： 事实上，传统比较两个文本相似性的方法，大多是将文本
meijia_tts·2012-09-20 17:00

simhash算法的原理

simhash算法的原理第一次听说google的simhash算法[1]时，我感到很神奇。传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。
meijia_tts·2012-09-20 17:00

数据挖掘之lsh minhash simhash

在项目中碰到这样的问题：互联网用户每天会访问很多的网页，假设两个用户访问过相同的网页，说明两个用户相似，相同的网页越多，用户相似度越高，这就是典型的CF中的user-based推荐算法。算法的原理很简单，只要两两计算用户的相似性，针对每个用户，获取最相似的K个用户即可。但是在实际的工程上，假定用户规模在亿的规模N，计算复杂度为N*N，即使是分布式，也是非常可怕的复杂度。考虑一下，我们是不是真的需要
hxxiaopei·2012-09-14 00:00

文本去重之MinHash算法

1.概述    跟SimHash一样，MinHash也是LSH的一种，可以用来快速估算两个集合的相似度。MinHash由AndreiBroder提出，最初用于在搜索引擎中检测重复网页。
oanqoanq·2012-09-04 00:00

文本去重之SimHash算法

说到文本相似性计算，大家首先想到的应该是使用向量空间模型VSM（VectorSpaceModel）。使用VSM计算相似度，先对文本进行分词，然后建立文本向量，把相似度的计算转换成某种特征向量距离的计算，比如余弦角、欧式距离、Jaccard相似系数等。这种方法存在很大一个问题：需要对文本两两进行相似度比较，无法扩展到海量文本的处理。想想像Google这种全网搜索引擎，收录了上百亿的网页，爬虫每天爬取
oanqoanq·2012-09-04 00:00

SimHash算法

说到文本相似性计算，大家首先想到的应该是使用向量空间模型VSM（VectorSpaceModel）。使用VSM计算相似度，先对文本进行分词，然后建立文本向量，把相似度的计算转换成某种特征向量距离的计算，比如余弦角、欧式距离、Jaccard相似系数等。这种方法存在很大一个问题：需要对文本两两进行相似度比较，无法扩展到海量文本的处理。想想像Google这种全网搜索引擎，收录了上百亿的网页，爬虫每天爬取
meijia_tts·2012-08-31 11:00

MinHash算法

1.概述    跟SimHash一样，MinHash也是LSH的一种，可以用来快速估算两个集合的相似度。MinHash由AndreiBroder提出，最初用于在搜索引擎中检测重复网页。
meijia_tts·2012-08-31 11:00

文本去重之SimHash算法

说到文本相似性计算，大家首先想到的应该是使用向量空间模型VSM（VectorSpaceModel）。使用VSM计算相似度，先对文本进行分词，然后建立文本向量，把相似度的计算转换成某种特征向量距离的计算，比如余弦角、欧式距离、Jaccard相似系数等。这种方法存在很大一个问题：需要对文本两两进行相似度比较，无法扩展到海量文本的处理。想想像Google这种全网搜索引擎，收录了上百亿的网页，爬虫每天爬取
sunlylorn·2012-08-06 15:00

文本去重之MinHash算法

1.概述    跟SimHash一样，MinHash也是LSH的一种，可以用来快速估算两个集合的相似度。MinHash由AndreiBroder提出，最初用于在搜索引擎中检测重复网页。
sunlylorn·2012-08-06 14:00

simhash算法的原理

第一次听说google的simhash算法[1]时，我感到很神奇。传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。
sunlylorn·2012-08-06 11:00

文本去重之MinHash算法

1.概述    跟SimHash一样，MinHash也是LSH的一种，可以用来快速估算两个集合的相似度。MinHash由AndreiBroder提出，最初用于在搜索引擎中检测重复网页。
pathenon·2012-07-06 13:00

文本去重之SimHash算法

  说到文本相似性计算，大家首先想到的应该是使用向量空间模型VSM（VectorSpaceModel）。使用VSM计算相似度，先对文本进行分词，然后建立文本向量，把相似度的计算转换成某种特征向量距离的计算，比如余弦角、欧式距离、Jaccard相似系数等。这种方法存在很大一个问题：需要对文本两两进行相似度比较，无法扩展到海量文本的处理。想想像Google这种全网搜索引擎，收录了上百亿的网页，爬虫每天
pathenon·2012-06-25 21:00

Simhash算法原理和网页查重应用

传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。产生的两个签名，如果相等，说明原始内容在一定概率下是相等的；如果不相等，除了说明原始内容不相等外，不再提供任何信息，因为即使原始内容只相差一个字节，所产生的签名也很可能差别极大。从这个意义上来说，要设计一个hash算法，对相似的内容产生的签名也相近，是更为艰难的任务，因为它的签名值除了提供原始内容是否相
hzhzh007·2012-05-28 02:00

Simhash算法原理和网页查重应用

传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。产生的两个签名，如果相等，说明原始内容在一定概率下是相等的；如果不相等，除了说明原始内容不相等外，不再提供任何信息，因为即使原始内容只相差一个字节，所产生的签名也很可能差别极大。从这个意义上来说，要设计一个hash算法，对相似的内容产生的签名也相近，是更为艰难的任务，因为它的签名值除了提供原始内容是否相
黄言之·2012-05-24 07:00

simhash与重复信息识别

在工作学习中，我往往感叹数学奇迹般的解决一些貌似不可能完成的任务，并且十分希望将这种喜悦分享给大家，就好比说：“老婆，出来看上帝”…… 随着信息爆炸时代的来临，互联网上充斥着着大量的近重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫系统来说，收录重复的网页是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。造成网页近重复的可能原因主
xiewenbo·2012-05-23 19:00

自己动手实现谷歌网页指纹计算方法

经过一番调查，发现谷歌的网页指纹计算方法simhash方法比较实用。于是在搞清楚理论的基础上，动手实现一下这个算法。
lwm_1985·2011-12-14 16:00

网页去重算法simhash 简析

 在工作学习中，我往往感叹数学奇迹般的解决一些貌似不可能完成的任务，并且十分希望将这种喜悦分享给大家，就好比说：“老婆，出来看上帝”……随着信息爆炸时代的来临，互联网上充斥着着大量的近重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫系统来说，收录重复的网页是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。造成网页近重复的可能原因主
oanqoanq·2011-11-23 11:00

网页去重算法simhash 简析

在工作学习中，我往往感叹数学奇迹般的解决一些貌似不可能完成的任务，并且十分希望将这种喜悦分享给大家，就好比说：“老婆，出来看上帝”……随着信息爆炸时代的来临，互联网上充斥着着大量的近重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫系统来说，收录重复的网页是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。造成网页近重复的可能原因主要
iwebcode·2011-11-23 11:00

对simhash算法的一些思考

                     最近研究文档去重技术,研究了一下去重算法后,最终选择了simhash算法.这个算法相对而言最简单,效果又好,难怪被google选用. 
lwm_1985·2011-11-18 20:00

SIMhash算法原理

第一次听说google的simhash算法[1]时，我感到很神奇。传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。
lianxiangbus·2011-09-20 00:00

对simhash算法的一些思考

最近研究文档去重技术,研究了一下去重算法后,最终选择了simhash算法.这个算法相对而言最简单,效果又好,难怪被google选用.简单来讲,simhash分为3步:1.将文本去掉格式后,分词.2.将每一个分词
sirlipeng·2011-05-04 10:26

对simhash算法的一些思考

 最近研究文档去重技术,研究了一下去重算法后,最终选择了simhash算法.这个算法相对而言最简单,效果又好,难怪被google选用. 
sirlipeng·2011-05-04 10:26

我的数学之美系列二 —— simhash与重复信息识别

在工作学习中，我往往感叹数学奇迹般的解决一些貌似不可能完成的任务，并且十分希望将这种喜悦分享给大家，就好比说：“老婆，出来看上帝”……随着信息爆炸时代的来临，互联网上充斥着着大量的近重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫系统来说，收录重复的网页是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。造成网页近重复的可能原因主要
grunt1223·2011-03-16 18:00

simhash用来进行海量文本近似去重的mapreduce版本

online版可以看我博客里的翻译： http://blog.csdn.net/lgnlgn/archive/2010/11/14/6008498.aspx 简单介绍一下simhash和mapreduce
lgnlgn·2011-03-03 20:00

simhash进行文本查重

有1亿个不重复的64位的01字符串，任意给出一个64位的01字符串f，如何快速从中找出与f汉明距离小于3的字符串？ 大规模网页的近似查重主要翻译自WWW07的DetectingNear-DuplicatesforWebCrawling WWW上存在大量内容近似相同的网页，对搜索引擎而言，去除近似相同的网页可以提高检索效率、降低存储开销。当爬虫在抓取网页时必须很快能在海量文本集中快速找出是否有重复的
lgnlgn·2010-11-14 16:00

一个简单的simhash算法

simhash是个很常用的计算文本相似度的算法，网上一般说用64bit的签名，这里采用times33作为普通hash函数，用32bit的签名，算法如下：#!
suwei19870312·2010-11-08 11:00

simhash算法的原理-用于实现文本判重复算法

第一次听说google的simhash算法[1]时，我感到很神奇。传统的hash算法只负责将原始内容尽量均匀随机地映射为一个签名值，原理上相当于伪随机数产生算法。
suwei19870312·2010-11-08 11:00
上一页 1 2 3 4 5 6 7 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他