Hacker News与Reddit的算法比较

http://www.cnblogs.com/zhengyun_ustc/archive/2010/12/15/amir.html

Hacker News与Reddit的算法比较

郑昀 20101213

Hacker News是Y Combinator旗下的一个新闻频道,属于digg类产品,

Hacker News与Reddit的算法比较_第1张图片

SEOmoz曾经在2008年7月隆重推出Reddit、Stumbleupon、Del.icio.us和Hacker News算法全揭秘。由此,这些知名Web2.0网站的算法浮出水面。谷文栋曾在2009年时如下讲述了Hacker News的Ranking算法:

(p – 1) / (t + 2)^1.5

其中,
1)p 表示文章得到的投票数,之所以要使用 (p – 1),应该是想去掉文章提交者的那一票。
2)(t + 2)^1.5, 这个是时间因子。t 表示当前时间与文章提交时间间隔的小时数。但为什么要加 2 之后再取 1.5 的幂,似乎就没什么道理可言了,也许是个 trial-and-error 的结果吧。

他对“1.5”这个参数也没有做出解释。

Amir Salihefendic(他是Plurk、Todoist的Co-Founder)在今年10月份撰文《How Hacker News ranking algorithm works 》完整地解释了Hacker News的Ranking算法,从中我们才得以知道那个神秘的“1.5”是什么。稍后我们还会拿这个排序规则与Reddit的排序规则做对比。

 

一、Hacker News的ranking算法

Hacker News是用Arc编写的(Arc是Lisp的一个“方言”)开源项目,源代码可以从http://ycombinator.com/arc/arc3.tar 获取。Ranking算法就写在这个包的news.arc文件里。鉴于这种语言是未来的语言,不容易看懂,所以代码就不贴了,光把注释贴出来:

; Ranking

; Votes divided by the age in hours to the gravityth power.
; Would be interesting to scale gravity in a slider.

努力领会这段神谕的同时,Amir说其实本质上执行的ranking规则是:

Score = (P-1) / (T+2)^G

where,
P = points of an item (and -1 is to negate submitters vote)
T = time since submission (in hours)
G = Gravity, defaults to 1.8 in news.arc

也就是说,前文所谓的莫名其妙的“1.5”,其实就是“Gravity(万有引力)”参数,默认是1.8。p之所以减去1,就是要去掉文章提交者的那一票。

1.1.Gravity(G)和Time(T)的作用

Gravity和time对于一篇文章(即一个item)的得分有着重要影响。一般来说:

  • 随着T的增加(即时间的流逝),得分将下降,意味着更早被提交进来的文章将会得到越来越低的分数;
  • 对于更早的文章,如果gravity增加,得分将会下降得更快。

(在这里要说明一下,著名的搜索引擎网站wolframalpha的plot语法能帮你根据公式(代入参数)画图,方便编纂文档随时举例或者调整算法,超赞。)

·得分是如何取决于time的

Amir利用wolframalpha绘制了公式代入参数后的趋势变化图,如下所示(下图访问链接http://goo.gl/ddYe):

Hacker News与Reddit的算法比较_第2张图片

How score is behaving over time

上图中,定参Gravity为默认值1.8,随着时间的流逝,文章得分都会迅速下降。你还能看出来,24小时后(即t=24时)无论你的文章得到多少投票,它依然会得到一个非常低的得分。

·得分是如何取决于gravity的

当固定投票数,改变gravity又会如何呢?(下图访问链接http://is.gd/iJSbT):

 Hacker News与Reddit的算法比较_第3张图片

How gravity parameter behaves

可以看到gravity越大,得分下降趋势就越快。

·Ranking规则的Python实现

这个得分函数就是这么简单:

def calculate_score(votes, item_hour_age, gravity=1.8):
return (votes - 1) / pow((item_hour_age+2), gravity)

Amir最后说道:“最关键的是你要理解这个算法如何起作用,以及你如何为自己的应用定制这个算法。”

 

相对于下面要讲述的Reddit排序算法,Hacker News的Ranking算法主要区别在于引入了time since submission这个参数,这个参数是不断变化的,从而导致一篇文章的得分不断变化。而Reddit下的一篇文章得分(Rank)是不变的,越新的文章得分越高,所以排序自然可能排在最前面。

 

二、Reddit的ranking算法

Reddit 是Digg类型网站,曾经在Digg 4改版引发用户众怒时被用户刻意追捧,独立访问数暴涨50%,并刻意将reddit链接分享至digg,使得digg主页充斥着对手reddit的链接。

谷文栋也曾于2008年12月发表过《Social Media Algorithm: Reddit》详细地解释了Reddit的公式及其参数构成。2010年11月,Amir也对此作了图文并茂的阐述:《How Reddit ranking algorithms work》。

它的公式如SEOmoz所描述的:

Hacker News与Reddit的算法比较_第4张图片

reddit formula

具体参数定义我就不再赘述了,可参考谷文栋或SEOmoz的文章。

Reddit也是开源的,其Python代码可从 http://code.reddit.com/ 寻到。他们的排序算法则因为性能问题改由Pyrex实现(Pyrex 是一种专门设计用来编写 Python 扩展模块的语言。根据 Pyrex Web 站点的介绍,“它被设计用来在友好易用的高级 Python 世界和凌乱的低级 C 世界之间搭建一个桥梁。”据说,“使用 Python like 的语法来编写 Python 的 C Module ,自动翻译成C语言代码,进而编译获取C代码的高效率。而且配合 Python 的 Distutils ,使得构建过程简单到了只需要 setup.py 的程度”)。

你可以点击链接 http://code.reddit.com/browser/r2/r2/lib/db/sorts.py?rev=4778b17e939e119417cc5ec25b82c4e9a65621b2 查看这个“hot ranking”算法被翻译为Python后的代码。

reddit很强调submission time(文章提交时间)。

2.1.提交时间的作用

提交时间对于文章评级有如下作用:

  • 提交时间对ranking有很大影响,新文章肯定比老文章rank值高;
  • 这个得分将不会随着时间流逝而递减,但新文章会得到更高的得分。这与Hacker News的算法有着显著区别。

下图显示了,固定Up和Down投票数的情况下,不同的提交时间,rank分值的变化:

从上图可以看出,同样的,随着时间的推移,新文章的得分会逐渐超越高同样投票数的老文章。

2.2.log函数的作用

这个“hot ranking”算法用了logarithm函数来确保最前面的投票权重大于接下来的投票。它的弯弯绕说法是这样的:

The first 10 upvotes have the same weight as the next 100 upvotes which have the same weight as the next 1000 etc...

谷文栋是这么解释的:

前 10 票获得的权重,与 11 到 101 票所获得的权重是一样的。

图形化的阐释是:

 

如果不用logarithm函数,那么情况就会是这样:

还是图解看上去直观吧?

2.3.反对票的作用

Reddit是少数几个允许有反对票的Digg类型新闻聚合网站,Hacker News就没有投反对票一说。

它的公式中有这么一个因子:

up_votes - down_votes

它的作用可以图形化为:

也就是说,那些有争议性话题的文章,得分将会比只得到赞同票的文章更低。

2.4.总结

Amir总结了一下Reddit的算法:

  • Submission time(提交时间)是一个非常重要的参数,玩聚SR和RT就都是参照Reddit重视文章或热门消息的发布时间的。
  • 前10票的得分,和接下来的100票,是一样的。这样,得了10票的文章,就可能和得了50票的文章得分相似。
  • 争议性话题(得了很多反对票的)得分会很低。

(Amir还讲了Reddit的comment ranking,有兴趣可以自己去看看)

 

三、小结

就我在玩聚SR上使用Reddit排序算法的经验:

Hacker News的算法能够让老文章消失得更快,比如24小时之前的文章,基本就不会在榜单上存留。

Reddit的算法则能够让众望所归的那些优秀文章能够停留相当长时间,然后随着时间流逝,一点一点地被新的、好的文章挤下去。

Reddit的算法还有一个好处就是,当投票数变化了,才需要去重新计算一次文章的Rank,不用管时间的流逝。

 

参考资源:

1、Amir 2010年 《How Hacker News ranking algorithm works》;

2、谷文栋 2009年 《Social Media Algorithm: Hacker News》;

3、谷文栋 2008年 《Social Media Algorithm: Reddit》;

4、SEOmoz 2008年 《Reddit, Stumbleupon, Del.icio.us and Hacker News Algorithms Exposed!》。


文中提到的画图的网站不错

http://www.wolframalpha.com


上面就是输入的是:

plot( (30 - 1) / (t + 2)^1.8,  (60 - 1) / (t + 2)^1.8, (200 - 1) / (t + 2)^1.8 ) where t=0..24

你可能感兴趣的:(机器学习,推荐系统)