Hacker News与Reddit的算法比较

http://www.cnblogs.com/zhengyun_ustc/archive/2010/12/15/amir.html

Hacker News与Reddit的算法比较

郑昀 20101213

Hacker News是Y Combinator旗下的一个新闻频道，属于digg类产品，

SEOmoz曾经在2008年7月隆重推出Reddit、Stumbleupon、Del.icio.us和Hacker News算法全揭秘。由此，这些知名Web2.0网站的算法浮出水面。谷文栋曾在2009年时如下讲述了Hacker News的Ranking算法：

(p – 1) / (t + 2)^1.5

其中，
1）p 表示文章得到的投票数，之所以要使用 (p – 1)，应该是想去掉文章提交者的那一票。
2）(t + 2)^1.5， 这个是时间因子。t 表示当前时间与文章提交时间间隔的小时数。但为什么要加 2 之后再取 1.5 的幂，似乎就没什么道理可言了，也许是个 trial-and-error 的结果吧。

他对“1.5”这个参数也没有做出解释。

Amir Salihefendic（他是Plurk、Todoist的Co-Founder）在今年10月份撰文《How Hacker News ranking algorithm works 》完整地解释了Hacker News的Ranking算法，从中我们才得以知道那个神秘的“1.5”是什么。稍后我们还会拿这个排序规则与Reddit的排序规则做对比。

 

一、Hacker News的ranking算法

Hacker News是用Arc编写的（Arc是Lisp的一个“方言”）开源项目，源代码可以从http://ycombinator.com/arc/arc3.tar 获取。Ranking算法就写在这个包的news.arc文件里。鉴于这种语言是未来的语言，不容易看懂，所以代码就不贴了，光把注释贴出来：

; Ranking

; Votes divided by the age in hours to the gravityth power.
; Would be interesting to scale gravity in a slider.

努力领会这段神谕的同时，Amir说其实本质上执行的ranking规则是：

Score = (P-1) / (T+2)^G

where,
P = points of an item (and -1 is to negate submitters vote)
T = time since submission (in hours)
G = Gravity, defaults to 1.8 in news.arc

也就是说，前文所谓的莫名其妙的“1.5”，其实就是“Gravity（万有引力）”参数，默认是1.8。p之所以减去1，就是要去掉文章提交者的那一票。

1.1.Gravity(G)和Time(T)的作用

Gravity和time对于一篇文章（即一个item）的得分有着重要影响。一般来说：

• 随着T的增加（即时间的流逝），得分将下降，意味着更早被提交进来的文章将会得到越来越低的分数；
• 对于更早的文章，如果gravity增加，得分将会下降得更快。

（在这里要说明一下，著名的搜索引擎网站wolframalpha的plot语法能帮你根据公式（代入参数）画图，方便编纂文档随时举例或者调整算法，超赞。）

·得分是如何取决于time的

Amir利用wolframalpha绘制了公式代入参数后的趋势变化图，如下所示（下图访问链接http://goo.gl/ddYe）：

How score is behaving over time

上图中，定参Gravity为默认值1.8，随着时间的流逝，文章得分都会迅速下降。你还能看出来，24小时后（即t=24时）无论你的文章得到多少投票，它依然会得到一个非常低的得分。

·得分是如何取决于gravity的

当固定投票数，改变gravity又会如何呢？（下图访问链接http://is.gd/iJSbT）：

 

How gravity parameter behaves

可以看到gravity越大，得分下降趋势就越快。

·Ranking规则的Python实现

这个得分函数就是这么简单：

def calculate_score(votes, item_hour_age, gravity=1.8):
    return (votes - 1) / pow((item_hour_age+2), gravity)

Amir最后说道：“最关键的是你要理解这个算法如何起作用，以及你如何为自己的应用定制这个算法。”

 

相对于下面要讲述的Reddit排序算法，Hacker News的Ranking算法主要区别在于引入了time since submission这个参数，这个参数是不断变化的，从而导致一篇文章的得分不断变化。而Reddit下的一篇文章得分（Rank）是不变的，越新的文章得分越高，所以排序自然可能排在最前面。

 

二、Reddit的ranking算法

Reddit 是Digg类型网站，曾经在Digg 4改版引发用户众怒时被用户刻意追捧，独立访问数暴涨50%，并刻意将reddit链接分享至digg，使得digg主页充斥着对手reddit的链接。

谷文栋也曾于2008年12月发表过《Social Media Algorithm: Reddit》详细地解释了Reddit的公式及其参数构成。2010年11月，Amir也对此作了图文并茂的阐述：《How Reddit ranking algorithms work》。

它的公式如SEOmoz所描述的：

reddit formula

具体参数定义我就不再赘述了，可参考谷文栋或SEOmoz的文章。

Reddit也是开源的，其Python代码可从 http://code.reddit.com/ 寻到。他们的排序算法则因为性能问题改由Pyrex实现（Pyrex 是一种专门设计用来编写 Python 扩展模块的语言。根据 Pyrex Web 站点的介绍，“它被设计用来在友好易用的高级 Python 世界和凌乱的低级 C 世界之间搭建一个桥梁。”据说，“使用 Python like 的语法来编写 Python 的 C Module ，自动翻译成C语言代码，进而编译获取C代码的高效率。而且配合 Python 的 Distutils ，使得构建过程简单到了只需要 setup.py 的程度”）。

你可以点击链接 http://code.reddit.com/browser/r2/r2/lib/db/sorts.py?rev=4778b17e939e119417cc5ec25b82c4e9a65621b2 查看这个“hot ranking”算法被翻译为Python后的代码。

reddit很强调submission time（文章提交时间）。

2.1.提交时间的作用

提交时间对于文章评级有如下作用：

• 提交时间对ranking有很大影响，新文章肯定比老文章rank值高；
• 这个得分将不会随着时间流逝而递减，但新文章会得到更高的得分。这与Hacker News的算法有着显著区别。

下图显示了，固定Up和Down投票数的情况下，不同的提交时间，rank分值的变化：

从上图可以看出，同样的，随着时间的推移，新文章的得分会逐渐超越高同样投票数的老文章。

2.2.log函数的作用

这个“hot ranking”算法用了logarithm函数来确保最前面的投票权重大于接下来的投票。它的弯弯绕说法是这样的：

The first 10 upvotes have the same weight as the next 100 upvotes which have the same weight as the next 1000 etc...

谷文栋是这么解释的：

前 10 票获得的权重，与 11 到 101 票所获得的权重是一样的。

图形化的阐释是：

 

如果不用logarithm函数，那么情况就会是这样：

还是图解看上去直观吧？

2.3.反对票的作用

Reddit是少数几个允许有反对票的Digg类型新闻聚合网站，Hacker News就没有投反对票一说。

它的公式中有这么一个因子：

up_votes - down_votes

它的作用可以图形化为：

也就是说，那些有争议性话题的文章，得分将会比只得到赞同票的文章更低。

2.4.总结

Amir总结了一下Reddit的算法：

• Submission time（提交时间）是一个非常重要的参数，玩聚SR和RT就都是参照Reddit重视文章或热门消息的发布时间的。
• 前10票的得分，和接下来的100票，是一样的。这样，得了10票的文章，就可能和得了50票的文章得分相似。
• 争议性话题（得了很多反对票的）得分会很低。

（Amir还讲了Reddit的comment ranking，有兴趣可以自己去看看）

 

三、小结

就我在玩聚SR上使用Reddit排序算法的经验：

Hacker News的算法能够让老文章消失得更快，比如24小时之前的文章，基本就不会在榜单上存留。

Reddit的算法则能够让众望所归的那些优秀文章能够停留相当长时间，然后随着时间流逝，一点一点地被新的、好的文章挤下去。

Reddit的算法还有一个好处就是，当投票数变化了，才需要去重新计算一次文章的Rank，不用管时间的流逝。

 

参考资源：

1、Amir 2010年 《How Hacker News ranking algorithm works》；

2、谷文栋 2009年 《Social Media Algorithm: Hacker News》；

3、谷文栋 2008年 《Social Media Algorithm: Reddit》；

4、SEOmoz 2008年 《Reddit, Stumbleupon, Del.icio.us and Hacker News Algorithms Exposed!》。

文中提到的画图的网站不错

http://www.wolframalpha.com

上面就是输入的是：

plot( (30 - 1) / (t + 2)^1.8,  (60 - 1) / (t + 2)^1.8, (200 - 1) / (t + 2)^1.8 ) where t=0..24