流过滤-Bloom Filter布隆过滤器

假定集合S中包含10亿个邮件地址,我们可以确信这些地址不是垃圾邮件地址。

数据流元素为二元组(email address, email content),我们处理流中的每一个元素,若元素中的address字段在集合S中出现,则Pass,否则,则Not Pass。

问题:

1. 直接将S保存在内存中占用空间过大;

2. 匹配过程过于耗时。

布隆过滤,内存会被当做位数组来使用。假定有1GB的可用内存,则可以容纳80亿个位。

设计一个哈希函数h,它将邮件地址映射到80亿个桶中,并将对应的位设置为1,而数组中的其他位仍为0。由于S中有10亿个元素,因此所有位中有近1/8的位为1。

当有一个流元素到达时,对邮件地址email address字段进行哈希操作,如果该邮件地址哈希之后对应的位为1,那么就让邮件通过,但若对应的位为0,则可以确信该邮件地址不属于S,从而丢弃该流元素。

效用分析:

1. 所有正例都能通过;

2. 小部分反例也能通过,假阳率约为1/8。

3. 能剔除7/8的垃圾邮件。

4. 如何降低假阳率?多重哈希,h1,h2….

你可能感兴趣的:(filter,布隆过滤器,loom)