Python多进程分块读取文件

        最近在做日志分析，可恨的log动辄上G，如果线程处理往往是比较慢的，但是Python2.x中多线程其实不能好好利用到多处理器进行并发执行。所以就打算多进程分块来读入文件。

       网上有位哥哥给了一份参考的源代码，http://www.oschina.net/code/snippet_97079_4465

# -*- coding: GBK -*-

import urlparse
import datetime
import os
from multiprocessing import Process,Queue,Array,RLock

"""
多进程分块读取文件
"""

WORKERS = 4
BLOCKSIZE = 100000000
FILE_SIZE = 0

def getFilesize(file):
    """
        获取要读取文件的大小
    """
    global FILE_SIZE
    fstream = open(file,'r')
    fstream.seek(0,os.SEEK_END)
    FILE_SIZE = fstream.tell()
    fstream.close()

def process_found(pid,array,file,rlock):
    global FILE_SIZE
    global JOB
    global PREFIX
    """
        进程处理
        Args:
            pid:进程编号
            array:进程间共享队列，用于标记各进程所读的文件块结束位置
            file:所读文件名称
        各个进程先从array中获取当前最大的值为起始位置startpossition
        结束的位置endpossition (startpossition+BLOCKSIZE) 
        if (startpossition+BLOCKSIZE)

     自己在上面做了些改进，也上马工作了。但是发现一件蛮出乎意料的事情，因为我用来文件迭代器（for line in file），文件都是按缓冲之间缓冲一个block进来的（猜测），所以每次调用file.tell()给出的结果都不对，感觉是下一个Block的起始位。所以感觉不能保证两个进程之间没有遗漏的地方(大部分应该是有遗漏的)。

     网上看了看还是有蛮多人有这个问题的：

http://bugs.python.org/issue4633

http://www.reddit.com/r/learnpython/comments/vcg2y/filetell_returns_the_wrong_value_for_crlf_files/

See the documentation for file.next 
(http://docs.python.org/library/stdtypes.html#file.next).  As you can 
see, file.next uses a buffer which will mess with the result of other 
methods, such as file.tell.

     但是按例子和有些人的建议用readline()，但整个文件（十几G）读得非常的慢，后来就像自己对读取的内容做计数，来判断最后是否完成了自己的任务。好傻，但是应该比较有用。而且事实证明对性能影响有限的说....