将一个大文件拆分成小文件的小题目:Hash拆分小文件

题目一: 两个30G的大文件,里面存储URL地址,现在有一台8G内存的服务器,找出两个文件中相同的值

根据hash值分成小文件(字符串或者数字,值相同则hash值相同 :  ss.get(0).hashCode()),然后两个文件比较相同的值

 

题目二:一个1T的大文件,里面存储URL地址,现在有一台8G内存的服务器,找出文件中相同的值

根据hash值分成小文件,然后小文件中比较

 

题目三:将一个1T的大文件,里面存储数字,进行排序。

1 按范围分段存储,每个小文件排序

2 归并排序:

   a 按内容大小拆分,则小文件内无序,小文件间无序

   b 小文件内进行排序,现在则小文件内有序,小文件间无序

   c 然后若目前分成了3个文件,然后每个文件取出第一个元素,第一轮三个元素比较大小。最小的输出到文件,空出一个位置,然后从第一个文件中取出第二个元素,三个元素再次比较。以此类推

 

你可能感兴趣的:(各种杂类问题)