用Java实现HTTP断点续传

用Java实现HTTP断点续传

(一)断点续传的原理 

　　 其实断点续传的原理很简单，就是在Http的请求上和一般的下载有所不同而已。打个比方，浏览器请求服务器上的一个文时，所发出的请求如下： 

　　 假设服务器域名为wwww.sjtu.edu.cn，文件名为down.zip。 
GET /down.zip HTTP/1.1 
Accept: image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, application/vnd.ms- 
excel, application/msword, application/vnd.ms-powerpoint, */* 
Accept-Language: zh-cn 
Accept-Encoding: gzip, deflate 
User-Agent: Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0) 
Connection: Keep-Alive 

　　 服务器收到请求后，按要求寻找请求的文件，提取文件的信息，然后返回给浏览器，返回信息如下： 
200 
Content-Length=106786028 
Accept-Ranges=bytes 
Date=Mon, 30 Apr 2001 12:56:11 GMT 
ETag=W/"02ca57e173c11:95b" 
Content-Type=application/octet-stream 
Server=Microsoft-IIS/5.0 
Last-Modified=Mon, 30 Apr 2001 12:56:11 GMT 

　　 所谓断点续传，也就是要从文件已经下载的地方开始继续下载。所以在客户端浏览器传给 
Web服务器的时候要多加一条信息--从哪里开始。 

　　 下面是用自己编的一个"浏览器"来传递请求信息给Web服务器，要求从2000070字节开始。 
GET /down.zip HTTP/1.0 
User-Agent: NetFox 
RANGE: bytes=2000070- 
Accept: text/html, image/gif, image/jpeg, *; q=.2, */*; q=.2 

　　 仔细看一下就会发现多了一行RANGE: bytes=2000070-；这一行的意思就是告诉服务器down.zip这个文件从2000070字节开始传，前面的字节不用传了。 

　　 服务器收到这个请求以后，返回的信息如下： 
206 
Content-Length=106786028 
Content-Range=bytes 2000070-106786027/106786028 
Date=Mon, 30 Apr 2001 12:55:20 GMT 
ETag=W/"02ca57e173c11:95b" 
Content-Type=application/octet-stream 
Server=Microsoft-IIS/5.0 
Last-Modified=Mon, 30 Apr 2001 12:55:20 GMT 

　　 和前面服务器返回的信息比较一下，就会发现增加了一行： 
Content-Range=bytes 2000070-106786027/106786028 

　　 返回的代码也改为206了，而不再是200了。 

　　 知道了以上原理，就可以进行断点续传的编程了。 


(二)Java实现断点续传的关键几点 

　　 (1)用什么方法实现提交RANGE: bytes=2000070-。 
当然用最原始的Socket是肯定能完成的，不过那样太费事了，其实Java的net包中提供了这种功能。代码如下： 
URL url = new URL(" http://www.sjtu.edu.cn/down.zip ";;); 
HttpURLConnection httpConnection = (HttpURLConnection)url.openConnection 

(); 
//设置User-Agent 
httpConnection.setRequestProperty("User-Agent","NetFox"); 
//设置断点续传的开始位置 
httpConnection.setRequestProperty("RANGE","bytes=2000070"); 
//获得输入流 
InputStream input = httpConnection.getInputStream(); 

　　 从输入流中取出的字节流就是down.zip文件从2000070开始的字节流。大家看，其实断点续传用Java实现起来还是很简单的吧。接下来要做的事就是怎么保存获得的流到文件中去了。 

　　 保存文件采用的方法 

　　 我采用的是IO包中的RandAccessFile类。 

　　 操作相当简单，假设从2000070处开始保存文件，代码如下： 
RandomAccess oSavedFile = new RandomAccessFile("down.zip","rw"); 
long nPos = 2000070; 
//定位文件指针到nPos位置 
oSavedFile.seek(nPos); 
byte[] b = new byte[1024]; 
int nRead; 
//从输入流中读入字节流，然后写到文件中 
while((nRead=input.read(b,0,1024)) > 0) 
{ 
　 oSavedFile.write(b,0,nRead); 
} 

　　 接下来要做的就是整合成一个完整的程序了。包括一系列的线程控制等等。 

　　 (三)断点续传内核的实现 

　　 主要用了6个类，包括一个测试类： 

　　 SiteFileFetch.java负责整个文件的抓取，控制内部线程(FileSplitterFetch类)。 

　　 FileSplitterFetch.java负责部分文件的抓取。 

　　 FileAccess.java负责文件的存储。 

　　 SiteInfoBean.java要抓取的文件的信息，如文件保存的目录，名字，抓取文件的URL等。 

　　 Utility.java工具类，放一些简单的方法。 

　　 TestMethod.java测试类。 

下面是源程序： 
/* 
**SiteFileFetch.java 
*/ 
package NetFox; 
import java.io.*; 
import java.net.*; 

public class SiteFileFetch extends Thread { 

SiteInfoBean siteInfoBean = null; //文件信息Bean 
long[] nStartPos; //开始位置 
long[] nEndPos; //结束位置 
FileSplitterFetch[] fileSplitterFetch; //子线程对象 
long nFileLength; //文件长度 
boolean bFirst = true; //是否第一次取文件 
boolean bStop = false; //停止标志 
File tmpFile; //文件下载的临时信息 
DataOutputStream output; //输出到文件的输出流 

public SiteFileFetch(SiteInfoBean bean) throws IOException 
{ 
　 siteInfoBean = bean; 
　 //tmpFile = File.createTempFile ("zhong","1111",new File(bean.getSFilePath())); 
　 tmpFile = new File(bean.getSFilePath()+File.separator + bean.getSFileName()+".info"); 
　 if(tmpFile.exists ()) 
　 { 
　　 bFirst = false; 
　　 read_nPos(); 
　 } 
　 else 
　 { 
　　 nStartPos = new long[bean.getNSplitter()]; 
　　 nEndPos = new long[bean.getNSplitter()]; 
　 } 
} 

public void run() 
{ 
　 //获得文件长度 
　 //分割文件 
　 //实例FileSplitterFetch 
　 //启动FileSplitterFetch线程 
　 //等待子线程返回 
　 try{ 
　　 if(bFirst) 
　　 { 
　　　 nFileLength = getFileSize(); 
　　　 if(nFileLength == -1) 
　　　 { 
　　　　 System.err.println("File Length is not known!"); 
　　　 } 
　　　 else if(nFileLength == -2) 
　　　 { 
　　　　 System.err.println("File is not access!"); 
　　　 } 
　　 else 
　　 { 
　　　 for(int i=0;i<nStartPos.length;i++) 
　　　 { 
　　　　 nStartPos[i] = (long)(i*(nFileLength/nStartPos.length)); 
　　　 } 
　　　 for(int i=0;i<nEndPos.length-1;i++) 
　　　 { 
　　　　 nEndPos[i] = nStartPos[i+1]; 
　　　 } 
　　　 nEndPos[nEndPos.length-1] = nFileLength; 
　　 } 
　 } 

　 //启动子线程 
　 fileSplitterFetch = new FileSplitterFetch[nStartPos.length]; 
　 for(int i=0;i<nStartPos.length;i++) 
　 { 
　　 fileSplitterFetch[i] = new FileSplitterFetch(siteInfoBean.getSSiteURL(), 
　　 siteInfoBean.getSFilePath() + File.separator + siteInfoBean.getSFileName(), nStartPos[i],nEndPos[i],i); 
　　 Utility.log("Thread " + i + " , nStartPos = " + nStartPos[i] + ", nEndPos = " + nEndPos[i]); 
　　 fileSplitterFetch[i].start(); 
　 } 
　 // fileSplitterFetch[nPos.length-1] = new FileSplitterFetch(siteInfoBean.getSSiteURL(), 
　 siteInfoBean.getSFilePath() + File.separator + siteInfoBean.getSFileName(),nPos[nPos.length-1],nFileLength,nPos.length-1); 
　 // Utility.log("Thread " + (nPos.length-1) + " , nStartPos = " + nPos[nPos.length-1] + ", nEndPos = " + nFileLength); 
　 // fileSplitterFetch[nPos.length-1].start(); 

　 //等待子线程结束 
　 //int count = 0; 
　 //是否结束while循环 
　 boolean breakWhile = false; 

　 while(!bStop) 
　 { 
　　 write_nPos(); 
　　 Utility.sleep(500); 
　　 breakWhile = true; 

　　 for(int i=0;i<nStartPos.length;i++) 
　　 { 
　　　 if(!fileSplitterFetch[i].bDownOver) 
　　　 { 
　　　　 breakWhile = false; 
　　　　 break; 
　　　 } 
　　 } 
　　 if(breakWhile) 
　　　 break; 

　　 //count++; 
　　 //if(count>4) 
　　 // siteStop(); 
　 } 

　 System.err.println("文件下载结束！"); 
} 
catch(Exception e){e.printStackTrace ();} 
} 

//获得文件长度 
public long getFileSize() 
{ 
　 int nFileLength = -1; 
　 try{ 
　　 URL url = new URL(siteInfoBean.getSSiteURL()); 
　　 HttpURLConnection httpConnection = (HttpURLConnection)url.openConnection (); 
　　 httpConnection.setRequestProperty("User-Agent","NetFox"); 

　　 int responseCode=httpConnection.getResponseCode(); 
　　 if(responseCode>=400) 
　　 { 
　　　 processErrorCode(responseCode); 
　　　 return -2; //-2 represent access is error 
　　 } 

　　 String sHeader; 

　　 for(int i=1;;i++) 
　　 { 
　　　 //DataInputStream in = new DataInputStream(httpConnection.getInputStream ()); 
　　　 //Utility.log(in.readLine()); 
　　　 sHeader=httpConnection.getHeaderFieldKey(i); 
　　　 if(sHeader!=null) 
　　　 { 
　　　　 if(sHeader.equals("Content-Length")) 
　　　　 { 
　　　　　 nFileLength = Integer.parseInt(httpConnection.getHeaderField(sHeader)); 
　　　　　 break; 
　　　　 } 
　　　 } 
　　　 else 
　　　 break; 
　　 } 
　 } 
　 catch(IOException e){e.printStackTrace ();} 
　 catch(Exception e){e.printStackTrace ();} 

　 Utility.log(nFileLength); 
　 return nFileLength; 
} 

//保存下载信息（文件指针位置） 
private void write_nPos() 
{ 
　 try{ 
　　 output = new DataOutputStream(new FileOutputStream(tmpFile)); 
　　 output.writeInt(nStartPos.length); 
　　 for(int i=0;i<nStartPos.length;i++) 
　　 { 
　　　 // output.writeLong(nPos[i]); 
　　　 output.writeLong(fileSplitterFetch[i].nStartPos); 
　　　 output.writeLong(fileSplitterFetch[i].nEndPos); 
　　 } 
　　 output.close(); 
　 } 
　 catch(IOException e){e.printStackTrace ();} 
　 catch(Exception e){e.printStackTrace ();} 
} 

//读取保存的下载信息（文件指针位置） 
private void read_nPos() 
{ 
　 try{ 
　　 DataInputStream input = new DataInputStream(new FileInputStream(tmpFile)); 
　　 int nCount = input.readInt(); 
　　 nStartPos = new long[nCount]; 
　　 nEndPos = new long[nCount]; 
　　 for(int i=0;i<nStartPos.length;i++) 
　　 { 
　　　 nStartPos[i] = input.readLong(); 
　　　 nEndPos[i] = input.readLong(); 
　　 } 
　　 input.close(); 
　 } 
　 catch(IOException e){e.printStackTrace ();} 
　 catch(Exception e){e.printStackTrace ();} 
} 

private void processErrorCode(int nErrorCode) 
{ 
　 System.err.println("Error Code : " + nErrorCode); 
} 

//停止文件下载 
public void siteStop() 
{ 
　 bStop = true; 
　 for(int i=0;i<nStartPos.length;i++) 
　　 fileSplitterFetch[i].splitterStop(); 

} 
} 
/* 
**FileSplitterFetch.java 
*/ 
package NetFox; 

import java.io.*; 
import java.net.*; 

public class FileSplitterFetch extends Thread { 

　 String sURL; //File URL 
　 long nStartPos; //File Snippet Start Position 
　 long nEndPos; //File Snippet End Position 
　 int nThreadID; //Thread´s ID 
　 boolean bDownOver = false; //Downing is over 
　 boolean bStop = false; //Stop identical 
　 FileAccessI fileAccessI = null; //File Access interface 

　 public FileSplitterFetch(String sURL,String sName,long nStart,long nEnd,int id) throws IOException 
　 { 
　　 this.sURL = sURL; 
　　 this.nStartPos = nStart; 
　　 this.nEndPos = nEnd; 
　　 nThreadID = id; 
　　 fileAccessI = new FileAccessI(sName,nStartPos); 
　 } 

public void run() 
{ 
　 while(nStartPos < nEndPos && !bStop) 
　 { 
　　 try{ 
　　　 URL url = new URL(sURL); 
　　　 HttpURLConnection httpConnection = (HttpURLConnection)url.openConnection (); 
　　　 httpConnection.setRequestProperty("User-Agent","NetFox"); 
　　　 String sProperty = "bytes="+nStartPos+"-"; 
　　　 httpConnection.setRequestProperty("RANGE",sProperty); 
　　　 Utility.log(sProperty); 
　　　 InputStream input = httpConnection.getInputStream(); 
　　　 //logResponseHead(httpConnection); 

　　　 byte[] b = new byte[1024]; 
　　　 int nRead; 
　　　 while((nRead=input.read(b,0,1024)) > 0 && nStartPos < nEndPos && !bStop) 
　　　 { 
　　　　 nStartPos += fileAccessI.write(b,0,nRead); 
　　　　 //if(nThreadID == 1) 
　　　　 // Utility.log("nStartPos = " + nStartPos + ", nEndPos = " + nEndPos); 
　　　 } 

　　　 Utility.log("Thread " + nThreadID + " is over!"); 
　　　 bDownOver = true; 
　　　 //nPos = fileAccessI.write (b,0,nRead); 
　　 } 
　　 catch(Exception e){e.printStackTrace ();} 
　 } 
} 

//打印回应的头信息 
public void logResponseHead(HttpURLConnection con) 
{ 
　 for(int i=1;;i++) 
　 { 
　　 String header=con.getHeaderFieldKey(i); 
　　 if(header!=null) 
　　　 //responseHeaders.put(header,httpConnection.getHeaderField(header)); 
　　　 Utility.log(header+" : "+con.getHeaderField(header)); 
　　 else 
　　　 break; 
　 } 
} 

public void splitterStop() 
{ 
　 bStop = true; 
} 
} 

/* 
**FileAccess.java 
*/ 
package NetFox; 
import java.io.*; 

public class FileAccessI implements Serializable{ 

　 RandomAccessFile oSavedFile; 
　 long nPos; 

　 public FileAccessI() throws IOException 
　 { 
　　 this("",0); 
　 } 

　 public FileAccessI(String sName,long nPos) throws IOException 
　 { 
　　 oSavedFile = new RandomAccessFile(sName,"rw"); 
　　 this.nPos = nPos; 
　　 oSavedFile.seek(nPos); 
　 } 

　 public synchronized int write(byte[] b,int nStart,int nLen) 
　 { 
　　 int n = -1; 
　　 try{ 
　　　 oSavedFile.write(b,nStart,nLen); 
　　　 n = nLen; 
　　 } 
　　 catch(IOException e) 
　　 { 
　　　 e.printStackTrace (); 
　　 } 

　　 return n; 
　 } 
} 

/* 
**SiteInfoBean.java 
*/ 
package NetFox; 

public class SiteInfoBean { 
　 private String sSiteURL; //Site´s URL 
　 private String sFilePath; //Saved File´s Path 
　 private String sFileName; //Saved File´s Name 
　 private int nSplitter; //Count of Splited Downloading File 

　 public SiteInfoBean() 
　 { 
　　 //default value of nSplitter is 5 
　　 this("","","",5); 
　 } 

　 public SiteInfoBean(String sURL,String sPath,String sName,int nSpiltter) 
　 { 
　　 sSiteURL= sURL; 
　　 sFilePath = sPath; 
　　 sFileName = sName; 
　　 this.nSplitter = nSpiltter; 
　 } 

　 public String getSSiteURL() 
　 { 
　　 return sSiteURL; 
　 } 

　 public void setSSiteURL(String value) 
　 { 
　　 sSiteURL = value; 
　 } 

　 public String getSFilePath() 
　 { 
　　 return sFilePath; 
　 } 

　 public void setSFilePath(String value) 
　 { 
　　 sFilePath = value; 
　 } 

　 public String getSFileName() 
　 { 
　　 return sFileName; 
　 } 

　 public void setSFileName(String value) 
　 { 
　　 sFileName = value; 
　 } 

　 public int getNSplitter() 
　 { 
　　 return nSplitter; 
　 } 

　 public void setNSplitter(int nCount) 
　 { 
　　 nSplitter = nCount; 
　 } 
} 

/* 
**Utility.java 
*/ 
package NetFox; 

public class Utility { 

　 public Utility() 
　 { 
　 } 

　 public static void sleep(int nSecond) 
　 { 
　　 try{ 
　　　 Thread.sleep(nSecond); 
　　 } 
　 catch(Exception e) 
　 { 
　　 e.printStackTrace (); 
　 }　 
} 

public static void log(String sMsg) 
{ 
　 System.err.println(sMsg); 
} 

public static void log(int sMsg) 
{ 
　 System.err.println(sMsg); 
} 
} 

/* 
**TestMethod.java 
*/ 
package NetFox; 

public class TestMethod { 

　 public TestMethod() 
　 { ///xx/weblogic60b2_win.exe 
　　 try{ 
　　　 SiteInfoBean bean = new SiteInfoBean(" 　　　http://localhost/xx/weblogic60b2_win.exe";;,"L:/temp","weblogic60b2_win.exe",5); 
　　　 //SiteInfoBean bean = new SiteInfoBean(" 　　http://localhost:8080/down.zip";;,"L:/temp","weblogic60b2_win.exe",5); 
　　　 SiteFileFetch fileFetch = new SiteFileFetch(bean); 
　　　 fileFetch.start(); 
　　 } 
　　 catch(Exception e){e.printStackTrace ();} 
　 } 

　 public static void main(String[] args) 
　 { 
　　 new TestMethod(); 
　 } 
}