curl通信使用:参数设置和调试及断点续传下载

/**

    * @author wangdaopo

    * @email [email protected]

    */

一、利用libcurl完成传输任务的流程

二、CURLcode curl_easy_setopt(CURL *handle, CURLoption option,parameter);

三、注意:

四、实例LibCurl调试实例

 

官网:https://curl.haxx.se/libcurl/

简介:为什么要使用libcurl,(1)作为http的客户端,可以直接用socket连接服务器,然后对到的数据进行http解析,但要分析协议头,实现代理…这样太麻烦了。#也就是socket连接然后发post、get协议包,自己组包和拆包。(2)libcurl是一个开源的客户端url传输库,支持FTP,FTPS,TFTP,HTTP,HTTPS,GOPHER,TELNET,DICT,FILE和LDAP,支持Windows,Unix,Linux等平台,简单易用,且库文件占用空间不到200K。

Libcurl的所有接口被设计成线程安全(线程安全的意思是:在多线程之中可以同时调用一个API而不会互相影响,也就是函数可重入),另外要特别注意的是,任何一个libcurl的handle都不应该在多个线程之间共享,另外若使用HTTPS、FTPS需要OpenSSL或GnuTls的支持。

Libcurl提供三种handle:easy_handle、multi_handle、share_handle

    easy_handle:为libcurl的最基础部分,所有的操作都是在easy_handle上进行的,比如发送、请求数据都是在其上进行的。如果直接在easy_handle执行操作 curl_easy_perform 函数是阻塞的(即需要等到完成才返回)

    multi_handle:libcurl为异步操作提供的接口,允许调用方在一个线程中处理多个操作(就是easy_handle上的操作,注意是单线程下的),内部multi_handle采用堆栈的方式保存多个easy_handle,然后在一个线程中可以同时对多个easy_handle进行处理,multi_handle的执行操作 curl_multi_perform 函数是立即返回的,不会阻塞

    share_handle:有时候多个easy_handle需要分享一些信息,比如cookie,当一个连接获取一个新的cookie,就可以将这个cookie共享到所有的连接上

一、利用libcurl完成传输任务的流程

easy interface使用方法

1. 调用curl_global_init()初始化libcurl

2. 调用curl_easy_init()函数得到 easyinterface型指针

3. 调用curl_easy_setopt()设置传输选项

4. 根据curl_easy_setopt()设置的传输选项,实现回调函数以完成用户特定任务  在整过过程中设置curl_easy_setopt()参数是最关键的,几乎所有的libcurl程序都要使用它。

5. 调用curl_easy_perform()函数完成传输任务 

6. 调用curl_easy_cleanup()释放内存

在整过过程中设置curl_easy_setopt()参数是最关键的,几乎所有的libcurl程序都要使用它。

 

multi interface使用方法

multi interface的使用是在easy interface的基础之上,将多个easy handler加入到一个stack中,同时发送请求。与easy interface不同,它是一种异步,非阻塞的传输方式。

在掌握easy interface的基础上,multi interface的使用也很简单:
1)curl_multi _init初始化一个multi handler对象,
2)初始化多个easy handler对象,使用curl_easy_setopt进行相关设置,
3)调用curl_multi _add_handle把easy handler添加到multi curl对象中
4)添加完毕后执行curl_multi_perform方法进行并发的访问,
5)访问结束后curl_multi_remove_handle移除相关easy curl对象,先用curl_easy_cleanup清除easy handler对象,最后curl_multi_cleanup清除multi handler对象。
 

      等待及超时  

        int numfds = 0; 
        long timeout_ms = CURL_WAIT_TIMEOUT_MSECS; 
        curl_multi_timeout(multi handler, &timeout_ms);//get timeout ms instead 
        CURLMcode retcode = curl_multi_wait(multi handler, NULL, 0, timeout_ms, &numfds); 
        if (retcode != CURLM_OK) { 
            printf("ERROR----curl_multi_wait  errorcode[%d]\n",retcode);           
            break; 
     } 

二、CURLcode curl_easy_setopt(CURL *handle, CURLoption option,parameter);

描述: 这个函数最重要了.几乎所有的curl 程序都要频繁的使用它.它告诉curl库.程序将有如何的行为. 比如要查看一个网页的html代码等.(这个函数有些像ioctl函数)参数:

1 CURL类型的指针

2 各种CURLoption类型的选项.(都在curl.h库里有定义,man 也可以查看到)

3 parameter 这个参数既可以是个函数的指针,也可以是某个对象的指针,也可以是个long型的变量.它用什么这取决于第二个参数.

CURLoption 这个参数的取值很多.具体的可以查看man手册.

 

URLcode curl_easy_perform(CURL *handle);

描述:这个函数在初始化CURL类型的指针以及curl_easy_setopt完成后调用. 就像字面的意思所说perform就像是个舞台.让我们设置的option 运作起来.参数:

CURL类型的指针.

 

curl_easy_setopt函数部分选项介绍  https://curl.haxx.se/libcurl/c/curl_easy_setopt.html

1. CURLOPT_URL 设置访问URL

2. CURLOPT_WRITEFUNCTION,CURLOPT_WRITEDATA

回调函数原型为:size_t function(void *ptr, size_t size, size_t nmemb, void *stream);函数将在libcurl接收到数据后被调用,因此函数多做数据保存的功能,如处理下载文件。CURLOPT_WRITEDATA用于表明CURLOPT_WRITEFUNCTION函数中的stream指针的来源。

如果你没有通过CURLOPT_WRITEFUNCTION属性给easy handle设置回调函数,libcurl会提供一个默认的回调函数,它只是简单的将接收到的数据打印到标准输出。你也可以通过CURLOPT_WRITEDATA属性给默认回调函数传递一个已经打开的文件指针,用于将数据输出到文件里。

3. CURLOPT_HEADERFUNCTION,CURLOPT_HEADERDATA

回调函数原型为 size_tfunction( void *ptr, size_t size,size_t nmemb, void *stream); libcurl一旦接收到http 头部数据后将调用该函数。CURLOPT_WRITEDATA传递指针给libcurl,该指针表明CURLOPT_HEADERFUNCTION函数的stream指针的来源。

4. CURLOPT_READFUNCTIONCURLOPT_READDATA

libCurl需要读取数据传递给远程主机时将调用CURLOPT_READFUNCTION指定的函数,函数原型是:size_tfunction(void *ptr, size_t size, size_t nmemb,void *stream). CURLOPT_READDATA 表明CURLOPT_READFUNCTION函数原型中的stream指针来源

5. CURLOPT_NOPROGRESS,CURLOPT_PROGRESSFUNCTION,CURLOPT_PROGRESSDATA

跟数据传输进度相关的参数。CURLOPT_PROGRESSFUNCTION指定的函数正常情况下每秒被libcurl调用一次,为了使CURLOPT_PROGRESSFUNCTION被调用,CURLOPT_NOPROGRESS必须被设置为false,CURLOPT_PROGRESSDATA指定的参数将作为CURLOPT_PROGRESSFUNCTION指定函数的第一个参数

6. CURLOPT_TIMEOUT,CURLOPT_CONNECTIONTIMEOUT:

CURLOPT_TIMEOUT 由于设置传输时间,CURLOPT_CONNECTIONTIMEOUT 设置连接等待时间

设置连接等待时间。设置为0,则无限等待。

7. CURLOPT_FOLLOWLOCATION  设置重定位URL

重定向相关设置
1)CURLOPT_FOLLOWLOCATION 设置为非0,响应头信息Location,即curl会自己处理302等重定向
2)CURLOPT_MAXREDIRS指定HTTP重定向的最大次数

8.CURLOPT_RANGE: CURLOPT_RESUME_FROM:

断点续传相关设置。CURLOPT_RANGE指定char *参数传递给libcurl,用于指明http域的RANGE头域,例如:

表示头500个字节:bytes=0-499

表示第二个500字节:bytes=500-999

表示最后500个字节:bytes=-500

表示500字节以后的范围:bytes=500-

第一个和最后一个字节:bytes=0-0,-1

同时指定几个范围:bytes=500-600,601-999

CURLOPT_RESUME_FROM 传递一个long参数给libcurl,指定你希望开始传递的偏移量。

CURLOPT_RESUME_FROM大小限制为2G,超过可以使用CURLOPT_RESUME_FROM_LARGE

文件续传
文件上传,需要设置下面两个属性
CURLOPT_INFILESIZE_LARGE  设置文件大小
CURLOPT_RESUME_FROM_LARGE  设置文件开始上传/下载位置
文件下载,需要设置下面一个属性
CURLOPT_RESUME_FROM_LARGE  设置文件开始上传/下载位置

 

9、LibCurl调试实例//采用 CURLOPT_DEBUGFUNCTION 参数实现libcurl调试功能  ,.获取libcurl传输失败详情原因将CURLOPT_VERBOSE属性设置为1,libcurl会输出通信过程中的一些细节。如果使用的是http协 议,请求头/响应头也会被输出。将CURLOPT_HEADER设为1,这些头信息将出现在消息的内容中。

10. CURLOPT_NOSIGNAL
多个线程都使用超时处理的时候,同时主线程中有sleep或是wait等操作。如果不设置这个选项,libcurl将会发信号打断这个wait从而可能导致程序crash。 在多线程处理场景下使用超时选项时,会忽略signals对应的处理函数。

11.CURLOPT_FORBID_REUSE  ,CURLOPT_FRESH_CONNEC
如果不使用长连接,需要设置这两个属性
1)CURLOPT_FORBID_REUSE 设置为1,在完成交互以后强迫断开连接,不重用。
2)CURLOPT_FRESH_CONNECT设置为1,强制获取一个新的连接,替代缓存中的连接。

12.CURLOPT_MAX_RECV_SPEED_LARGE,CURLOPT_MAX_SEND_SPEED_LARGE
限速相关设置
1)CURLOPT_MAX_RECV_SPEED_LARGE,指定下载过程中最大速度,单位bytes/s。
2)CURLOPT_MAX_SEND_SPEED_LARG,指定上传过程中最大速度,单位bytes/s。

13.CURLOPT_NOBODY
设置该属性即可告诉libcurl我想发起一个HEAD请求 有时候你想查询服务器某种资源的状态,比如某个文件的属性:修改时间,大小等等,但是并不需要具体得到该文件,这时我们仅需要HEAD请求。

14.CURLOPT_ACCEPT_ENCODING
设置libcurl对特定压缩方式自动解码,支持的方式有: “br, gzip, deflate”. 第3个参数为指定的压缩方式,如果设置为 " ",则表明三种都支持。

15.CURLOPT_BUFFERSIZE
指定libcurl中接收缓冲区的首选大小(以字节为单位),但是不保证接收数据时每次数据量都能达到这个值。此缓冲区大小默认为CURL_MAX_WRITE_SIZE(16kB)。允许设置的最大缓冲区大小为CURL_MAX_READ_SIZE(512kB)。 允许设置的最小缓冲区大小为1024。
 

CURLOPT_POSTFIELDS
    字符串类型,提交http的post操作字符串数据。
  
CURLOPT_MAX_RECV_SPEED_LARGE
    curl_off_t类型数据,指定下载过程中最大速度,单位bytes/s。

 

停止传输,停止下载、停止上传。
CURLcode curl_easy_pause(CURL *handle , int bitmask);暂停或者启动一个连接。

一个连接可以同过调用这个函数或者让读或写操作的回调函数返回 CURL_READFUNC_PAUSE 或 CURL_WRITEFUNC_PAUSE 来暂停连接。
handle参数指向要暂停的会话。
bitmask参数设置了连接的新状态。如下可选:
CURLPAUSE_RECV                   停止接收数据。该会话将不会在接收数据。
CURLPAUSE_RECV_CONT            继续接收数据。
CURLPAUSE_SEND                   停止发送数据。该会话将不会在发送数据。
CURLPAUSE_SEND_CONT            继续发送数据。
CURLPAUSE_ALL                    停止会话的发送和接收。
CURLPAUSE_CONT                   重启会话的发送和接收。
注意:如果停止了比较长时间再恢复开始,会报CURLE_PARTIAL_FILE(文件传输,短于或大于预期。发生这种情况时,服务器首先报告预期的传输大小,然后提供数据不匹配前面给出的大小。)错误。出现这个只能通过续传去解决。
 

 

void curl_easy_reset(CURL *handle )
    重新初始化CURL句柄的选项设置。

URLcode curl_easy_getinfo(CURL *curl, CURLINFO info, ... )
    查询CRUL会话的内部信息,具体说明请参考curl自带文档。

 

curl_easy_perform函数说明(error 状态码) https://blog.csdn.net/byxdaz/article/details/81869881

该函数是完成curl_easy_setopt指定的所有选项,本节重点介绍curl_easy_perform的返回值。返回0意味一切ok,非0代表错误发生。主要错误码说明

1. CURLE_OK 

任务完成一切都好

2 CURLE_UNSUPPORTED_PROTOCOL

不支持的协议,由URL的头部指定

3 CURLE_COULDNT_CONNECT

不能连接到remote 主机或者代理

4 CURLE_REMOTE_ACCESS_DENIED

访问被拒绝

5 CURLE_HTTP_RETURNED_ERROR

Http返回错误

6 CURLE_READ_ERROR

读本地文件错误

要获取详细的错误描述字符串,可以通过const char*curl_easy_strerror(CURLcode errornum )这个函数取得.

 

 

 

三、注意:

1)虽然libcurl是线程安全的,但curl_global_cleanup是不能保证线程安全的,所以不要在每个线程中都调用curl_global_init,应该将该函数的调用放在主线程中。

2)多线程问题
首先一个基本原则就是:绝对不应该在线程之间共享同一个libcurl handle(CURL *对象),不管是easy handle还是multi handle(本文只介绍easy_handle)。一个线程每次只能使用一个handle。
libcurl是线程安全的,但有两点例外:信号(signals)和SSL/TLS handler。 信号用于超时失效名字解析(timing out name resolves)。libcurl依赖其他的库来支持SSL/STL,所以用多线程的方式访问HTTPS或FTPS的URL时,应该满足这些库对多线程 操作的一些要求。详细可以参考:
OpenSSL: http://www.openssl.org/docs/crypto/threads.html#DESCRIPTION

GnuTLS: http://www.gnu.org/software/gnutls/manual/html_node/Multi_002dthreaded-applications.html

3)什么时候libcurl无法正常工作
传输失败总是有原因的。你可能错误的设置了一些libcurl的属性或者没有正确的理解某些属性的含义,或者是远程主机返回一些无法被正确解析的内容。
这里有一个黄金法则来处理这些问题:将CURLOPT_VERBOSE属性设置为1,libcurl会输出通信过程中的一些细节。如果使用的是http协 议,请求头/响应头也会被输出。将CURLOPT_HEADER设为1,这些头信息将出现在消息的内容中。
当然不可否认的是,libcurl还存在bug。
如果你对相关的协议了解越多,在使用libcurl时,就越不容易犯错。

4)保持长连接,设置选项。
 /* enable TCP keep-alive for this transfer */
        curl_easy_setopt(curl, CURLOPT_TCP_KEEPALIVE, 1L);
        /* keep-alive idle time to 120 seconds */
        curl_easy_setopt(curl, CURLOPT_TCP_KEEPIDLE, 120L);
        /* interval time between keep-alive probes: 60 seconds */
        curl_easy_setopt(curl, CURLOPT_TCP_KEEPINTVL, 60L);


5)调用libcurl下载,然后使用netstat查看发现有大量的TCP连接保持在CLOSE_WAIT状态
查看libcurl的文档说明,有这样一个选项:
CURLOPT_FORBID_REUSE也就是说,默认情况下libcurl完成一个任务以后,出于重用连接的考虑不会马上关闭
如果没有新的TCP请求来重用这个连接,那么只能等到CLOSE_WAIT超时,这个时间默认在7200秒甚至更高,太多的CLOSE_WAIT连接会导致性能问题
解决方法:
curl_easy_setopt(curl, CURLOPT_FORBID_REUSE, 1);
最好再修改一下TCP参数调低CLOSE_WAIT和TIME_WAIT的超时时间
6)libcurl进行异步并发
使用multi接口,multi接口的使用会比easy 接口稍微复杂点,毕竟multi接口是依赖easy接口的,首先粗略的讲下其使用流程:curl_multi _init初始化一个multi curl对象,为了同时进行多个curl的并发访问,我们需要初始化多个easy curl对象,使用curl_easy_setopt进行相关设置,然后调用curl_multi _add_handle把easy curl对象添加到multi curl对象中,添加完毕后执行curl_multi_perform方法进行并发的访问,访问结束后curl_multi_remove_handle移除相关easy curl对象,curl_easy_cleanup清除easy curl对象,最后curl_multi_cleanup清除multi curl对象。multi接口具体使用方法参考下面链接https://blog.csdn.net/whui19890911/article/details/79320408

 

四、实例

1)LibCurl调试实例
static int download_Progress = 0;
static int http_progress = 0;
static CURL *curl = NULL;
 
static void dump(const char *text,
          FILE *stream, unsigned char *ptr, size_t size)
{
  size_t i;
  size_t c;
  unsigned int width=0x10;
 
  fprintf(stream, "%s, %10.10ld bytes (0x%8.8lx)\n",
          text, (long)size, (long)size);
#if 0 //verbase info 
  for(i=0; i     fprintf(stream, "%4.4lx: ", (long)i);
 
    /* show hex to the left */
    for(c = 0; c < width; c++) {
      if(i+c < size)
        fprintf(stream, "%02x ", ptr[i+c]);
      else
        fputs("   ", stream);
    }
 
    /* show data on the right */
    for(c = 0; (c < width) && (i+c < size); c++) {
      char x = (ptr[i+c] >= 0x20 && ptr[i+c] < 0x80) ? ptr[i+c] : '.';
      fputc(x, stream);
    }
 
    fputc('\n', stream); /* newline */
  }
#endif
}
 
static  int my_trace(CURL *handle, curl_infotype type,
             char *data, size_t size,
             void *userp)
{
  const char *text;
  (void)handle; /* prevent compiler warning */
  (void)userp;
 
  switch (type) {
  case CURLINFO_TEXT:
    fprintf(stderr, "== Info: %s", data);
  default: /* in case a new one is introduced to shock us */
    return 0;
 
  case CURLINFO_HEADER_OUT:
    text = "=> Send header";
    break;
  case CURLINFO_DATA_OUT:
    text = "=> Send data";
    break;
  case CURLINFO_SSL_DATA_OUT:
    text = "=> Send SSL data";
    break;
  case CURLINFO_HEADER_IN:
    text = "<= Recv header";
    break;
  case CURLINFO_DATA_IN:
   {
       text = "<= Recv data";
#if 0
       if(size == 0)
       {
           // 设置文件续传的位置给libcurl
           curl_easy_setopt(curl, CURLOPT_RESUME_FROM_LARGE,  receivedFileLenth);
           curl_easy_perform(curl);
       }
 #endif 
   }
  
    break;
  case CURLINFO_SSL_DATA_IN:
    text = "<= Recv SSL data";
    break;
  }
 
  dump(text, stderr, (unsigned char *)data, size);
  return 0;
}



static int ProgressCallback(void *clientp, double dltotal, double dlnow, double ultotal, double ulnow)  
{  
    if ( dltotal > -0.1 && dltotal < 0.1 )  
       return 0;  
    int nPos = (int) ( (dlnow/dltotal)*100 );
    //通知进度条更新下载进度  
    download_Progress = ((1<<16) | (nPos >> 1));
    http_progress = nPos;
    printf("Progress=========%d \n",nPos);
    return 0;  
}

 
int main(void)
{
 
  CURLcode res = CURLE_GOT_NOTHING;
  const char* file = "/work/index.asp";
  FILE* fp = NULL;
  long code = 0;
  struct stat buf;
  int m_iTimeout = 10;
 
  double downloadFileLenth = -1;
  double receivedFileLenth = -2;

  curl = curl_easy_init();
  if(curl) {
    curl_easy_setopt(curl, CURLOPT_DEBUGFUNCTION, my_trace); //LibCurl调试
    /* the DEBUGFUNCTION has no effect until we enable VERBOSE */
    curl_easy_setopt(curl, CURLOPT_VERBOSE, 1L);
     
    curl_easy_setopt(curl, CURLOPT_PROGRESSFUNCTION, ProgressCallback);  //设置进度回调函数   
    curl_easy_setopt(curl, CURLOPT_NOPROGRESS, 0);
   
     
     
     //set timeout
    curl_easy_setopt(curl, CURLOPT_TIMEOUT, 600L);//10000L);                                                   
    curl_easy_setopt(curl, CURLOPT_CONNECTTIMEOUT, 60L);  
     curl_easy_setopt(curl, CURLOPT_NOSIGNAL, 1L);    


     /* example.com is redirected, so we tell libcurl to follow redirection */
    curl_easy_setopt(curl, CURLOPT_FOLLOWLOCATION, 1L);
    curl_easy_setopt(curl, CURLOPT_URL, "http://example.com/");

    fp = fopen(file, "ab+");  //采用追加方式打开文件,便于实现文件断点续传工作
    if(fp)
     curl_easy_setopt(curl, CURLOPT_WRITEDATA, fp);
    
    
    res = curl_easy_perform(curl);
    /* Check for errors */
     if (res != CURLE_OK)  
      {
                fprintf(stderr, "curl_easy_perform() failed: %s\n",
                        curl_easy_strerror(res));
                downloadFileLenth = -1;
      }
      else 
      {  
                curl_easy_getinfo(curl, CURLINFO_CONTENT_LENGTH_DOWNLOAD, &downloadFileLenth);  
                printf("~~~~~~~~~~~~http_download curl_easy_getinfo CURLINFO_CONTENT_LENGTH_DOWNLOAD downloadFileLenth:%lf\n",downloadFileLenth);
      }
     
     if(fp)
       fclose(fp);
     curl_easy_getinfo(curl, CURLINFO_RESPONSE_CODE, &code);
    /* always cleanup */
    curl_easy_cleanup(curl);
    curl = NULL;
     if(code == 200)
     {
            if(stat(file, &buf) == 0)
            {
                receivedFileLenth = buf.st_size;
            }
 
            if(receivedFileLenth != downloadFileLenth || downloadFileLenth <= 0 || receivedFileLenth <= 0)
            {
                printf("~~~~~~~~~~~~http_download downloadFileLenth:%lf receivedFileLenth:%lf, not equal~~~~~~~~~~~~~~\n", downloadFileLenth, receivedFileLenth);
                return -1;
            }
            return 0;
       }
    
  }
  return 0;
}

///

1、实现cookie共享

  1)场景:客户端与服务器之间为了提高传输性能,建立了多个http连接。

    服务区为了管理这个客户端的信息要使用一个会话来保存该客户端的一些信息,为了方便将会话信息保存在cookie之中。

    当服务器检查到某个http连接没有带cookie或者cookie失效时,会自动设置一个新的cookie。

    客户端希望当获取新的cookie时,马上生效到所有到该服务器的http连接上。

  2)解决方案:使用libcurl提供的share_handle在多个http连接之间实现共享cookie操作

    CURLSH *pShared = curl_share_init( );   ///创建一个share_handle

    curl_share_setopt(pShared,CURLSHOPT_SHARE,CURL_LOCK_DATA_COOKIE);   ///设置在盖share_handle上共享的cookie

    CURL* pCurl = curl_easy_init();

    curl_easy_setopt(pCurl, CURLOPT_SHARE, pShared);    ///创建easy_handle并设置器share属性

    curl_easy_setopt(pCurl,CURLOPT_COOKIEFILE,"");    ///设置给easy_handle的连接添加上cookie支持

    ///可以以同样的方式添加多个easy_handle到该share_handle之中实现cookie共享,然后再easy_handle上执行的操作就能够自动共享cookie

2、实现HEAD请求

  1)场景:有时候你想查询服务器某种资源的状态,比如某个文件的属性:修改时间,大小等等,但是并不像具体得到该文件,这时就是HEAD请求出场的时候

  2)解决方案:起始使用libcurl很容易实现

    主要设置该easy_handle的NOBODY属性即可

    curl_easy_setopt(curl,CURLOPT_NOBODY ,1L );   ///告诉libcurl我想发起一个HEAD请求

3、实现断点下载

  1)场景当从服务器下载一个大文件时,可能需要相当长的时间来完成,在这过程中若出现网络超时或者客户端或者服务器宕机的情况时,若恢复时再从头开始下载势必浪费,这时可以使用从断点处下载。

  2)解决方案:在HTTP的GET请求之中可以设置range头部告诉服务器要从指定位置取数据,libcurl如下:

  curl_easy_setopt(curl, CURLOPT_RANGE,"100-");   //设置了该属性后,发送的GET请求,会有 “Range:100-“ 头部告诉服务器需要100字节后的数据

4、实现断点上传

  1)场景:类似断点下载,就是向服务器传输了一部分数据后异常,当服务恢复时就可以使用断点上传

  2)解决方案:需要两个步骤来实现断点上传,第一个不使用一个HEAD请求,查询服务器已经保存的该文件大小,服务器应该在HEAD应答的 Content-Length 头部中说明该文件服务器持有的大小,然后客户端在通过一个POST或者PUT请求并且设置 Content_Range 告诉服务器上传的位置。

    发起HEAD请求上面已经叙述,这里特别之处在于需要读取服务器对HEAD应答报文的Content_Length部分,需要告诉libcurl你要读取header内容:

    curl_easy_setopt(m_pCURL, CURLOPT_NOBODY, 1L);    ///告诉libcurl发起HEAD请求

    curl_easy_setopt(m_pCURL, CURLOPT_HEADERFUNCTION, pIoReadHeader_cb);    ///告诉libcurl要读取应答报文的HEADER,当libcurl收到一个完整的header时就会调用该回调函数,其格式如下:int OnReadHeader(char *ptr, size_t size, size_t nmemb, void *userdata) 只要在回调函数中查看是否包含 Content-Length 字符串然后解析后面的内容即可。
    curl_easy_setopt(m_pCURL, CURLOPT_WRITEHEADER, pPrivateData);  ///设置私有数据,该数据会被传递到回调函数的 userdata 参数之中

    ///假如收到服务器返回的Content_Length为100,这时候POST时就只要从100字节开始上传,并且设置Content_Range头部标示出开始位置:

    ///注意格式: Content_Range:begin-end/size   以这里为例,假如文件大小为1000字节,从100开始那么Content_range应该就是 100-999/1000

    curl_easy_setopt(curl, CURLOPT_RANGE, "100-999");   ///设置前面部分 100-999

    curl_easy_setopt(curl, CURLOPT_INFILESIZE_LARGE,(curl_off_t)1000);   ///设置size部分为1000

    然后就可以使用WRITEFUNCTION等函数进行上传了。


 

C++ curl 实现断点续传的时候,出现文件损坏问题

curl easy 下载的时候出现卡死现象 网上查了一些发现设置TimeOut 可以接受返回

现在发现了,断点续传出错是因为直接续传的,正确的做法应该是curl_easy_clear 一下,然后重新设置参数进行续传

 

使用curl 命令上传下载FTP

1、列出ftp服务器上的目录列表:
curl ftp://www.xxx.com/ --user name:passwd
curl ftp://www.xxx.com/ –u name:passwd #简洁写法
curl ftp://name:[email protected] #简洁写法2
2、只列出目录,不显示进度条
curl ftp://www.xxx.com –u name:passwd -s3、
下载一个文件:
curl ftp://www.xxx.com/size.zip –u name:passwd -o size.zip4、
上载一个文件:
curl –u name:passwd -T size.mp3  
5、从服务器上删除文件(使用curl传递ftp协议的DELE命令):
curl –u name:passwd ftp://www.xxx.com/ -X 'DELE mp3/size.mp3'
6、另外curl不支持递归下载,不过可以用数组方式下载文件,比如我们要下载1-10.gif连续命名的文件:
curl –u name:passwd ftp://www.xxx.com/img/[1-10].gif –O #O字母大写
7、要连续下载多个文件:
curl –u name:passwd ftp://www.xxx.com/img/[one,two,three].jpg –O #O字母大写

 

 

参考:

1)官网:https://curl.haxx.se/libcurl/

2)multi interface使用方法https://blog.csdn.net/myvest/article/details/82899788

3)LinuxC语言实现下载功能(curl)https://blog.csdn.net/qq_29214249/article/details/74530606

Libcurl实现断点续传 https://www.cnblogs.com/chang290/archive/2012/08/12/2634858.html

4)https://blog.csdn.net/ccy365263452/article/details/41941161

get和post方式

cookie与session#这个属于网页端的一些理解了,不细说了

http与https的区别

base64编码

你可能感兴趣的:(通信)