理解HTTP协议中的"Transfer-Encoding: chunked"

 

最近写个http客户端的小程序，由于http是基于tcp的无消息边界保护的协议，所以接受时必须要确定接受数据的数量才能完整接收数据。传统的方式，只要先接收到Content-Length就可以通过这个长度接受消息体部分了。而transfer-encoding:chunked的引入，打破了这个规矩，正好找到一篇合适的文章，转载之。

 

转自： http://hi.baidu.com/ah__fu/blog/item/c3d47b2f0bcd65301e30891e.html

 

 

通常，HTTP协议中使用Content-Length这个头来告知数据的长度。然后，在数据下行的过程中，Content-Length的方式要预先在服务器中缓存所有数据，然后所有数据再一股脑儿地发给客户端。     如果要一边产生数据，一边发给客户端，WEB 服务器就需要使用"Transfer-Encoding: chunked"这样的方式来代替Content-Length。     "Transfer-Encoding: chunked"是这样编码的： HTTP头 \r\n \r\n      --连续的两个\r\n之后就是HTTP体了 16进制值代表的数据长度 \r\n 上面所指的数据长度 \r\n    --每段数据结束后，以\r\n标识 16进制代表的第二段数据 \r\n XX长度的数据 \r\n ………… (反复通过这样的方式表示每次传输的数据长度) 0      --数据结束部分用0表示，然后是连续的两个\r\n \r\n \r\n       下面的代码演示和如何解析"Transfer-Encoding: chunked"的数据： //test_chunked.cpp #include <stdio.h> #include <string.h> int Hex2Int(const char* str) {     int nResult = 0;     while (*str!='\0')     {         switch (*str)         {         case '0'...'9':             nResult = nResult*16 + *str-'0';             break;         case 'a'...'f':             nResult = nResult*16 + *str-'a'+10;             break;         case 'A'...'F':             nResult = nResult*16 + *str-'A'+10;             break;         default:             return -1;             break;         }         str++;     }     return nResult; } #define COPY_STRING(dst, src, src_len) do{memcpy((dst), (src), (src_len)); dst[(src_len)]='\0';}while(0); void test(const char* file) {     //     const int BUFFER_SIZE = 1024*10;     char* buf = new char[BUFFER_SIZE];     FILE* fp = fopen(file, "rb");     if (NULL==fp)     {         printf("open file error\n");         return;     }     int nLen = fread(buf, 1, BUFFER_SIZE, fp);     fclose(fp);     fp = NULL;     buf[nLen] = '\0';     //     char* pBody = strstr(buf, "\r\n\r\n");     if (NULL==pBody)     {         return;     }     pBody += 4;     FILE* fDst = fopen("result.txt.gz", "ab");     //下面开始解析     int nBytes;     char* pStart = pBody;     char* pTemp;     char temp[10];     do     {         pTemp = strchr(pStart, '\r');         if (NULL==pTemp)         {             printf("格式错误！\n");             break;         }         nLen = pTemp-pStart;         COPY_STRING(temp, pStart, nLen);         nBytes = Hex2Int(temp);         pStart = pTemp + 2;         //下面写入到另一个文件         if (nBytes>0)         {             if (nBytes!=fwrite(pStart, 1, nBytes, fDst))             {                 printf("write error!\n");                 break;             }             pStart += nBytes + 2;         }     } while(nBytes>0);     fclose(fDst);     fDst = NULL;     delete[] buf;     buf = NULL; } int main() {     test("chunked.txt");     return 1; }