UTF8编码规则及用C++语言的识别

UTF-8编码规则

UTF-8是一种变长字节编码方式。对于某一个字符的UTF-8编码,如果只有一个字节则其最高二进制位为0;如果是多字节,其第一个字节从最高位开始,连续的二进制位值为1的个数决定了其编码的位数,其余各字节均以10开头。UTF-8最多可用到6个字节。 

如表: 
1字节 0xxxxxxx 
2字节 110xxxxx 10xxxxxx 
3字节 1110xxxx 10xxxxxx 10xxxxxx 
4字节 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 
5字节 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 

6字节 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 

因此UTF-8中可以用来表示字符编码的实际位数最多有31位,即上表中x所表示的位。除去那些控制位(每字节开头的10等),这些x表示的位与UNICODE编码是一一对应的,位高低顺序也相同。 
实际将UNICODE转换为UTF-8编码时应先去除高位0,然后根据所剩编码的位数决定所需最小的UTF-8编码位数。 

因此那些基本ASCII字符集中的字符(UNICODE兼容ASCII)只需要一个字节的UTF-8编码(7个二进制位)便可以表示。 


判断一个字符串是否全是UTF-8编码的代码

现在网上有一些判断的算法,但在最后都说判断得不准确,究其原因是代码写错了,哈哈, 参考网址中的程序就是,大家可以看一下.

以下是我写的正确的代码:

#include "stdio.h"


bool isNonAsciiUTF8(const char* str, int &len) {
    if (*str == 0) {
        return false;
    }

    unsigned char chr = *str;

    if(chr>=0x80)
    {
        if(chr>=0xFC&&chr<=0xFD)
            len=6;
        else if(chr>=0xF8)
            len=5;
        else if(chr>=0xF0)
            len=4;
        else if(chr>=0xE0)
            len=3;
        else if(chr>=0xC0)
            len=2;
        else
        {
            return false;
        }
    }


    for(int i=1; i


参考文献:

http://blog.csdn.net/sandyen/article/details/1108168

http://archive.cnblogs.com/a/1914592/

http://www.zxbc.cn/html/20081125/68270.html

你可能感兴趣的:(C++,c++,语言,算法)