编码知识
一、Unicode与多字节(ANSI )
(1)Windows中,Unicode也称为宽字节,多字节也称为窄字节; VS中默认使用Unicode编码,在项目属性>>配置属性>>常规>>字符集中可选择Unicode字符集或者多字节字符集
(2) Unicode与多字节函数版本、字符、字符串类型的区别
Win32 API中大部分参数有字符串的函数都有两个版本
以A结尾,代表多字节版本 | 以W结尾,代表Unicode版本 | 根据版本自动选择的 |
---|---|---|
如:CreateEventA | 如:CreateEventW | 如:CreateEvent |
C运行库也有很多类似的函数
多字节版本 | Unicode版本 | 自适应版本 |
---|---|---|
strcpy | wcscpy | _tcscpy |
strcat | wcscat | _tscscat |
strlen | wcslen | _tcslen |
函数有两种,所以字符也有两种
多字节字符 | Unicode字符 | 自适应字符 |
---|---|---|
char | wchar_t | TCHAR |
(3) 常见Win32字符串类型
LPSTR、LPWSTR、LPTSTR、LPCTSTR
LP前缀,代表指针;STR后缀代表字符串
LPSTR:代表多字节
LPWSTR:代表Unicode
LPTSTR:T自适应
LPCTSTR:C代表const+T代表自适应
备注:变量类型使用自适应类型后如LPTSTR,相关字符串需要用TEXT()进行包裹
const char* str = "hello";
const wchar_t* wstr = L"hello";
const TCHAR* tstr = TEXT("hello");
(4)关于_T()
#ifdef _UNICODE
#define _T(X) L ## X //Unicode版本
#else
#define _T(X) X //多字节版本
#endif
(5)Unicode与多字节的选择
1.Unicode程序环境适应能力强,不会出现乱码问题
2.Unicode程序运行速度比多字节程序快。原因:Windows内部都是使用Unicode编码,多字节函数会将参数转码后交给Unicode函数
3.控制后台可使用多字节,GUI程序最好使用Unicode
二、Unicode
(1)Unicode实现方式:UTF-32
以4个byte为编码单元进行定长存储,调度器一次性下发4个byte进行存储任务
主要有两种方式:
大端法UTF-32BE:地址由小向大增加,而数据从高位往低位放 ,在网络上传输数据普遍采用的都是大端
小端法UTF-32LE:地址由小向大增加,而数据从低位往高位放,在英特尔处理器,Windows10操作系统,采用小端法。
(2)UTF-16
也有大小端模式
UTF-16 LE是windows上默认的Unicode编码方式,使用wchar_t表示。所有wchar_t *类型的字符串(包括硬编码在.h/.cpp里的字符串字面值)
char chinese[] = "你";
//大小为3个byte,一个char存储结束符,两个char存储汉字字符‘你’ 1char:1byte
wchar_t wchinese[] = L"你";
//大小为4个byte, 一个wchar_t存储结束符,一个wchar_t存储汉字字符‘你’ 1wchar_t:2byte(window下)
auto size = sizeof(chinese); // 3 byte
auto wsize = sizeof(wchinese); // 4 byte
auto len = strlen(chinese); // 2个字符(除去结束符)
auto wlen = wcslen(wchinese); // 1个字符(除去结束符)
优势:就是大多数情况下一个wchar_t表示一个字符(包括中文字符)
坑:char *类型的字面值,最终内存使用何种编码方式完全取决于当前文件的编码方式
备注:在Windows上应该铭记没有char / std::string这种类型的字符/字符串,只有wchar_t / char16_t / std::wstring / std::u16string
(3)UTF-8
优势:无字节序的概念,不用考虑大小端问题,适用与字符串的网络数据传输
劣势:如上代码,一个char并不能表示一个汉字字符,往往需要两个char
三、ANSI
(1)概念
可以认为ANSI / MBCS (多字节字符集) / 本地编码是同一个概念,不同的国家和地区制定了不同的标准,有GB2312、GBK、GB18030、Big5、Shift_JIS 等各自的编码标准,ASCII就是美国国家的ANSI标准,一个国家的代码到另一个国家使用,有可能由于编码标准不一致,导致乱码,于是才有了万国码Unicode,各国通用。