Ansi、Unicode、UTF8字符串之间的转换,wprintf

Ansi字符串我们最熟悉，英文占一个字节，汉字2个字节，以一个/0结尾，常用于txt文本文件

Unicode字符串，每个字符(汉字、 英文字母)都占2个字节，以2个连续的/0结尾，NT操作系统内核用的是这种字符串，常被定义为typedef unsigned short wchar_t;所以我们有时常会见到什么char*无法转换为unsigned short*之类的错误，其实就是unicode

UTF8是 Unicode一种压缩形式，英文A在unicode中表示为0x0041，老外觉得这种存储方式太浪费，因为浪费了50%的空间，于是就把英文压缩成1 个字节，成了utf8编码，但是汉字在utf8中占3个字节，显然用做中文不如ansi合算，这就是中国的网页用作ansi编码而老外的网页常用utf8 的原因。

UTF8在还游戏里运用的很广泛，比如WOW的lua脚本等

 

下面来说一下转换，主要用代码来说明吧

写文件我用了CFile类，其实用FILE*之类的也是一样，写文件和字符串什么类别没有关系，硬件只关心数据和长度

 

Ansi转Unicode

介绍2种方法

 

void CConvertDlg::OnBnClickedButtonAnsiToUnicode()

{

    // ansi to unicode

    char* szAnsi = "abcd1234你我他";

    //预转换，得到所需空间的大小

    int wcsLen = ::MultiByteToWideChar(CP_ACP, NULL, szAnsi, strlen(szAnsi), NULL, 0);

    //分配空间要给'/0'留个空间，MultiByteToWideChar不会给'/0'空间

    wchar_t* wszString = new wchar_t[wcsLen + 1];

    //转换

    ::MultiByteToWideChar(CP_ACP, NULL, szAnsi, strlen(szAnsi), wszString, wcsLen);

    //最后加上'/0'

    wszString[wcsLen] = '/0';

    //unicode版的MessageBox API

    ::MessageBoxW(GetSafeHwnd(), wszString, wszString, MB_OK);

 

    //接下来写入文本

    //写文本文件，头2个字节0xfeff，低位0xff写在前

    CFile cFile;

    cFile.Open(_T("1.txt"), CFile::modeWrite | CFile::modeCreate);

    //文件开头

    cFile.SeekToBegin();

    cFile.Write("/xff/xfe", 2);

    //写入内容

    cFile.Write(wszString, wcsLen * sizeof(wchar_t));

    cFile.Flush();

    cFile.Close();

    delete[] wszString;

    wszString =NULL;

 

 

    //方法2

    //设置当前地域信息，不设置的话，使用这种方法，中文不会正确显示

    //需要#include<locale.h>

    setlocale(LC_CTYPE, "chs"); 

    wchar_t wcsStr[100];

    //注意下面是大写S，在unicode中，代表后面是ansi字符串

    //swprintf是sprintf的unicode版本

    //格式的前面要加大写L，代表是unicode

    swprintf(wcsStr, L"%S", szAnsi);

    ::MessageBoxW(GetSafeHwnd(), wcsStr, wcsStr, MB_OK);

 

}

 

 

Unicode转Ansi

也是2种方法

 

void CConvertDlg::OnBnClickedButtonUnicodeToAnsi()

{

    // unicode to ansi

    wchar_t* wszString = L"abcd1234你我他";

    //预转换，得到所需空间的大小，这次用的函数和上面名字相反

    int ansiLen = ::WideCharToMultiByte(CP_ACP, NULL, wszString, wcslen(wszString), NULL, 0, NULL, NULL);

    //同上，分配空间要给'/0'留个空间

    char* szAnsi = new char[ansiLen + 1];

    //转换

    //unicode版对应的strlen是wcslen

    ::WideCharToMultiByte(CP_ACP, NULL, wszString, wcslen(wszString), szAnsi, ansiLen, NULL, NULL);

    //最后加上'/0'

    szAnsi[ansiLen] = '/0';

    //Ansi版的MessageBox API

    ::MessageBoxA(GetSafeHwnd(), szAnsi, szAnsi, MB_OK);

 

    //接下来写入文本

    //写文本文件，ANSI文件没有BOM

    CFile cFile;

    cFile.Open(_T("1.txt"), CFile::modeWrite | CFile::modeCreate);

    //文件开头

    cFile.SeekToBegin();

    //写入内容

    cFile.Write(szAnsi, ansiLen * sizeof(char));

    cFile.Flush();

    cFile.Close();

    delete[] szAnsi;

    szAnsi =NULL;

 

 

    //方法2

    //和上面一样有另一种方法

    setlocale(LC_CTYPE, "chs"); 

    char szStr[100];

    //注意下面是大写，在ansi中，代表后面是unicode字符串

    //sprintf

    sprintf(szStr, "%S", wszString);

    ::MessageBoxA(GetSafeHwnd(), szStr, szStr, MB_OK);

}

 

 

Unicode转UTF8

 

void CConvertDlg::OnBnClickedButtonUnicodeToU8()

{

    // unicode to UTF8

    wchar_t* wszString = L"abcd1234你我他";

    //预转换，得到所需空间的大小，这次用的函数和上面名字相反

    int u8Len = ::WideCharToMultiByte(CP_UTF8, NULL, wszString, wcslen(wszString), NULL, 0, NULL, NULL);

    //同上，分配空间要给'/0'留个空间

    //UTF8虽然是Unicode的压缩形式，但也是多字节字符串，所以可以以char的形式保存

    char* szU8 = new char[u8Len + 1];

    //转换

    //unicode版对应的strlen是wcslen

    ::WideCharToMultiByte(CP_UTF8, NULL, wszString, wcslen(wszString), szU8, u8Len, NULL, NULL);

    //最后加上'/0'

    szU8[u8Len] = '/0';

    //MessageBox不支持UTF8,所以只能写文件

 

    //接下来写入文本

    //写文本文件，UTF8的BOM是0xbfbbef

    CFile cFile;

    cFile.Open(_T("1.txt"), CFile::modeWrite | CFile::modeCreate);

    //文件开头

    cFile.SeekToBegin();

    //写BOM，同样低位写在前

    cFile.Write("/xef/xbb/xbf", 3);

    //写入内容

    cFile.Write(szU8, u8Len * sizeof(char));

    cFile.Flush();

    cFile.Close();

    delete[] szU8;

    szU8 =NULL;

 

}

 

UTF8转UNICODE

 

void CConvertDlg::OnBnClickedButtonU8ToUnicode()

{

    //UTF8 to Unicode

    //由于中文直接复制过来会成乱码，编译器有时会报错，故采用16进制形式

    char* szU8 = "abcd1234/xe4/xbd/xa0/xe6/x88/x91/xe4/xbb/x96/x00";

    //预转换，得到所需空间的大小

    int wcsLen = ::MultiByteToWideChar(CP_UTF8, NULL, szU8, strlen(szU8), NULL, 0);

    //分配空间要给'/0'留个空间，MultiByteToWideChar不会给'/0'空间

    wchar_t* wszString = new wchar_t[wcsLen + 1];

    //转换

    ::MultiByteToWideChar(CP_UTF8, NULL, szU8, strlen(szU8), wszString, wcsLen);

    //最后加上'/0'

    wszString[wcsLen] = '/0';

    //unicode版的MessageBox API

    ::MessageBoxW(GetSafeHwnd(), wszString, wszString, MB_OK);

 

    //写文本同ansi to unicode

}

 

 

 

Ansi转换utf8和utf8转换Ansi就是上面2个的结合，把unicode作为中间量，进行2次转换即可

================

使用C++标准库的iostream，可以方便地将控制台、文件、字符串以及其它可扩充的外部表示作为流来处理，但要处理中文，却会碰到很多问题。 本人原来没怎么用过这个iostream，这几天尝试用这个写点东西，一会儿不能输出中文，一会儿不支持中文文件名的，搞得头大。网上搜了搜，没有发现适 用于所有情况的解决方案。不过后来自己经过多次测试，基本解决了这些问题，现在写成文字作为一个总结，也供碰到同样问题的朋友参考。关于C语言中的 printf和wprintf的中文输出，本文也进行了探讨。

　　需要说明的是，我的开发环境是VS 2005（标准库当然也是微软实现的），不保证其它环境下是相同的效果。

 

1、cout和wcout

 

　　在缺省的C locale下，cout可以直接输出中文，但对于wcout却不行（至少VS 2005下不行）。对于wcout，需要将其locale设为本地语言才能输出中文：

 

　　wcout.imbue(locale(locale(),"",LC_CTYPE));  // ①

 

　　也有人用如下语句的，但这会改变wcout的所有locale设置，比如数字“1234”会输出为“1,234”。

 

　　wcout.imbue(locale(""));

 

2、ofstream和wofstream

 

　 　在缺省的C locale下，ofstream能正确输出中文到文件中，但不支持中文文件名；wofstream支持中文文件名，但不能向文件中输出中文。要解决这个 问题，需要在打开文件之前将全局locale设为本地语言。将全局locale设为本地语言后，ofstream和wofstream的问题都解决了，但 cout和wcout却不能输出中文了。要让cout和wcout输出中文，需要将全局locale恢复原来的设置，如下所示：

 

　　locale &loc=locale::global(locale(locale(),"",LC_CTYPE));  // ②

　　ofstream ofs("ofs测试.txt");

　　wofstream wofs(L"wofs测试.txt");

　　locale::global(loc);  // ③

　　ofs<<"test测试"<<1234<<endl;

　　wofs<<L"Another test还是测试"<<1234<<endl;

 

3、printf和wprintf

 

　　加上这两位C语言中的老兄，问题更加复杂。考虑如下语句(注意s的大小写)：

 

　　 printf("%s", "multibyte中文/n");  // ④

　　 printf("%S", L"unicode中文/n");  // ⑤

　　 wprintf(L"%S", "multibyte中文/n");  // ⑥

　　 wprintf(L"%s", L"unicode中文/n");  // ⑦

 

　　缺省情况下，⑤、⑦两条语句不能输出中文，这两条语句中字符串的形式是unicode形式的。如果在所有输出语句之前加上如下语句将C语言的全局locale设置为本地语言（C语言中只有全局locale）就可以正常输出了：

 

　　setlocale(LC_CTYPE, "");  // ⑧

 

　　但这会导致cout和wcout不能输出中文（汗，的确麻烦），将C语言的全局locale恢复后cout和wcout就正常了，如下所示：

 

　　setlocale(LC_CTYPE, "C");  // ⑨

 

　 　但恢复后，printf和wprintf输出Unicode文本又不正常了（输出MultiByte文本总是正常的）。总不能每写一个 printf/wprintf就设置一次然后再恢复一次吧？所以，建议不要混用iostream和printf/wprintf，实在要混用，那就让 printf/wprintf只输出MultiByte字符串，这样不需要调用setlocale()，也就不会影响到cout和wcout。

 

总结

 

　　总之，用iostream、printf/wprintf输出中文，有点麻烦。概括起来要点如下：

 

如果要用wcout，需要在使用之前按语句①将其locale设置为本地语言；

如果要用ofstream或wofstream，要在打开文件之前按语句②将全局locale设为本地语言并保存初始的全局locale。然后在打开文件之后，按语句③将全局locale恢复为初始值；

不要混用iostream和printf/wprintf。如果要混用，只用printf/wprintf输出MultiByte字符串；

单独使用printf/wprintf时，如果要输出Unicode字符串，需要按语句⑧设置C语言的全局locale。如果只输出MultiByte字符串，则不需设置。

在wprintf()函数里面，调用了WideCharToMultiByte()函数，就是通过当前的Locale将Unicode的字符转换成本地字符。在不使用setlocale()的时候，wprintf()会使用默认的“C”locale判断给定的宽字符是否<255，如果大于255就返回错误，而不会进行显示。这也就是在没有setlocale()的情况下wprintf((wchar_t*)paName)不能显示的真正原因。我觉得，如果wprintf()不进行这种判断而直接将字符串给Console的话，就能够正确显示了

 

转载至：

http://blog.csdn.net/iiprogram/article/details/3067720