字符编码笔记：ASCII，Unicode 和 UTF-8(转帖、留着自己学习）

http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html

阮一峰的网络日志 » 首页 » 档案

搜索
上一篇：《新编高中文言文助读》
下一篇：2006年最佳政治漫画
分类： 理解计算机
字符编码笔记：ASCII，Unicode 和 UTF-8
分享按钮
作者： 阮一峰
日期： 2007年10月28日
珠峰培训
今天中午，我突然想搞清楚 Unicode 和 UTF-8 之间的关系，就开始查资料。
这个问题比我想象的复杂，午饭后一直看到晚上9点，才算初步搞清楚。
下面就是我的笔记，主要用来整理自己的思路。我尽量写得通俗易懂，希望能对其他朋友有用。毕竟，字符编码是计算机技术的基石，想要熟练使用计算机，就必须懂得一点字符编码的知识。
一、ASCII 码
我们知道，计算机内部，所有信息最终都是一个二进制值。每一个二进制位（bit）有0和1两种状态，因此八个二进制位就可以组合出256种状态，这被称为一个字节（byte）。也就是说，一个字节一共可以用来表示256种不同的状态，每一个状态对应一个符号，就是256个符号，从00000000到11111111。
上个世纪60年代，美国制定了一套字符编码，对英语字符与二进制位之间的关系，做了统一规定。这被称为 ASCII 码，一直沿用至今。
ASCII 码一共规定了128个字符的编码，比如空格SPACE是32（二进制00100000），大写的字母A是65（二进制01000001）。这128个符号（包括32个不能打印出来的控制符号），只占用了一个字节的后面7位，最前面的一位统一规定为0。
二、非 ASCII 编码
英语用128个符号编码就够了，但是用来表示其他语言，128个符号是不够的。比如，在法语中，字母上方有注音符号，它就无法用 ASCII 码表示。于是，一些欧洲国家就决定，利用字节中闲置的最高位编入新的符号。比如，法语中的é的编码为130（二进制10000010）。这样一来，这些欧洲国家使用的编码体系，可以表示最多256个符号。
但是，这里又出现了新的问题。不同的国家有不同的字母，因此，哪怕它们都使用256个符号的编码方式，代表的字母却不一样。比如，130在法语编码中代表了é，在希伯来语编码中却代表了字母Gimel (ג)，在俄语编码中又会代表另一个符号。但是不管怎样，所有这些编码方式中，0–127表示的符号是一样的，不一样的只是128–255的这一段。
至于亚洲国家的文字，使用的符号就更多了，汉字就多达10万左右。一个字节只能表示256种符号，肯定是不够的，就必须使用多个字节表达一个符号。比如，简体中文常见的编码方式是 GB2312，使用两个字节表示一个汉字，所以理论上最多可以表示 256 x 256 = 65536 个符号。
中文编码的问题需要专文讨论，这篇笔记不涉及。这里只指出，虽然都是用多个字节表示一个符号，但是GB类的汉字编码与后文的 Unicode 和 UTF-8 是毫无关系的。
三. Unicode
正如上一节所说，世界上存在着多种编码方式，同一个二进制数字可以被解释成不同的符号。因此，要想打开一个文本文件，就必须知道它的编码方式，否则用错误的编码方式解读，就会出现乱码。为什么电子邮件常常出现乱码？就是因为发信人和收信人使用的编码方式不一样。
可以想象，如果有一种编码，将世界上所有的符号都纳入其中。每一个符号都给予一个独一无二的编码，那么乱码问题就会消失。这就是 Unicode，就像它的名字都表示的，这是一种所有符号的编码。
Unicode 当然是一个很大的集合，现在的规模可以容纳100多万个符号。每个符号的编码都不一样，比如，U+0639表示阿拉伯字母Ain，U+0041表示英语的大写字母A，U+4E25表示汉字严。具体的符号对应表，可以查询unicode.org，或者专门的汉字对应表。
四、Unicode 的问题
需要注意的是，Unicode 只是一个符号集，它只规定了符号的二进制代码，却没有规定这个二进制代码应该如何存储。
比如，汉字严的 Unicode 是十六进制数4E25，转换成二进制数足足有15位（100111000100101），也就是说，这个符号的表示至少需要2个字节。表示其他更大的符号，可能需要3个字节或者4个字节，甚至更多。
这里就有两个严重的问题，第一个问题是，如何才能区别 Unicode 和 ASCII ？计算机怎么知道三个字节表示一个符号，而不是分别表示三个符号呢？第二个问题是，我们已经知道，英文字母只用一个字节表示就够了，如果 Unicode 统一规定，每个符号用三个或四个字节表示，那么每个英文字母前都必然有二到三个字节是0，这对于存储来说是极大的浪费，文本文件的大小会因此大出二三倍，这是无法接受的。
它们造成的结果是：1）出现了 Unicode 的多种存储方式，也就是说有许多种不同的二进制格式，可以用来表示 Unicode。2）Unicode 在很长一段时间内无法推广，直到互联网的出现。
五、UTF-8
互联网的普及，强烈要求出现一种统一的编码方式。UTF-8 就是在互联网上使用最广的一种 Unicode 的实现方式。其他实现方式还包括 UTF-16（字符用两个字节或四个字节表示）和 UTF-32（字符用四个字节表示），不过在互联网上基本不用。重复一遍，这里的关系是，UTF-8 是 Unicode 的实现方式之一。
UTF-8 最大的一个特点，就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号，根据不同的符号而变化字节长度。
UTF-8 的编码规则很简单，只有二条：
1）对于单字节的符号，字节的第一位设为0，后面7位为这个符号的 Unicode 码。因此对于英语字母，UTF-8 编码和 ASCII 码是相同的。
2）对于n字节的符号（n > 1），第一个字节的前n位都设为1，第n + 1位设为0，后面字节的前两位一律设为10。剩下的没有提及的二进制位，全部为这个符号的 Unicode 码。
下表总结了编码规则，字母x表示可用编码的位。
Unicode符号范围 | UTF-8编码方式
(十六进制) | （二进制）
———————-+———————————————
0000 0000-0000 007F | 0xxxxxxx
0000 0080-0000 07FF | 110xxxxx 10xxxxxx
0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
跟据上表，解读 UTF-8 编码非常简单。如果一个字节的第一位是0，则这个字节单独就是一个字符；如果第一位是1，则连续有多少个1，就表示当前字符占用多少个字节。
下面，还是以汉字严为例，演示如何实现 UTF-8 编码。
严的 Unicode 是4E25（100111000100101），根据上表，可以发现4E25处在第三行的范围内（0000 0800 - 0000 FFFF），因此严的 UTF-8 编码需要三个字节，即格式是1110xxxx 10xxxxxx 10xxxxxx。然后，从严的最后一个二进制位开始，依次从后向前填入格式中的x，多出的位补0。这样就得到了，严的 UTF-8 编码是11100100 10111000 10100101，转换成十六进制就是E4B8A5。
六、Unicode 与 UTF-8 之间的转换
通过上一节的例子，可以看到严的 Unicode码 是4E25，UTF-8 编码是E4B8A5，两者是不一样的。它们之间的转换可以通过程序实现。
Windows平台，有一个最简单的转化方法，就是使用内置的记事本小程序notepad.exe。打开文件后，点击文件菜单中的另存为命令，会跳出一个对话框，在最底部有一个编码的下拉条。
bg2007102801.jpg
里面有四个选项：ANSI，Unicode，Unicode big endian和UTF-8。
1）ANSI是默认的编码方式。对于英文文件是ASCII编码，对于简体中文文件是GB2312编码（只针对 Windows 简体中文版，如果是繁体中文版会采用 Big5 码）。
2）Unicode编码这里指的是notepad.exe使用的 UCS-2 编码方式，即直接用两个字节存入字符的 Unicode 码，这个选项用的 little endian 格式。
3）Unicode big endian编码与上一个选项相对应。我在下一节会解释 little endian 和 big endian 的涵义。
4）UTF-8编码，也就是上一节谈到的编码方法。
选择完”编码方式”后，点击”保存”按钮，文件的编码方式就立刻转换好了。
七、Little endian 和 Big endian
上一节已经提到，UCS-2 格式可以存储 Unicode 码（码点不超过0xFFFF）。以汉字严为例，Unicode 码是4E25，需要用两个字节存储，一个字节是4E，另一个字节是25。存储的时候，4E在前，25在后，这就是 Big endian 方式；25在前，4E在后，这是 Little endian 方式。
这两个古怪的名称来自英国作家斯威夫特的《格列佛游记》。在该书中，小人国里爆发了内战，战争起因是人们争论，吃鸡蛋时究竟是从大头(Big-endian)敲开还是从小头(Little-endian)敲开。为了这件事情，前后爆发了六次战争，一个皇帝送了命，另一个皇帝丢了王位。
第一个字节在前，就是”大头方式”（Big endian），第二个字节在前就是”小头方式”（Little endian）。
那么很自然的，就会出现一个问题：计算机怎么知道某一个文件到底采用哪一种方式编码？
Unicode 规范定义，每一个文件的最前面分别加入一个表示编码顺序的字符，这个字符的名字叫做”零宽度非换行空格”（zero width no-break space），用FEFF表示。这正好是两个字节，而且FF比FE大1。
如果一个文本文件的头两个字节是FE FF，就表示该文件采用大头方式；如果头两个字节是FF FE，就表示该文件采用小头方式。
八、实例
下面，举一个实例。
打开”记事本”程序notepad.exe，新建一个文本文件，内容就是一个严字，依次采用ANSI，Unicode，Unicode big endian和UTF-8编码方式保存。
然后，用文本编辑软件UltraEdit 中的”十六进制功能”，观察该文件的内部编码方式。
1）ANSI：文件的编码就是两个字节D1 CF，这正是严的 GB2312 编码，这也暗示 GB2312 是采用大头方式存储的。
2）Unicode：编码是四个字节FF FE 25 4E，其中FF FE表明是小头方式存储，真正的编码是4E25。
3）Unicode big endian：编码是四个字节FE FF 4E 25，其中FE FF表明是大头方式存储。
4）UTF-8：编码是六个字节EF BB BF E4 B8 A5，前三个字节EF BB BF表示这是UTF-8编码，后三个E4B8A5就是严的具体编码，它的存储顺序与编码顺序是一致的。
九、延伸阅读
The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets（关于字符集的最基本知识）
谈谈Unicode编码
RFC3629：UTF-8, a transformation format of ISO 10646（如果实现UTF-8的规定）
（完）
文档信息
版权声明：自由转载-非商用-非衍生-保持署名（创意共享3.0许可证）
发表日期： 2007年10月28日
更多内容： 档案 » 理解计算机
文集：《前方的路》，《未来世界的幸存者》
社交媒体： twitter， weibo
相关文章
2018.07.16: CAP 定理的含义
分布式系统（distributed system）正变得越来越重要，大型网站几乎都是分布式的。
2018.05.09: 根域名的知识
域名是互联网的基础设施，只要上网就会用到。
2018.01.21: 汇编语言入门教程
学习编程其实就是学高级语言，即那些为人类设计的计算机语言。
2018.01.11: 加密货币的本质
现在，各种加密货币（cryptocurrency）不计其数。
广告（购买广告位）

留言（218条）
Stark 说：
很有意思的内容
讲解得通俗易懂，非常感谢您用较长的时间学习，并用精简的语言概括
2007年10月29日 10:10 | # | 引用
flyisland 说：
本人是计算机从业人员，对文中提到的知识也都基本了解，但是像阮兄这样，花了半天时间就弄清楚来龙去脉，同时讲述的如此清楚，实在佩服。
本帖有pmp嫌疑，但实在是不能不p啊 ：）。我想，动手写过技术文章的人都会同意我的。
2007年10月29日 10:52 | # | 引用
只如初见 说：
是啊，我这个超级菜鸟都看明白了，阮兄对技术的理解和说明能力叫人佩服，谢谢分享。
2007年10月29日 11:32 | # | 引用
姬着 说：
文章里说：UCS-2编码方式，即直接用两个字节存入字符的Unicode码。
那USC-2编码方式如何实现超过两个字节的符号的存储？谢谢
2007年10月29日 17:04 | # | 引用
大徐 说：
对了解字符编码很有帮助，谢谢！
2007年10月29日 23:11 | # | 引用
Ruan YiFeng 说：
引用只如初见的发言：
是啊，我这个超级菜鸟都看明白了，阮兄对技术的理解和说明能力叫人佩服，谢谢分享。
“延伸阅读”中第一个链接，才是真正的通俗易懂，我只是向他学习而已。
2007年10月30日 09:13 | # | 引用
Ruan YiFeng 说：
引用姬着的发言：
文章里说：UCS-2编码方式，即直接用两个字节存入字符的Unicode码。 那USC-2编码方式如何实现超过两个字节的符号的存储？谢谢
USC-2只能用存储两个字节的Unicode，超过这一范围的符号，它不能表示。
2007年10月30日 09:15 | # | 引用
Annis 说：

我是Annis,想邀请您参加拼搏到底FeedSky博客挑战赛，
这是一个很好的宣传、展示自己的机会，
有兴趣您可以自己到相关网站了解具体参赛细节。
http://www.feedsky.com/challenge/?u=141270
2007年10月30日 10:43 | # | 引用
Bill 说：
PS：本文只是主要介绍了UTF-8编码，下面这篇文章对于GB码与Big5有更详细的介绍。
汉字编码中现在主要用到的有三类，包括GBK，GB2312和Big5。
1、GB2312又称国标码，由国家标准总局发布，1981年5月1日实施，通行于大陆。新加坡等地也使用此编码。它是一个简化字的编码规范，当然也包括其他的符号、字母、日文假名等，共7445个图形字符，其中汉字占6763个。我们平时说6768个汉字，实际上里边有5个编码为空白，所以总共有6763个汉字。
GB2312规定“对任意一个图形字符都采用两个字节表示，每个字节均采用七位编码表示”，习惯上称第一个字节为“高字节”，第二个字节为“低字节”。GB2312中汉字的编码范围为，第一字节0xB0-0xF7(对应十进制为176-247)，第二个字节0xA0-0xFE（对应十进制为160-254）。
GB2312将代码表分为94个区，对应第一字节（0xa1-0xfe）；每个区94个位（0xa1-0xfe），对应第二字节，两个字节的值分别为区号值和位号值加32（2OH），因此也称为区位码。01-09区为符号、数字区，16-87区为汉字区（0xb0-0xf7），10-15区、88-94区是有待进一步标准化的空白区。

2、Big5又称大五码，主要为香港与台湾使用，即是一个繁体字编码。每个汉字由两个字节构成，第一个字节的范围从0X81－0XFE（即129-255），共126种。第二个字节的范围不连续，分别为0X40－0X7E（即64-126），0XA1－0XFE（即161-254），共157种。

3、GBK是GB2312的扩展，是向上兼容的，因此GB2312中的汉字的编码与GBK中汉字的相同。另外，GBK中还包含繁体字的编码，它与Big5编码之间的关系我还没有弄明白，好像是不一致的。GBK中每个汉字仍然包含两个字节，第一个字节的范围是0x81-0xFE（即129-254），第二个字节的范围是0x40-0xFE（即64-254）。GBK中有码位23940个，包含汉字21003个。
Bill再推荐一个网站 专门介绍汉字与汉字计算机化的 汉典 http://www.zdic.net/
2007年10月30日 22:26 | # | 引用
简单 说：
http://www.zdic.net/

很强的网站，收藏
2007年10月31日 09:06 | # | 引用
Ruan YiFeng 说：
引用Bill的发言：
本文只是主要介绍了UTF-8编码，下面这篇文章对于GB码与Big5有更详细的介绍。
这篇网志中有两个地方需要补充一下，我忘了在原文中提到。
1.
国际标准化组织通过了一套ISO-8859-1的编码，规定了单字节256个符号的编码方式。目前，这是8位编码的国际标准。
2.
Unicode编码中表示字节排列顺序的那个文件头，叫做BOM（byte-order mark），FFFE和FEFF就是不同的BOM。
UTF-8文件的BOM是“EF BB BF”，但是UTF-8的字节顺序是不变的，因此这个文件头实际上不起作用。有一些编程语言是ISO-8859-1编码，所以如果用UTF-8针对这些语言编程序，就必须去掉BOM，即保存成“UTF-8—无BOM”的格式才可以，PHP语言就是这样。
2007年10月31日 23:57 | # | 引用
请教 说：
我怎么用 notepad 保存成 UTF-8 后
用 UltraEdit 看 还是 FF FE 25 4E啊？？？
2007年11月24日 01:36 | # | 引用
请教 说：
引用请教的发言：
我怎么用 notepad 保存成 UTF-8 后 用 UltraEdit 看 还是 FF FE 25 4E啊？？？
哦 知道了。 是UltraEdit 默认会以 UTF-16的方式打开UTF-8编码的文件， 要设置或者用Hex Workshop打开就可以看到楼主所说的效果。
2007年11月24日 02:15 | # | 引用
Cloudream 说：
（点击支持我）
这些字符是违反adsense规定的……
2007年11月27日 19:08 | # | 引用
jackywdx 说：
这么精彩的讲解，实在不得不向作者致敬！
内容讲解得非常详细但又通俗易懂，谢谢了~~
2008年3月10日 10:01 | # | 引用
jinwangen 说：
非常感谢
2008年4月23日 09:22 | # | 引用
LMN 说：
非常感谢，值得一看
2008年5月 4日 13:07 | # | 引用
网友 说：
标题“6. Unicode与UTF-8之间的转换”不严谨。
Unicode是一种字符集，概念比较抽象，你已经提到，它存储的时候必须用适当的编码方式。
你的标题的意思，实际上是UTF-16和UTF-8之间的转换。
至于windows notepad保存对话框的编码方式列表中列出“Unicode”这一个名字，实际上是一个通俗的称呼(来自windows NT的早期版本的习惯，一直沿用)，指UTF-16，而不是严格的称呼。希望你行文不要受这个影响。
2008年5月 8日 17:15 | # | 引用
Ruan YiFeng 说：
引用网友的发言：
标题“6. Unicode与UTF-8之间的转换”不严谨。
Unicode是一种字符集，概念比较抽象，你已经提到，它存储的时候必须用适当的编码方式。
你的标题的意思，实际上是UTF-16和UTF-8之间的转换。
UTF-16不等于unicode啊，不能混为一谈。
2008年5月 9日 00:33 | # | 引用
Ivan WONG 说：
嗯,看完了長不少知識.
2008年5月12日 11:19 | # | 引用
Michael Zheng 说：
我只能这么说，看了那么多的对字符集的解释
这个绝对是最通俗易懂并且还解决了常见疑问的最好的文章 ：）
收藏
2008年5月12日 12:42 | # | 引用
wxs8088 说：
很好的一编文章
2008年5月16日 03:07 | # | 引用
人跟人的差距咋就这么大呢 说：
好文章!收藏了!
楼主何不把ansi编码方式也说说!
让俺这样的小学新生借楼主的理解能力再学习一把.
2008年5月16日 11:58 | # | 引用
学习了 说：
学习了
2008年6月25日 11:20 | # | 引用
水中鱼 说：
引用Ruan YiFeng的发言：
UTF-16不等于unicode啊，不能混为一谈。

UTF-16扩充了Unicode，包括了一些稀有字符，想我们国家的满文，藏文等等，两者基本上等价
2008年7月11日 10:44 | # | 引用
heroboy 说：
其实我认为，编码其实有2个意思。1.一个是把字符和数字对应起来（比如unicode和GBXXXX等）。2.还有就是相应在数字在计算机中的表示，也就是和字节序列对应起来（比如utf8，mbcs等）。
我有个问题，windows下的mbcs编码(2)用的编码(1)是不是GB系列的编码(1)，而unicode编码(2)用的是unicode编码(1)
2008年7月31日 15:07 | # | 引用
Demo 说：
拜读。。。受益匪浅。。长见识了 。。顶楼主
2008年8月15日 01:56 | # | 引用
GoBoat 说：
很精彩啊
2008年8月25日 11:11 | # | 引用
yangxiups 说：
有时总想去搞清楚他们的区别，可总是无果而终。
讲的很通俗。收藏了。
2008年8月26日 16:58 | # | 引用
Maxwell 说：
通俗易懂，对楼主的付出表示感谢。
好文章，收藏！
2008年8月26日 18:03 | # | 引用
hao 说：
Big endian 是大头，还是大尾？
2008年9月 4日 10:18 | # | 引用
gaga 说：
本文充分展现了阮兄收集信息，总结和归纳信息的能力，佩服和学习！
2008年9月 8日 12:02 | # | 引用
BATMAN 说：
非常感谢楼主提供的信息，支持个
2008年9月24日 20:54 | # | 引用
zhangzhen 说：
挺好的，谢谢
2008年10月 3日 11:20 | # | 引用
陈 说：
谢谢
2008年10月10日 21:36 | # | 引用
Texas 说：
非常感谢楼主。
请继续写DBCS->UNICODE的文章
2008年10月30日 12:06 | # | 引用
riskman 说：
写得真不错！！
2008年10月30日 15:07 | # | 引用
Taken 说：
感谢阮兄精彩讲解…收获良多
另：能否稍微再增加点UTF-16,UTF-32的基本介绍和应用范围的介绍…
2008年11月 6日 15:41 | # | 引用
syjun37 说：
非常感谢这篇文章，我想请问一下，GBK和BIG5之间的关系是怎样的呢？是包含还是交集呢？
2008年11月 7日 13:33 | # | 引用
gg 说：
引用syjun37的发言：
非常感谢这篇文章，我想请问一下，GBK和BIG5之间的关系是怎样的呢？是包含还是交集呢？
完全不同的两套编码标准，对应不同的代码页。同样的字在big5和GBK中的编码是不一样的。
2008年11月26日 23:04 | # | 引用
Honeyhacker 说：
相当不错，这是我打算研究编码的时候看到的第一篇文章。几天之后再来评论！！
2008年11月28日 08:45 | # | 引用
Honeyhacker 说：
你在文中提到：“UTF-8最大的一个特点，就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号，根据不同的符号而变化字节长度”。我在http://dev.csdn.net/develop/article/83/83012.shtm上看到：
以下是Unicode和UTF-8之间的转换关系表：
U-00000000 - U-0000007F: 0xxxxxxx
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
该文中明显说到UTF-8不限于四个字节。
请问得到1-4个字节的结论是从哪里找到的？
2008年11月28日 10:23 | # | 引用
Ruan YiFeng 说：
引用Honeyhacker的发言：
该文中明显说到UTF-8不限于四个字节。
请问得到1-4个字节的结论是从哪里找到的？
早先的规定是，utf-8可以到6个字节。但是，这已经废除了，目前规定是只支持4个字节，大于U+001FFFFF的符号utf-8不再支持。具体请参阅wikipedia。
2008年11月28日 11:18 | # | 引用
Honeyhacker 说：
原来如此！感谢你的回复！再问一个问题，从网络中抓获的数据报，在用wireshark分析的时候，如何判断其中的哪些数据使用了Unicode编码？（从snort给出的信息中，该条数据确实有Unicode编码）。
2008年11月28日 21:38 | # | 引用
morpheus 说：
前辈，计算机怎么知道三个字节表示一个符号，而不是分别表示三个符号呢
这个是怎么实现的呢，我有点不明白，还望回复一下，感激不尽。
2008年11月29日 13:31 | # | 引用
Honeyhacker 说：
或者这样说，两台主机通信的时候，A接收到B发送的消息后，它如何知道该报文采取的是什么编码类型？在报文的格式里面好像没有提到这一点吧！
2008年12月 1日 09:47 | # | 引用
chen3feng 说：
引用Ruan YiFeng的发言：
UTF-16不等于unicode啊，不能混为一谈。
Windows 从 NT 开始，一开始的内码是 UCS-2，只支持 Unicode BMP 字符，后来做了扩充，目前的内码就是 UTF-16，通常不严格地称为 Unicode。
2008年12月 2日 10:15 | # | 引用
Honeyhacker 说：
引用Honeyhacker的发言：
或者这样说，两台主机通信的时候，A接收到B发送的消息后，它如何知道该报文采取的是什么编码类型？在报文的格式里面好像没有提到这一点吧！
已经弄明白了！不可一概而论！
2008年12月 7日 22:14 | # | 引用
想 说：
受益匪浅谢谢老师！
2009年1月16日 16:34 | # | 引用
挪威的森林 说：
好文！是我看过的关于字符/字符集入门文章中最通俗易懂而又有效的一篇！
2009年1月20日 00:08 | # | 引用
wangkai 说：
佩服，不得不顶，一直想搞清楚，今天总算清楚了一点
2009年2月13日 22:17 | # | 引用
wangkai 说：
关于第8点：8. 实例
我照着做了，但是结果却不是这样，
后面三种方式显示的都是 FF FE 25 4E
这是怎么回事？
我用的是vista系统
2009年2月13日 22:50 | # | 引用
ArthurLee 说：
通俗易懂，受益匪浅，谢谢指教！O(∩_∩)O~
2009年2月23日 20:44 | # | 引用
www 说：
很感谢 写的很生动 楞看了百度百科半天没懂。。。
2009年3月 9日 23:10 | # | 引用
xingyifeng 说：
谢谢
你们的讨论很精彩
这样才会有长进
2009年4月22日 11:56 | # | 引用
手脚冰凉 说：
一直对这些字符集和编码比较头疼，今天看了阮兄和大家的讨论，终于有点清楚了，谢谢阮兄给大家带来这么好的文章。
2009年5月 5日 09:03 | # | 引用
illidan.zen 说：
通俗易懂，我顶！
2009年5月29日 08:41 | # | 引用
sanki 说：
不错不错，写得太棒了！
2009年5月31日 22:48 | # | 引用
cocobear 说：
写得不错。。
2009年6月 1日 13:56 | # | 引用
IT民工 说：

需要注意的是，Unicode只是一个符号集，它只规定了符号的二进制>代码，却没有规定这个二进制代码应该如何存储。
比如，汉字“严”的unicode是十六进制数4E25，转换成二进制数足>足有15位（100111000100101），也就是说这个符号的表示至少需>要2个字节。表示其他更大的符号，可能需要3个字节或者4个字节，甚>至更多。
有一点疑问，unicode编码使用2个字节也就是16位2进制数字来表示字符，那么在存储的时候，为什么会超过2个字节以上呢？
unicode所能定义的符号总共有65536个，而且里面的每一个符号都是用2个字节表示的，包括ascii码也都是在高位补零的，麻烦楼主解释一下
2009年6月30日 15:26 | # | 引用
vivi 说：
在实例8中，我这里ASCII码是D1 CF。但是其它的存储方式，打开都是显示 FF FE 25 4E,不论用什么方式存储?
2009年7月 6日 10:45 | # | 引用
jing.lu 说：
非常生动形象，易于理解，很不错。
2009年8月10日 16:28 | # | 引用
xix 说：
太感谢您的文章了，收藏了。
之前也看过几篇介绍utf8编码的，但都是语言生硬晦涩的长篇大论，感觉太专业、太复杂，看着头大。
这篇文章总结的很好，本来繁杂的东东，理得很清晰易懂。感谢！
2009年9月29日 17:15 | # | 引用
patric 说：
vivi 说：
在实例8中，我这里ASCII码是D1 CF。但是其它的存储方式，打开都是显示 FF FE 25 4E,不论用什么方式存储?

我操作了，和你说的情况一样。
2009年10月22日 09:19 | # | 引用
2 说：
一知半解，误人子弟
2009年11月18日 09:20 | # | 引用
美丽明天 说：
我想把网站做成韩文的,不知道有什么好方法.
2009年11月23日 09:13 | # | 引用
jhx 说：
谢谢了！
2009年11月27日 16:14 | # | 引用
houkai 说：
写的很通俗 学懂了 谢谢！
2009年12月23日 11:33 | # | 引用
goodappli 说：
第一个参考链接太难打开了，半天都没有载入，让人崩溃，改天再试。
2009年12月30日 22:31 | # | 引用
flowsands 说：
阮大有空再来聊聊新字符集国标GB18030吧，Superset of gb2312.
参见：http://en.wikipedia.org/wiki/GB_18030
2010年1月 5日 16:24 | # | 引用
XjAcKs 说：
原来是这样，这下更清楚了。谢谢！
2010年2月12日 09:11 | # | 引用
allen 说：
感谢，写的很清楚详细
2010年3月23日 11:10 | # | 引用
htc 说：
写得太好了，感谢楼主的贡献
2010年3月25日 15:50 | # | 引用
mlmt 说：
正在头痛这个编码的事，感谢楼主。
延伸阅读里的第一个链接是英文.再次证明，学好英文是一件多少重要的事。
2010年5月13日 08:45 | # | 引用
Tdou 说：
写的通俗易懂，谢谢了！
2010年5月20日 14:41 | # | 引用
Harly 说：
此文从框架上说明了字符编码的套路。我见过太多的不明就里的人，写这样的文章，试图阐明字符编码系统，但限于其人先天上大脑逻辑混乱，后天上一知半解，结果就是胡说八道，情形就像：分不清class和instance的区别。
2010年6月28日 13:48 | # | 引用
azziporah 说：
引用Harly的发言：
此文从框架上说明了字符编码的套路。我见过太多的不明就里的人，写这样的文章，试图阐明字符编码系统，但限于其人先天上大脑逻辑混乱，后天上一知半解，结果就是胡说八道，情形就像：分不清class和instance的区别。
非常同意ls的观点
字符编码是跨越电子通信和语言文字两大领域的庞大系统。其一是“编码”本身，伴随着电子和通信技术的发展一直在改进，同时也带来了许多legacy的产物；其二是“字符”，由于人类语言/书写系统的多样性和复杂性，将编码应用到语言文字上来又是一大难题，各种语言文字有各自的出发点和难点。因此，尝试解决这一混乱局面的UCS/Unicode实在是一项恢弘的工程。无怪乎lz在开头就说了，这个问题比他想象中复杂。
即使是现在最常见的7-bit ASCII，虽然看上去比较简单、且有些杂乱无章，实则每个字符的排布都经过了精心的设计，包括性能上的、工程上的、兼容性上的许多考虑因素。
另外，说起字符编码，就会有许多含糊不清、容易混淆的词汇，其中很多是基于历史原因，还有一些以讹传讹的和巧合的因素，这方面也是需要注意的。
对于大多数人来说，即使您已经系统地学习过数电/计算机课程，我仍然推荐阅读《编码的奥秘》。有较好的基础的人可以参考一下资料
http://scripts.sil.org/Home
http://www.unicode.org/standard/standard.html
http://msdn.microsoft.com/en-us/library/dd318661(v=VS.85).aspx
2010年7月31日 00:54 | # | 引用
盗版小米米 说：
形象生动，易于理解！！！！牛
2010年9月 6日 20:40 | # | 引用
RGLS 说：
非常感谢lz的文章，介绍得很清楚。
2010年9月22日 10:59 | # | 引用
树树 说：
写得很好，一直不太明白字符编码方面的东西
2010年10月 3日 17:26 | # | 引用
o0o0o 说：
细想起来，可能这是我看到的最好一阐述编码的文章，精炼易懂，big endian和little endian来源的有趣介绍让人印象深刻
2010年11月29日 15:11 | # | 引用
atom 说：
文章恒久远，一篇永流传。感谢阮兄的劳动！
2011年1月 8日 20:12 | # | 引用
c0ming 说：
big endian和little endian 应该有更好的译名：大、小端。在网络编程 和 嵌入式方面都是这样译。
2011年1月28日 22:20 | # | 引用
落叶 说：
刚研究UNICODE与ASCII之间的转换工具，突然想到为啥UTF-8和UNICODE长得这么像啊，如果Google了一下，看到这篇文章，真的不错。
2011年3月 4日 20:55 | # | 引用
yanghe 说：
通俗易懂，支持
2011年3月24日 20:15 | # | 引用
frostmoon 说：
正在学习编码 兄弟的文章通俗易懂 豁然开朗！
2011年3月30日 11:10 | # | 引用
javie 说：
奇怪 我的“严”的UTF8二进制怎么都是fffe 254e？？
试过记事本 ，emeditor，ultraedit都是
2011年4月 4日 10:04 | # | 引用
johnw 说：
拜读了，最近正在弄Java的乱码问题，看完了明白了很多原理性的东西！
2011年4月 6日 10:55 | # | 引用
towry 说：
很有帮助啊，谢谢分享。转到我的QQ空间里了，慢慢看。
2011年6月12日 20:47 | # | 引用
DerekWu 说：
很好，通俗易懂。谢谢。
2011年6月21日 17:42 | # | 引用
yuhai 说：
文中所提的大端法和小端法用来描述字节序列问题不够详细
2011年6月30日 15:32 | # | 引用
zhenyulu 说：
非常好，网上搜了半天资料，还是这篇文章写得好！
2011年7月20日 13:53 | # | 引用
cumirror 说：
很详细易懂，赞一个~
2011年7月25日 18:04 | # | 引用
胡营 说：
看了很多资料都没看懂，这下懂了！赞一个！o(≧v≦)o~~好棒
2011年8月 1日 17:32 | # | 引用
evil39c 说：
终于弄懂UTF-8了，谢谢。
2011年8月24日 15:49 | # | 引用
ray 说：
以汉字”严“为例，Unicode码是4E25，需要用两个字节存储，一个字节是4E，另一个字节是25。
4E25不是code point吗？应该是经utf8转换为E4B8A5这三个字节才涉及字节序问题吧？
2011年9月 2日 17:03 | # | 引用
葫芦 说：
第四、五节不是很好理解。
很棒的文章。
2011年9月16日 14:31 | # | 引用
森马 说：
转你的博客了，对我很有用。多谢。
另外文中连接的unicode的编码表里面数据貌似不对。
2011年11月 7日 11:23 | # | 引用
小郭 说：
这篇文章真的很棒 谢谢
2011年11月15日 02:27 | # | 引用
Lidh 说：
引用Ruan YiFeng的发言：
……
UTF-8文件的BOM是“EF BB BF”，但是UTF-8的字节顺序是不变的，因此这个文件头实际上不起作用。有一些编程语言是ISO-8859-1编码，所以如果用UTF-8针对这些语言编程序，就必须去掉BOM，即保存成“UTF-8—无BOM”的格式才可以，PHP语言就是这样。
UTF-8文件的BOM“EF BB BF”，它实际上就是FE FF用UTF-8编码而得到的
2011年11月24日 11:21 | # | 引用
张彦飞 说：
结合最常用的记事本来介绍Unicode,UTF-8. 太好了！！
2011年12月20日 12:01 | # | 引用
negatlov 说：
引用网友的发言：
windows notepad保存对话框的编码方式列表中列出“Unicode”这一个名字，实际上是一个通俗的称呼(来自windows NT的早期版本的习惯，一直沿用)，指UTF-16，而不是严格的称呼。希望你行文不要受这个影响。
这个说法很正确。的确换成utf-16准确点。mac osx这上面做得就很好。
2012年1月24日 11:46 | # | 引用
negatlov 说：
引用水中鱼的发言：

UTF-16扩充了Unicode，包括了一些稀有字符，想我们国家的满文，藏文等等，两者基本上等价
记得utf-16是unicode的具体实现方法。你这种说法本来就有混淆概念。
2012年1月24日 11:48 | # | 引用
Finals 说：
这个可以用来分段读取UTF-8字符，不错
2012年2月25日 15:41 | # | 引用
旦旦 说：
藏文最好的那种啊字符编码？如在QT里
2012年3月16日 00:43 | # | 引用
pw.cheng 说：
非常感谢楼主的讲解,我想知道的你说了好多,这个地址收藏了
2012年5月 2日 17:32 | # | 引用
U雅de凋0 说：
好东西 ！谢谢 峰哥 的总结 与 无私奉献！我不用再 苦苦 搜索了！谢谢
2012年5月 8日 18:22 | # | 引用
葫芦 说：
引用chen3feng的发言：
Windows 从 NT 开始，一开始的内码是 UCS-2，只支持 Unicode BMP 字符，后来做了扩充，目前的内码就是 UTF-16，通常不严格地称为 Unicode。
unicode是字符集，UTF-16是编码方式。。。 不严格地成为Unicode是咋个意思。。
2012年6月14日 09:45 | # | 引用
qqtoys 说：
写得很清楚，非常受用。谢谢作者。
2012年6月28日 09:40 | # | 引用
半睡的灰狼 说：
写的真的挺不错的！ 顶
2012年7月18日 14:16 | # | 引用
mm 说：
Windows 7 簡體中文版用的是GBK編碼，兼容GB2312。
2012年7月26日 14:25 | # | 引用
残阳 说：
你好，目前被一个问题困扰。。。
是这样的，有一被压缩过的流没有解压而直接被转化成字符串了(当然是乱码了)，这是新浪的一个云应用FetchURL干的。。。我看了他们的源码，直接用apache提供的包中的EntityUitls中的toString方法转化成字符串了，所以我在发送请求的时候在加上请求头Accept-Encoding:gzip,他们没有解压就直接转化成字符串了。问题来了，我现在的作法是把这个字符串转化成字节，然后解压，具体的作法是：用String类中的getBytes(Charset),然后InputStream in1 = new GZIPInputStream(new ByteArrayInputStream(bytes1))，这里报错了，这个bytes1的字节已经不是1f 8b开头的，也就是说不是压缩过的模式了，求解。。。为什么。。难道EntityUitls，把压缩过的流转化为字符串的时候丢了字节码，还是什么情况(这里有个特例，就是ISO-8859-1可以还原，其余都不行)。。。
2012年7月30日 15:17 | # | 引用
xiaobin 说：
写的太好了。有个问题想请教下，mysql中是如何用latin1来存中文的。
2012年8月20日 10:40 | # | 引用
Daniel 说：
@残阳：
关于使用ISO-8859-1，我认为是因为：
“ISO-8859-1 字符集的编码范围是 0000-00FF，正好和一个字节的编码范围相对应。这种特性保证了使用 ISO-8859-1 进行编码和解码可以保持编码数值“不变”。虽然中文字符在经过网络传输时，被错误地“拆”成了两个欧洲字符，但由于输出时也是用 ISO-8859-1，结果被“拆”开的中文字的两半又被合并在一起，从而又刚好组成了一个正确的汉字。”
具体可以看搜到的这篇blog：
http://www.ibm.com/developerworks/cn/java/j-lo-chinesecoding/
2012年8月25日 17:03 | # | 引用
彗星 说：
确实深入浅出，不错！
2012年9月 5日 16:49 | # | 引用
烂烂 说：
前几天才从fanfou看到linus的帖
今天找编码 就又找到这里
2012年9月 8日 17:13 | # | 引用
shuiyouren 说：
非常感谢您的分享，我一直在纳闷计算机是如何判断utf-8中的ascii部分，现在完全清晰了，额，竟然一直没发现ascii保留了最高位为0……
2012年9月18日 11:40 | # | 引用
icolin 说：
“因此，第一个字节在前，就是”大头方式“（Big endian），第二个字节在前就是”小头方式“（Little endian）。
那么很自然的，就会出现一个问题：计算机怎么知道某一个文件到底采用哪一种方式编码？
Unicode规范中定义，每一个文件的最前面分别加入一个表示编码顺序的字符，这个字符的名字叫做”零宽度非换行空格“（ZERO WIDTH NO-BREAK SPACE），用FEFF表示。这正好是两个字节，而且FF比FE大1。
如果一个文本文件的头两个字节是FE FF，就表示该文件采用大头方式；如果头两个字节是FF FE，就表示该文件采用小头方式。”
文中的big endian 和 little endian，翻译成“大尾”和“小尾”是不是更恰当？理由如下：
FEFF： FF 比 FE大且FF在后面，显示就是“大尾”
另外你在延伸阅读中提到的文章也是翻译成“大尾”和“小尾” （谈谈Unicode编码）
2012年10月23日 16:51 | # | 引用
Poken-Chen 说：
哈哈，谢谢啊。
我有个私人问题可以问一下吗？
就是如果有了新字符的话？如何添加到Unicode里呢？怎么向Unicode或者国家申请吗？会通过吗？
2012年10月28日 04:44 | # | 引用
xiekun 说：
我有个疑问“ANSI：文件的编码就是两个字节“D1 CF”，这正是“严”的GB2312编码，这也暗示GB2312是采用大头方式存储的”
请阮兄指教，不是说用FE,FF来表示大端和小端吗，为啥说从上面的编码可以看出是采用大头方式的呢
2012年11月 7日 23:14 | # | 引用
FallenMax 说：
感谢阮老师，和所引用资料的作者。好文，清晰易懂。
2012年12月12日 14:28 | # | 引用
情花一冲 说：
我只想说：我很感动，感动楼主的清晰易懂，一天的bug，终于在此贴解决，，，苦逼的程序员，，，想哭 。。。。
2012年12月29日 21:36 | # | 引用
xujinnan 说：
这个问题也是我一直想弄清楚的，今天终于找到了篇好的文章，受益匪浅啊，感谢博主！
2013年1月19日 11:53 | # | 引用
Homer 说：
感谢楼主！要是大学教材都用这种风格来编写，估计四年的计算机课程，真正在读书的1年就够了！！
utf-8的设计的确很巧妙：“2）对于n字节的符号（n>1），第一个字节的前n位都设为1【后面有几个字节兄弟们，就设计几个的显示位！计算机首先读到的，就是应该作为一组来解析的字节兄弟总数】，第n+1位设为0【表示显示位结束！】，后面字节的前两位一律设为10【表示这些字节都是被刚才那个leader领导的兄弟们】……”
另请教一下，对于在128—255的ASCII扩展字符，由于利用了最高位，应该就是与utf-8不一样了吧？
2013年1月20日 17:55 | # | 引用
aisensiy 说：
一直对 utf-8 unicode 很模糊，这篇完整讲的太到位了
2013年3月25日 14:45 | # | 引用
ChanneW 说：
可是，以ANSI方式保存的文本文档也能正常显示中文啊~
2013年4月 3日 18:52 | # | 引用
David 说：
好早的文章，居然被人推荐过来了，真是很好的科普文章。
关于 UTF-8，它有一个非常好的特性文中应该顺带提一下：虽然不同的字符字节数不同，但是任何一个字符不会是另一个字符的一部分。这使得基于字节的字符串匹配算法可以直接应用在 UTF-8 上。一些新兴的语言，如 Go ，字符串处理方面有很大部分是针对 UTF-8 编码的，个人感觉是空间、执行效率以及编程复杂度比较好的平衡。
2013年4月 8日 15:15 | # | 引用
峰 说：
很容易理解。
2013年4月19日 14:12 | # | 引用
hilojack 说：
引用姬着的发言：
文章里说：UCS-2编码方式，即直接用两个字节存入字符的Unicode码。
那USC-2编码方式如何实现超过两个字节的符号的存储？谢谢
ucs2不能实现两字节以上字符，得使用支持4字节的utf16，我的博客 字符编码入门有提及
2013年5月27日 02:17 | # | 引用
千鹤 说：
再看一遍效果又不同了,证明自己没懂。
2013年6月 5日 09:35 | # | 引用
leo569 说：
阮老师的文章，绝对值得一读。以前写java的，对底层了解相对缺失，现在写C++遇到这类问题极为棘手。拜读了
2013年7月23日 14:22 | # | 引用
FlyingFish 说：
讲得通俗易懂，很明白。谢谢作者！
2013年8月 7日 20:16 | # | 引用
闻一多 说：
这样的基础的东西很好。
2013年8月 8日 05:16 | # | 引用
小明 说：
好文章，不太长的文章能把事情都说明白，很不简单。
2013年8月25日 21:38 | # | 引用
peach5460 说：
太有帮助了,我以前从没真正弄懂过字符编码…
2013年9月 4日 09:29 | # | 引用
平和的心 说：
有个问题请教一下，Unicode编码指的是UCS-2编码方式，即直接用两个字节存入字符的Unicode码。那对于Unicode编码超过两个字节的，就没法保存了？
2013年10月17日 17:35 | # | 引用
游客 说：
引用平和的心的发言：
有个问题请教一下，Unicode编码指的是UCS-2编码方式，即直接用两个字节存入字符的Unicode码。那对于Unicode编码超过两个字节的，就没法保存了？
还有UCS-4呗，当然UCS-2用的比较多而已，可编码的汉字也仅仅是个子集而已。
2013年10月24日 17:11 | # | 引用
fly 说：
这么精彩的讲解，实在不得不向作者致敬！
内容讲解得非常详细但又通俗易懂，谢谢了~~
2013年11月 5日 11:11 | # | 引用
apollo 说：
你好，我用uncode保存“严”， 用hex查看是：e4 b8 a5 00 c4 00。而后三个字节，00 c4 00会因为的我保存一直在变化，有的时候会是 00 ee 3e，有的时候直接空了~
我用的win7
后来，经过尝试，又出现了BOM，显示为文中提到的ff fe 25 4e
这种情况最让人蛋疼了，搞不清是为什么~
求教楼主
2013年11月15日 15:20 | # | 引用
digdeep126 说：
一直对这一块没有完全弄明白，博主真是个打破沙锅问到底的人。感谢博主的精彩文章。
2013年11月24日 23:11 | # | 引用
loli 说：
博主，这事我迄今看过最通俗易懂的 关于编码的文章了，太感谢了。之前看过其他很多，都是一头雾水。。
2013年12月26日 10:22 | # | 引用
wwj 说：
近期发现您的文章，觉得很多都值得收藏，通俗易懂！非常感谢分享知识和想法
2014年1月18日 00:45 | # | 引用
Song 说：
一点小小的问题，有一个地方『根据』的『根』写为了『跟』，变成了『跟据』
2014年1月26日 23:36 | # | 引用
le 说：
非常感谢。通俗易懂。
2014年2月10日 09:58 | # | 引用
share 说：
非常通俗易懂
2014年3月20日 10:58 | # | 引用
lan 说：
非常有用，受益匪浅，感谢！
2014年3月24日 11:11 | # | 引用
mll 说：
UTF-8的表示算法：既然第一个字节的”1”的数量就表示了整个当前字符的字节数，为什么后续字节还需要”10”作为前缀，这不是白白浪费了每个字节中的两个位吗？
2014年3月31日 12:27 | # | 引用
xxx 说：
引用mll的发言：
UTF-8的表示算法：既然第一个字节的”1”的数量就表示了整个当前字符的字节数，为什么后续字节还需要”10”作为前缀，这不是白白浪费了每个字节中的两个位吗？

也许是出于容错的考虑，网络传输或者兼容不够不严谨的编辑器，删掉汉字等字节字符中的部分字节，会使得整串字符乱码
2014年4月 4日 09:57 | # | 引用
MR.曹 说：
如果早点看到楼主的文章，今天腾讯的实习生笔试就又多一层把握了！
2014年4月12日 23:02 | # | 引用
ibuick 说：
破特么几吧文章 什么特么鸡巴玩意儿
2014年5月 3日 14:17 | # | 引用
ibuick 说：
就这文章水平 我就呵呵了
2014年5月 3日 14:18 | # | 引用
layoe 说：
感觉博大精深。但依旧受益匪浅。
谢谢lz
2014年5月 7日 11:45 | # | 引用
文太 说：
博主您好，我认为第5段表格中关于4字节的UTF-8编码可表示的 Unicode Code Point 的范围应该是：
0001 0000-001F FFFF
2014年5月12日 01:19 | # | 引用
ppxia 说：
顶一个 讲的很透彻。
2014年5月21日 15:48 | # | 引用
Liuruoze 说：
感谢楼主的文章，传道授业解惑也
2014年6月13日 23:13 | # | 引用
有点甜 说：
引用mll的发言：
UTF-8的表示算法：既然第一个字节的”1”的数量就表示了整个当前字符的字节数，为什么后续字节还需要”10”作为前缀，这不是白白浪费了每个字节中的两个位吗？

试想，当你处在一个字符串中间时，你不知道当前是一个什么字符，使用UTF-8能帮你在这种情况下同步到下一个合法字符，否则是不可能的。
2014年6月28日 20:27 | # | 引用
chenjw 说：
谢谢你的精彩分享。但有一个疑问：
“Unicode当然是一个很大的集合，现在的规模可以容纳100多万个符号”，我的初步理解是：Unicode既然是2字节的，那么按理说不会超过256*256个字符才对。这里的“100多万个符号”个中来由，可否细谈下？
2014年7月 3日 19:09 | # | 引用
柚子 说：
引用chenjw的发言：
谢谢你的精彩分享。但有一个疑问：
“Unicode当然是一个很大的集合，现在的规模可以容纳100多万个符号”，我的初步理解是：Unicode既然是2字节的，那么按理说不会超过256*256个字符才对。这里的“100多万个符号”个中来由，可否细谈下？
是的，我也有这个疑问，能否请教楼主，望来信告知！[email protected]
2014年7月11日 13:56 | # | 引用
柚子 说：
引用xiaobin的发言：
写的太好了。有个问题想请教下，mysql中是如何用latin1来存中文的。
嗯，关于mysql这边，我也有一个问题。
我这边有一个mysql是默认的latin1的编码，我的应用是java写的，我想：“不管mysql的编码如何，我只要在java应用对编码做正确的转换，那么就应该能够在写入和读出mysql时不出现乱码才对。”，请问这个想法是否正确呢？
2014年7月11日 14:16 | # | 引用
dlitchi 说：
引用柚子的发言：
是的，我也有这个疑问，能否请教楼主，望来信告知！[email protected]
阮大哥的文章有说过哦，传送门：http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html
2014年7月13日 22:15 | # | 引用
Brilliance 说：
引用chenjw的发言：
谢谢你的精彩分享。但有一个疑问：
“Unicode当然是一个很大的集合，现在的规模可以容纳100多万个符号”，我的初步理解是：Unicode既然是2字节的，那么按理说不会超过256*256个字符才对。这里的“100多万个符号”个中来由，可否细谈下？
unicode是字符集, 不是存储方式, 这个搞明白.
通常所说2个字节的unicode实际上是指utf-16, 这应该是winnt遗留下来的叫法. 实际上unicode包括8位,16位,32位等存储方式. 其中u8和u32都可以最多用4Byte表示一个字符. 而u16最多用2Byte表示.
2014年8月 8日 22:50 | # | 引用
游客 说：
【USC-2只能用存储两个字节的Unicode，超过这一范围的符号，它不能表示。】
这个说法是错误的。记事本的ucs-2存储方式类同于utf-16的存储方式。
2014年8月30日 23:30 | # | 引用
林锦 说：
引用chenjw的发言：
谢谢你的精彩分享。但有一个疑问：
“Unicode当然是一个很大的集合，现在的规模可以容纳100多万个符号”，我的初步理解是：Unicode既然是2字节的，那么按理说不会超过256*256个字符才对。这里的“100多万个符号”个中来由，可否细谈下？
Unicode的编码空间从U+0000到U+10FFFF，共有1,112,064个码位（code point）可用来映射字符. Unicode的编码空间可以划分为17个平面（plane），每个平面包含216（65,536）个码位。
17个平面的码位可表示为从U+xx0000到U+xxFFFF,其中xx表示十六进制值从0016到1016，共计17个平面。（Plane 0,1,2,….9,a,b,c,d,e,f,10）
第一个平面称为基本多语言平面（Basic Multilingual Plane, BMP），或称第零平面（Plane 0）。其他平面称为辅助平面（Supplementary Planes）。
基本多语言平面内，从U+D800到U+DFFF之间的码位区段是永久保留不映射到Unicode字符。UTF-16就利用保留下来的0xD800-0xDFFF区段的码位来对辅助平面的字符的码位进行编码。
2014年9月 5日 09:43 | # | 引用
淘鱼 说：
好文章就是好文章，都过了这么多年，我不记得了还是来找这篇文章看看。07年到14年
2014年9月12日 22:33 | # | 引用
goldenshaw 说：
最近在写编码方面的一个系列，搜到这里来了，感觉文中对Unicode及UTF-8这两个不同层面还是没说透，可参考我已经写好的一些http://my.oschina.net/goldenshaw/blog?catalog=536953，讲得比较详细。
另：文中说记事本用的所谓Unicode是UCS-2，其实早就应该是UTF-16了，至少我的系统里已经是UTF-16，而不是什么UCS-2，UCS-2只有两字节，根本无法保存U+FFFF以上码点的字符。
2014年9月15日 17:05 | # | 引用
九地之方 说：
嗯，虽然有些名词概念讲的不是很清楚，但通俗易懂，还算不错。
其实博主着重过的语句主要是讲字符集和字符编码关系，例如：“UTF-8是Unicode的实现方式之一”这句话，Unicode就是字符集，它规定一个字符对应的编码，比如博主说的“严”对应的编码是4E25。而UTF-8是字符编码，它规定在内存中应该以怎样的方式来存储4E25，类似的对应Unicode字符集的字符编码还有UTF-16等。
最后补充下博主说的大端序（BE）和小端序（LE）：每个字节内的比特位不会受大端和小端的影响，例如20H，在大端和小端中的内存顺序都是00100000。
2014年10月 5日 18:32 | # | 引用
Ruyi 说：
总结的太好了，节省了好多时间，非常感谢你！
2014年11月11日 15:55 | # | 引用
Victor 说：
引用ChanneW的发言：
可是，以ANSI方式保存的文本文档也能正常显示中文啊~
ANSI（注意拼写不是ASCII）并不是“一种”编码，而是“多种”编码的统称。在简体中文Windows上，ANSI指GBK编码；在繁体中文Windows上，ANSI指Big5编码；在英文Windows上，ANSI指cp437编码。
2014年11月29日 21:53 | # | 引用
jack 说：
如果UTF8无BOM的情况下，程序应如何识别呢？
2014年12月14日 18:34 | # | 引用
yanhaijing 说：
正需要
2014年12月17日 14:26 | # | 引用
monklof 说：
阮一峰老是说：

UTF-8的编码规则很简单，只有二条：
1）对于单字节的符号，字节的第一位设为0，后面7位为这个符号的unicode码。因此对于英语字母，UTF-8编码和ASCII码是相同的。
2）对于n字节的符号（n>1），第一个字节的前n位都设为1，第n+1位设为0，后面字节的前两位一律设为10。剩下的没有提及的二进制位，全部为这个符号的unicode码。
其中第2点，对于n字节的符号的理解是不是有偏差呢？
再看具体的编码：

Unicode符号范围 | UTF-8编码方式
(十六进制) | （二进制）
——————–+———————————————
0000 0000-0000 007F | 0xxxxxxx
0000 0080-0000 07FF | 110xxxxx 10xxxxxx
0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

其中Unicode 0080~07FF段 和 Unicode 0800~FFFF段都是两个字节，却不适用于第2)条 规则的。
2015年1月17日 15:16 | # | 引用
xinwendashibaike 说：
就像它的名字都表示的
改成
就像它的名字所表示的
2015年1月20日 15:18 | # | 引用
许湘涵 说：
很不错 好文章就是解惑有启发
2015年1月20日 17:28 | # | 引用
扬空 说：
醍醐灌顶
2015年1月26日 16:22 | # | 引用
胡晓晓 说：
还没看完就赶紧过来留言了，感谢博主，这就是我关心的问题，哈哈，给你个赞。
2015年3月19日 15:37 | # | 引用
Ray 说：
写的太好了.找了好多篇文章,峰哥的这篇深入浅出,让我止不住的想盲目膜拜一下.
2015年4月 7日 21:32 | # | 引用
mihooke 说：
嗯！Comments ，wonderfully！
2015年4月24日 12:17 | # | 引用
CiBai 说：
对我的帮助很大。。谢谢你。。。
2015年4月30日 23:50 | # | 引用
朱国伟 说：
你好， 请教一个问题。 已让我寝食难安好几天了。如下所示：
mysql会话中执行status：
Server characterset: latin1
Db characterset: latin1
Client characterset: latin1
Conn. characterset: latin1
表结构：
CREATE TABLE t3 (
data varchar(10) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=latin1
mysql> insert into t3 select ‘严’;
mysql> select data,hex(data) from t3;
+——+———–+
| data | hex(data) |
+——+———–+
| 严 | E4B8A5 |
+——+———–+
奇怪！ 不是latin1吗？怎么和utf8没有区别呢？
2015年5月 5日 21:27 | # | 引用
icesnow 说：
我也正在做一个编码的转换，请问如何将ansi编码转换成utf-8编码呢？
我曾经试着手动把unicode编码转换为Utf-8编码就是简单地遍历所有的字节数组，然后把0和1删除。不知道这样做对吗？
现在问题是怎么把ansi编码转成utf-8呢？
或者把ansi编码转成完全是字节数组的十六进制表示？
2015年5月20日 14:18 | # | 引用
chengbapi 说：
原文：
Unicode符号范围 | UTF-8编码方式
(十六进制) | （二进制）
——————–+———————————————
0000 0000-0000 007F | 0xxxxxxx
0000 0080-0000 07FF | 110xxxxx 10xxxxxx
0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
最后一行应该是 0001 0000-001F FFFF
2015年5月22日 17:20 | # | 引用
您的大名 说：
“UTF-8最大的一个特点，就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号”
应该是1~6个字节
2015年6月24日 05:25 | # | 引用
OnePiece 说：
请允许我叫你阮兄，哈哈，虽然我才大一计算机专业的学生，不过很喜欢看阮兄你的文章
2015年9月 5日 15:19 | # | 引用
晓薇 说：
unicode编码转utf8编码js实现，代码感觉写的不是很好，看到可以简化一下，
var unicodeToUTF8 = function(unicode) {
if(unicode >= 0x00000000 && unicode return unicode;
}
else if(unicode >= 0x00000080 && unicode var r1 = (((unicode & 0x7C0) >> 6)|0xC0) var r2 = (unicode & 0x03F)|0x80;
return r1 | r2;
}
else if(unicode >= 0x00000800 && unicode var r1 = (((unicode & 0xF000) >> 12)|0xE0) var r2 = (((unicode & 0x0FC0) >> 6)|0x80) var r3 = ((unicode & 0x003F)|0x80);
return r1 | r2 | r3;
}
else if(unicode >= 0x00010000 && unicode var r1 = (((unicode & 0x1C0000) >> 18)|0xE0) var r2 = (((unicode & 0x03F000) >> 12)|0x80) var r3 = (((unicode & 0x000FC0) >> 6)|0x80) var r4 = ((unicode & 0x00003F)|0x80);
return r1 | r2 | r3 | r4;
}
else {
return false;
}
}
2015年10月12日 17:51 | # | 引用
杨杰 说：
写的真的是通俗易懂，深入浅出，很让我这样的小白受益啊。感谢感谢
2015年11月 5日 17:58 | # | 引用
Jason 说：
“EF BB BF” 这个是windows的text editor添加的BOM，用其他的编辑器不一定会出现。
2015年11月 6日 14:49 | # | 引用
hoho 说：
已知”严”的unicode是4E25（100111000100101），根据上表，可以发现4E25处在第三行的范围内（0000 0800-0000 FFFF）这个是啥意思？怎么对应起来的？
2015年12月27日 14:18 | # | 引用
jingmi 说：
感谢作者的讲解，通俗易懂！看过明白很多。
2016年1月 8日 15:59 | # | 引用
wier 说：
引用柚子的发言：
是的，我也有这个疑问，能否请教楼主，望来信告知！[email protected]
统一码的编码方式与ISO 10646的通用字符集概念相对应。目前实际应用的统一码版本对应于UCS-2，使用16位的编码空间。也就是每个字符占用2个字节。这样理论上一共最多可以表示216（即65536）个字符。基本满足各种语言的使用。实际上当前版本的统一码并未完全使用这16位编码，而是保留了大量空间以作为特殊使用或将来扩展。
上述16位统一码字符构成基本多文种平面。最新（但未实际广泛使用）的统一码版本定义了16个辅助平面，两者合起来至少需要占据21位的编码空间，比3字节略少。但事实上辅助平面字符仍然占用4字节编码空间，与UCS-4保持一致。未来版本会扩充到ISO 10646-1实现级别3，即涵盖UCS-4的所有字符。UCS-4是一个更大的尚未填充完全的31位字符集，加上恒为0的首位，共需占据32位，即4字节。理论上最多能表示231个字符，完全可以涵盖一切语言所用的符号。
基本多文种平面的字符的编码为U+hhhh，其中每个h代表一个十六进制数字，与UCS-2编码完全相同。而其对应的4字节UCS-4编码后两个字节一致，前两个字节则所有位均为0。
关于统一码和ISO 10646及UCS的详细关系，见通用字符集。
维基百科上，有辅助平面字符
2016年1月14日 14:38 | # | 引用
奥丁1号 说：
通俗易懂
2016年2月17日 10:31 | # | 引用
刘晋霞 说：
受益匪浅
2016年2月22日 11:49 | # | 引用
心声 说：
您好，非常感谢，真的是通俗易懂，果然是大神
发现文章中有个地方写差了：
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
应该是：
0001 0000-001F FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
再次感谢。
2016年3月12日 13:21 | # | 引用
sigh 说：
文中

Unicode符号范围(十六进制) | UTF-8编码方式（二进制）
--------------------|---------------------------------------------
0000 0000 - 0000 007F | 0xxxxxxx
0000 0080 - 0000 07FF | 110xxxxx 10xxxxxx
0000 0800 - 0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000 - 0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

的最后一行应该为

Unicode符号范围(十六进制) | UTF-8编码方式（二进制）
--------------------|---------------------------------------------
0000 0000 - 0000 007F | 0xxxxxxx
0000 0080 - 0000 07FF | 110xxxxx 10xxxxxx
0000 0800 - 0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000 - 001F FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

2016年3月20日 16:42 | # | 引用
kiscms 说：
1、Unicode符号范围的最大值为什么是 0X10FFFF ？
2、0X10FFFF 的二进制是 00010000 11111111 11111111 ，很明显它是三个字节的，那么对应转成utf8的规则就是1110xxxx 10xxxxxx 10xxxxxx ，可是为什么文中要对应成 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx，我想知道，这张表是按什么规律生成的？
2016年4月14日 15:49 | # | 引用
Zack 说：
清晰，易懂。
2016年4月24日 21:39 | # | 引用
Lemon 说：
讲得简洁易懂，棒
2016年7月10日 12:50 | # | 引用
张冬冬 说：
感谢博主！最近在解决java用jni调用C++中的一些编码方式问题，这篇文章深入浅出、讲解得清晰又易懂！帮了我大忙了，又学了些知识
2016年8月 3日 19:46 | # | 引用
Neo 说：
真难想象博主在07年就整理出这详尽的计算机文档, 在零散的互联网知识里面你的 Blog最能激发我认真阅读的兴趣! :)
2016年8月27日 23:40 | # | 引用
博主崇拜者 说：
经典，通俗易懂，条例清晰。
2016年10月11日 17:41 | # | 引用
博主崇拜者 说：
好的文章，十年后有人看了都会忍不住回复。
2016年10月11日 17:42 | # | 引用
alias 说：
文章通俗易懂，赞
2017年1月18日 17:59 | # | 引用
--宋宋-- 说：
知识果然不易过时，收藏~~
2017年2月 8日 10:28 | # | 引用
Weiting 说：
非常有用的文章!! 謝謝你~~
2017年3月22日 17:47 | # | 引用
伯格 说：
老师好，下面这句话我应该怎么理解呢？
《这里就有两个严重的问题，第一个问题是，如何才能区别Unicode和ASCII？计算机怎么知道三个字节表示一个符号，而不是分别表示三个符号呢？》
既然不同的编码会用不同的编码解读，那么怎么会出现不能区分Unicode和ASCII的问题？我用ASCII解读不就可以了吗？
所以我太懂这个问题的怎么出现的？
2017年5月16日 17:56 | # | 引用
Asun 说：
看过老师很多文章，每一篇都是好文，感谢老师分享
2017年5月22日 15:46 | # | 引用
chappie 说：
引用伯格的发言：
老师好，下面这句话我应该怎么理解呢？
《这里就有两个严重的问题，第一个问题是，如何才能区别Unicode和ASCII？计算机怎么知道三个字节表示一个符号，而不是分别表示三个符号呢？》
既然不同的编码会用不同的编码解读，那么怎么会出现不能区分Unicode和ASCII的问题？我用ASCII解读不就可以了吗？
所以我太懂这个问题的怎么出现的？
用unicode编码的文件，所有的字符都用两个字节编码，ASCII也是,所以不会存在这个区分的问题
2017年8月17日 16:34 | # | 引用
Jixuan Cheng 说：
你太有教育人的天賦了。我現在編程有不明白的地方，如果是基礎的不理解，就找你的網來讀！都能明白！真棒！謝謝
2017年8月20日 00:21 | # | 引用
mccasey 说：
参考这个utf8编码对照表更清晰，来自https://en.wikipedia.org/wiki/UTF-8
Number Bit for first last
of bytes code points code points code points Byte 1 Byte 2 Byte 3 Byte 4
1 7 U+0000 U+007F 0xxxxxxx
2 11 U+0080 U+07FF 110xxxxx 10xxxxxx
3 16 U+0800 U+FFFF 1110xxxx 10xxxxxx 10xxxxxx
4 21 U+10000 U+10FFFF 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
2017年8月23日 14:22 | # | 引用
hk4fun 说：
http://www.cnblogs.com/leesf456/p/5317574.html
2017年8月25日 01:40 | # | 引用
刘江龙 说：
读了你很多文章了，这篇也有收获。 这个例子做了一个unicode到UTF-8字符集的掩码运算，mark到这里备忘。
汉字 严的 unicode码点 4E25
0100 1110 0010 0101
1110 xxxx 10xx xxxx 10xx xxxx
1110 0100 1011 1000 1010 0101
2017年8月31日 20:38 | # | 引用
汗青 说：
谢谢分享，真的很感谢，愿意分享的自己知识的人都是好样的！
2017年9月 7日 10:44 | # | 引用
wsj 说：
1,
ascii码由美国人发明，长度为一个字节，8个二进制，最长表示256个字符，
标准的ascii为128个，前面一个bit为0，用后面7位表示128个ascii码。
2,
为了兼容世界所有字符，重新编了一套Unicode，每个符号给予独一无二的编码，
现在可容纳100多万字符，这就意味着Unicode的编码变得特别多，也就不可能用1个
字节表示ASCII吗，因为解码的时候所有比特连在一起，会将你本来用来表示ascii码的
一个字节混淆（因为unicode编码太多，此ascii的编码可能与Unicode某个编码中的某
一段重复）;所以必须加长用来表示ascii的编码，以进行区别，但这就带来一个浪费内
存的问题。
3,
所以出现了utf8,它用前N+1个比特表示它的长度N（除了单字节是用一个0比特表示,这时
的utf8编码与ascii编码一致，都是一个字节）,后面的编码直接从Unicode编码里面拿。所以它
不是全新的编码，是Unicode的一种实现方式，相比而言节省了内存（尤其是在以英文居多的时候）。
2017年10月 4日 11:46 | # | 引用
wyq 说：
在这篇文章刚好十年的时候看到了。。。
2017年10月28日 18:39 | # | 引用
xxx 说：
10 year anni
2017年10月28日 22:24 | # | 引用
HeroTimor 说：
十年后来看一下，当时阮哥的博客略显青涩哦。
2017年10月30日 09:40 | # | 引用
noans 说：
引用心声的发言：
您好，非常感谢，真的是通俗易懂，果然是大神
发现文章中有个地方写差了：
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
应该是：
0001 0000-001F FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
再次感谢。
UTF-8的最大值之所以是 10FFFF 而不是 1FFFFF 是因为Unicode的范围是 U+0-10FFFF
下面的链接是Unicode的范围设置原因讨论的帖子
http://unicode.org/mail-arch/unicode-ml/Archives-Old/UML021/0881.html
2017年11月24日 10:48 | # | 引用
小张 说：
每个字符在Unicode里面的位置是一定的，为什么不能直接使用这个位置进行二进制存储呢，也能做到动态大小存储吧？
2018年4月10日 20:43 | # | 引用
会飞小超人 说：
最近在找字符编码的文章，看了好几篇，果然还是阮老师的最清晰易懂！
2018年5月28日 16:54 | # | 引用
我要发表看法
您的留言 （HTML标签部分可用）

您的大名：

«-必填
电子邮件：

«-必填，不公开
个人网址：

«-我信任你，不会填写广告链接
记住个人信息？
发表 «- 点击按钮
微博 | 推特 | GitHub2018 © 我的邮件 |