Python编码的那些事儿

一、ASCII 码
ASCII 码 表示 127 个英文字符
每个中文需要使用2个字节来编码,中文编码的规则 —— GB2312
由于不同国家有不同的编码规则,如日本,韩国都使用各自国家的编码规则,在多语言混用的场合会出现混乱。

二、Unicode 码
Unicode 用来把所有语言都统一到一套编码里,这样就不会再有乱码问题了。Unicode
通常用两个字节编码(有的也用四个字节),而 ASCII 码通常用一个字节字节。ASCII 码转换成 Unicode 在前面一个字节补 0

三、UTF-8 码
UTF-8 编码把一个 Unicode 字符根据不同的数字大小编码成 1-6 个字节,常用的英文字母被编码成 1 个字节,汉字通常是 3 个字节,只有很生僻的字符才会被编码成 4-6 个字节。
如果你要传输的文本包含大量英文字符,用 UTF-8 编码就能节省空间。
UTF-8 的一个好处在于,原有的 ASCII 的编码可以在 UTF-8 下继续工作。

四、总结
搞清楚了 ASCII、Unicode 和 UTF-8 的关系,我们就可以总结一下现在计算机系统通用的字符编码工作方式:
在计算机内存中,统一使用 Unicode 编码,当需要保存到硬盘或者需要传输的时候,就转换为 UTF-8 编码。
例如:
用记事本编辑的时候,从文件读取的 UTF-8 字符被转换为 Unicode 字符到内存里,编辑完成后,保存的时候再把 Unicode 转换为 UTF-8 保存到文件:rw-file-utf-8。
浏览网页的时候,服务器会把动态生成的 Unicode 内容转换为 UTF-8 再传输到浏览器:web-utf-8。
所以你看到很多网页的源码上会有类似的信息,表示该网页正是用的 UTF-8 编码。
首先要搞清楚, 字符串在 Python 内部的表示是 unicode 编码 , 因此 , 在做编码转换时 ,通常需要以 以 unicode 作为中间编码,即先将其他编码的字符串解码(decode)成 unicode,
再从 unicode 编码(encode)成另一种编码。

1.decode: 其它码–>unicode
decode 的作用是将其他编码的字符串转换成 unicode 编码,如 str1.decode(‘gb2312’),表示将 gb2312 编码的字符串转换成 unicode 编码。

2.encode:unicode–> 其它码
encode 的作用是将 unicode 编码转换成其他编码的字符串,如 str2.encode(‘gb2312’),表
示将 unicode 编码的字符串转换成 gb2312 编码。

你可能感兴趣的:(计算机基础)