看透“0”、“1”逻辑,轻松解决Python中文乱码

Python中关于“中文乱码”的问题,现规整如下,并统一回答

同学问:
jacky:我在爬取XX网站信息的时候,中文怎么总是显示的乱码?
jacky:UTF-8与GBK到底是个啥?
jacky:我用的是Mac系统,网上说Python3中默认的编码是UTF-8,可我显示中文时怎么还是乱码?

(一)逻辑导图

Created with Raphaël 2.1.0 Python中为什么会出现乱码? 解码与编码方式不一致 解码与编码具体方式有哪些? 实质是什么? Python乱码问题总结

(二)基础铺垫

1.计算机的底层逻辑

Created with Raphaël 2.1.0 生活、交易、娱乐、科学研究,都离不开计算机(广义)。 无所不能的计算机是怎样实现其功能的? 通过计算机语言编码实现的(Python就是其中之一)。 那么语言编码又是怎样构成的? 计算机语言是由字母,字符和数字组合而成的, 不同的排列组合,构成了不同的语言要素, 其排列组合的规则就是编码语言的语法 接下来,我们要探讨,这些规则是如何制定的? 水印:@数据分析-jacky 通过0和1的不同组合, 若干个0和1,若干种组合,我们制定了编码语言的不同规则 为什么只是0和1的组合? 这里的0和1,也只是辅助我们标记计算机规则的 标记的是什么?标记电路最底层的两种状态:通电和不通电 标记电路最底层的两种状态:通电和不通电 计算机底层就是电路,现阶段,人类处理电路可能的办法只能是让它通电,或不通电。 人类是多么的伟大 仅用0和1,就构建了我们现在这个机器智能的世界

2.字符编码

计算机只认二进制的“0”和“1”

ASCII

  • 这个世界的规则就是谁发起,谁定规则。计算机是美国人发明的,在开发计算机的时候,美国人只考虑到了英文的兼容性,并没有考虑包括中文在内的其他语言。

  • 英语构成计算机最底层的元素就是:26个英语字母,加上特殊字符,加上数字。

(1)发明计算机时,字符编码使用的是ascii码,包括Python2默认的字符编码就是ascii码(Python3默认使用的是UTF-8,详见下文);

(2)ascii码为1字节(8位)

  • 8位二进制(例如:01010101)有多少种排列组合? 28 =256种可能

  • 对于英文来说,8位二进制足够用了,所有python2还默认ascii码也不足为奇。

Unicode(万国码)

  • 全球化和科技共享,让计算机的开发者认识到,要开发一种各国语言都能兼容的编码,就有了unicode,也叫万国码。

(1)unicode 包含各国所有的语言文件和符号,对于中文来说,8位已经不够用了,unicode规定:一个中文汉字最少用3个字节来表示。

  • 一个字节是8位,1byte=8bit=01010101,一个汉字最少有2的24次方种组合

(2)Python中可以用bin函数将十进制转化为二进制

bin(82)
'0b1010010'  #b表示的R是二进制

看透“0”、“1”逻辑,轻松解决Python中文乱码_第1张图片

(3)万国码的弊端

  • 占内存和硬盘

    • 用英文字母R举例:如何用ascii码表示为’0b1010010’,如何用万国码表示为
      ‘000000000b1010010’,因为万国码,最少是2个字节,与ascii相比,万国码白白浪费了1个字节的空间。
  • 针对unicode的弊端,如今的开发者,又对unicode进行了精简,开发了UTF-8编码

(4)特别说明(读完下文在回来看,就好理解了)

  • Unicode是Python的内部编码,也是编码和解码的中间编码。

UTF-8编码

  • UTF-8编码是对unicode 的一个再加工
    • 对unicode 的编码进行了划分和整理,用8位的就划分为用8位的,不额外在用空间
  • 规则:
    • 英文:8位
    • 欧洲:16位
    • 中文:24位
  • 特别说明:在Unicode编码方式下,才存在 utf-8,utf-16,utf-32的编码方式,这句话对于解释下文的解码与编码特别重要

GBK编码

UTF-8 GBK(@数据分析-jacky)
外国人开发 中国人开发
外国人看不会乱码 外国人看会乱码
一个汉字占3个字节 一个汉字占2个字节

(三)编码与解码

1、基础内容

编码:将字符转化为二进制字节的过程
解码:将二进制字节转化为字符的过程

Created with Raphaël 2.1.0 字符 字符 二进制字节 二进制字节 编码(字符转化为字节的过程) 可逆过程 解码
Created with Raphaël 2.1.0 UTF-8|GBK UTF-8|GBK Unicode中间编码 Unicode中间编码 encode 编码 可逆 decode 解码

2、解码和编码的实现方法

(1) 基本逻辑

字符串在Python内部的表示是Unicode编码。
因此在做编码转换时,通常需要以Unicode作为中间编码,即先将其他编码的字符串解码(decode)成Unicode,再从Unicode编码(encode)成另一种编码。

(2) encode与decode

decode的作用是将其他编码的字符串转换成Unicode编码,如str1.decode(‘gbk’),表示将gbk编码的字符串str1转换成Unicode编码;
encode的作用是将Unicode编码转换成其他编码的字符串,如str2.encode(‘UTF-8’),表示将Unicode编码的字符串str2转换成UTF-8编码

因此,使用Python转码的时候一定要先搞明白,字符串str是什么编码,然后decode成Unicode,然后再encode成其他编码。

特别注意:

  • 如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

  • 用非unicode编码形式的string来encode也会报错

(3)支持字符串类型的两种数据模型

python编码有两种数据模型来支持字符串类型 :

  • 一种是str ;
  • 一种是unicode

(四)解决Python乱码的思路

Created with Raphaël 2.1.0 乱码? Unicode中转码 我们需要的编码方式

代码的实现方式:

decode()->unicode->encode转化为需要的格式

实战案例:

content为从文件中读取的gbk编码的内容,我们通过以上方法输出该内容。

content.decode('gbk').encode('utf-8') 
  • decode方法将content内容转为unicode格式
  • encode方法将unicode格式的数据转化为自己所需要的编码方式。

(五)数据科学领域需注意的问题

作为数据分析(挖掘)师,python与数据库的关联是最常见的,我们用python连接数据库后,将数据写到数据库里的中文有时会是乱码

解决办法是在python文件中加上这样几句话:

conn.set_character_set('utf8')
cur.execute('SET CHARACTER SET utf8')
cur.execute('SET character_set_connection=utf8')
  • conn是数据库的connection,cur是connection的光标cursor

你可能感兴趣的:(python)