字符(Character)是各种文字和符号的总称,包括各国家文字、标点符号、图形符号、数字等
字符集(Character set)是多个字符的集合
字符集包括:ASCII字符集、GB2312字符集、GB18030字符集、Unicode字符集等
ASCII编码是1个字节,而Unicode编码通常是2个字节。
UTF-8是Unicode的实现方式之一,UTF-8是它是一种变长的编码方式,可以是1,2,3个字节
了解更多请看故事:ascii和unicode以及utf-8的起源
python3中两种字符串类型:
str : unicode的呈现形式
bytes :字节类型,互联网上数据的都是以二进制的方式(字节类型)传输的
使用方法:
python2中字符串有两种类型
Python2中普通字符串实际上就是已经编码(非Unicode)的字节字符串。
python2 中定义字符串的时候,会自动将字符串转换为合适编码的字节字符串,比如中文:自动转换为utf-8编码的字节字符串
看下面的例子:
>>> a = "达内科技" #如此定义字符串的时候,其为字节类型
>>> a '\xe4\xbc\xa0\xe6\x99\xba\xe6\x92\xad\xe5\xae\xa2'
>>> type(a) <type 'str'>
上面的这种定义和在字符串前面加上b的效果一样
>>> c = b"达内科技"
>>> c
'\xe4\xbc\xa0\xe6\x99\xba\xe6\x92\xad\xe5\xae\xa2'
>>> type(c)
<type 'str'>
>>> c.decode("utf-8")
u'\u4f20\u667a\u64ad\u5ba2'
由于a已经是字节类型,所以只能对其进行解码,转化为str类型
>>> a.encode("utf-8")
Traceback
(most recent call last): File "" , line 1, in <module>
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe4 in position 0: ordinal not in range(128)
>>> a.decode("utf-8")
u'\u4f20\u667a\u64ad\u5ba2'
如果需要定义unicode字符串,即非字节类型的字符串的时候需要在前面加上u
>>> b = u"达内科技"
>>> b u'\u4f20\u667a\u64ad\u5ba2'
>>> type(b)
<type 'unicode'>
>>> b.encode("utf-8") '\xe4\xbc\xa0\xe6\x99\xba\xe6\x92\xad\xe5\xae\xa2'
字节类型通过decode转化为unicode类型
unciode类型通过encode方法转化为字节类型
方法的使用和python3相同,但是在方法中默认的编解码方式为ascii,对中文需要手动指定为utf-8
>>> b
u'\u4f20\u667a\u64ad\u5ba2'
>>> b.encode()
Traceback
(most recent call last): File "" , line 1, in <module>
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-3: ordinal not in range(128)
>>> b.encode("utf-8") '\xe4\xbc\xa0\xe6\x99\xba\xe6\x92\xad\xe5\xae\xa2'
>