Python编程进阶：网络编程

廖雪峰
由于你的电脑上可能不止浏览器，还有QQ、Skype、Dropbox、邮件客户端等，不同的程序连接的别的计算机也会不同，所以，更确切地说，网络通信是两台计算机上的两个进程之间的通信。比如，浏览器进程和新浪服务器上的某个Web服务进程在通信，而QQ进程是和腾讯的某个服务器上的某个进程在通信。

TCP/IP简介

通信的时候，双方必须知道对方的标识，好比发邮件必须知道对方的邮件地址。互联网上每个计算机的唯一标识就是IP地址，类似123.123.123.123。如果一台计算机同时接入到两个或更多的网络，比如路由器，它就会有两个或多个IP地址，所以，IP地址对应的实际上是计算机的网络接口，通常是网卡。
TCP协议则是建立在IP协议之上的。TCP协议负责在两台计算机之间建立可靠连接，保证数据包按顺序到达。TCP协议会通过握手建立连接，然后，对每个IP包编号，确保对方按顺序收到，如果包丢掉了，就自动重发。

端口有什么作用？在两台计算机通信时，只发IP地址是不够的，因为同一台计算机上跑着多个网络程序。一个TCP报文来了之后，到底是交给浏览器还是QQ，就需要端口号来区分。每个网络程序都向操作系统申请唯一的端口号，这样，两个进程在两台计算机之间建立网络连接就需要各自的IP地址和各自的端口号。

一个进程也可能同时与多个计算机建立链接，因此它会申请很多端口。

TCP编程

Socket是网络编程的一个抽象概念。通常我们用一个Socket表示“打开了一个网络链接”，而打开一个Socket需要知道目标计算机的IP地址和端口号，再指定协议类型即可。

客户端

大多数连接都是可靠的TCP连接。创建TCP连接时，主动发起连接的叫客户端，被动响应连接的叫服务器。

举个例子，当我们在浏览器中访问新浪时，我们自己的计算机就是客户端，浏览器会主动向新浪的服务器发起连接。如果一切顺利，新浪的服务器接受了我们的连接，一个TCP连接就建立起来的，后面的通信就是发送网页内容了。

import socket

s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
# AF_INET指定IPv4协议，IPv6用AF_INET6
# SOCK_STREAM指定面向流的TCP协议
s.connect(('www.sina.com',80)) # 注意参数是一个tuple
s.send(b'GET / HTTP/1.1\r\nHost:www.sina.com.cn\r\nConnection:close\r\n\r\n')
# TCP连接创建的是双向通道，双方都可以同时给对方发数据。但是谁先发谁后发，怎么协调，要根据具体的协议来决定。例如，HTTP协议规定客户端必须先发请求给服务器，服务器收到后才发数据给客户端。

#发送的文本格式必须符合HTTP标准，如果格式没问题，接下来就可以接收新浪服务器返回的数据了：
buffer=[]
while True:
    d=s.recv(1024) #方法recv(max)一次最多接收指定的字节数
    if d:
        buffer.append(d)
    else:
        break
data=b''.join(buffer)
s.close()

# 接收到的数据包括HTTP头和网页本身，我们只需要把HTTP头和网页分离一下，把HTTP头打印出来，网页内容保存到文件：
header,html=data.split(b'\r\n\r\n',1)  #分割一次
print(header)
print(header.decode('utf-8'))
with open('sina.html','wb') as f:
    f.write(html)
 

data: b'HTTP/1.1 302 Moved Temporarily\r\nServer: nginx\r\nDate: Sun, 27 Oct 2019 02:46:41 GMT\r\nContent-Type: text/html\r\nContent-Length: 154\r\nConnection: close\r\nLocation: https://www.sina.com.cn/\r\nX-Via-CDN: f=edge,s=cnc.guangzhou.ha2ts4.41.nb.sinaedge.com,c=210.22.22.131;\r\nX-Via-Edge: 1572144401342831616d2f0065a70702863d4\r\n\r\n（分割点在这儿）\r\n\r\n\r\n
302 Found\r\n
nginx\r\n\r\n\r\n'
header: b'HTTP/1.1 302 Moved Temporarily\r\nServer: nginx\r\nDate: Sun, 27 Oct 2019 02:46:41 GMT\r\nContent-Type: text/html\r\nContent-Length: 154\r\nConnection: close\r\nLocation: https://www.sina.com.cn/\r\nX-Via-CDN: f=edge,s=cnc.guangzhou.ha2ts4.41.nb.sinaedge.com,c=210.22.22.131;\r\nX-Via-Edge: 1572144401342831616d2f0065a70702863d4'
html: b'\r\n\r\n\r\n
302 Found\r\n
nginx\r\n\r\n\r\n'
HTTP/1.1 302 Moved Temporarily
Server: nginx
Date: Sun, 27 Oct 2019 02:46:41 GMT
Content-Type: text/html
Content-Length: 154
Connection: close
Location: https://www.sina.com.cn/
X-Via-CDN: f=edge,s=cnc.guangzhou.ha2ts4.41.nb.sinaedge.com,c=210.22.22.131;
X-Via-Edge: 1572144401342831616d2f0065a70702863d4

客户端要主动发起TCP连接，必须知道服务器的IP地址和端口号。新浪网站的IP地址可以用域名www.sina.com.cn自动转换到IP地址，但是怎么知道新浪服务器的端口号呢？

答案是作为服务器，提供什么样的服务，端口号就必须固定下来。由于我们想要访问网页，因此新浪提供网页服务的服务器必须把端口号固定在80端口，因为80端口是Web服务的标准端口。其他服务都有对应的标准端口号，例如SMTP服务是25端口，FTP服务是21端口，等等。端口号小于1024的是Internet标准服务的端口，端口号大于1024的，可以任意使用。

服务器

和客户端编程相比，服务器编程就要复杂一些。

服务器进程首先要绑定一个端口并监听来自其他客户端的连接。如果某个客户端连接过来了，服务器就与该客户端建立Socket连接，随后的通信就靠这个Socket连接了。

所以，服务器会打开固定端口（比如80）监听，每来一个客户端连接，就创建该Socket连接。由于服务器会有大量来自客户端的连接，所以，服务器要能够区分一个Socket连接是和哪个客户端绑定的。一个Socket依赖4项：服务器地址、服务器端口、客户端地址、客户端端口来唯一确定一个Socket。

但是服务器还需要同时响应多个客户端的请求，所以，每个连接都需要一个新的进程或者新的线程来处理，否则，服务器一次就只能服务一个客户端了。

我们来编写一个简单的服务器程序，它接收客户端连接，把客户端发过来的字符串加上Hello再发回去
我们要绑定监听的地址和端口。服务器可能有多块网卡，可以绑定到某一块网卡的IP地址上，也可以用0.0.0.0绑定到所有的网络地址，还可以用127.0.0.1绑定到本机地址。127.0.0.1是一个特殊的IP地址，表示本机地址，如果绑定到这个地址，客户端必须同时在本机运行才能连接，也就是说，外部的计算机无法连接进来。

服务器端：

import socket
import threading
import time

def tcplink(sock,addr):
    print("Accept new connnection from %s:%s" %addr)
    sock.send(b'Welcome!')
    while True:
        data=sock.recv(1024)
        time.sleep(1)
        if not data or data.decode('utf-8')=='exit':
            break
        sock.send(('Hello, %s' % data.decode('utf-8')).encode('utf-8'))
    sock.close()
    print('Connection from %s:%s closed.' % addr)

s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
# 端口号需要预先指定。因为我们写的这个服务不是标准服务，所以用9999这个端口号。请注意，小于1024的端口号必须要有管理员权限才能绑定：
s.bind(('127.0.0.1',9999))
s.listen(5) # 一次最多能连接5个，防止DoS攻击
print('waiting for connection...')
while True:
    sock,addr=s.accept()
    # 每个连接都必须创建新线程（或进程）来处理，否则，单线程在处理连接的过程中，无法接受其他客户端的连接：
    t=threading.Thread(target=tcplink,args=(sock,addr))
    t.start()

#accept()接受一个客户端的连接请求，并返回一个新的套接字。所谓“新的”就是说这个套接字与socket()返回的
# 用于监听和接受客户端的连接请求的套接字不是同一个套接字。与本次接受的客户端的通信是通过在这个新的套接字上发送和接收数据来完成的。

客户端：

import socket

s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect(('127.0.0.1',9999))
print(s.recv(1024).decode('utf-8'))

for data in [b'Michael',b'Tracy',b'Sarah']:
    s.send(data)
    print(s.recv(1024).decode('utf-8'))

s.send(b'exit')
s.close()

小结

用TCP协议进行Socket编程在Python中十分简单，对于客户端，要主动连接服务器的IP和指定端口，对于服务器，要首先监听指定端口，然后，对每一个新的连接，创建一个线程或进程来处理。通常，服务器程序会无限运行下去。

同一个端口，被一个Socket绑定了以后，就不能被别的Socket绑定了。

UDP编程

使用UDP协议时，不需要建立连接，只需要知道对方的IP地址和端口号，就可以直接发数据包。但是，能不能到达就不知道了。

虽然用UDP传输数据不可靠，但它的优点是和TCP比，速度快，对于不要求可靠到达的数据，就可以使用UDP协议。

服务器

不需要listen，直接接收来自任何客户端的数据

import socket
import threading
import time

s=socket.socket(socket.AF_INET,socket.SOCK_DGRAM)
s.bind(('127.0.0.1',9999))

print('Bind UDP on 9999...')
while True:
    data,addr=s.recvfrom(1024)
    print('received from %s:%s.' % addr)
    # print("what on hell is addr: %s" % addr)
    print("what on hell is data: %s" % data)
    s.sendto(b'Hello,%s' % data,addr)

    print("what on hell is addr: %s" % addr)
TypeError: not all arguments converted during string formatting

addr无法用%s匹配

Bind UDP on 9999...
received from 127.0.0.1:54965.
what on hell is data: b'Michael'
received from 127.0.0.1:54965.
what on hell is data: b'Tracy'
received from 127.0.0.1:54965.
what on hell is data: b'Sarah'

客户端

客户端使用UDP时，首先仍然创建基于UDP的Socket，然后，不需要调用connect()，直接通过sendto()给服务器发数据：

s = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
for data in [b'Michael', b'Tracy', b'Sarah']:
    # 发送数据:
    s.sendto(data, ('127.0.0.1', 9999))
    # 接收数据:
    print(s.recv(1024).decode('utf-8'))
s.close()

但是从服务器接收数据依旧调用recv()方法

小结

UDP的使用与TCP类似，但是不需要建立连接。此外，服务器绑定UDP端口和TCP端口互不冲突，也就是说，UDP的9999端口与TCP的9999端口可以各自绑定。