从输入一个网址到浏览器页面展示到底发生了什么

从输入一个网址到浏览器页面展示到底发生了什么

1. HTTP

解析URL

首先浏览器做的第一步工作就是解析URL,从而生产一个发送给服务器的请求信息。

URL是什么呢,见下图:

从输入一个网址到浏览器页面展示到底发生了什么_第1张图片

图中长长的URL实际上是请求服务器里的文件资源。

要是上图中的蓝色部分URL元素都省略可,那应该是请求哪个文件呢?

当没有路径名时,就代表访问根目录下事先设置的默认文件,也就是/index.html或者/default.html这些文件,这样就不会发生混乱了。

生成请求消息

对URL进行解析后,浏览器确定了Web服务器和文件名,接下来就是根据这些信息来生成HTTP请求消息了。

从输入一个网址到浏览器页面展示到底发生了什么_第2张图片

2. DNS

通过浏览器解析URL并生成HTTP消息后,需要委托操作系统将消息发送给Web服务器,但在发送前,还有一项工作需要完成,那就是查询服务器域名对应的IP地址,因为委托操作系统发送消息时,必须提供通信对象的IP地址。

比如我们打电话的时候,必须知道对方的电话号码,但由于电话号码难以记忆,所以通常我们会将对方的电话号码+姓名保存在通讯录里。

有一种服务器专门保存了Web服务器域名IP的对应关系,它就是DNS服务器

域名解析的工作流程

  1. 客户端首先会发出一个DNS请求,问www.server.comIP是什么,并发送给本地DNS服务器(也就是客户端的TCP/IP设置中填写的DNS服务器地址)。
  2. 本地域名服务器收到客户端的请求后,如果能在缓存里的表格找到www.server.com,则直接返回IP地址。如果没有,本地DNS会去问它的根域名服务器(根域名服务器是最高层次的,它不直接解析域名,但能指明一条道路)。
  3. 根DNS收到来自本地DNS的请求后,发现后置是.com,将.com顶级域名服务器的地址告诉本地DNS。
  4. 本地DNS收到顶级域名服务器的地址后,发起请求,询问顶级域名服务器www.server.com的IP地址。
  5. 顶级域名服务器给本地DNS 负责www.server.com区域的权威DNS服务器地址。
  6. 本地DNS于是转向问权威DNS服务器www.server.com对应的IP是什么,(server.com的权威DNS服务器是域名解析结果的原出处)。
  7. 权威DNS服务器查询后将对应的IP地址x.x.x.x告诉本地DNS。
  8. 本地DNS再将IP地址返回给客户端,客户端和目标建立连接。

至此,完成了DNS的解析过程:

从输入一个网址到浏览器页面展示到底发生了什么_第3张图片

DNS域名解析的过程就像我们日常生活中找人问路的过程类似,只指路不带路

那是不是每次解析域名都要经过这么多步骤呢?

当然不是了,还有缓存这个东西。浏览器会先看自身有没有对这个域名的缓存 ,如果有,就直接返回,如果没有,就去问操作系统,操作系统也会去看自己的缓存,如果有,就直接返回,如果没有,再去hosts文件看,也没有,才会去问本地DNS服务器。

3. 协议栈

通过DNS获取到IP后,就可以把HTTP的传输工作交给操作系统中的协议栈。

协议栈分为几个部分,分别承担不同的工作。上下关系是有一定的规则的,上面的部分会向下面的部分委托工作,下面的部分收到委托的工作并执行。

从输入一个网址到浏览器页面展示到底发生了什么_第4张图片

应用程序(浏览器)通过调用Socket库,来委托协议栈工作。协议栈的上半部分有两块,分别是负责收发数据的TCP和UDP协议,这两个传输协议会接收应用层的委托执行收发数据的操作。

协议栈的下面一半是用IP协议控制网络包收发操作,在互联网上传数据时,数据会被切分成一块块的网络包,而将网络包发送给对方的操作就是由IP负责的。

IP协议中还包括ICMP协议和ARP协议:

  • ICMP协议:用于告知网络包传送过程中产生的错误信息以及各种控制信息。
  • ARP协议:根据IP地址查询相应的以太网MAC地址。

IP下面的网卡驱动程序负责控制网卡硬件,而最下面的网卡则负责完成实际的收发操作,也就是对网线中的信号执行发送和接收操作。

4. TCP

HTTP是基于TCP协议传输的,所以在这我们先了解下TCP协议。

我们先看看TCP报文头部格式:

从输入一个网址到浏览器页面展示到底发生了什么_第5张图片

首先,源端口号目标端口号是必不可少的,如果没有这两个端口号,数据就不知道应该发送给哪个应用。

接下来有包的序号,这个是为了解决包乱序的问题。

还有确认号,目的是确认发出去对方是否收到,如果没有收到就重新发送,直到送达,解决丢包问题。

接下来还有一些标志位。例如 SYN是发起一个连接,ACK是回复,RST是重新连接,FIN是结束连接等。TCP是面向连接的,因而双方要维护连接的状态,这些带标志位的包的发送,会引起双方的状态变更。

还有一个重要的就是窗口大小。TCP要做流量控制,通信双方各声明一个窗口(缓存大小),标识自己当前能够处理的能力,别发送太快,处理不过来,也别发送太慢,等待时间长。

除了流量控制以外,TCP还会拥塞控制,网络通信是否阻塞,他无能为力,只能控制自己的发送速度。

TCP传输数据之前,要先三次握手建立连接,保证双方都有接收和发送的能力,具体过程见之前博客:TCP三次握手

TCP分割数据

如果HTTP请求消息比较长,超过了MSS的长度,这时TCP就需要把HTTP的数据拆解成一块块的数据发送,而不是一次性发送所有数据。

从输入一个网址到浏览器页面展示到底发生了什么_第6张图片

  • MTU:一个网络包的最大长度,以太网中一般为1500字节。
  • MSS:除去IP和TCP头部之后,一个网络包所能容纳的TCP数据的最大长度。

数据会被以MSS的长度为单位进行拆分,拆分出来的每一块数据都会被放进单独的网络包中,也就是在每个被拆分的数据加上TCP头信息,然后交给IP模块来发送数据。。

从输入一个网址到浏览器页面展示到底发生了什么_第7张图片

TCP报文生成

TCP协议会有两个端口,一个是浏览器监听的端口(通常是随机生成),一个是Web服务器监听的端口(HTTP默认端口号80,HTTPS默认端口号是443)。

在双方建立了连接之后,TCP报文中的数据部分就是存放HTTP头部+数据,组装好TCP报文后,交给下面的网络层处理,至此,网络包的报文如下:

从输入一个网址到浏览器页面展示到底发生了什么_第8张图片

5. IP

TCP模块在执行连接、收发、断开等各阶段操作时,都需要委托IP模块将数据封装成网络包发送给通信对象。

IP包头格式

我们先看看IP报文头部的格式:

从输入一个网址到浏览器页面展示到底发生了什么_第9张图片

在IP协议里面需要有源IP地址目标IP地址

  • 源IP地址,即是客户端输出的IP地址;
  • 目标IP地址,即通过DNS域名解析得到的Web服务器IP。

因为HTTP是经过TCP传输的,所以在IP包头的协议号,要填写06(十六进制),表示协议为TCP。

IP报文生成

至此,网络包的报文如下图:

从输入一个网址到浏览器页面展示到底发生了什么_第10张图片

6. MAC

生成IP头部之后,接下来网络包还需要在IP头部的前面加上MAC头部

MAC包头格式

MAC头部是以以太网使用的头部,它包含了接收方和发送方的MAC地址等信息。

从输入一个网址到浏览器页面展示到底发生了什么_第11张图片

在MAC包头里需要发送方MAC地址接收方目标MAC地址,用于两点之间的传输

一般在TCP/IP通信里,MAC包头的协议类型只使用:

  • 0800:IP协议
  • 0806:ARP协议

MAC发送方和接收方如何确认

发送方的MAC地址获取就比较简单了,MAC地址是在网卡生产时写入到ROM里的,只要将这个值读取出来写到MAC头部就可以了。

接收方的MAC地址就有点复杂了,只要告诉以太网对方的MAC地址,以太网就会帮我们把包发送过去,那么很显然这里应该填写对方的MAC地址。所以先得搞清楚应该把包发给谁,这个只要查一下路由表就知道了。在路由表中找到相匹配的条目,然后把包发送给Gateway列中的IP地址就可以了。

如何获取对方的MAC地址

不知道对方的MAC地址?不知道就喊呗。此时就需要ARP协议帮我们找到路由器的MAC地址。

从输入一个网址到浏览器页面展示到底发生了什么_第12张图片

ARP协议会在以太网中以广播的形式,对所有以太网的设备喊出,这个IP地址是谁的?请把你的MAC地址告诉我。

然后有人就会回答,这个IP地址是我的,我的MAC地址是XXXX。

如果对方和自己处于同一个子网中,那么就能通过上面的操作得到对方的MAC地址。然后,我们将这个MAC地址写入MAC头部,MAC头部就完成了。

公网服务器的MAC地址是如何获取呢?

在发送数据包时,如果目标主机不是本地局域网,填入的MAC地址是路由器,也就是把数据包转发给路由器,路由器一直转发下一个路由器,知道转发到目标主机的路由器,发现目标IP地址是自己局域网内的主机,就会ARP请求获取目标主机的MAC地址,,从而转发到这个服务器主机。

每次都要广播获取吗?

在后续,操作系统会把本次查询结果放到一块叫做ARP缓存的内存空间留着以后用,不过缓存的时间也就几分钟,也就是说,在发包时:

  • 先查询ARP缓存,如果其中已经保存了对方的MAC地址,就不需要发送ARP查询,直接使用ARP缓存中的地址。
  • 而当ARP缓存中不存在对方的MAC地址时,则发送ARP广播查询。

至此,网络包的报文如下图:

从输入一个网址到浏览器页面展示到底发生了什么_第13张图片

7. 网卡

网络包只是存放在内存中的一串二进制数字信息,没有办法直接发送给对方,因此,我们需要将数字信息转换为电信号,才能在网线上传输,也就是说,这才是真正的数据发送的过程。

负责执行这一操作的是网卡,要控制网卡还需要靠网卡驱动程序。网卡驱动获取网络包之后,会将其复制到网卡内的缓存区中,接着会在其开头加上报头和起始帧分界符,在末尾加上用于检测错误的帧校验序列。

从输入一个网址到浏览器页面展示到底发生了什么_第14张图片

  • 起始帧分界符是一个用来表示包起始位置的标记
  • 末尾的FCS(帧校验序列)用来检查包传输过程是否有损坏

最后网卡会将包转为电信号,通过网线发送出去。

8. 交换机

下面来看一下包是如何通过交换机的。交换机的设计是将网络包原样转发到目的地,交换机工作在MAC层,也称为二层网络设备(工作于OSI模型的第2层【数据链路层】)。

交换机的包接收操作

首先,电信号到达网线接口,交换机里的模块进行接收,接下来交换机里的模块将电信号转换为数字信号。然后通过包末尾的FCS校验错误,如果没问题则放入到缓冲区。但交换机的工作方式和网卡不同,

计算机的网卡本身具有MAC地址,并通过核对接收到的包的接收方MAC地址判断是不是发给自己的,如果不是发给自己的则丢弃;相对的,交换机的端口不核对接收方MAC地址,而是直接接收所有的包并存放到缓冲区中,因此,和网卡不同,交换机的端口不具有MAC地址。

将包放入缓冲区后,接下来需要查询一下这个包的接收方MAC地址是否已经在MAC地址表中有记录了,这个MAC地址 表主要包含两个信息:

  • 一个是设备的MAC地址
  • 另一个是该设备连接在交换机的哪个端口上

从输入一个网址到浏览器页面展示到底发生了什么_第15张图片

举个例子,如果收到的包的接收方 MAC 地址为 00-02-B3-1C-9C-F9,则与图中表中的第 3 行匹配,根据端口列的信息,可知这个地址位于 3 号端口上,然后就可以通过交换电路将包发送到相应的端口了。

所以,交换机根据 MAC 地址表查找 MAC 地址,然后将信号发送到相应的端口

当 MAC 地址表找不到指定的 MAC 地址会怎么样?

地址表中找不到指定的 MAC 地址。这可能是因为具有该地址的设备还没有向交换机发送过包,或者这个设备一段时间没有工作导致地址被从地址表中删除了。这种情况下,交换机无法判断应该把包转发到哪个端口,只能将包转发到除了源端口之外的所有端口上,无论该设备连接在哪个端口上都能收到这个包。这样做不会产生什么问题,因为以太网的设计本来就是将包发送到整个网络的,然后只有相应的接收者才接收包,而其他设备则会忽略这个包

此外,如果接收方 MAC 地址是一个广播地址,那么交换机会将包发送到除源端口之外的所有端口。

以下两个属于广播地址:

  • MAC 地址中的 FF:FF:FF:FF:FF:FF
  • IP 地址中的 255.255.255.255

9. 路由器

交换机与路由器的区别

网络包经过交换机之后,现在到达了路由器,并在此被转发到下一个路由器或目标设备。这一步转发的工作原理和交换机类似,也是通过查表判断包转发的目标。不过在具体的操作过程上,路由器和交换机是有区别的。

  • 因为路由器是基于 IP 设计的,俗称三层网络设备,路由器的各个端口都具有 MAC 地址和 IP 地址;
  • 交换机是基于以太网设计的,俗称二层网络设备,交换机的端口不具有 MAC 地址。

路由器基本原理

路由器的端口具有 MAC 地址,因此它就能够成为以太网的发送方和接收方;同时还具有 IP 地址,从这个意义上来说,它和计算机的网卡是一样的。当转发包时,首先路由器端口会接收发给自己的以太网包,然后路由表查询转发目标,再由相应的端口作为发送方将以太网包发送出去。

路由器的包接收操作

首先,电信号到达网线接口部分,路由器中的模块会将电信号转成数字信号,然后通过包末尾的 FCS 进行错误校验。

如果没问题则检查 MAC 头部中的接收方 MAC 地址,看看是不是发给自己的包,如果是就放到接收缓冲区中,否则就丢弃这个包。

总的来说,路由器的端口都具有 MAC 地址,只接收与自身地址匹配的包,遇到不匹配的包则直接丢弃。

查询路由表确定输出端口

完成包接收操作之后,路由器就会去掉包开头的 MAC 头部。

MAC 头部的作用就是将包送达路由器,其中的接收方 MAC 地址就是路由器端口的 MAC 地址。因此,当包到达路由器之后,MAC 头部的任务就完成了,于是 MAC 头部就会被丢弃。接下来,路由器会根据 MAC 头部后方的 IP 头部中的内容进行包的转发操作。

转发操作分为几个阶段,首先是查询路由表判断转发目标。

从输入一个网址到浏览器页面展示到底发生了什么_第16张图片

具体的工作流程根据上图,举个例子。

假设地址为 10.10.1.101 的计算机要向地址为 192.168.1.100 的服务器发送一个包,这个包先到达图中的路由器。

判断转发目标的第一步,就是根据包的接收方 IP 地址查询路由表中的目标地址栏,以找到相匹配的记录。

路由匹配和前面讲的一样,每个条目的子网掩码和 192.168.1.100 IP 做 & 与运算后,得到的结果与对应条目的目标地址进行匹配,如果匹配就会作为候选转发目标,如果不匹配就继续与下个条目进行路由匹配。

如第二条目的子网掩码 255.255.255.0192.168.1.100 IP 做 & 与运算后,得到结果是 192.168.1.0 ,这与第二条目的目标地址 192.168.1.0 匹配,该第二条目记录就会被作为转发目标。

实在找不到匹配路由时,就会选择默认路由,路由表中子网掩码为 0.0.0.0 的记录表示「默认路由」。

路由器的发送操作

接下来就会进入包的发送操作

首先,我们需要根据路由表的网关列判断对方的地址。

  • 如果网关是一个 IP 地址,则这个IP 地址就是我们要转发到的目标地址,还未抵达终点,还需继续需要路由器转发。
  • 如果网关为空,则 IP 头部中的接收方 IP 地址就是要转发到的目标地址,也是就终于找到 IP 包头里的目标地址了,说明已抵达终点

知道对方的 IP 地址之后,接下来需要通过 ARP 协议根据 IP 地址查询 MAC 地址,并将查询的结果作为接收方 MAC 地址。路由器也有 ARP 缓存,因此首先会在 ARP 缓存中查询,如果找不到则发送 ARP 查询请求。接下来是发送方 MAC 地址字段,这里填写输出端口的 MAC 地址。还有一个以太类型字段,填写 0800 (十六进制)表示 IP 协议。网络包完成后,接下来会将其转换成电信号并通过端口发送出去。这一步的工作过程和计算机也是相同的。发送出去的网络包会通过交换机到达下一个路由器。由于接收方 MAC 地址就是下一个路由器的地址,所以交换机会根据这一地址将包传输到下一个路由器。接下来,下一个路由器会将包转发给再下一个路由器,经过层层转发之后,网络包就到达了最终的目的地。

不知你发现了没有,在网络包传输的过程中,源 IP 和目标 IP 始终是不会变的,一直变化的是 MAC 地址,因为需要 MAC 地址在以太网内进行两个设备之间的包传输。

10. 服务器 与 客户端

数据包抵达了服务器,服务器肯定高兴呀,正所谓有朋自远方来,不亦乐乎?服务器高兴的不得了,于是开始扒数据包的皮!就好像你收到快递,能不兴奋吗?

从输入一个网址到浏览器页面展示到底发生了什么_第17张图片

数据包抵达服务器后,服务器会先扒开数据包的 MAC 头部,查看是否和服务器自己的 MAC 地址符合,符合就将包收起来。

接着继续扒开数据包的 IP 头,发现 IP 地址符合,根据 IP 头中协议项,知道自己上层是 TCP 协议。

于是,扒开 TCP 的头,里面有序列号,需要看一看这个序列包是不是我想要的,如果是就放入缓存中然后返回一个 ACK,如果不是就丢弃。TCP 头部里面还有端口号, HTTP 的服务器正在监听这个端口号。

于是,服务器自然就知道是 HTTP 进程想要这个包,于是就将包发给 HTTP 进程。

服务器的 HTTP 进程看到,原来这个请求是要访问一个页面,于是就把这个网页封装在 HTTP 响应报文里。

HTTP 响应报文也需要穿上 TCP、IP、MAC 头部,不过这次是源地址是服务器 IP 地址,目的地址是客户端 IP 地址。

穿好头部衣服后,从网卡出去,交由交换机转发到路由器,路由器就把响应数据包发到了下一个路由器,就这样跳啊跳。

最后跳到了客户端的路由器,路由器扒开 IP 头部发现是想要包,于是又把包发给了交换机,再由交换机转发到客户端。

客户端收到了服务器的响应数据包后,同样也非常的高兴,客户能拆快递了!

于是,客户端开始扒皮,把收到的数据包的皮扒剩 HTTP 响应报文后,交给浏览器去渲染页面,一份特别的数据包快递,就这样显示出来了!

最后,客户端要离开了,向服务器发起了 TCP 四次挥手,至此双方的连接就断开了。

你可能感兴趣的:(Linux,知识,网络,linux)