微服务架构风格,就像是把一个单独的应用程序开发为一套小服务,每个小服务运行在自己的进程中,并使用轻量级机制通信,通常是HTTP API。这些服务围绕业务能力来构建,并通过完全自动化部署机制来独立部署。这些服务使用不同的编程语言书写,以及不同数据存储技术,并保持最低限度的集中式管理。
简而言之,拒绝大型单体应用,基于业务边界进行服务微化拆分,各个服务独立部署运行。
集群是个物理形态,分布式是个工作方式。
只要是一堆机器,就可以叫集群,他们是不是一起协作干活,这个谁也不知道;
《分布式系统原理与泛型》定义
“分布式系统是若干个独立计算机的集合,这些计算机对于用户来说就像单个相关系统”分布式系统是建立在网络之上的软件系统。
分布式是指将不同的业务分布在不同的地方。
集群指的是几台服务器集中在一起,实现同一业务。
例如:京东是一个分布式系统,众多业务运行在不同的机器,所有业务构成了一个大型的业务集群。每一个小的业务,比如用户系统,访问压力大的时候一台服务器是不够的。我们就应该将用户系统部署到多个服务器,也就是每一个业务系统也可以做集群化。
分布式中的每一个节点,都可以做集群。而集群并不一定就是分布式的。(比如京东用户系统底下可以有十台用户服务,这十台就叫集群,但是这不叫分布式,分布式指的是京东整个大系统)
在分布式系统中,各个服务可能处于不同主机,但是服务之间不可避免需要互相调用,我们称为远程调用。
SpringCloud中使用HTTP+JSON的方式完成远程调用
比如上图左边是订单服务,右边是商品服务集群的三个节点,三个节点中都有商品服务,如果第一个节点查询饱满了后,此时订单服务就会查询剩余两台的商品服务,这就是负载均衡。
目的:为了使每一台服务器都不要太忙或者太闲,我们可以负载均衡的调用每一个服务器,提升网站的健壮性。
常见的负载均衡算法:
轮询:为第一个请求选择健康池中的第一个后端服务器,然后按顺序往后依次选择,直到最后一个,然后循环。
最小连接:优先选择连接数最少,也就是压力最小的后端服务器,在会话较长的情况下可以考虑采取这种方式。
散列:根据请求源的IP的散列(hash)来选择要转发的服务器。这种方式可以在一定程度上保证特定用户连接到相同的服务器,如果你的应用需要处理状态而要求用户连接到和之前相同的服务器,可以考虑这种方式。
A服务调用B服务,A服务并不知道B服务当前在哪几台服务器有,哪些是正常的,哪些服务已经下线,解决这个问题可以引入注册中心。
比如上图,假如B服务第一个节点由下线到上线状态转化时,此时,B服务第一个节点会到注册中心去注册(此过程称为服务注册),当A服务想要调用B服务时,先去注册中心查找B服务哪个节点在线(此过程称为服务发现),最后根据负载均衡算法选择B服务的节点,当B服务某个节点下线后,注册中心也会更新此节点下线的状态,A服务再次在注册中心查找时,只能去调用在线的B服务节点…
如果某些服务下线,我们其他人可以实时的感知到其他服务的状态,从而避免调用不可用的服务。
每一个服务最终都有大量的配置,并且每个服务都可能部署在多台机器上。我们经常需要变更配置,我们可以让每个服务在配置中心获取自己的配置。
也就是说,配置中心用来集中管理微服务的配置信息。
在微服务架构中,微服务之间通过网络进行通信,存在相互依赖,当其中一个服务不可用时,有可能造成雪崩效应,要防止这样的情况,必须要有容错机制来保护服务。
上图解释(雪崩效应):订单服务调用商品服务,商品服务调用库存服务。当库存服务阻塞时,导致商品服务也会阻塞,商品服务阻塞则订单服务也会阻塞。当高并发时,更会导致请求积压,全部阻塞到此过程(订单服务-商品服务-库存服务),最终直到耗尽服务器资源。
设置服务的超时,当被调用的服务经常失败到达某个阈值,我们可以开启断路保护机制,后来的请求不再调用这个服务。本地直接返回默认的数据。
在运维期间,当系统处于高峰期,系统资紧张,我们可以让非核心业务降级运行。降级:某些服务不处理,或者简单处理(即抛异常,返回NULL,调用Mock数据,调用Fallback处理逻辑)。
在微服务架构中,API Gateway 作为整体架构的重要组件,它抽象了微服务中都需要的公共功能,同时提供了客户端负载均衡,服务自动熔断,灰度发布,统一认证,限流流控,日志统计等丰富功能,帮助我们解决很多API管理难题。