任何分布式架构都离不开服务的拆分,微服务也是一样。
这里我总结了微服务拆分时的几个原则:
以课前资料中的微服务cloud-demo为例,其结构如下:
cloud-demo:父工程,管理依赖
要求:
首先,将课前资料提供的cloud-order.sql
和cloud-user.sql
导入到mysql中:
cloud-user表中初始数据如下:
cloud-order表中初始数据如下:
cloud-order表中持有cloud-user表中的id字段。
用IDEA导入课前资料提供的Demo:
项目结构如下:
导入后,会在IDEA右下角出现弹窗:
点击弹窗,然后按下图选择:
会出现这样的菜单:
配置下项目使用的JDK:
在order-service服务中,有一个根据id查询订单的接口:
根据id查询订单,返回值是Order对象,如图:
其中的user为null,因为order-service只能访问自己的数据库,无法查询user信息
而在user-service中有一个根据id查询用户的接口:
测试一下查询的结果如图:
修改order-service中的根据id查询订单业务,要求在查询订单的同时,根据订单中包含的userId查询出用户信息,一起返回。
因此,我们需要在order-service中 向user-service发起一个http的请求,调用http://localhost:8081/user/{userId}这个接口。
大概的步骤是这样的:
首先,因为要在order-service中调用其他服务的接口,所以我们需要在order-service服务中的OrderApplication启动类中,注册RestTemplate实例:
package cn.itcast.order;
import org.mybatis.spring.annotation.MapperScan;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;
@MapperScan("cn.itcast.order.mapper")
@SpringBootApplication
public class OrderApplication {
public static void main(String[] args) {
SpringApplication.run(OrderApplication.class, args);
}
@Bean
public RestTemplate restTemplate() {
return new RestTemplate();
}
}
修改order-service服务中的queryOrderById方法,使用RestTemplate实例远程调用user-service的api:
然后重启order模块,在浏览器地址栏中输入http://localhost:8080/order/101,就可以同时把user信息也查到了。
在服务调用关系中,会有两个不同的角色:
服务提供者:一次业务中,被其它微服务调用的服务。(提供接口给其它微服务)
服务消费者:一次业务中,调用其它微服务的服务。(调用其它微服务提供的接口)
但是,服务提供者与服务消费者的角色并不是绝对的,而是相对于业务而言。
如果服务A调用了服务B,而服务B又调用了服务C,服务B的角色是什么?
因此,服务B既可以是服务提供者,也可以是服务消费者。
service都挂掉了,那么杭州的order-service还可以去找上海的user-service。
Eureka:读作尤瑞卡。
之前的案例中,我们采用硬编码写了远程调用的url,但是这个url是万万不能硬编码的。
假如我们的服务提供者user-service部署了多个实例,如图:
大家思考几个问题:
这些问题都需要利用SpringCloud中的注册中心来解决,其中最广为人知的注册中心就是Eureka。
事实上,Eureka并没有停止维护,官方表示停止维护的是2.x版本,但是该版本根本没有发布,算是胎死腹中。
而我们一直使用的都是1.x的版本,该版本也一直在迭代升级,所以Eureka有不小的使用量,需要学会。
Eureka结构如下:
eureka-server注册中心被称为eureka服务端;
其他的服务消费者、服务提供者统称为eureka客户端。
问题1:order-service如何得知user-service实例地址?
获取地址信息的流程如下:
问题2:order-service如何从多个user-service实例中选择具体的实例?
问题3:order-service如何得知某个user-service实例是否依然健康,是不是已经宕机?
注意:一个微服务,既可以是服务提供者,又可以是服务消费者,因此eureka将服务注册、服务发现等功能统一封装到了eureka-client端
因此,接下来我们动手实践的步骤包括:
首先大家注册中心服务端:eureka-server,这必须是一个独立的微服务,因为eureka本身也是一个微服务。
填写模块信息:
然后填写服务信息:
引入SpringCloud为eureka提供的starter依赖:
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-starter-netflix-eureka-serverartifactId>
dependency>
给eureka-server服务编写一个启动类,一定要添加一个@EnableEurekaServer注解,开启eureka的注册中心功能:
package cn.itcast.eureka;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer;
@SpringBootApplication
@EnableEurekaServer //加上这个注解,就相当于开启了eureka-server的自动装配开关
public class EurekaApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaApplication.class, args);
}
}
编写一个application.yml文件,内容如下:
# 配置eureka的端口
server:
port: 10086
# 下面的配置,是为了eureka注册自己。所以下面用了eureka-client
spring:
application:
# eureka自己也是一个微服务,所以也要有一个名字
name: eureka-server
eureka:
client:
# service-url是要配置eureka集群的地址,因为eureka在启动的时候会把自己也注册进注册中心
# 如果eureka有多个,那么他们会互相注册,就可以互相交流了。
# 因为目前只有一个eureka,所以只写了自己的url,如果有多个,就用逗号隔开
service-url:
defaultZone: http://127.0.0.1:10086/eureka
启动微服务,然后在浏览器访问:http://127.0.0.1:10086
看到下面结果应该是成功了:
下面,我们将user-service注册到eureka-server中去。
在user-service的pom文件中,引入下面的eureka-client依赖:
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-starter-netflix-eureka-clientartifactId>
dependency>
在user-service中,修改application.yml文件,添加服务名称、eureka地址:
spring:
application:
name: userservice # 注意根据情况修改一下服务的名称
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka # 当前服务知道了eureka的地址,就可以去完成注册了
为了演示一个服务有多个实例的场景,我们添加一个SpringBoot的启动配置,再启动一个user-service。
首先,复制原来的user-service启动配置:
然后,在弹出的窗口中,填写信息:
为了防止端口冲突,需要修改端口,-Dserver.port,其中-D表示参数,server.port表示修改端口号为指定值。
现在,SpringBoot窗口会出现两个user-service启动配置:
不过,第一个是8081端口,第二个是8082端口。
启动两个user-service实例:
查看eureka-server管理页面:
可以看出,注册的多个user实例,服务名是一样的,这方便后期服务消费者根据服务名称,拉取所有的服务实例。
下面,我们将order-service的逻辑修改:向eureka-server拉取user-service的信息,实现服务发现。
之前说过,服务发现、服务注册统一都封装在eureka-client依赖,因此这一步与服务注册时一致。
在order-service的pom文件中,引入下面的eureka-client依赖:
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-starter-netflix-eureka-clientartifactId>
dependency>
服务发现也需要知道eureka地址,因此第二步与服务注册一致,都是配置eureka信息:
在order-service中,修改application.yml文件,添加服务名称、eureka地址:
spring:
application:
name: orderservice
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka
最后,我们要去eureka-server中拉取user-service服务的实例列表,并且实现负载均衡。
不过这些动作不用我们去做,只需要添加一些注解即可。
1.主要步骤分为两步:
2.具体实践:
在order-service的OrderApplication中,给RestTemplate这个Bean添加一个@LoadBalanced注解:
修改order-service服务中的cn.itcast.order.service包下的OrderService类中的queryOrderById方法。修改访问的url路径,用服务名代替ip、端口:
这里改成服务名,因为一个服务有可能有多个实例,我们如果写成ip+端口,就写死了,硬编码。而写成服务名,restTemplate就可以帮我们负载均衡,选择合适的userservice服务,然后拼接上它的ip+端口,就实现了动态负载均衡效果。
spring会自动帮助我们从eureka-server端,根据userservice这个服务名称,获取实例列表,而后完成负载均衡。
上一节中,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理呢?
SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。Ribbon,读作瑞笨。
负载均衡的大体流程如下:
首先order-service发起请求,会被拦截器拦截下来,交给ribbon负载均衡,ribbon会去eureka拉取服务列表,然后通过负载均衡算法选择一个进行轮询请求。
那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢,具体的负载均衡流程是什么样的?
为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。
显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor
,这个类会在对RestTemplate的请求进行拦截,然后从Eureka根据服务id获取服务列表,随后利用负载均衡算法得到真实的服务地址信息,替换服务id。
我们进行源码跟踪:
LoadBalancerInterceptor实现了ClientHttpRequestInterceptor接口,也就实现了接口中的intercept方法。
可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:
request.getURI()
:获取请求uri,本例中就是 http://user-service/user/8originalUri.getHost()
:获取uri路径的主机名,其实就是服务id名称,user-service
this.loadBalancer.execute()
:处理服务id,和用户请求。这里的this.loadBalancer
是LoadBalancerClient
类型,我们继续跟入。
继续跟入execute方法:
代码是这样的:
getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来,即完成了服务列表的拉取。
getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个。本例中,可以看到获取了8082端口的服务。
至于getServer的工作原理,见下面的IRule。
放行后,再次访问并跟踪,发现获取的是8081:
果然实现了负载均衡。
在刚才的代码中,可以看到获取服务使通过一个getServer
方法来做负载均衡:
我们继续跟入:
继续跟踪源码chooseServer方法,发现这么一段代码:
我们看看这个rule是谁?就是负载均衡选择一个服务的规则:
IRule接口有很多实现,代表不同的负载均衡策略。这里的rule默认值是一个RoundRobinRule
,看类的介绍:
这不就是轮询的意思嘛,让服务们轮流来提供服务。
到这里,整个负载均衡的流程我们就清楚了。
SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下:
基本流程如下:
负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:
不同规则的含义如下:
内置负载均衡规则类 | 规则描述 |
---|---|
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的..ActiveConnectionsLimit属性进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
默认的实现就是ZoneAvoidanceRule,是一种轮询方案。
一般情况下使用默认方案就可以。
通过定义IRule实现可以修改负载均衡规则,有两种方式:
@Bean
public IRule randomRule(){
return new RandomRule();
}
这种方式是全局的,这么配置的话,以后在order-service中,不管远程调用任何服务,都是randomRule的方案。
userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则
使用这种方式可以单独修改某一个微服务的负载均衡规则。如这里只改变了远程调用userservice的规则为randomrule,如果调用其他的微服务,还是默认的ZoneAvoidanceRule。
注意,一般用默认的负载均衡规则,不做修改。
Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。
而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:
ribbon:
eager-load:
enabled: true # 开启饥饿加载
clients: userservice # 指定饥饿加载的服务名称(这种是单个服务的写法)
ribbon:
eager-load:
enabled: true # 开启饥饿加载
clients: # 指定饥饿加载的服务名称(这种是多个服务的写法)
- userservice
- xxxxservice
国内公司一般都推崇阿里巴巴的技术,比如注册中心,SpringCloudAlibaba也推出了一个名为Nacos的注册中心。
Nacos是阿里巴巴的产品,现在是SpringCloud中的一个组件。相比Eureka功能更加丰富,在国内受欢迎程度较高。
安装方式可以参考我的另一篇博客《微服务技术栈04-Nacos安装指南》。
Nacos功能十分丰富,我们当前是要学习Nacos的注册中心功能,其他功能后续学习。
SpringCloud Common中,定义了服务注册、服务发现的接口规范,Nacos是SpringCloudAlibaba的组件,而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。
因此使用Nacos和使用Eureka,对于微服务的代码书写上,并没有太大区别,要改的主要是下面这两部分。
主要差异在于:
首先在cloud-demo父工程的pom文件中的
中引入SpringCloudAlibaba的管理依赖,这个写上之后,以后关于SpringCloudAlibaba组件的版本问题,都不用再考虑了。
<dependency>
<groupId>com.alibaba.cloudgroupId>
<artifactId>spring-cloud-alibaba-dependenciesartifactId>
<version>2.2.6.RELEASEversion>
<type>pomtype>
<scope>importscope>
dependency>
然后在user-service和order-service中的pom文件中引入nacos-discovery依赖(先注掉eureka的):
<dependency>
<groupId>com.alibaba.cloudgroupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discoveryartifactId>
dependency>
注意:不要忘了注释掉eureka的依赖。
在user-service和order-service的application.yml中添加nacos地址:
# 服务的名称命名和eureka一样
spring:
application:
name: userservice
# nacos服务地址
spring:
cloud:
nacos:
server-addr: localhost:8848
注意:不要忘了注释掉eureka的地址
其他的关于Ribbon等的配置,和eureka完全一样,在代码中远程调用的方式,使用restTemplate也是一样的。
重启微服务后,登录nacos管理页面,可以看到微服务信息:
一个服务可以有多个实例,例如我们的user-service,可以有:
假如这些实例分布于全国各地的不同机房,例如:
Nacos就将同一机房内的实例 划分为一个集群。
也就是说,user-service是服务,一个服务可以包含多个集群,如杭州、上海,每个集群下可以有多个实例,形成分级模型,如图:
微服务互相访问时,应该尽可能访问同一集群的实例,因为本地访问速度更快。当本集群内不可用时,才访问其它集群。例如:
杭州机房内的order-service应该优先访问同机房的user-service。
之前我们接触的分级模型主要分为两级:服务-实例;现在nacos又加入了集群,形成三级:服务-集群-实例。
按照地域(机房)添加集群层,主要是为了容灾。当出现极端情况,比如杭州整个机房的user-service都挂掉了,那么杭州的order-service还可以去找上海的user-service。
修改user-service的application.yml文件,添加集群配置:
spring:
cloud:
nacos:
server-addr: localhost:8848
# 配置集群
discovery:
cluster-name: HZ # 集群名称
重启两个user-service实例后,我们可以在nacos控制台看到下面结果:
我们再次复制一个user-service启动配置,添加属性:
-Dserver.port=8083 -Dspring.cloud.nacos.discovery.cluster-name=SH
配置如图所示:
启动UserApplication3后再次查看nacos控制台:
问题:上面我们给3个user-service做了集群划分,user-service:8001、8002在HZ、8003在SH。
原因:负载均衡的默认IRule为ZoneAvoidanceRule
,并不能实现根据同集群优先来实现负载均衡。
解决:因此Nacos中提供了一个NacosRule
的实现,可以优先从同集群中挑选实例。
1)给order-service配置集群信息
修改order-service的application.yml文件,添加集群配置:
spring:
cloud:
nacos:
server-addr: localhost:8848
discovery:
cluster-name: HZ # 这里是将该order-service也放在了HZ集群
2)修改负载均衡规则
修改order-service的application.yml文件,修改负载均衡规则:
# 配置当order-service访问user-service的时候,采用下面的负载均衡规则
userservice:
ribbon:
NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule # 负载均衡规则
注意:负载均衡规则改成NacosRule之后,会优先在本集群中进行调用,对于本集群中的多个实例,就会采用Random的方式选择一个。即:集群优先,而后随机。
实际部署中会出现这样的场景:
服务器设备性能有差异,部分实例所在机器性能较好,另一些较差,我们希望性能好的机器承担更多的用户请求。
但默认情况下NacosRule是同集群内随机挑选,不会考虑机器的性能问题。
因此,Nacos提供了权重配置来控制访问频率,权重越大则访问频率越高。
在nacos控制台,找到user-service的实例列表,点击编辑,即可修改权重:
在弹出的编辑窗口,修改权重:
一般权重配置为0-1。
注意:如果权重修改为0,则该实例永远不会被访问
权重设置为0的应用场景:
版本升级的时候,如果有多个服务,那么可以先将一个服务权重设置为0,升级后再换另一台,不用直接停机服务器,用户无感知。
版本升级之后,重启服务器,然后将权重先设置小一点,放一点用户请求进来测试一下有没有问题。没有问题的话再逐渐扩大权重。
Nacos提供了namespace来实现环境隔离功能。
如果不设置命名空间,那么默认情况下,所有service、data、group都在同一个namespace,名为public:
我们可以点击页面新增按钮,添加一个namespace:
然后,填写表单:
就能在页面看到一个新的namespace,id是用UUID自动生成的:
不过该命名空间dev下,还没有任何服务,因为我们没有给它配置
要想修改一个服务的命名空间,需要在代码中指定,而不是在nacos的控制台。
给微服务配置namespace只能通过修改配置来实现。
例如,修改order-service的application.yml文件:
spring:
cloud:
nacos:
server-addr: localhost:8848
discovery:
cluster-name: HZ
namespace: 492a7d5d-237b-46a1-a99a-fa8e98e4b0f9 # 命名空间,填ID,注意不是命名空间的名称
重启order-service后,访问控制台,可以看到下面的结果:
此时访问order-service,因为namespace不同,会导致找不到userservice,控制台会报错:没有可用的userservice实例
Nacos的服务实例分为两种类型:
临时实例:如果实例宕机超过一定时间,会从服务列表剔除,默认的类型。
非临时实例:如果实例宕机,不会从服务列表剔除,也可以叫永久实例。
配置一个服务实例为永久实例:
spring:
cloud:
nacos:
discovery:
ephemeral: false # 设置为非临时实例,不配置的时候默认是true
Nacos和Eureka整体结构类似,服务注册、服务拉取、心跳等待,但是也存在一些差异:
Nacos与eureka的共同点
Nacos与Eureka的区别
Nacos支持服务端主动检测提供者状态:临时实例采用心跳模式,非临时实例采用主动检测模式
临时实例心跳不正常会被剔除,非临时实例则不会被剔除
Nacos支持服务列表变更的消息推送模式,服务列表更新更及时;
eureka不支持服务变更推送,只支持定时拉取,每30s拉取一次,如果这30s内服务变更,消费者是不知道的。
Nacos集群默认采用AP方式,当集群中存在非临时实例时,采用CP模式;Eureka采用AP方式(会在集群中讲解)
心跳模式与主动监测模式
虽然都支持心跳检测,但是nacos的频率会比eureka更高一点