dubbo-分布式服务框架学习笔记

1.分布式基础理论

1.1什么事分布式系统

《分布式系统原理与范型》定义：

“分布式系统是若干独立计算机的集合，这些计算机对于用户来说就像单个相关系统”

分布式系统（distributed system）是建立在网络之上的软件系统。

随着互联网的发展，网站应用的规模不断扩大，常规的垂直应用架构已无法应对，分布式服务架构以及流动计算架构势在必行，亟需一个治理系统确保架构有条不紊的演进。

1.2发展演变

单一应用架构

当网站流量很小时，只需一个应用，将所有的功能部署在一起，以减少部署节点和成本。此时，用于简化增删查改工作量的数据访问框架ORM是关键

适用于小型网站，小型管理系统，将所有功能都部署到一个功能里，简单易用。

缺点：

• 性能扩展比较难

• 协同开发问题

• 不利于升级维护

垂直应用架构

当访问量逐渐增大，单一应用增加机器带来的加速度越来越小，将应用拆成互不相干的几个应用，以提升效率。此时，用于加速前端页面开发的Web框架(MVC)是关键。

通过切分业务来实现各个模块独立部署，降低了维护和部署的难度，团队各司其职更易管理，性能扩展也更方便，更有针对性。

缺点： 公用模块无法重复利用，开发性的浪费

分布式服务架构

当垂直应用越来越多，应用之间交互不可避免，将核心业务抽取出来，作为独立的服务，逐渐形成稳定的服务中心，使前端应用能更快速的响应多变的市场需求。此时，用于提高业务复用及整合的**分布式服务框架(RPC)**是关键。

Remote Procedure Call 远程过程调用

流动计算架构

当服务越来越多，容量的评估，小服务资源的浪费问题等逐渐出现，此时需要增加一个调度中心基于访问实时管理集群容量，提高集群利用率，此时用于提高机器利用率的资源调度和治理中心（SOA）【service Oriented Architecture】是关键

1.3RPC

PRC【remote procedure call】是指远程过程调用，是一种进程间通信方式，他是一种技术的思想，而不是一种规范，他运行程序调用另一个地址空间（通常是共享网络的一台机器上）的过程或函数，而不用程序员显式编码这个远程调用的细节，即是程序员无论调用的是本地还是远程的函数，本质上编写的调用代码基本相同。

PRC基本原理

PRC的两个核心模块：通讯，序列化

2.dubbo核心概念

2.1简介

Apache Dubbo (incubating) |ˈdʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架，它提供了三大核心能力：面向接口的远程方法调用，智能容错和负载均衡，以及服务自动注册和发现。

官网：

http://dubbo.apache.org/

2.2基本概念

服务提供者（Provider）：暴露服务的服务提供方，服务提供者在启动时，向注册中心注册自己提供的服务。

服务消费者（Consumer）: 调用远程服务的服务消费方，服务消费者在启动时，向注册中心订阅自己所需的服务，服务消费者，从提供者地址列表中，基于软负载均衡算法，选一台提供者进行调用，如果调用失败，再选另一台调用。

注册中心（Registry）：注册中心返回服务提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者

监控中心（Monitor）：服务消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心

调用关系说明

• 服务容器负责启动，加载，运行服务提供者。

• 服务提供者在启动时，向注册中心注册自己提供的服务。

• 服务消费者在启动时，向注册中心订阅自己所需的服务。

• 注册中心返回服务提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者。

• 服务消费者，从提供者地址列表中，基于软负载均衡算法，选一台提供者进行调用，如果调用失败，再选另一台调用。

• 服务消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心。

3.dubbo环境搭建

3.1安装zookeeper

1、下载zookeeper网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/
2、解压zookeeper解压运行zkServer.cmd ，初次运行会报错，没有zoo.cfg配置文件
3、修改zoo.cfg配置文件将conf下的zoo_sample.cfg复制一份改名为zoo.cfg即可。注意几个重要位置：dataDir=./ 临时数据存储的目录（可写相对路径）clientPort=2181 zookeeper的端口号修改完成后再次启动zookeeper
4、使用zkCli.cmd测试ls /：列出zookeeper根下保存的所有节点create –e /atguigu 123：创建一个atguigu节点，值为123get /atguigu：获取/atguigu节点的值

3.2安装dubbo-admin管理控制台

dubbo本身并不是一个服务软件。它其实就是一个jar包能够帮你的java程序连接到zookeeper，并利用zookeeper消费、提供服务。所以你不用在Linux上启动什么dubbo服务。

但是为了让用户更好的管理监控众多的dubbo服务，官方提供了一个可视化的监控程序，不过这个监控即使不装也不影响使用。

1、下载dubbo-adminhttps://github.com/apache/incubator-dubbo-ops [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eQbrgRyj-1641618719770)(file:///C:\Users\86150\AppData\Local\Temp\ksohtml5612\wps1.jpg)]
2、进入目录，修改dubbo-admin配置修改 src\main\resources\application.properties 指定zookeeper地址[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-s4cYElHe-1641618719771)(file:///C:\Users\86150\AppData\Local\Temp\ksohtml5612\wps2.jpg)]
3、打包dubbo-admin mvn clean package -Dmaven.test.skip=true
4、运行dubbo-admin java -jar dubbo-admin-0.0.1-SNAPSHOT.jar 注意：默认使用root/root 登陆

4.dubbo-helloworld

4.1提出需求

某个电商系统，订单服务需要调用用户服务获取某个用户的所有地址；

我们现在 需要创建两个服务模块进行测试

模块	功能
订单服务web模块	创建订单等
用户服务service模块	查询用户地址等

测试预期结果：

​ 订单服务web模块在A服务器，用户服务模块在B服务器，A可以远程调用B的功能。

4.2创建模块

4.2.1.gmall-interface

公共接口层（Model，service）等

bean

public class UserAddress implements Serializable{
    private Integer id;
    private String userAddress;
    private String userId;
    private String consignee;
    private String phoneNum;
    private String isDefault;
    
    //省略toString Getter Setter方法
}

service接口

public interface UserService {
    /**
     * 按照用户id返回所有的收货地址
     * @param userId
     * @return
     */
    List<UserAddress> getUserAddressList(String userId);
}

4.2.2.gmall-user

用户模块(对用户接口的实现)

1.引入父工程

<dependencies>
    <dependency>
        <groupId>com.atguigu.dubbogroupId>
        <artifactId>gmall-interfaceartifactId>
        <version>0.0.1-SNAPSHOTversion>
    dependency>
dependencies>

2.UserServiceImpl

public class UserServiceImpl implements UserService {
    @Override
    public List<UserAddress> getUserAddressList(String userId) {
        System.out.println("UserServiceImpl...Old");
        UserAddress address1 = new UserAddress(1, "北京市昌平区宏福科技园综合楼3层", "1", "李老师", "010-56253825", "Y");
        UserAddress address2 = new UserAddress(2, "深圳市宝安区西部硅谷大厦B座3层（深圳分校）", "1", "王老师", "010-56253825", "N");
        try {
            Thread.sleep(4000);
        }catch (Exception e){
            e.printStackTrace();
        }
        return Arrays.asList(address1,address2);
    }
}

4.2.3.gmall-order

订单模块(调用用户模块)

1.引入父工程

<dependencies>
    <dependency>
        <groupId>com.atguigu.dubbogroupId>
        <artifactId>gmall-interfaceartifactId>
        <version>0.0.1-SNAPSHOTversion>
    dependency>
dependencies>

2.orderServiceImpl接口的实现

@Service
public class OrderServiceImpl implements OrderService {
    @Autowired
    UserService userService;
    @Override
    public List<UserAddress> initOrder(String userId) {
        System.out.println("用户id:"+userId);
        //查询用户的收货地址
        System.out.println(userService);
        List<UserAddress> userAddressList = userService.getUserAddressList(userId);

        return userAddressList;
    }
}

4.2.4改造gmall-user作为服务提供者

1.引入相关的依赖

<dependency>
    <groupId>com.alibabagroupId>
    <artifactId>dubboartifactId>
    <version>2.6.2version>
dependency>

<dependency>
    <groupId>com.101tecgroupId>
    <artifactId>zkclientartifactId>
    <version>0.10version>
dependency>

<dependency>
    <groupId>org.apache.curatorgroupId>
    <artifactId>curator-frameworkartifactId>
    <version>2.12.0version>
dependency>

2.配置提供者

	<dubbo:application name="gmall-user">dubbo:application>
	
    <dubbo:registry address="zookeeper://118.24.44.169:2181" />
    
    <dubbo:protocol name="dubbo" port="20880" />
    
    <dubbo:service interface="com.atguigu.gmall.service.UserService" ref="userServiceImpl"/>

3.启动服务

public static void main(String[] args) throws IOException {
		ClassPathXmlApplicationContext context = 
				new ClassPathXmlApplicationContext("classpath:spring-beans.xml");
		
		System.in.read(); 
	}

4.2.5改造gmall-order作为服务消费者

1.引入相关的依赖

<dependency>
    <groupId>com.alibabagroupId>
    <artifactId>dubboartifactId>
    <version>2.6.2version>
dependency>

<dependency>
    <groupId>com.101tecgroupId>
    <artifactId>zkclientartifactId>
    <version>0.10version>
dependency>

<dependency>
    <groupId>org.apache.curatorgroupId>
    <artifactId>curator-frameworkartifactId>
    <version>2.12.0version>
dependency>

2.配置消费者信息

	<dubbo:application name="gmall-order-web">dubbo:application>
	
	<dubbo:registry address="zookeeper://118.24.44.169:2181" />
	
	<dubbo:reference id="userService" interface="com.atguigu.gmall.service.UserService">dubbo:reference>

3.测试调用

public class MainApplication {

    public static void main(String[] args) throws IOException {
        ClassPathXmlApplicationContext applicationContext = new ClassPathXmlApplicationContext("consumer.xml");
        OrderService orderService = applicationContext.getBean(OrderService.class);
        List<UserAddress> userAddresses = orderService.initOrder("1");
        for (UserAddress userAddress : userAddresses) {
            System.out.println(userAddress.toString());
        }
        System.out.println("调用结束");
        System.in.read();
    }

}

5.监控中心

5.1dubbo-admin

图形化的服务管理页面；安装时需要指定注册中心地址，即可从注册中心中获取到所有的提供者/消费者进行配置管理

5.2dubbo-monitor-simple

简单的监控中心

1.安装

1、下载 dubbo-opshttps://github.com/apache/incubator-dubbo-ops
2、修改配置指定注册中心地址进入 dubbo-monitor-simple\src\main\resources\conf修改 dubbo.properties文件[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-I3tcEo4a-1641618719774)(file:///C:\Users\86150\AppData\Local\Temp\ksohtml5612\wps4.jpg)]
3、打包dubbo-monitor-simplemvn clean package -Dmaven.test.skip=true
4、解压 tar.gz 文件，并运行start.bat[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-gwIG6m8T-1641618719776)(file:///C:\Users\86150\AppData\Local\Temp\ksohtml5612\wps5.jpg)] 如果缺少servlet-api，自行导入servlet-api再访问监控中心
5、启动访问8080

2.监控中心配置

所有服务配置连接监控中心，进行监控统计
    
	<dubbo:monitor protocol="registry">dubbo:monitor>

Simple Monitor 挂掉不会影响到 Consumer 和 Provider 之间的调用，所以用于生产环境不会有风险。

Simple Monitor 采用磁盘存储统计信息，请注意安装机器的磁盘限制，如果要集群，建议用mount共享磁盘。

6.与SpringBoot的整合

1.引入spring-boot-start以及dubbo和curator的依赖

<dependency>
    <groupId>com.alibaba.bootgroupId>
    <artifactId>dubbo-spring-boot-starterartifactId>
    <version>0.2.0version>
dependency>

2.配置application.properties

提供者配置：
dubbo.application.name=gmall-user
dubbo.registry.protocol=zookeeper
dubbo.registry.address=192.168.67.159:2181
dubbo.scan.base-package=com.atguigu.gmall
dubbo.protocol.name=dubbo
#application.name就是服务名，不能跟别的dubbo提供端重复
#registry.protocol 是指定注册中心协议
#registry.address 是注册中心的地址加端口号
#protocol.name 是分布式固定是dubbo,不要改。
#base-package  注解方式要扫描的包
#消费者配置：
dubbo.application.name=gmall-order-web
dubbo.registry.protocol=zookeeper
dubbo.registry.address=192.168.67.159:2181
dubbo.scan.base-package=com.atguigu.gmall
dubbo.protocol.name=dubbo

3.dubbo注解

@Service 服务提供方

@Reference 服务消费者

7.dubbo配置原则

7.1失败重试次数

失败自动切换，当出现失败，重试其它服务器，但重试会带来更长延迟。可通过 retries=“2” 来设置重试次数(不含第一次)。

重试次数配置如下：

<dubbo:service retries="2" />
或
<dubbo:reference retries="2" />
或
<dubbo:reference>
    <dubbo:method name="findFoo" retries="2" />
dubbo:reference>

7.2超时时间

由于网络或服务端不可靠，会导致调用出现一种不确定的中间状态(超时)，为了避免超时导致客户端资源（线程）挂起耗尽。必须设置超时时间。

dubbo消费端

全局超时配置
<dubbo:consumer timeout="5000" />

指定接口以及特定方法超时配置
<dubbo:reference interface="com.foo.BarService" timeout="2000">
    <dubbo:method name="sayHello" timeout="3000" />
dubbo:reference>

dubbo服务端

全局超时配置
<dubbo:provider timeout="5000" />

指定接口以及特定方法超时配置
<dubbo:provider interface="com.foo.BarService" timeout="2000">
    <dubbo:method name="sayHello" timeout="3000" />
dubbo:provider>

配置原则

dubbo推荐在provider上尽量多配置Consumer端的属性

1.作为服务的提供者，比服务适用房更清楚服务性能参数，如调用的超时时间，合理的重试次数等等

2.在Provider配置后，Consumer不配置则会使用provider的配置值，即provider配置可以作为Consumer的缺省值。否则Consumer会使用Consumer端的全局设置，这对于Provider来说是不可控的，并且往往是不合理的

配置的覆盖规则

• 方法级别配置由于接口级别，即小scope优先

• consumer端配置优于Provider配置优于全局配置

  

7.3版本号

当一个接口实现，出现不兼容升级时，可以用版本号过渡，版本号不同的服务相互间不引用。

可以按照以下的步骤进行版本迁移：

​ 在低压力时间段，先升级一半提供者为新版本

​ 再将所有消费者升级为新版本

​ 然后将剩下的一半提供者升级为新版本

老版本服务提供者配置：
<dubbo:service interface="com.foo.BarService" version="1.0.0" />

新版本服务提供者配置：
<dubbo:service interface="com.foo.BarService" version="2.0.0" />

老版本服务消费者配置：
<dubbo:reference id="barService" interface="com.foo.BarService" version="1.0.0" />

新版本服务消费者配置：
<dubbo:reference id="barService" interface="com.foo.BarService" version="2.0.0" />

如果不需要区分版本，可以按照以下的方式配置：
<dubbo:reference id="barService" interface="com.foo.BarService" version="*" />

8.高可用

8.1 zookeeper宕机与dubbo直连

现象：zookeeper注册中心宕机，还可以消费dubbo暴露的服务

原因：健壮性

• 监控中心宕掉不影响使用，只是丢失部分采样数据

• 数据库宕掉后，注册中心仍能通过缓存提供服务列表查询，但不能注册新服务

• 注册中心对等集群，任意一台宕掉后，将自动切换到另一台

• 注册中心全部宕掉后，服务提供者和服务消费者仍能通过本地缓存通讯

• 服务提供者无状态，任意一台宕掉后，不影响使用

• 服务提供者全部宕掉后，服务消费者应用将无法使用，并无限次重连等待服务提供者恢复

8.2 集群下dubbo的负载均衡配置

在集群负载均衡时，Dubbo 提供了多种均衡策略，缺省为 random 随机调用。

负载均衡策略

Random LoadBalance
随机，按权重设置随机概率。
在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

RoundRobin LoadBalance
轮循，按公约后的权重设置轮循比率。
存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。

LeastActive LoadBalance
最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。
使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。

ConsistentHash LoadBalance
一致性 Hash，相同参数的请求总是发到同一提供者。
当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。
算法参见：http://en.wikipedia.org/wiki/Consistent_hashing
缺省只对第一个参数 Hash，如果要修改，请配置 
缺省用 160 份虚拟节点，如果要修改，请配置 

8.3 整合Hystrix，服务熔断和降级处理

8.3.1服务降级

什么是服务降级

当服务器压力剧增的情况下，根据实际业务情况以及浏览，对一些服务和页面有策略的不处理或者换种简单的方式处理，从而释放服务器资源以保证核心交易对正常运作或高效运作。

可以通过服务降级功能临时屏蔽某个出错的非关键服务，并定义降级后的返回策略。

• mock=force:return+null 表示消费方对该服务的方法调用都直接返回 null 值，不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。

• 还可以改为 mock=fail:return+null 表示消费方对该服务的方法调用在失败后，再返回 null 值，不抛异常。用来容忍不重要服务不稳定时对调用方的影响。

8.3.2 集群容错

在集群调用失败时，Dubbo 提供了多种容错方案，缺省为 failover 重试。

集群容错模式

Failover Cluster
    失败自动切换，当出现失败，重试其它服务器。通常用于读操作，但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。

    重试次数配置如下：
    
    或
    
    或
    
        
    

Failfast Cluster
	快速失败，只发起一次调用，失败立即报错。通常用于非幂等性的写操作，比如新增记录。

Failsafe Cluster
	失败安全，出现异常时，直接忽略。通常用于写入审计日志等操作。

Failback Cluster
	失败自动恢复，后台记录失败请求，定时重发。通常用于消息通知操作。

Forking Cluster
	并行调用多个服务器，只要一个成功即返回。通常用于实时性要求较高的读操作，但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。

Broadcast Cluster
	广播调用所有提供者，逐个调用，任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。

集群模式配置
按照以下示例在服务提供方和消费方配置集群模式

或

8.2.3整合hystrix

Hystrix 旨在通过控制那些访问远程系统、服务和第三方库的节点，从而对延迟和故障提供更强大的容错能力。Hystrix具备拥有回退机制和断路器功能的线程和信号隔离，请求缓存和请求打包，以及监控和配置等功能

1.导入依赖

spring boot官方提供了对hystrix的集成，直接在pom.xml里加入依赖：

<dependency>
    <groupId>org.springframework.cloudgroupId>
    <artifactId>spring-cloud-starter-netflix-hystrixartifactId>
    <version>1.4.4.RELEASEversion>
dependency>

2.然后在Application类上增加@EnableHystrix来启用hystrix starter：

3.在Dubbo的Provider上增加@HystrixCommand配置，这样子调用就会经过Hystrix代理。

4.对于Consumer端，则可以增加一层method调用，并在method上配置@HystrixCommand。当调用出错时，会走到fallbackMethod = "reliable"的调用里。

9.dubbo原理

框架设计

• config 配置层：对外配置接口，以 ServiceConfig, ReferenceConfig 为中心，可以直接初始化配置类，也可以通过 spring 解析配置生成配置类

• proxy 服务代理层：服务接口透明代理，生成服务的客户端 Stub 和服务器端 Skeleton, 以 ServiceProxy 为中心，扩展接口为 ProxyFactory

• registry 注册中心层：封装服务地址的注册与发现，以服务 URL 为中心，扩展接口为 RegistryFactory, Registry, RegistryService

• cluster 路由层：封装多个提供者的路由及负载均衡，并桥接注册中心，以 Invoker 为中心，扩展接口为 Cluster, Directory, Router, LoadBalance

• monitor 监控层：RPC 调用次数和调用时间监控，以 Statistics 为中心，扩展接口为 MonitorFactory, Monitor, MonitorService

• protocol 远程调用层：封装 RPC 调用，以 Invocation, Result 为中心，扩展接口为 Protocol, Invoker, Exporter

• exchange 信息交换层：封装请求响应模式，同步转异步，以 Request, Response 为中心，扩展接口为 Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer

• transport 网络传输层：抽象 mina 和 netty 为统一接口，以 Message 为中心，扩展接口为 Channel, Transporter, Client, Server, Codec

• serialize 数据序列化层：可复用的一些工具，扩展接口为 Serialization, ObjectInput, ObjectOutput, ThreadPool

以服务 URL 为中心，扩展接口为 RegistryFactory, Registry, RegistryService

• cluster 路由层：封装多个提供者的路由及负载均衡，并桥接注册中心，以 Invoker 为中心，扩展接口为 Cluster, Directory, Router, LoadBalance

• monitor 监控层：RPC 调用次数和调用时间监控，以 Statistics 为中心，扩展接口为 MonitorFactory, Monitor, MonitorService

• protocol 远程调用层：封装 RPC 调用，以 Invocation, Result 为中心，扩展接口为 Protocol, Invoker, Exporter

• exchange 信息交换层：封装请求响应模式，同步转异步，以 Request, Response 为中心，扩展接口为 Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer

• transport 网络传输层：抽象 mina 和 netty 为统一接口，以 Message 为中心，扩展接口为 Channel, Transporter, Client, Server, Codec

• serialize 数据序列化层：可复用的一些工具，扩展接口为 Serialization, ObjectInput, ObjectOutput, ThreadPool

原理后续再补充~~~