该笔记为个人及参考资料总结,还有不全面的地方等 请评论提出,我会改进。
感谢您的参考和查看,还请您多多支持,可以的话点个赞或者收藏起来。
Dubbo是用于分布式系统的框架所以我们要先了解什么是分布式
分布式系统是若干独立 计算机的集合,这些计算机对于用户来说就像单个相关系统。
老式系统(单一应用架构)就是把一个系统,统一放到一个服务器当中然后每一个服务器上放一个系统,如果说要更新代码的话,每一个服务器上的系统都要重新去部署十分的麻烦。
而分布式系统就是将一个完整的系统拆分成多个不同的服务,然后在将每一个服务单独的放到一个服务器当中。(三个臭皮匠赛过诸葛亮)
ORM
单一应用架构:一个项目装到一个服务器当中,也可以运行多个服务器每一个服务器当中都装一个项目。
缺点:1.如果要添加某一个功能的话就要把一个项目重新打包,在分别部署到每一个服务器当中去。2.如果后期项目越来越大的话单台服务器跑一个项目压力会很大的。会不利于维护,开发和程序的性能。
MVC
垂直应用架构:将应用切割成几个互不相干的小应用,在将每个小应用独立放到一个服务器上,如果哪一个应用的访问数量多就多加几台服务器。
分布式服务架构
分布式应用架构(远程过程调用):当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。
什么叫RPC
RPC 调用分以下两种:
同步调用:客户方等待调用执行完成并返回结果。
异步调用:客户方调用后不用等待执行结果返回,但依然可以通过回调通知等方式获取返回结果。若客户方不关心调用返回结果,则变成单向异步调用,单向调用不用返回结果。
RPC步骤解析
RPC相关资料可访问博客:
http://blog.csdn.net/smartbetter/article/details/100360835
SOA
流动计算架构:在分布式应用架构的基础上增加了一个调度、治理中心基于访问压力实时管理集群容量、提高集群的利用率,用于提高机器利用率的 资源调度和治理中心(SOA) 是关键 (不浪费计算机资源)
Dubbo官网: http://dubbo.apache.org/en-us/index.html
Dubbo 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,服务自动注册和发现。分布式系统是将一个系统拆分为多个不同的服务
该图来自Dubbo官网,描述了服务注册中心、服务提供方、服务消费方、服务监控中心之间的调用关系。
服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。
服务消费者(Consumer): 调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。
(1)服务注册中心
(2)负载均衡
随机
选提供者,并可以给提供者设置权重轮询
选择提供者(3)简化测试,允许直连提供者
在开发阶段为了方便测试,通常系统客户端能指定调用某个服务提供者,那么可以在引用服务时加一个url参数去指定服务提供者。 配置如下:
(4)服务版本,服务分组
在Dubbo配置文件中可以通过制定版本实现连接制定提供者,也就是通过服务版本可以控制服务的不兼容升级;当同一个服务有多种实现时,可以使用服务分组进行区分。
Dubbo官方文档: http://dubbo.apache.org/en-us/docs/user/quick-start.html
在zookeeper官网下载zookeeper
http://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.4.14/
在bin文件下,启动zkServer.cmd会有报错,处理需要在condif文件中将zoo_sample.cfg文件复制一份,将名字改为zoo.cfg。
在zookeeper的文件夹下创建data文件夹,打开zoo.cfg,修改datadir,将dataDir数据保存为我们自定义的文件中
(此步骤可省略)
配置完毕后,我们再次在conf下启动zkServer.cmd,这次可以成功启动
继续运行zkCli.cmd,可以连接到zookeeper的服务器。
此时,我们zookeeper的注册中心及环境以及搭建完毕。
1、下载dubbo-admin
dubbo-admin下载地址 :https://github.com/apache/dubbo-admin/tree/master
2、解压后进入目录修改指定zookeeper地址
进入如下地址:dubbo-admin-master\dubbo-admin\src\main\resources\application.properties"
将zookeeper的监控中心的地址配置为本地端口
#注册中心的地址
dubbo.registry.address=zookeeper://127.0.0.1:2181
配置完毕后,我们在dubo-zookeeper\dubbo-admin-master\dubbo-admin文件夹下cmd打包测试下。
mvn clean package
在target文件中打包完成的jar包
cmd命令 java -jar dubbo-admin-0.0.1-SNAPSHOT.jar
运行打包好的jar包
启动成功后,可以看到一个7001的端口
此时我们的zookeeper的服务都为启动状态,在浏览器中访问 localhost:7001,访问到注册中心,输入账号密码root。
此时,我们zookeeper监控中心的配置完成。注意,要访问到监控中心,一定要启动zookeeper注册中心的启动类
基于以下图实现服务 提供者、消费者
创建Maven项目=> user-service-provider
服务提供者
UserAddress
public class UserAddress implements Serializable{
private Integer id;
private String userAddress; //用户地址
private String userId; //用户id
private String consignee; //收货人
private String phoneNum; //电话号码
private String isDefault; //是否为默认地址 Y-是 N-否
//get set
//有参构造 无参构造
}
UserService
//用户服务
public interface UserService {
/**
* 按照用户id返回所有的收货地址
* @param userId
* @return
*/
public List getUserAddressList(String userId);
}
UserServiceImpl
public class UserServiceImpl implements UserService {
public List getUserAddressList(String userId) {
UserAddress address1 = new UserAddress(1, "河南省郑州巩义市宋陵大厦2F", "1", "安然", "150360313x", "Y");
UserAddress address2 = new UserAddress(2, "北京市昌平区沙河镇沙阳路", "1", "情话", "1766666395x", "N");
return Arrays.asList(address1,address2);
}
}
创建Maven项目=> order-service-consumer
服务消费者(订单服务)
OrderService
public interface OrderService {
/**
* 初始化订单
* @param userID
*/
public void initOrder(String userID);
}
OrderServiceImpl
public class OrderServiceImpl implements OrderService {
public void initOrder(String userID) {
//查询用户的收货地址
}
}
因服务消费者要拿到提供者的方法
将 服务提供者 中的 实体类 及 UserService 复制到当前消费者同级文件中。
OrderServiceImpl
public class OrderServiceImpl implements OrderService {
public UserService userService;
public void initOrder(String userID) {
//查询用户的收货地址
List userAddressList = userService.getUserAddressList(userID);
System.out.println(userAddressList);
}
}
此时我们调用userservice肯定是要报错的。这种面向接口的方式,我们这里只是调到了接口,而接口实际是在另外一个项目中,如果我们两个项目工程都创建共同的实体类,太过于麻烦了,我们可以将服务接口,服务模型等单独放在一个项目中,更为方便调用。
创建Maven项目=> gmail-interface 用于存放共同的服务接口
将 提供者 和 消费者 项目中的所有实体类复制到当前相关的文件包下,删除原有的实体类包及service包,也就是将实体类及service放在了当前公共的项目中。
把服务提供者和消费者项目中引入以下依赖,引入后项目不在报错.
com.lemon.gmail
gmail-interface
1.0-SNAPSHOT
在 user-service-provider
服务提供者项目中引入依赖
com.alibaba
dubbo
2.6.2
org.apache.curator
curator-framework
2.12.0
在resource
文件中创建provider.xml
编写一个ProviderApplication
启动类程序,运行测试配置
public class MailApplication {
public static void main(String[] args) throws IOException {
ClassPathXmlApplicationContext applicationContext= new ClassPathXmlApplicationContext("provider.xml");
applicationContext.start();
System.in.read();
}
}
启动zookeeper注册中心的的zkServer.cmd、和zkCli.cmd服务
在dubbo-admin target中cmd运行 java -jar dubbo-admin-0.0.1-SNAPSHOT.jar
再次启动项目,我们可以看到在zookeeper中已经发现服务提供者。
服务提供者的配置和测试完成
在 order-service-consumer
服务消费者项目中引入依赖
com.alibaba
dubbo
2.6.2
org.apache.curator
curator-framework
2.12.0
创建consumer.xml
把当前OrderServiceImpl实现类中加上注解
@Service
public class OrderServiceImpl implements OrderService {
@Autowired
public UserService userService;
public void initOrder(String userID) {
//查询用户的收货地址
List userAddressList = userService.getUserAddressList(userID);
//为了直观的看到得到的数据,以下内容也可不写
System.out.println("当前接收到的userId=> "+userID);
System.out.println("**********");
System.out.println("查询到的所有地址为:");
for (UserAddress userAddress : userAddressList) {
//打印远程服务地址的信息
System.out.println(userAddress.getUserAddress());
}
}
}
编写一个ConsumerApplication
启动类程序,运行测试配置
public class ConsumerApplication {
public static void main(String[] args) {
ClassPathXmlApplicationContext applicationContext = new ClassPathXmlApplicationContext("consumer.xml");
OrderService orderService = applicationContext.getBean(OrderService.class);
//调用方法查询出数据
orderService.initOrder("1");
System.out.println("调用完成...");
System.in.read();
}
}
注意:消费者的运行测试需要先启动提供者。
启动服务提供者、消费者。及zookeeper的和dubbo-admin,查看监控信息。
localhost:7001
此时可以看到一个提供者,一个消费者的信息监控信息。
进入dubbo-monitor-simple文件,执行cmd命令,mvn package打包成jar包
将 dubbo-monitor-simple-2.0.0-assembly.tar.gz
压缩包解压至当前文件夹,解压后config文件查看properties的配置是否是本地的zookeeper。
打开解压后的 assembly.bin
文件,start.bat
启动dubbo-monitor-simple监控中心
在浏览器 localhost:8080
,可以看到一个监控中心。
在服务提供者和消费者的xml中配置以下内容,再次启动服务提供和消费者启动类。
创建Maven项目 boot-user-service-provider
服务提供者
导入以下依赖
org.springframework.boot
spring-boot-starter-parent
2.0.4.RELEASE
com.lemon.gmail
gmail-interface
1.0-SNAPSHOT
org.springframework.boot
spring-boot-starter
com.alibaba.boot
dubbo-spring-boot-starter
0.2.0
把 user-service-provider
中的service拿到此项目中。
注意,以此方法为返回的需要更改 interface包中的void为 List
@Service//dubbo的服务暴露
@Component
public class UserServiceImpl implements UserService {
public List getUserAddressList(String userId) {
UserAddress address1 = new UserAddress(1, "河南省郑州巩义市宋陵大厦2F", "1", "安然", "150360313x", "Y");
UserAddress address2 = new UserAddress(2, "北京市昌平区沙河镇沙阳路", "1", "情话", "1766666395x", "N");
return Arrays.asList(address1,address2);
}
}
配置 application.properties
dubbo.application.name=boot-user-service-provider
dubbo.registry.address=127.0.0.1:2181
dubbo.registry.protocol=zookeeper
dubbo.protocol.name=dubbo
dubbo.protocol.port=20880
#连接监控中心
dubbo.monitor.protocol=registry
BootProviderApplication 启动类配置
@EnableDubbo //开启基于注解的dubbo功能
@SpringBootApplication
public class BootProviderApplication {
public static void main(String[] args) {
SpringApplication.run(BootProviderApplication.class, args);
}
}
启动注册中心,启动当前服务提供者,可以在浏览器看到一个服务提供者。
创建Maven项目 boot-order-service-consumer
服务消费者
导入以下依赖
org.springframework.boot
spring-boot-starter-parent
2.0.4.RELEASE
com.lemon.gmail
gmail-interface
1.0-SNAPSHOT
org.springframework.boot
spring-boot-starter-web
com.alibaba.boot
dubbo-spring-boot-starter
0.2.0
把order-service-consumer项目中的service复制到当前项目。
@Service
public class OrderServiceImpl implements OrderService {
@Reference//引用远程提供者服务
UserService userService;
public List initOrder(String userID) {
//查询用户的收货地址
List userAddressList = userService.getUserAddressList(userID);
System.out.println("当前接收到的userId=> "+userID);
System.out.println("**********");
System.out.println("查询到的所有地址为:");
for (UserAddress userAddress : userAddressList) {
//打印远程服务地址的信息
System.out.println(userAddress.getUserAddress());
}
return userAddressList;
}
}
创建 OrderController 控制器
@Controller
public class OrderController {
@Autowired
OrderService orderService;
@RequestMapping("/initOrder")
@ResponseBody
public List initOrder(@RequestParam("uid")String userId) {
return orderService.initOrder(userId);
}
}
创建application.properties 配置
server.port=8081
dubbo.application.name=boot-order-service-consumer
dubbo.registry.address=zookeeper://127.0.0.1:2181
#连接监控中心 注册中心协议
dubbo.monitor.protocol=registry
BootConsumerApplication 启动类创建
@EnableDubbo //开启基于注解的dubbo功能
@SpringBootApplication
public class BootConsumerApplication {
public static void main(String[] args){
SpringApplication.run(BootConsumerApplication.class,args);
}
}
配置完毕,此时启动zookeeper注册中心及监控。
启动springboot配置的服务提供者和消费者
在浏览器输入 localhost:7001 查看结果
http://localhost:8081/initOrder?uid=1 查询到地址信息
duboo的springboot整合配置完成。
dubbo配置官网参考:http://dubbo.apache.org/zh-cn/docs/user/references/xml/dubbo-service.html
1、配置原则
JVM 启动 -D 参数优先,这样可以使用户在部署和启动时进行参数重写,比如在启动时需改变协议的端口。
XML 次之,如果在 XML 中有配置,则 dubbo.properties 中的相应配置项无效。
Properties 最后,相当于缺省值,只有 XML 没有配置时,dubbo.properties 的相应配置项才会生效,通常用于共享公共配置,比如应用名。
2、启动时检查
Dubbo 缺省会在启动时检查依赖的服务是否可用,不可用时会抛出异常,阻止 Spring 初始化完成,以便上线时,能及早发现问题,默认 check=“true”。
可以通过 check=“false” 关闭检查,比如,测试时,有些服务不关心,或者出现了循环依赖,必须有一方先启动。
另外,如果你的 Spring 容器是懒加载的,或者通过 API 编程延迟引用服务,请关闭 check,否则服务临时不可用时,会抛出异常,拿到 null 引用,如果 check=“false”,总是会返回引用,当服务恢复时,能自动连上。
以order-service-consumer
消费者为例,在consumer.xml中添加配置
添加后,即使服务提供者不启动,启动当前的消费者,也不会出现错误。
3、全局超时配置
全局超时配置
指定接口以及特定方法超时配置
配置原则
dubbo推荐在Provider上尽量多配置Consumer端属性
1、作服务的提供者,比服务使用方更清楚服务性能参数,如调用的超时时间,合理的重试次数,等等
2、在Provider配置后,Consumer不配置则会使用Provider的配置值,即Provider配置可以作为Consumer的缺省值。否则,Consumer会使用Consumer端的全局设置,这对于Provider不可控的,并且往往是不合理的
配置的覆盖规则:
配置多个文件的路径及信息。
服务消费者调用时,可自由配置版本
1、将服务提供者注册到注册中心(如何暴露服务)
1.1导入Dubbo的依赖 和 zookeeper 客户端
2、让服务消费者去注册中心订阅服务提供者的服务地址
Springboot与Dubbo整合的三种方式
2.1导入dubbo-starter。在application.properties配置属性,使用@Service【暴露服务】,使用@Reference【引用服务】
2.2保留Dubbo 相关的xml配置文件
导入dubbo-starter,使用@ImportResource导入Dubbo的xml配置文件
3、使用 注解API的方式
将每一个组件手动配置到容器中,让dubbo来扫描其他的组件
zookeeper宕机与dubbo直连
现象:zookeeper注册中心宕机,还可以消费dubbo暴露的服务。
原因:
健壮性↓
在集群负载均衡时,Dubbo 提供了多种均衡策略,缺省为 random 随机调用。
负载均衡策略如下
Random LoadBalance 基于权重的随机负载均衡机制
随机,按权重设置随机概率。 在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。
RoundRobin LoadBalance 基于权重的轮询负载均衡机制
轮循,按公约后的权重设置轮循比率。 存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。
LeastActive LoadBalance最少活跃数负载均衡机制
最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。 使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。
ConsistentHash LoadBalance一致性hash 负载均衡机制
一致性 Hash,相同参数的请求总是发到同一提供者。 当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。算法参见:http://en.wikipedia.org/wiki/Consistent_hashing 缺省只对第一个参数 Hash,如果要修改,请配置
当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。
可以通过服务降级功能临时屏蔽某个出错的非关键服务,并定义降级后的返回策略。
向注册中心写入动态配置覆盖规则:
RegistryFactory registryFactory = ExtensionLoader.getExtensionLoader(RegistryFactory.class).getAdaptiveExtension();
Registry registry = registryFactory.getRegistry(URL.valueOf("zookeeper://10.20.153.10:2181"));
registry.register(URL.valueOf("override://0.0.0.0/com.foo.BarService?category=configurators&dynamic=false&application=foo&mock=force:return+null"));
其中:
mock=force:return+null 表示消费方对该服务的方法调用都直接返回 null 值,不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。
还可以改为 mock=fail:return+null 表示消费方对该服务的方法调用在失败后,再返回 null 值,不抛异常。用来容忍不重要服务不稳定时对调用方的影响。
在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 failover 重试。
集群容错模式
Failover Cluster
失败自动切换,当出现失败,重试其它服务器。通常用于读操作,但重试会带来更长延迟。可通过 retries=“2” 来设置重试次数(不含第一次)。
重试次数配置如下:
或
或
dubbo:reference
Failfast Cluster
快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。
Failsafe Cluster
失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。
Failback Cluster
失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。
Forking Cluster
并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过 forks=“2” 来设置最大并行数。
Broadcast Cluster
广播调用所有提供者,逐个调用,任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。
集群模式配置
按照以下示例在服务提供方和消费方配置集群模式
或
服务熔断错处理配置参考=> https://www.cnblogs.com/xc-xinxue/p/12459861.html
Hystrix 旨在通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。Hystrix具备拥有回退机制和断路器功能的线程和信号隔离,请求缓存和请求打包,以及监控和配置等功能
配置spring-cloud-starter-netflix-hystrix
spring boot官方提供了对hystrix的集成,直接在pom.xml里加入依赖:
org.springframework.cloud
spring-cloud-starter-netflix-hystrix
1.4.4.RELEASE
然后在Application类上增加@EnableHystrix来启用hystrix starter:
@SpringBootApplication
@EnableHystrix //开启服务容错功能
public class ProviderApplication {
...启动方法
}
配置Provider端
在Dubbo的Provider上增加@HystrixCommand配置,这样子调用就会经过Hystrix代理。
@Service(version = "1.0.0")
public class HelloServiceImpl implements HelloService {
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "2000") })
@Override
public String sayHello(String name) {
// System.out.println("async provider received: " + name);
// return "annotation: hello, " + name;
throw new RuntimeException("Exception to show hystrix enabled.");
}
}
配置Consumer端
对于Consumer端,则可以增加一层method调用,并在method上配置@HystrixCommand。当调用出错时,会走到fallbackMethod = "reliable"的调用里。
@Reference(version = "1.0.0")
private HelloService demoService;
@HystrixCommand(fallbackMethod = "reliable")
public String doSayHello(String name) {
return demoService.sayHello(name);
}
public String reliable(String name) {
return "hystrix fallback value";
}
dubbo只用了两步1和8,中间的过程是透明的看不到的。RPC框架的目标就是要2~8这些步骤都封装起来,这些细节对用户来说是透明的,不可见的。
Netty是一个异步事件驱动的网络应用程序框架, 用于快速开发可维护的高性能协议服务器和客户端。它极大地简化并简化了TCP和UDP套接字服务器等网络编程。
BIO:(Blocking IO)
NIO (Non-Blocking IO)
Selector 一般称 为选择器 ,也可以翻译为 多路复用器,
Connect(连接就绪)、Accept(接受就绪)、Read(读就绪)、Write(写就绪)
Netty基本原理:
netty基本原理,可参考https://www.sohu.com/a/272879207_463994