1. 分布式基础理论
1.1 什么是分布式系统
分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统
分布式系统(distributed system)是建立在网络之上的软件系统。
随着互联网的发展,网站应用的规模不断扩大,常规的垂直应用架构已无法应对,分布式服务架构以及流动计算架构势在必行,亟需一个治理系统确保架构有条不紊的演进
1.2 发展演变
1.2.1 单一应用架构
当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架(ORM)是关键。
适用于小型网站,小型管理系统,将所有功能都部署到一个功能里,简单易用。
缺点:
- 性能扩展比较难
- 协同开发问题
- 不利于升级维护
1.2.2 垂直应用架构
当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。
通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更易管理,性能扩展也更方便,更有针对性。
缺点: 公用模块无法重复利用,开发性的浪费
1.2.3 分布式服务架构
当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。
1.2.4 流动计算架构
当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)[ Service Oriented Architecture]是关键。
1.3 RPC
1.3.1 什么叫RPC
RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。
1.3.2 RPC基本原理
RPC两个核心模块:通讯,序列化。
RPC框架有很多如:dubbo、gRPC、Thrift、HSF(High Speed Service Framework)
2. dubbo核心概念
2.1 简介
Apache Dubbo (incubating) |ˈdʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。
2.2 基本概念
服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。
服务消费者(Consumer): 调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者
监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心
调用关系说明:
- 服务容器负责启动,加载,运行服务提供者。
- 服务提供者在启动时,向注册中心注册自己提供的服务。
- 服务消费者在启动时,向注册中心订阅自己所需的服务。
- 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
- 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
- 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。
3. dubbo环境搭建
3.1 安装zookeeper
参考文章:https://wgy1993.gitee.io/archives/e18db595.html
3.2 安装dubbo-admin管理控制台
dubbo本身并不是一个服务软件。它其实就是一个jar包能够帮你的java程序连接到zookeeper,并利用zookeeper消费、提供服务。所以你不用在Linux上启动什么dubbo服务。但是为了让用户更好的管理监控众多的dubbo服务,官方提供了一个可视化的监控程序,不过这个监控即使不装也不影响使用。
3.2.1 下载dubbo-admin
https://github.com/apache/incubator-dubbo-ops
3.2.2 修改dubbo-admin配置
修改 src\main\resources\application.properties 指定zookeeper地址
3.2.3 打包dubbo-admin
1 | mvn clean package -Dmaven.test.skip=true |
3.2.4 运行dubbo-admin
1 | java -jar dubbo-admin-0.0.1-SNAPSHOT.jar |
默认使用root/root 登陆
4. dubbo-helloworld
4.1 提出需求
某个电商系统,订单服务需要调用用户服务获取某个用户的所有地址;
我们现在需要创建两个服务模块进行测试
模块 | 功能 |
---|---|
订单服务web模块 | 创建订单等 |
用户服务service模块 | 查询用户地址等 |
测试预期结果:
订单服务web模块在A服务器,用户服务模块在B服务器,A可以远程调用B的功能。
4.2 工程架构
4.2.1 分包
建议将服务接口,服务模型,服务异常等均放在 API 包中,因为服务模型及异常也是 API 的一部分,同时,这样做也符合分包原则:重用发布等价原则(REP),共同重用原则(CRP)。
如果需要,也可以考虑在 API 包中放置一份 spring 的引用配置,这样使用方便,只需在 spring 加载过程中引用此配置即可,配置建议放在模块的包目录下,以免冲突,如:com/alibaba/china/xxx/dubbo-reference.xml
。
4.2.2 粒度
服务接口尽可能大粒度,每个服务方法应代表一个功能,而不是某功能的一个步骤,否则将面临分布式事务问题,Dubbo 暂未提供分布式事务支持。
服务接口建议以业务场景为单位划分,并对相近业务做抽象,防止接口数量爆炸。
不建议使用过于抽象的通用接口,如:Map query(Map),这样的接口没有明确语义,会给后期维护带来不便。
4.3 创建模块
4.3.1 gmall-interface
公共接口层(model,service,exception…)
作用:定义公共接口,也可以导入公共依赖
4.3.1.1 Bean模型
1 | /** |
4.3.1.2 Service接口
1 | /** |
1 | /** |
4.3.2 gmall-user
用户模块(对用户接口的实现)
4.3.2.1 pom.xml
1 | <dependencies> |
4.3.2.2 Service
1 | /** |
4.3.3 gmall-order-web
订单模块(调用用户模块)
4.3.3.1 pom.xml
1 | <dependencies> |
4.3.3.2 测试
1 | /** |
现在这样是无法进行调用的。我们gmall-order-web引入了gmall-interface,但是interface的实现是gmall-user,我们并没有引入,而且实际他可能还在别的服务器中。
4.4 使用dubbo改造
4.4.1 改造gmall-user作为服务提供者
4.4.1.1 引入dubbo
1 | <!-- 引入dubbo --> |
4.4.1.2 配置提供者
1 |
|
4.4.1.3 启动服务
1 | /** |
4.4.2 改造gmall-order-web作为服务消费者
4.4.2.1 引入dubbo
1 | <!-- 引入dubbo --> |
4.4.2.2 配置消费者信息
1 |
|
4.4.2.3 修改消费者服务实现类
1 | /** |
4.4.3 测试调用
访问gmall-order-web的initOrder请求,会调用UserService获取用户地址;
调用成功。说明我们order已经可以调用远程的UserService了;
1 | /** |
4.4.4 注解版
4.4.4.1 服务提供方
1 |
|
1 | /** |
4.4.4.2 服务消费方
1 |
|
1 | /** |
5. 监控中心
5.1 dubbo-admin
图形化的服务管理页面;安装时需要指定注册中心地址,即可从注册中心中获取到所有的提供者/消费者进行配置管理
5.2 dubbo-monitor-simple
简单的监控中心
5.2.1 安装
5.2.1.1 下载 dubbo-ops
https://github.com/apache/incubator-dubbo-ops
5.2.1.2 修改配置指定注册中心地址
进入 dubbo-monitor-simple\src\main\resources\conf,修改 dubbo.properties文件
5.2.1.3 打包dubbo-monitor-simple
1 | mvn clean package -Dmaven.test.skip=true |
5.2.1.4 解压 tar.gz 文件,并运行start.bat
如果缺少servlet-api,自行导入servlet-api再访问监控中心
5.2.1.5 启动访问8080
5.2.2 监控中心配置
所有服务配置连接监控中心,进行监控统计
1 | <!-- 监控中心协议,如果为protocol="registry",表示从注册中心发现监控中心地址,否则直连监控中心。 --> |
Simple Monitor 挂掉不会影响到 Consumer 和 Provider 之间的调用,所以用于生产环境不会有风险。
Simple Monitor 采用磁盘存储统计信息,请注意安装机器的磁盘限制,如果要集群,建议用mount共享磁盘。
6. 整合SpringBoot
6.1 引入依赖
1 | <parent> |
注意starter版本适配:
6.2 提供者
6.2.1 application.properties
1 | #服务名,不能跟别的dubbo提供端重复 |
6.2.2 xml配置文件
1 |
|
6.2.3 手动创建配置
1 | /** |
6.2.4 启动类
1 | /** |
6.2.5 服务提供方
1 | /** |
6.3 消费者
6.3.1 application.properties
1 | 8082 = |
6.3.2 启动类
1 | /** |
6.3.3 服务消费方
6.3.3.1 Controller
1 | /** |
6.3.3.2 Service
1 | /** |
7. dubbo配置
7.1 配置原则
JVM 启动 -D 参数优先,这样可以使用户在部署和启动时进行参数重写,比如在启动时需改变协议的端口。
XML 次之,如果在 XML 中有配置,则 dubbo.properties 中的相应配置项无效。
Properties 最后,相当于缺省值,只有 XML 没有配置时,dubbo.properties 的相应配置项才会生效,通常用于共享公共配置,比如应用名。
7.2 启动时检查
Dubbo 缺省会在启动时检查依赖的服务是否可用,不可用时会抛出异常,阻止 Spring 初始化完成,以便上线时,能及早发现问题,默认 check="true"
。
可以通过 check="false"
关闭检查,比如,测试时,有些服务不关心,或者出现了循环依赖,必须有一方先启动。
另外,如果你的 Spring 容器是懒加载的,或者通过 API 编程延迟引用服务,请关闭 check,否则服务临时不可用时,会抛出异常,拿到 null 引用,如果 check="false"
,总是会返回引用,当服务恢复时,能自动连上。
7.2.1 spring 配置文件
关闭某个服务的启动时检查 (没有提供者时报错):
1 | <dubbo:reference interface="com.foo.BarService" check="false" /> |
关闭所有服务的启动时检查 (没有提供者时报错):
1 | <dubbo:consumer check="false" /> |
关闭注册中心启动时检查 (注册订阅失败时报错):
1 | <dubbo:registry check="false" /> |
7.2.2 通过 dubbo.properties
1 | false = |
7.3 超时时间
由于网络或服务端不可靠,会导致调用出现一种不确定的中间状态(超时)。为了避免超时导致客户端资源(线程)挂起耗尽,必须设置超时时间。
7.3.1 Dubbo消费端
1 | <!-- 全局超时配置 --> |
7.3.2 Dubbo服务端
1 | <!-- 全局超时配置 --> |
7.3.3 配置原则
dubbo推荐在Provider上尽量多配置Consumer端属性:
- 作服务的提供者,比服务使用方更清楚服务性能参数,如调用的超时时间,合理的重试次数,等等
- 在Provider配置后,Consumer不配置则会使用Provider的配置值,即Provider配置可以作为Consumer的缺省值。否则,Consumer会使用Consumer端的全局设置,这对于Provider不可控的,并且往往是不合理的
配置的覆盖规则:
- 精确优先 (方法级优先,接口级次之,全局配置再次之)
- 消费者设置优先(如果级别一样,则消费方优先,提供方次之)
7.4 重试次数
失败自动切换,当出现失败,重试其它服务器,但重试会带来更长延迟。可通过 retries=”2” 来设置重试次数(不含第一次)。
1 | <!-- retries="":重试次数,不包含第一次调用,0代表不重试 --> |
7.5 版本号
当一个接口实现,出现不兼容升级时,可以用版本号过渡,版本号不同的服务相互间不引用。
可以按照以下的步骤进行版本迁移:
- 在低压力时间段,先升级一半提供者为新版本
- 再将所有消费者升级为新版本
- 然后将剩下的一半提供者升级为新版本
1 | <!-- 老版本服务提供者配置 --> |
8. 高可用
8.1 zookeeper宕机与dubbo直连
现象:zookeeper注册中心宕机,还可以消费dubbo暴露的服务。
原因:健壮性
- 监控中心宕掉不影响使用,只是丢失部分采样数据
- 数据库宕掉后,注册中心仍能通过缓存提供服务列表查询,但不能注册新服务
- 注册中心对等集群,任意一台宕掉后,将自动切换到另一台
- 注册中心全部宕掉后,服务提供者和服务消费者仍能通过本地缓存通讯
- 服务提供者无状态,任意一台宕掉后,不影响使用
- 服务提供者全部宕掉后,服务消费者应用将无法使用,并无限次重连等待服务提供者恢复
高可用:通过设计,减少系统不能提供服务的时间
8.2 集群下dubbo负载均衡配置
在集群负载均衡时,Dubbo 提供了多种均衡策略,缺省为 random 随机调用。
负载均衡策略
1 | Random LoadBalance |
1 | /** |
8.3 整合hystrix,服务熔断与降级处理
8.3.1 服务降级
当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。
可以通过服务降级功能临时屏蔽某个出错的非关键服务,并定义降级后的返回策略。
mock=force:return+null
表示消费方对该服务的方法调用都直接返回 null 值,不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。
mock=fail:return+null
表示消费方对该服务的方法调用在失败后,再返回 null 值,不抛异常。用来容忍不重要服务不稳定时对调用方的影响
8.3.2 集群容错
在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 failover 重试。
集群容错模式
1 | Failover Cluster |
8.3.3 整合hystrix
Hystrix 旨在通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。Hystrix具备拥有回退机制和断路器功能的线程和信号隔离,请求缓存和请求打包,以及监控和配置等功能
8.3.3.1 配置spring-cloud-starter-netflix-hystrix
spring boot官方提供了对hystrix的集成,直接在pom.xml里加入依赖:
1 | <dependency> |
然后在Application类上增加@EnableHystrix来启用hystrix starter:
1 | /** |
8.3.3.2 配置Provider端
在Dubbo的Provider上增加@HystrixCommand配置,这样子调用就会经过Hystrix代理。
1 | /** |
8.3.3.3 配置Consumer端
对于Consumer端,则可以增加一层method调用,并在method上配置@HystrixCommand。当调用出错时,会走到fallbackMethod = “hello”的调用里。
1 | /** |
9. dubbo原理
9.1 RPC原理
1 | 一次完整的RPC调用流程(同步调用,异步另说)如下: |
9.2 netty通信原理
Netty是一个异步事件驱动的网络应用程序框架, 用于快速开发可维护的高性能协议服务器和客户端。它极大地简化并简化了TCP和UDP套接字服务器等网络编程。
BIO:(Blocking IO)
NIO (Non-Blocking IO)
Selector 一般称 为选择器 ,也可以翻译为 多路复用器,
Connect(连接就绪)、Accept(接受就绪)、Read(读就绪)、Write(写就绪)
Netty基本原理:
9.3 dubbo原理
9.3.1 dubbo原理 -框架设计
- config 配置层:对外配置接口,以 ServiceConfig, ReferenceConfig 为中心,可以直接初始化配置类,也可以通过 spring 解析配置生成配置类
- proxy 服务代理层:服务接口透明代理,生成服务的客户端 Stub 和服务器端 Skeleton, 以 ServiceProxy 为中心,扩展接口为 ProxyFactory
- registry 注册中心层:封装服务地址的注册与发现,以服务 URL 为中心,扩展接口为 RegistryFactory, Registry, RegistryService
- cluster 路由层:封装多个提供者的路由及负载均衡,并桥接注册中心,以 Invoker 为中心,扩展接口为 Cluster, Directory, Router, LoadBalance
- monitor 监控层:RPC 调用次数和调用时间监控,以 Statistics 为中心,扩展接口为 MonitorFactory, Monitor, MonitorService
- protocol 远程调用层:封装 RPC 调用,以 Invocation, Result 为中心,扩展接口为 Protocol, Invoker, Exporter
- exchange 信息交换层:封装请求响应模式,同步转异步,以 Request, Response 为中心,扩展接口为 Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer
- transport 网络传输层:抽象 mina 和 netty 为统一接口,以 Message 为中心,扩展接口为 Channel, Transporter, Client, Server, Codec
- serialize 数据序列化层:可复用的一些工具,扩展接口为 Serialization, ObjectInput, ObjectOutput, ThreadPool
9.3.2 dubbo原理 -启动解析、加载配置信息
9.3.3 dubbo原理 -服务暴露
9.3.4 dubbo原理 -服务引用
9.3.5 dubbo原理 -服务调用
-------------本文结束感谢您的阅读-------------
本文标题: Dubbo
本文链接: https://wgy1993.gitee.io/archives/f6253398.html
版权声明: 本作品采用 CC BY-NC-SA 4.0 进行许可。转载请注明出处!
![知识共享许可协议](https://i.creativecommons.org/l/by-nc-sa/4.0/88x31.png)