微服务+Eureka+Ribbon
一、微服务导学
1、概览:

一个大型的互联网项目往往会包含数百上千的服务,最终形成一个集群,而一个业务往往会需要有多个服务来共同来完成。一个请求来了,它会调服务a,服务a又去调了服务b,而后又调了服务c,当业务越来越多、越来越复杂的时候,这些服务之间的调用关系就会越来越复杂,想靠人去记录和维护是不可能的。
2、注册中心:
记录微服务中的每一个服务的ip端口,以及它能干什么事这些信息。当一个服务需要调用另一个服务的时候,它不需要自己去记录对方的ip,只需要去找注册中心就行,去那里拉取对应的服务信息。
3、配置文件:
每个服务都有自己的配置文件,后面要修改配置文件,难道要逐一修改吗?不需要,统一管理。
需要修改的时候,会通知相关的微服务实现配置的热更新。

4、排查:
在运行的过程中,如果出现了什么问题,不太好排查,所以我们还会引入两个新的组件来解决这种服务的异常定位。
- 分布式日志服务:是指将分散在多个服务器上的日志进行统一的收集、存储、查询和分析。通过采集系统各个节点的日志数据,并将其按一定格式整合存储,开发人员可以轻松地追踪和排查系统问题,同时也可以利用日志数据监控系统运行状态和性能指标,实现对系统的实时监控和预警。
- 系统链路追踪:是一种分布式系统监控技术,通过记录系统中每个请求的处理流程和性能数据,来协助开发人员快速定位和解决问题,优化系统性能。它可以帮助我们提高系统可观测性、定位延迟问题、优化服务调用链、跟踪用户行为和异常等,是大型分布式系统中必不可少的技术手段。
5、部署:

Jenkins是一种持续集成工具,用于自动化构建、测试和部署软件。 Docker是一种容器化技术,将应用程序及其依赖项打包为容器,实现软件的跨平台部署。 Kubernetes是一个开源的容器编排平台,用于管理Docker容器集群。 Rancher是一个基于Kubernetes的容器管理平台,提供可视化的用户界面和自动化的部署。
它们之间的关系是:Jenkins用于自动化构建和测试代码,并将构建后的镜像推送到Docker仓库;Docker将应用程序及其依赖项打包为容器,并通过Kubernetes进行集群部署和管理;Rancher则提供了可视化的用户界面和自动化的部署来管理Kubernetes集群。总体来说,这些技术都致力于实现高效、可靠和可扩展的应用部署和管理。



二、架构演变,技术对比,SpringCloud
1、单体架构:
将业务的所有功能集中在一个项目中开发,打成一个包部署。
优点:
- 架构简单
- 部署成本低
缺点:
- 耦合度高:拼多多&淘宝,服务可就不是两三个模块了,可能是几十上百个模块,代码不是几千行,而是数十万行,代码编译打包都得十几分钟。而且,模块太多,你中有我,我中有你,边界模糊,改一个地方的代码,可能要牵连很多地方,所以不敢乱动代码,耦合度太高。
2、分布式架构:
根据业务功能对系统进行拆分,每个业务模块作为独立项目开发,称为一个服务。 优点:
- 降低服务耦合
- 有利于服务升级拓展
后面拆分好的机器还想保证高可用,又得做集群,

单体的时候,下单的时候需要商品信息,怎么办,你不是有一个service么,我直接调你就行了,因为在一个项目里,大家可以互相调
分布式架构的要考虑的问题:
- 服务拆分粒度如何?哪几个服务单独作为模块开发,哪些业务在一起呢,这个粒度需要你去把握。
- ==服务集群地址如何维护?==100个(支付模块)ip地址,别人怎么调,万一上线变了,怎么办,改?地址必须是方便维护的。
- ==服务之间如何实现远程调用?==RPC跨服务的调用啊,我可没学过。
- ==服务健康状态如何感知?==我调你,怎么能知道你上百个服务是好的呢?万一你挂了我调你,结果阻塞了,导致级联失败。
3、认识微服务:
微服务:是一种经过良好架构
设计的分布式
架构方案,微服务架构特征:
- 单一职责:微服务拆分粒度更小,每一个服务都对应唯一的业务能力,做到单一职责,避免重复业务开发。
- 面向服务:微服务对外暴露业务接口
- 自治:团队独立、技术独立、数据独立、部署独立()。所以你可以用你擅长的技术,Go,Java,C++都可以。
- 隔离性强:服务调用做好隔离、容错、降级,避免出现级联问题


4、服务拆分注意事项:
- 单一职责:不同微服务,不要重复开发相同业务
- 数据独立:不要访问其它微服务的数据库
- 面向服务:将自己的业务暴露为接口,供其它微服务调用

5、SpringCloud版本:
基于SpringBoot实现了这些组件的自动装配,从而提供了良好的开箱即用体验,所以才能推广开来。
"spring-cloud": {
"Hoxton.SR12": "Spring Boot >=2.2.0.RELEASE and <2.4.0.RELEASE",
"2020.0.6": "Spring Boot >=2.4.0.RELEASE and <2.6.0",
"2021.0.7": "Spring Boot >=2.6.0 and <3.0.0",
"2022.0.3": "Spring Boot >=3.0.0 and <3.2.0-M1"
},
"mybatis": {
"2.1.4": "Spring Boot >=2.1.0.RELEASE and <2.5.0-M1",
"2.2.2": "Spring Boot >=2.5.0-M1 and <2.7.0-M1",
"2.3.1": "Spring Boot >=2.7.0-M1 and <3.0.0-M1",
"3.0.2": "Spring Boot >=3.0.0-M1"
},
课堂学习的版本是 Hoxton.SR10,因此对应的SpringBoot版本是2.3.x版本。
可以自己点上方 View--Tool Windows--Services,弹出来后点那个加号点那个Type选springboot。
6、服务拆分及远程调用:
注意: mybatis: type-aliases-package:这个注解有什么作用? |
type-aliases-package
是MyBatis的一个配置项,用于指定类型别名所在的包路径。
在Java代码中,我们经常需要使用全限定类名来引用某个类,但如果类名过长或者使用频繁,这样的代码可读性就比较差。为了让代码更加简洁易读,MyBatis引入了类型别名的概念。
类型别名就是为Java类取一个短小的名称,代替完整的类名。通常情况下,类型别名与类名同名。例如,我们有一个名为cn.itcast.user.pojo.User
的JavaBean类,可以在MyBatis配置文件中使用如下方式指定该类的类型别名:
<typeAliases>
<typeAlias type="cn.itcast.user.pojo.User" alias="User"/>
</typeAliases>
这样,我们在写MyBatis映射文件时,就可以使用<resultMap>
等标签直接使用User
作为返回结果集的类型了:
<resultMap type="User" id="userMap">
<id property="id" column="id"/>
<result property="name" column="name"/>
<result property="age" column="age"/>
</resultMap>
但是如果有很多JavaBean需要在MyBatis配置文件中作为返回结果集的类型,就需要逐个为它们设置类型别名,非常繁琐。因此,MyBatis提供了type-aliases-package
配置项,可以一次性将一个包中所有的JavaBean类设置为类型别名:
<typeAliases>
<package name="cn.itcast.user.pojo"/>
</typeAliases>
这样,MyBatis就会自动将cn.itcast.user.pojo
包下的所有JavaBean类都设置为类型别名了。在编写Mapper映射文件时,只需要直接使用JavaBean名称即可,不再需要使用完整的类名。这样可以大大提高代码的可读性和可维护性。


微服务远程调用:

步骤一:在order-service的OrderApplication中注册RestTemplate
/**
* 创建RestTemplate并注入Spring容器
*/
@Bean
public RestTemplate restTemplate(){
return new RestTemplate();
}
步骤二:修改order-service中的OrderService的queryOrderById方法:
@Service
public class OrderService {
@Autowired
private OrderMapper orderMapper;
@Autowired
private RestTemplate restTemplate;
public Order queryOrderById(Long orderId) {
// 1.查询订单
Order order = orderMapper.findById(orderId);
// 2.利用RestTemplate发起http请求,查询用户
String url = "http://localhost:8081/user/" + order.getUserId();
User user = restTemplate.getForObject(url, User.class);
// 3.封装user和order
order.setUser(user);
// 4.返回
return order;
}
}

三、Eureka
1、提供者与消费者:
- 服务提供者:一次业务中,被其它微服务调用的服务。(提供接口给其它微服务)
- 服务消费者:一次业务中,调用其它微服务的服务。(调用其它微服务提供的接口)

服务调用关系
- 服务提供者:暴露接口给其它微服务调用
- 服务消费者:调用其它微服务提供的接口
- 提供者与消费者角色其实是相对的
- 一个服务可以同时是服务提供者和服务消费者
2、Eureka注册中心
假如我们的服务提供者user-service部署了多个实例,如图:

大家思考几个问题:
- order-service在发起远程调用的时候,该如何得知user-service实例的ip地址和端口?
- 服务提供者启动时向eureka注册自己的信息
- eureka保存这些信息
- 消费者根据服务名称向eureka拉取提供者信息
- 有多个user-service实例地址,order-service调用时该如何选择?
- 服务消费者利用负载均衡算法,从服务列表中挑选一个
- order-service如何得知某个user-service实例是否依然健康,是不是已经宕机?
- 服务提供者会每隔30秒向EurekaServer发送心跳请求,报告健康状态
- eureka会更新记录服务列表信息,心跳不正常会被剔除
- 消费者就可以拉取到最新的信息
3、Eureka作用:

4、搭建eureka-server:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
父pom
<!-- springCloud -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>${spring-cloud.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
这里不需要写eureka的版本信息是因为,父pom中加载了spring-cloud的依赖,里面大量的springcloud的组件及版本信息已经定义好了。

5、创建eureka-server服务
5.1、引入eureka依赖
引入SpringCloud为eureka提供的starter依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
5.2、编写启动类
@SpringBootApplication
@EnableEurekaServer
public class EurekaApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaApplication.class, args);
}
}
5.3、编写配置文件
application.yml
server:
port: 10086
spring:
application:
name: eureka-server #eureka的服务名称
eureka:
client:
fetch-registry: false #既不注册,也不获取
register-with-eureka: false
service-url: #eureka集群的地址信息
defaultZone: http://127.0.0.1:10086/eureka
# eureka本身也是一个微服务,因为后面也要做集群; eureka在启动的时候,会将自己注册到eureka上
6、服务注册
6.1、引入依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
6.2、配置文件
在user-service中,修改application.yml文件,添加服务名称、eureka地址:
server:
port: 8081
spring:
application:
name: userservice
datasource:
url: jdbc:mysql://localhost:3306/cloud_user?useSSL=false
username: root
password: 123.com
driver-class-name: com.mysql.cj.jdbc.Driver
mybatis:
type-aliases-package: cn.itcast.user.pojo
configuration:
map-underscore-to-camel-case: true
logging:
level:
cn.itcast: debug
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:10086/eureka
7、启动多个user-service实例:
为了演示一个服务有多个实例的场景,复制原来的user-service启动配置,再启动一个user-service。
右键Copy Configuration,VM options:-Dserver.port=8082


spring会自动帮助我们从eureka-server端,根据userservice这个服务名称,获取实例列表,而后完成负载均衡.
注意如果不加 @LoadBalanced ,将无法通过服务名请求访问
注意:是在这加:
/** * 创建RestTemplate并注入Spring容器 */ @Bean public RestTemplate restTemplate(){ return new RestTemplate(); }
切换两个实例查看,发现确实实现了负载均衡**(这个课太棒了!)**


8、注册中心总结:
8.1、搭建EurekaServer
- 引入eureka-server依赖
- 添加@EnableEurekaServer注解
- 在application.yml中配置eureka地址
8.2、服务注册
- 引入eureka-client依赖
- 在application.yml中配置eureka地址
8.3、服务发现
- 引入eureka-client依赖
- 在application.yml中配置eureka地址
- 给RestTemplate添加@LoadBalanced注解
- 用服务提供者的服务名称远程调用
四、Ribbon负载均衡
上一节中,我们添加了@LoadBalanced注解,即可实现负载均衡功能,这是什么原理呢?
1.负载均衡原理:
SpringCloud底层其实是利用了一个名为Ribbon的组件,来实现负载均衡功能的。

那么我们发出的请求明明是http://userservice/user/1,怎么变成了http://localhost:8081的呢?
2.源码跟踪:
为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。
显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor
,这个类会在对RestTemplate的请求进行拦截,然后从Eureka根据服务id获取服务列表,随后利用负载均衡算法得到真实的服务地址信息,替换服务id。
我们进行源码跟踪:
1)LoadBalancerIntercepor

可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:
request.getURI()
:获取请求uri,本例中就是 http://user-service/user/8originalUri.getHost()
:获取uri路径的主机名,其实就是服务id,user-service
this.loadBalancer.execute()
:处理服务id,和用户请求。
这里的this.loadBalancer
是LoadBalancerClient
类型,我们继续跟入。
2)LoadBalancerClient
继续跟入execute方法:

代码是这样的:
- getLoadBalancer(serviceId):根据服务id获取ILoadBalancer,而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来。
- getServer(loadBalancer):利用内置的负载均衡算法,从服务列表中选择一个。本例中,可以看到获取了8082端口的服务
放行后,再次访问并跟踪,发现获取的是8081:

果然实现了负载均衡。
3)负载均衡策略IRule
在刚才的代码中,可以看到获取服务使通过一个getServer
方法来做负载均衡:

我们继续跟入:

继续跟踪源码chooseServer方法,发现这么一段代码:

我们看看这个rule是谁:

这里的rule默认值是一个RoundRobinRule
,看类的介绍:

这不就是轮询的意思嘛。
到这里,整个负载均衡的流程我们就清楚了。
4)总结
SpringCloudRibbon的底层采用了一个拦截器,拦截了RestTemplate发出的请求,对地址做了修改。用一幅图来总结一下:

基本流程如下:
- 拦截我们的RestTemplate请求http://userservice/user/1
- RibbonLoadBalancerClient会从请求url中获取服务名称,也就是user-service
- DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表
- eureka返回列表,localhost:8081、localhost:8082
- IRule利用内置负载均衡规则,从列表中选择一个,例如localhost:8081
- RibbonLoadBalancerClient修改请求地址,用localhost:8081替代userservice,得到http://localhost:8081/user/1,发起真实请求
3.负载均衡策略
3.1.负载均衡策略
负载均衡的规则都定义在IRule接口中,而IRule有很多不同的实现类:

不同规则的含义如下:
内置负载均衡规则类 | 规则描述 |
---|---|
RoundRobinRule | 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 |
AvailabilityFilteringRule | 对以下两种服务器进行忽略: (1)在默认情况下,这台服务器如果3次连接失败,这台服务器就会被设置为“短路”状态。短路状态将持续30秒,如果再次连接失败,短路的持续时间就会几何级地增加。 (2)并发数过高的服务器。如果一个服务器的并发连接数过高,配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限,可以由客户端的clientName``clientConfigNameSpace``ActiveConnectionsLimit 属性进行配置。 |
WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长,这个服务器的权重就越小。这个规则会随机选择服务器,这个权重值会影响服务器的选择。 |
ZoneAvoidanceRule | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类,这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 |
BestAvailableRule | 忽略那些短路的服务器,并选择并发数较低的服务器。 |
RandomRule | 随机选择一个可用的服务器。 |
RetryRule | 重试机制的选择逻辑 |
默认的实现就是ZoneAvoidanceRule,是一种轮询方案


3.2.自定义负载均衡策略
通过定义IRule实现可以修改负载均衡规则,有两种方式:
- 代码方式:在order-service中的OrderApplication类中,定义一个新的IRule:
@Bean
public IRule randomRule(){
return new RandomRule();
}
上面这个是全局的,在order-service
里,不管你调用的是user-service
,还是以后商品服务也好,它都是随机的。
- 配置文件方式:在order-service的application.yml文件中,添加新的配置也可以修改规则:
userservice: # 给某个微服务配置负载均衡规则,这里是userservice服务
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则
注意,一般用默认的负载均衡规则,不做修改。


4.饥饿加载:
Ribbon默认是采用懒加载,即第一次访问时才会去创建LoadBalanceClient,请求时间会很长。


而饥饿加载则会在项目启动时创建,降低第一次访问的耗时,通过下面配置开启饥饿加载:
ribbon:
eager-load:
enabled: true
clients: userservice

直接缩短了一般时间
为什么时间还是这么长?那是因为还做了其他配置SpringMVC容器(DispatcherServlet)的初始化

5.总结
1、Ribbon负载均衡规则
- 规则接口是IRule
- 默认实现是ZoneAvoidanceRule,根据zone选择服务列表,然后轮询
2、负载均衡自定义方式
- 代码方式:配置灵活,但修改时需要重新打包发布
- 配置方式:直观,方便,无需重新打包发布,但是无法做全局配置
3、饥饿加载
- 开启饥饿加载
- 指定饥饿加载的微服务名称