SpringCloud学习总结(四):Hystrix(服务容错保护)
简介
Hystrix:英文意思是豪猪,全身是刺,看起来就不好惹,是一种保护机制。
Hystrix也是Netflix公司的一款组件。
Hystrix是Netflix开源的一个延迟和容错库,用于隔离访问远程服务、第三方库,防止出现级联失败。
雪崩问题
微服务中,服务间调用关系错综复杂,一个请求,可能需要调用多个微服务接口才能实现,会形成非常复杂的调用链路:
如图,一次业务请求,需要调用A、P、H、I四个服务,这四个服务又可能调用其它服务。
如果此时,某个服务出现异常:
例如微服务I发生异常,请求阻塞,用户不会得到响应,则tomcat的这个线程不会释放,于是越来越多的用户请求到来,越来越多的线程会阻塞:
服务器支持的线程和并发数有限,请求一直阻塞,会导致服务器资源耗尽,从而导致所有其它服务都不可用,形成雪崩效应。
Hystrix解决雪崩问题的手段有两个:
- 线程隔离
- 服务熔断
线程隔离,服务降级
线程隔离示意图:
Hystrix为每个依赖服务调用分配一个小的线程池,如果线程池已满调用将被立即拒绝,默认不采用排队,加速失败判定时间。
用户的请求将不再直接访问服务,而是通过线程池中的空闲线程来访问服务,如果线程池已满,或者请求超时,则会进行降级处理,什么是服务降级?
服务降级:优先保证核心服务,而非核心服务不可用或弱可用。
用户的请求故障时,不会被阻塞,更不会无休止的等待或者看到系统崩溃,至少可以看到一个执行结果(例如返回友好的提示信息)。
服务降级虽然会导致请求失败,但是不会导致阻塞,而且最多会影响这个依赖服务对应的线程池中的资源,对其它服务没有响应。
触发Hystix服务降级的情况:
- 线程池已满
- 请求超时
Hystrix入门案例
代码都是在SpringCloud学习总结(二):Eureka 的基础上修改的
1、引入依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
2、开启熔断:启动类上添加@EnableCircuitBreaker注解
@SpringBootApplication
@EnableDiscoveryClient // 开启Eureka客户端
@EnableCircuitBreaker
public class ServerConsumerApplication {
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
// 这次我们使用了OkHttp客户端,只需要注入工厂即可
return new RestTemplate(new OkHttp3ClientHttpRequestFactory());
}
public static void main(String[] args) {
SpringApplication.run(ServerConsumerApplication.class, args);
}
}
类上的注解越来越多,在微服务中,经常会引入上面的三个注解,于是Spring就提供了一个组合注解:@SpringCloudApplication
3、编写降级逻辑
当目标服务的调用出现故障,我们希望快速失败,给用户一个友好提示。因此需要提前编写好失败时的降级处理逻辑,要使用HystixCommond来完成:这里偷懒一下就不分层写代码了:
@RestController
@RequestMapping("user")
public class UserController {
@Autowired
private UserService userService;
@Autowired
private RestTemplate restTemplate;
@GetMapping
public List<User> queryUserByIds(@RequestParam("ids") List<Long> ids){
return this.userService.queryUserByIds(ids);
}
@GetMapping("{id}")
@ResponseBody
@HystrixCommand(fallbackMethod = "queryUserByIdDefaultFallback") // 用来声明一个降级逻辑的方法
public User queryUserById(@PathVariable("id") Long id){
// 通过client获取服务提供方的服务列表,这里我们只有一个
// ServiceInstance instance = discoveryClient.getInstances("service-provider").get(0);
String baseUrl = "http://service-provider/user?id=";
User user = this.restTemplate.getForObject(baseUrl + id, User.class);
return user;
}
public User queryUserByIdDefaultFallback(Long id){
User user = new User();
user.setUserName("默认提示:对不起,网络太拥挤了!");
return user;
}
}
注意:熔断的降级逻辑方法必须跟正常逻辑方法保证:相同的参数列表和返回值声明。
4、默认FallBack
我们刚才把fallback写在了某个业务方法上,如果这样的方法很多,那岂不是要写很多。所以我们可以把Fallback配置加在类上,实现默认fallback:
@RestController
@RequestMapping("user")
@DefaultProperties(defaultFallback = "defaultFallback")
public class UserController {
@Autowired
private UserService userService;
@Autowired
private RestTemplate restTemplate;
@GetMapping
public List<User> queryUserByIds(@RequestParam("ids") List<Long> ids){
return this.userService.queryUserByIds(ids);
}
private DiscoveryClient discoveryClient; // eureka客户端,可以获取到eureka中服务的信息
@GetMapping("{id}")
@ResponseBody
@HystrixCommand
public User queryUserById(@PathVariable("id")Long id){
// 根据服务名称,获取服务实例。有可能是集群,所以是service实例集合
List<ServiceInstance> instances = discoveryClient.getInstances("user-service");
// 因为只有一个UserService。所以获取第一个实例
ServiceInstance instance = instances.get(0);
// 获取ip和端口信息,拼接成服务地址
String baseUrl = "http://" + instance.getHost() + ":" + instance.getPort() + "/user/" + id;
return this.restTemplate.getForObject(baseUrl, User.class);
}
public User defaultFallback(){
User user = new User();
user.setUserName("默认提示:对不起,网络太拥挤了!");
return user;
}
}
- @DefaultProperties(defaultFallback = “defaultFallBack”):在类上指明统一的失败降级方法
- @HystrixCommand:在方法上直接使用该注解,使用默认的剪辑方法。
- defaultFallback:默认降级方法,不用任何参数,已匹配更多方法,但是返回值一定一致
5、设置超时
Hystix的默认超时时长为1,我们可以通过配置修改这个值:
我们可以通过hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds来设置Hystrix超时时间。该配置没有提示。
hystrix:
command:
default:
execution:
isolation:
thread:
timeoutInMillisecond: 6000 # 设置hystrix的超时时间为6000ms