设为首页 - 加入收藏 ASP站长网(Aspzz.Cn)- 科技、建站、经验、云计算、5G、大数据,站长网!
热搜: 数据 创业者 手机
当前位置: 首页 > 运营中心 > 建站资源 > 优化 > 正文

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

发布时间:2019-07-05 16:00 所属栏目:21 来源:jianfeng
导读:本文经授权转自公众号:石杉的架构笔记 概述 大家平时也有用到一些消息中间件(MQ),但是对其理解可能仅停留在会使用API能实现生产消息、消费消息就完事了。 对MQ更加深入的问题,可能很多人没怎么思考过。 比如,你跳槽面试时,如果面试官看到你简历上写了

本文经授权转自公众号:石杉的架构笔记

概述

大家平时也有用到一些消息中间件(MQ),但是对其理解可能仅停留在会使用API能实现生产消息、消费消息就完事了。

对MQ更加深入的问题,可能很多人没怎么思考过。

比如,你跳槽面试时,如果面试官看到你简历上写了,熟练掌握消息中间件,那么很可能给你发起如下 4 个面试连环炮!

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

  • 为什么要使用MQ?
  • 使用了MQ之后有什么优缺点?
  • 怎么保证MQ消息不丢失?
  • 怎么保证MQ的高可用性?

本文将通过一些场景,配合着通俗易懂的语言和多张手绘彩图,讨论一下这些问题。

为什么要使用MQ?

相信大家也听过这样的一句话:好的架构不是设计出来的,是演进出来的。

这句话在引入MQ的场景同样适用,使用MQ必定有其道理,是用来解决实际问题的。而不是看见别人用了,我也用着玩儿一下。

其实使用MQ的场景有挺多的,但是比较核心的有3个:

异步、解耦、削峰填谷

异步

我们通过实际案例说明:假设A系统接收一个请求,需要在自己本地写库执行SQL,然后需要调用BCD三个系统的接口。

假设自己本地写库要3ms,调用BCD三个系统分别要300ms、450ms、200ms。

那么最终请求总延时是3 + 300 + 450 + 200 = 953ms,接近1s,可能用户会感觉太慢了。

此时整个系统大概是这样的:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

但是一旦使用了MQ之后,系统A只需要发送3条消息到MQ中的3个消息队列,然后就返回给用户了。

假设发送消息到MQ中耗时20ms,那么用户感知到这个接口的耗时仅仅是20 + 3 = 23ms,用户几乎无感知,倍儿爽!

此时整个系统结构大概是这样的:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

可以看到,通过MQ的异步功能,可以大大提高接口的性能。

解耦

假设A系统在用户发生某个操作的时候,需要把用户提交的数据同时推送到B、C两个系统的时候。

这个时候负责A系统的哥们想:没事啊,B、C两个系统给我提供一个Http接口或者RPC接口,我把数据推送过去不就完事了吗。负责A系统的哥们美滋滋。

如下图所示:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

一切看起来很美好,但是随着业务快速迭代,这个时候系统D也想要这个数据。那既然这样,A系统的开发同学就改咯,在发送数据给BC的同时加上一个D。

但是,越到后面越发现,麻烦来了。。。

整个系统好像不止这个数据要发送给BCD、还有第二、第三个数据要发送给BCD。甚至有时候又加入了E、F等等系统,他们也要这个数据。

并且有时候可能B系统突然又不要这个数据了,A系统该来改去,A系统的开发哥们头皮发麻。

更复杂的场景是,数据通过接口传给其他系统有时候还要考虑重试、超时等一些异常情况,真是头发都白了呀。。。

来看下图,体会一下这无助的现场:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

这个时候,就该我们的MQ粉墨登场了!

这种情况下使用MQ来解耦是在合适不过了,因为负责A系统的哥们只需要把消息扔到MQ就行了,其他系统按需来订阅消息就好了。

就算某个系统不需要这个数据了,也不会需要A系统改动代码。

看看加入MQ解耦的下图,是不是清爽了很多!

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

削峰填谷

举个例子,比如我们的订单系统,在下单的时候就会往数据库写数据。但是数据库只能支撑每秒1000左右的并发写入,并发量再高就容易宕机。

低峰期的时候并发也就100多个,但是在高峰期时候,并发量会突然激增到5000以上,这个时候数据库肯定死了。

如下图,来感受一下数据库被打死的绝望:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

但是使用了MQ之后,情况就变了!

消息被MQ保存起来了,然后系统就可以按照自己的消费能力来消费,比如每秒1000个数据,这样慢慢写入数据库,这样就不会打死数据库了:

整个过程,如下图所示:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

至于为什么叫做削峰填谷呢?来看看这个图:

90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

如果没有用MQ的情况下,并发量高峰期的时候是有一个“顶峰”的,然后高峰期过后又是一个低并发的“谷”。

但是使用了MQ之后,限制消费消息的速度为1000,但是这样一来,高峰期产生的数据势必会被积压在MQ中,高峰就被“削”掉了。

但是因为消息积压,在高峰期过后的一段时间内,消费消息的速度还是会维持在1000QPS,直到消费完积压的消息,这就叫做“填谷”

通过上面的分析,大家就可以知道为什么要使用MQ,以及使用了MQ有什么好处。知其所以然,明白了自己的系统为什么要使用MQ。

这样以后别人问你为啥要用MQ,就不会出现 “我们组长要用MQ我们就用了” 这样尴尬的回答了。

使用了MQ之后有什么优缺点?

看到这个问题蒙圈了,用了就用了嘛!优点上面已经说了,但是这个缺点是啥啊。好像没啥缺点啊。

如果你这样想,就大错特错了,在设计系统的过程中,除了要清楚的知道为什么要用这个东西,还要思考一下用了之后有什么坏处。这样才能心里有底,防范于未然。

接下来我们就讨论一下,用MQ会有什么缺点把?

系统可用性降低

大家想想一下,上面的说解耦的场景,本来A系统的哥们要把系统关键数据发送给BC系统的,现在突然加入了一个MQ了,现在BC系统接收数据要通过MQ来接收。

但是大家有没有考虑过一个问题,万一MQ挂了怎么办?这就引出一个问题,加入了MQ之后,系统的可用性是不是就降低了?

因为多了一个风险因素:MQ可能会挂掉。只要MQ挂了,数据没了,系统运行就不对了。

系统复杂度提高

本来我的系统通过接口调用一下就能完事的,但是加入一个MQ之后,需要考虑消息重复消费、消息丢失、甚至消息顺序性的问题

为了解决这些问题,又需要引入很多复杂的机制,这样一来是不是系统的复杂度提高了。

数据一致性问题

本来好好的,A系统调用BC系统接口,如果BC系统出错了,会抛出异常,返回给A系统让A系统知道,这样的话就可以做回滚操作了

但是使用了MQ之后,A系统发送完消息就完事了,认为成功了。而刚好C系统写数据库的时候失败了,但是A认为C已经成功了?这样一来数据就不一致了。

通过分析引入MQ的优缺点之后,就明白了使用MQ有很多优点,但是会发现它带来的缺点又会需要你做各种额外的系统设计来弥补

最后你可能会发现整个系统复杂了好几倍,所以设计系统的时候要基于这些考虑做出取舍,很多时候你会发现该用的还是要用的。。。

怎么保证MQ消息不丢失?

使用了MQ之后,还要关心消息丢失的问题。这里我们挑RabbitMQ来说明一下吧。

生产者弄丢了数据

RabbitMQ生产者将数据发送到rabbitmq的时候,可能数据在网络传输中搞丢了,这个时候RabbitMQ收不到消息,消息就丢了。

RabbitMQ提供了两种方式来解决这个问题:

事务方式:

在生产者发送消息之前,通过`channel.txSelect`开启一个事务,接着发送消息

如果消息没有成功被RabbitMQ接收到,生产者会收到异常,此时就可以进行事务回滚`channel.txRollback`然后重新发送。假如RabbitMQ收到了这个消息,就可以提交事务`channel.txCommit`。

但是这样一来,生产者的吞吐量和性能都会降低很多,现在一般不这么干。

另外一种方式就是通过confirm机制:

这个confirm模式是在生产者哪里设置的,就是每次写消息的时候会分配一个唯一的id,然后RabbitMQ收到之后会回传一个ack,告诉生产者这个消息ok了。

如果rabbitmq没有处理到这个消息,那么就回调一个nack的接口,这个时候生产者就可以重发。

事务机制和cnofirm机制最大的不同在于事务机制是同步的,提交一个事务之后会阻塞在那儿

但是confirm机制是异步的,发送一个消息之后就可以发送下一个消息,然后那个消息rabbitmq接收了之后会异步回调你一个接口通知你这个消息接收到了。

所以一般在生产者这块避免数据丢失,都是用confirm机制的。

Rabbitmq弄丢了数据

RabbitMQ集群也会弄丢消息,这个问题在官方文档的教程中也提到过,就是说在消息发送到RabbitMQ之后,默认是没有落地磁盘的,万一RabbitMQ宕机了,这个时候消息就丢失了。

所以为了解决这个问题,RabbitMQ提供了一个持久化的机制,消息写入之后会持久化到磁盘

这样哪怕是宕机了,恢复之后也会自动恢复之前存储的数据,这样的机制可以确保消息不会丢失。

(编辑:ASP站长网)

网友评论
推荐文章
    热点阅读