消息队列及使用场景简介 + Kafka

什么是消息标题队列?

消息队列,一般我们简称它为 MQ(Message Queue)。可以被简单理解为:把要传输的数据放在队列中。

把数据放到消息队列叫做生产者。
从消息队列里边取数据叫做消费者。

消息队列主要解决应用耦合、异步处理、流量削锋等问题。

消息队列的使用场景

消息队列在实际应用中包含以下四个场景:

  1. 应用耦合:多应用间通过消息队列对同一消息进行处理,避免调用接口失败导致整个过程失败。
  2. 异步处理:多应用对消息队列中同一消息进行处理,应用间并发处理消息,相比串行处理,减少处理时间。
  3. 限流削峰:广泛应用于秒杀或抢购活动中,避免流量过大导致应用系统挂掉的情况;
  4. 消息驱动的系统:系统分为消息队列、消息生产者、消息消费者,生产者负责产生消息,消费者负责对消息进行处理。

消息队列的两种模式

消息队列包括两种模式,点对点模式(point to point, queue)和发布/订阅模式(publish / subscribe, topic)。

点对点模式

点对点模式包括三个角色:
• 消息队列
• 发送者(生产者)
• 接收者(消费者)
消息队列及使用场景简介 + Kafka

消息发送者生产消息发送到queue,然后消息接收者从queue中取出消息并消费消息。消息被消费以后,queue中不再有存储,所以消息接收者不可能消费到已经被消费的消息。

点对点模式特点:
• 每个消息只有一个接收者(Consumer)(即一旦被消息,消息就不再在消息队列中)
• 发送者和接收者之间没有依赖性,发送者发送消息之后,不管有没有接收者在运行,都不会影响到发送者下次发送消息。
• 接收者在成功接收消息之后需要向队列应答成功,以便消息队列删除当前接收的消息。

发布/订阅模式

发布/订阅模式下包括以下三个角色:
• 角色主题(Topic)
• 发布者(Publisher)
• 订阅者(Subscriber)
消息队列及使用场景简介 + Kafka

发布者将消息发送到Topic,系统将这些消息传递给多个订阅者。

发布/订阅模式特点:
• 每个消息可以有多个订阅者
• 发布者和订阅者之间有多个时间上的依赖性。针对某个Topic的订阅者,它必须创建一个订阅者之后,才能消费发布者的消息。
• 为了消息消息,订阅者需要提前订阅该角色主题,并保持在线运行。

常用的消息队列介绍

常用的消息队列有:RabbitMQ、RocketMQ、ActiveMQ、Kafka、ZeroMQ、MetaMq
对比如下:
消息队列及使用场景简介 + Kafka

Apache Kafka

Apache Kafka是一个分布式消息发布订阅系统。它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log),,之后成为Apache项目的一部分。Kafka系统快速、可扩展并且可持久化。它的分区特性,可复制和可容错都是其不错的特性。

主要特性:
• 快速持久化,可以在O(1)的系统开销下进行消息持久化;
• 高吞吐,在一台普通的服务器上既可以达到10W/s的吞吐速率;
• 完全的分布式系统,Broker、Producer、Consumer都原生自动支持分布式,自动实现负载均衡;
• 支持同步和异步复制两种HA;
• 支持数据批量发送和拉取;
• zero-copy:减少IO操作步骤;
• 数据迁移、扩容对用户透明;
• 无需停机即可扩展机器;

其他特性:
严格的消息顺序、丰富的消息拉取模型、高效订阅者水平扩展、实时的消息订阅、亿级的消息堆积能力、定期删除机制;

参考资料:

  1. 通俗易懂地介绍了什么是MQ https://juejin.im/post/6844903817348136968
  2. MQ的场景应用案例 https://cloud.tencent.com/developer/article/1006035
  3. Apache Kafka 工作原理介绍 https://developer.ibm.com/zh/technologies/messaging/articles/os-cn-kafka