WHCSRL 技术网

一锅端,RabbitMQ 五种消息传输模型

一、前言

RabbitMQ使用AMQP协议,底层使用erlang语言编写,是网上资料很全,学习成本很低的消息队列。现在实现消息队列的有两种主流方式:AMQP、JMS。
在这里插入图片描述
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-QKHH2nFf-1602515631113)(assets/1527064487042.png)]

两者间的区别和联系:

定义:JMS是定义了统一的接口,来对消息操作进行统一;AMQP是通过规定协议来统一数据交互的格式。

限定语言与跨语言:JMS限定了必须使用Java语言;AMQP只是协议,不规定实现方式,因此是跨语言的。

两种消息传输模型和多个消息传输模型:JMS规定了两种消息模型,队列和发布/订阅模型;而AMQP的消息模型更加丰富。

举例子:ActiveMQ:基于JMS
RabbitMQ:基于AMQP协议,erlang语言开发,稳定性好
RocketMQ:基于JMS,前阿里巴巴产品,目前交由Apache基金会
Kafka:基于JMS,分布式消息系统,高吞吐量

总之,RabbitMQ是一款基于AMQP的消息管理系统,使用erlang语言开发,时延最小,既然是AMQP,就是跨语言的,Java是其中之一,也是跨平台:windows linux mac 都可以使用。

二、RabbitMQ 五种消息模型

RabbitMQ提供了6种消息模型,但是第6种其实是RPC,并不是MQ,因此不予学习。那么也就剩下5种。但是其实3、4、5这三种都属于订阅模型,只不过进行路由的方式不同。

在这里插入图片描述

我们通过一个demo工程来了解下RabbitMQ的工作方式,导入工程:

在这里插入图片描述

导入后:

在这里插入图片描述

依赖:

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
	<modelVersion>4.0.0</modelVersion>
	<groupId>cn.itcast.rabbitmq</groupId>
	<artifactId>itcast-rabbitmq</artifactId>
	<version>0.0.1-SNAPSHOT</version>
	<parent>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-parent</artifactId>
		<version>2.0.2.RELEASE</version>
	</parent>
	<properties>
		<java.version>1.8</java.version>
	</properties>
	<dependencies>
		<dependency>
			<groupId>org.apache.commons</groupId>
			<artifactId>commons-lang3</artifactId>
			<version>3.3.2</version>
		</dependency>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-amqp</artifactId>
		</dependency>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-test</artifactId>
		</dependency>
	</dependencies>
</project>
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30

我们抽取一个建立RabbitMQ连接的工具类,方便其他程序获取连接:

public class ConnectionUtil {
    /**
     * 建立与RabbitMQ的连接
     * @return
     * @throws Exception
     */
    public static Connection getConnection() throws Exception {
        //定义连接工厂
        ConnectionFactory factory = new ConnectionFactory();
        //设置服务地址
        factory.setHost("192.168.56.101");
        //端口
        factory.setPort(5672);
        //设置账号信息,用户名、密码、vhost
        factory.setVirtualHost("/leyou");
        factory.setUsername("leyou");
        factory.setPassword("leyou");
        // 通过工程获取连接
        Connection connection = factory.newConnection();
        return connection;
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22

2.1 基本消息模型

在基本消息模型中,RabbitMQ是一个消息代理:它接受和转发消息。 你可以把RabbitMQ想象成一个邮局,当你把邮件放在邮箱里时,你可以确定邮差先生最终会把邮件发送给你的收件人。 在这个比喻中,RabbitMQ是邮政信箱、邮局和邮递员。RabbitMQ与邮局的主要区别是它不处理纸张,而是接受,存储和转发数据消息的二进制数据块,基本消息模型结构如下:
在这里插入图片描述
P(producer/ publisher):生产者,一个发送消息的用户应用程序。
C(consumer):消费者,消费和接收有类似的意思,消费者是一个主要用来等待接收消息的用户应用程序
队列(红色区域):rabbitmq内部类似于邮箱的一个概念。虽然消息流经rabbitmq和你的应用程序,但是它们只能存储在队列中。队列只受主机的内存和磁盘限制,实质上是一个大的消息缓冲区。许多生产者可以发送消息到一个队列,许多消费者可以尝试从一个队列接收数据。

总之,生产者将消息发送到队列,消费者从队列中获取消息,队列是存储消息的缓冲区。

2.1.1 生产者发送消息

让我们实践一下基本消息模型,包括发送单个消息的生产者以及接收消息并将其打印出来的消费者。

我们将调用消息发布者(发送者)Send和消息消费者(接收者)Recv,发布者将连接到RabbitMQ,发送一条消息,然后退出,且看发送者代码:

public class Sender {

    private final static String QUEUE_NAME = "simple_queue";

    public static void main(String[] argv) throws Exception {
        // 第一,获取到连接以及mq通道
        Connection connection = ConnectionUtil.getConnection();
        // 第二,从连接中创建通道,这是完成大部分API的地方。
        Channel channel = connection.createChannel();

        // 第三,根据管道创建队列
        // 声明一个队列是幂等的 - 只有当它不存在时才会被创建
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);

        // 第四,新建消息内容,将消息内容放入消息队列,放入队列后,打印消息内容
        String message = "Hello World!";
        channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
        System.out.println(" [x] Sent '" + message + "'");

        // 第五,最后,关闭通道和连接
        channel.close();
        connection.close();
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24

控制台,
在这里插入图片描述

2.1.2 管理工具中查看消息

进入队列页面,可以看到新建了一个队列:simple_queue

在这里插入图片描述

点击队列名称,进入详情页,可以查看消息:

在这里插入图片描述

在控制台查看消息并不会将消息消费,所以消息还在。

2.1.3 消费者获取消息

public class Recv {
    private final static String QUEUE_NAME = "simple_queue";

    public static void main(String[] argv) throws Exception {
        // 第一,获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 第二,创建通道
        Channel channel = connection.createChannel();
        // 第三,声明队列,和生产者创建的队列同名
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        // 第四,定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 第五,消息监听,获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [x] received : " + msg + "!");
            }
        };
        // 监听队列,第二个参数:是否自动进行消息确认。
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25

控制台:

在这里插入图片描述

这个时候,队列中的消息就没了:

在这里插入图片描述

我们发现,消费者已经获取了消息,但是程序没有停止,一直在监听队列中是否有新的消息。一旦有新的消息进入队列,就会立即打印.

2.1.4 消息确认机制

消息确认机制包括两种,消息被接收就ACK和消息被消费才ACK。

通过刚才的案例可以看出,消息一旦被消费者接收,队列中的消息就会被删除。那么问题来了:RabbitMQ怎么知道消息被接收了呢?如果消费者领取消息后,还没执行操作就挂掉了呢?或者抛出了异常?消息消费失败,但是RabbitMQ无从得知,这样消息就丢失了!因此,RabbitMQ有一个ACK机制。当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种情况:
1、自动ACK:消息一旦被接收,消费者自动发送ACK
2、手动ACK:消息接收后,不会发送ACK,需要手动调用

哪种更好呢?这需要看消息的重要性:
1、如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便
2、如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。

我们之前的测试都是自动ACK的,如果要手动ACK,需要改动我们的代码:

public class Recv2 {
    private final static String QUEUE_NAME = "simple_queue";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 创建通道
        final Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [x] received : " + msg + "!");
                // 手动进行ACK
                channel.basicAck(envelope.getDeliveryTag(), false);
            }
        };
        // 监听队列,第二个参数false,手动进行ACK
        channel.basicConsume(QUEUE_NAME, false, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27

注意到最后一行代码:

channel.basicConsume(QUEUE_NAME, false, consumer);
  • 1

如果第二个参数为true,则会自动进行ACK;如果为false,则需要手动ACK。方法的声明:

在这里插入图片描述

2.1.4.1 自动ACK存在的问题

修改消费者,添加异常,如下:

在这里插入图片描述

生产者不做任何修改,直接运行,消息发送成功:

在这里插入图片描述

运行消费者,程序抛出异常。但是消息依然被消费:

在这里插入图片描述

管理界面:

在这里插入图片描述

2.1.4.2 手动ACK

修改消费者,把自动改成手动(去掉之前制造的异常)

在这里插入图片描述

生产者不变,再次运行:

在这里插入图片描述

运行消费者

在这里插入图片描述

但是,查看管理界面,发现:

在这里插入图片描述

停掉消费者的程序,发现:

在这里插入图片描述

这是因为虽然我们设置了手动ACK,但是代码中并没有进行消息确认!所以消息并未被真正消费掉。
当我们关掉这个消费者,消息的状态再次称为Ready,修改代码手动ACK:

在这里插入图片描述

执行:

在这里插入图片描述

消息消费成功!

2.2 工作者消息模型

在上面,我们编写了一个程序,从一个命名队列中发送并接受消息。在这里,我们将创建一个工作队列,在多个工作者之间分配耗时任务。工作队列,又称任务队列。主要思想就是避免执行资源密集型任务时,必须等待它执行完成。相反我们稍后完成任务,我们将任务task封装为消息message并将其发送到消息队列。 在后台运行的工作进程将获取任务并最终执行作业。当你运行许多工人时,任务将在他们之间共享,但是一个消息只能被一个消费者获取。这个概念在Web应用程序中特别有用,因为在短的HTTP请求窗口中无法处理复杂的任务。这种模式就是消费者工作队列模式,如下:
在这里插入图片描述
接下来我们来模拟这个流程:
​ P:生产者:任务的发布者
​ C1:消费者,领取任务并且完成任务,假设完成速度较快
​ C2:消费者2:领取任务并完成任务,假设完成速度慢

问题:避免消息堆积?
回答:1)采用workqueue,多个消费者监听同一队列。
2)接收到消息以后,通过线程池异步消费。

2.2.1 生产者

生产者与案例1中的几乎一样:

public class Send {
    private final static String QUEUE_NAME = "test_work_queue";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        // 循环发布任务  之前的一个消息变成了多个消息
        for (int i = 0; i < 50; i++) {
            // 消息内容
            String message = "task .. " + i;
            channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
            System.out.println(" [x] Sent '" + message + "'");

            Thread.sleep(i * 2);
        }
        // 关闭通道和连接
        channel.close();
        connection.close();
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24

不过这里我们是循环发送50条消息。

2.2.2 消费者1处理任务比较慢

在这里插入图片描述

2.2.3 消费者2处理任务比较快

在这里插入图片描述

与消费者1基本类似,就是没有设置消费耗时时间。这里是模拟有些消费者快,有些比较慢。接下来,两个消费者一同启动,然后发送50条消息:

在这里插入图片描述

可以发现,两个消费者各自消费了25条消息,而且各不相同,这就实现了任务的分发。

2.2.4 工作者模式存在的问题

存在的问题:消费者1比消费者2的效率要低,一次任务的耗时较长,但是,两人最终消费的消息数量是一样的,导致,消费者2大量时间处于空闲状态,消费者1一直忙碌,即默认是将任务平均分配,正确的做法应该是消费越快的人,消费的越多,即如何实现能者多劳?

解决办法:设置channel,prefetchcount=k,当有k条消息,不再发送消息
可以使用basicQos方法和prefetchCount = 1设置。 这告诉RabbitMQ一次不要向工作人员发送多于一条消息。 或者换句话说,不要向工作人员发送新消息,直到它处理并确认了前一个消息。 相反,它会将其分派给不是仍然忙碌的下一个工作人员。
在这里插入图片描述

再次测试(消费者1处理的比较慢,消费者2处理的比较快):

在这里插入图片描述
如上,消费者1只处理3条消息,其他都被消费者2处理了。

2.3 RabbitMQ三种订阅模式

基础消费模式和工作者消费模式,都是一个消息只能被一个消费者消费就没了,但是订阅模式则是一个消费可以被订阅的n个消费者消费,即一个消息消费了n次,订阅模式包括三种:Fanout广播模式、Direct定向模式、Topic通配符模式,其相同点在于一个消息可以被多个订阅者消费。

基础消费模式和工作者消费模式背后的假设是:每个任务只被传递给一个工作人员。 在这一部分,我们将做一些完全不同的事情 - 我们将会传递一个信息给多个消费者。 这种模式被称为“发布/订阅”。
(1) 1个生产者,多个消费者,所以一个消息被多个消费者消息
(2) 每个队列都要绑定到交换机,每一个消费者都有自己的一个队列,所以一个消息被多个消费者消息;
(3) 生产者没有将消息直接发送到队列,而是发送到了交换机,消息经过交换机再到达队列,实现一个消息被多个消费者获取的目的

三种订阅者模式中,我们使用X(Exchanges)表示交换机。一方面接收生产者发送的消息,另一方面知道如何处理消息,例如递交给某个特别队列、递交给所有队列、或是将消息丢弃。到底如何操作,取决于Exchange的类型。Exchange类型有以下几种:
​ Fanout:广播,将消息交给所有绑定到交换机的队列
​ Direct:定向,把消息交给符合指定routing key 的队列
​ Topic:通配符,把消息交给符合routing pattern(路由模式) 的队列

注意:Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失。

Fanout表示广播模式,一个消息发送给所有queue,发送给所有的consumer。

direct表示定向模式,一个消息发送给指定queue,发送给指定的consumer,即不同的消息被不同的队列消费。在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key),消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。

topic表示通配符模式,一个消息发送给指定queue,发送给匹配上通配符的consumer,即不同的消息被不同的队列消费。在Topic模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个routing pattern(路由模式),消息的发送方在向Exchange发送消息时,也必须指定消息的routing pattern。

五种消息传输模型
(1) 共同点,都是生产者-消费者模式
(2) 基本消息模式和工作队列消息模式:一个消息只能被一个消费者消费(尽管工作队列消息模式有多个消费者,但是一个消费者只消费一个消费)(工作队列消息模式与基本消费模式:生产者生产50个消息给 2-n 个消费者用,生产者生产50个消息给一个消费者用)
(3) 发布/订阅模式:一个消息只能被多个订阅者消费(和前面两种不同点)
第一,三种相同点:都引入了exchange,一个消息只能被多个订阅者消费
第二,三种不同点:就是exchange匹配不同,订阅模式整体结构为“生产者-exchange-mq-消费者”,exchange完成消息在生产者与mq之间的三种匹配。

2.4 广播模式

Fanout即广播模式,Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失。

在Fanout广播模式下,消息发送流程是这样的:
1) 可以有多个消费者
2) 每个消费者有自己的queue(队列)
3) 每个队列都要绑定到Exchange(交换机)
4) 生产者发送的消息,只能发送到交换机,交换机来决定要发给哪个队列,生产者无法决定。
5) fanout核心(区别其他两种):交换机把消息发送给绑定过的所有队列
6) 队列的消费者都能拿到消息,实现一条消息被多个消费者消费。

Fanout广播模式中,每个发到 fanout 类型交换器的消息都会分到所有绑定的队列上去(很像子网广播,每台子网内的主机都获得了一份复制的消息)。fanout 类型转发消息是最快的。Fanout Exchange如下图所示:
在这里插入图片描述

上图表示,fanout类型下,交换器的所有的消息像广播一样分到所有绑定的队列上去,最后消费者从消息队列中取出消息用来消费。

2.4.1.生产者

生产者两个变化:

  1. 声明Exchange,不再声明Queue,即生产者直接发送消息到Exchange,不再发送到Queue;
  2. 指定类型为fanout。
public class Send {

    private final static String EXCHANGE_NAME = "fanout_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        
        // 声明exchange,指定类型为fanout
        channel.exchangeDeclare(EXCHANGE_NAME, "fanout");
        
        // 消息内容
        String message = "Hello everyone";
        // 发布消息到Exchange
        channel.basicPublish(EXCHANGE_NAME, "", null, message.getBytes());
        System.out.println(" [生产者] Sent '" + message + "'");

        channel.close();
        connection.close();
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23

2.4.2 消费者1

消费者代码中,需要新增一条绑定队列到交换机的逻辑,如下:

public class Recv {
    private final static String QUEUE_NAME = "fanout_exchange_queue_1";

    private final static String EXCHANGE_NAME = "fanout_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);

        // 新增一条,绑定队列到交换机
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "");

        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [消费者1] received : " + msg + "!");
            }
        };
        // 监听队列,自动返回完成
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31

要注意代码中:队列需要和交换机绑定,因为生产者是将消息发送到交换机的。

2.4.3 消费者2

消费者代码中,需要新增一条绑定队列到交换机的逻辑,如下:

public class Recv2 {
    private final static String QUEUE_NAME = "fanout_exchange_queue_2";

    private final static String EXCHANGE_NAME = "fanout_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);

        // 新增一条,绑定队列到交换机
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "");
        
        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [消费者2] received : " + msg + "!");
            }
        };
        // 监听队列,手动返回完成
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31

2.4.4 测试

我们运行两个消费者,然后发送1条消息:

在这里插入图片描述

在这里插入图片描述

2.5 定向模型

在fanout模式中,生产者发布消息,所有消费者都可以获取所有消息,而direct模式则是有选择性的接收消息。在direct模式中,我们将添加一个功能 - 我们将只能订阅一部分消息。 例如,我们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然能够在控制台上打印所有日志消息。

在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)
消息的发送方在向Exchange发送消息时,也必须指定消息的routing key,如下:
在这里插入图片描述
P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。
X:Exchange(交换机),接收生产者的消息,然后把消息递交给与routing key完全匹配的队列(关键)
C1:消费者,其所在队列指定了需要routing key 为 error 的消息
C2:消费者,其所在队列指定了需要routing key 为 info、error、warning 的消息

Direct模式中,消息中的路由键(routing key)如果和 Binding 中的 binding key 一致,交换器就将消息发到对应的队列中。它是完全匹配、单播的模式。Direct Exchange如下图所示:

在这里插入图片描述

上图表示,direct类型下,当routing key与binding key完全匹配时,图中 routing key=key routing key=key 完全匹配,交换器就将消息发到对应的队列中,最后消费者从消息队列中取出消息用来消费。

2.5.1.生产者

此处我们模拟商品的增删改,发送消息的RoutingKey分别是:insert、update、delete,由于使用定向模型,所以需要:

  1. 声明Exchange,不再声明Queue,即生产者直接发送消息到Exchange,不再发送到Queue;
  2. 指定类型为direct。
public class Send {
    private final static String EXCHANGE_NAME = "direct_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明exchange,指定类型为direct
        channel.exchangeDeclare(EXCHANGE_NAME, "direct");
        
        // 消息内容
        String message = "商品新增了, id = 1001";
        // 发送消息,并且指定routing key 为:insert ,代表新增商品
        channel.basicPublish(EXCHANGE_NAME, "insert", null, message.getBytes());
        System.out.println(" [商品服务:] Sent '" + message + "'");

        channel.close();
        connection.close();
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21

2.5.2.消费者1

我们此处假设消费者1只接收两种类型的消息:更新商品和删除商品,消费者需要绑定队列到交换机,同时指定需要订阅的routing key。

public class Recv {
    private final static String QUEUE_NAME = "direct_exchange_queue_1";
    private final static String EXCHANGE_NAME = "direct_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        
        // 绑定队列到交换机,同时指定需要订阅的routing key。假设此处需要update和delete消息
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update");
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete");

        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [消费者1] received : " + msg + "!");
            }
        };
        // 监听队列,自动ACK
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31

2.5.3.消费者2

我们此处假设消费者2接收所有类型的消息:新增商品,更新商品和删除商品,消费者需要绑定队列到交换机,同时指定需要订阅的routing key。

public class Recv2 {
    private final static String QUEUE_NAME = "direct_exchange_queue_2";
    private final static String EXCHANGE_NAME = "direct_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        
        // 绑定队列到交换机,同时指定需要订阅的routing key。订阅 insert、update、delete
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "insert");
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update");
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete");

        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [消费者2] received : " + msg + "!");
            }
        };
        // 监听队列,自动ACK
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32

2.5.4.测试

我们分别发送增、删、改的RoutingKey,发现结果:

在这里插入图片描述

消费者1只是消费了修改和删除,消费者2消费类新增、修改、删除,说明了两点:
(1) 订阅模式和基本消费模式、工作者消费模式不同,一个消息被n个消费者消费;
(2) 定向模式中,route可以定向绑定到mq。

2.6 通配符模型

Topic类型的ExchangeDirect相比,都是可以根据RoutingKey把消息路由到不同的队列。只不过Topic类型Exchange可以让队列在绑定Routing key 的时候使用通配符。Routingkey 一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert

通配符规则:
#:匹配一个或多个词
*:匹配不多不少恰好1个词

举例:
audit.#:能够匹配audit.irs.corporate 或者 audit.irs
audit.*:只能匹配audit.irs

在这里插入图片描述

在这个例子中,我们将发送所有描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:“<speed>.<color>.<species>”。

我们创建了三个绑定:Q1绑定了绑定键“* .orange.”,Q2绑定了“.*.rabbit”和“lazy.#”,表示Q1匹配所有的橙色动物,Q2匹配关于兔子以及懒惰动物的消息。

topic 交换器:topic 交换器通过模式匹配分配消息的路由键属性,将路由键和某个模式进行匹配,此时队列需要绑定到一个模式上。它将路由键和绑定键的字符串切分成单词,这些单词之间用点隔开。它同样也会识别两个通配符:符号“#”和符号“”。#匹配 0 个或多个单词,匹配不多不少一个单词。

Topic Exchange如下图所示:

在这里插入图片描述

topic类型和direct类型有相似之处,都是routing key和binding key匹配,不同的是,direct类型的时候,binding key是确定的,两者是完全匹配,topic类型的时候,binding key是一种匹配模式,匹配符合这种模式的routing key,当然符合这种模式的routing key就不只一个喽。
上图中,模式匹配为:
binding.key=usa.# 匹配 routing.key=usa.news routing.key=usa.weather;
binding.key=#.news 匹配 routing.key=usa.news routing.key=europe.news;
binding.key=#.weather 匹配 routing.key=usa.weather routing.key=europe.weather;
binding.key=europe.# 匹配 routing.key=europe.news routing.key=europe.weather。
满足模式匹配后,交换器就将消息发到对应的队列中,最后消费者从消息队列中取出消息用来消费。

练习,生产者发送如下消息,会进入那个队列:

quick.orange.rabbit à Q1 Q2
lazy.orange.elephant à Q1 Q2
quick.orange.fox à Q1
lazy.pink.rabbit à Q2
quick.brown.fox à 不匹配任意队列,被丢弃
quick.orange.male.rabbit à 
orange à 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7

2.6.1.生产者

生产者两个变化:
(1) 声明Exchange,不再声明Queue,即生产者直接发送消息到Exchange,不再发送到Queue;
(2) 指定类型为topic。

使用topic类型的Exchange,发送消息的routing key有3种: item.isnertitem.updateitem.delete,如下:

public class Send {
    private final static String EXCHANGE_NAME = "topic_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明exchange,指定类型为topic
        channel.exchangeDeclare(EXCHANGE_NAME, "topic");
        // 消息内容
        String message = "新增商品 : id = 1001";
        // 发送消息,并且指定routing key 为:insert ,代表新增商品
        channel.basicPublish(EXCHANGE_NAME, "item.insert", null, message.getBytes());
        System.out.println(" [商品服务:] Sent '" + message + "'");

        channel.close();
        connection.close();
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20

2.6.2.消费者1

我们此处假设消费者1只接收两种类型的消息:更新商品和删除商品,消费者需要绑定队列到交换机,同时指定需要订阅的routing key。

public class Recv {
    private final static String QUEUE_NAME = "topic_exchange_queue_1";
    private final static String EXCHANGE_NAME = "topic_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        
        // 绑定队列到交换机,同时指定需要订阅的routing key。需要 update、delete
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.update");
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.delete");

        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [消费者1] received : " + msg + "!");
            }
        };
        // 监听队列,自动ACK
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31

2.6.3 消费者2

我们此处假设消费者2接收所有类型的消息:新增商品,更新商品和删除商品,消费者需要绑定队列到交换机,同时指定需要订阅的routing key。

/**
 * 消费者2
 */
public class Recv2 {
    private final static String QUEUE_NAME = "topic_exchange_queue_2";
    private final static String EXCHANGE_NAME = "topic_exchange_test";

    public static void main(String[] argv) throws Exception {
        // 获取到连接
        Connection connection = ConnectionUtil.getConnection();
        // 获取通道
        Channel channel = connection.createChannel();
        // 声明队列
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        
        // 绑定队列到交换机,同时指定需要订阅的routing key。订阅 insert、update、delete
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.*");

        // 定义队列的消费者
        DefaultConsumer consumer = new DefaultConsumer(channel) {
            // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties,
                    byte[] body) throws IOException {
                // body 即消息体
                String msg = new String(body);
                System.out.println(" [消费者2] received : " + msg + "!");
            }
        };
        // 监听队列,自动ACK
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33

2.7 RabbitMQ 消息持久化

问题:RabbitMQ如何避免消息丢失?
1) 在消费者消费之后,消费者的ACK机制。可以防止消费者丢失消息。
2) 在消费者消费之前,MQ就宕机了,消息就没了。解决:队列、Exchange都可以持久化

Exchange持久化:后三种模式使用到交换机
消息队列持久化:前两种模式使用到队列

2.7.1 exchange交换机持久化

在这里插入图片描述

2.7.2 queue队列持久化

在这里插入图片描述

2.7.3 消息持久化

在这里插入图片描述

三、Spring AMQP

3.1.简介

Spring有很多不同的项目,其中就有对AMQP的支持,即 Spring AMQP,Spring-amqp是对AMQP协议的抽象实现,而spring-rabbit 是对协议的具体实现,也是目前的唯一实现。底层使用的就是RabbitMQ。

3.2.依赖和配置

添加AMQP的启动器:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>
  • 1
  • 2
  • 3
  • 4

application.yml中添加RabbitMQ地址:

spring:
  rabbitmq:
    host: 192.168.56.101
    username: leyou
    password: leyou
    virtual-host: /leyou
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6

3.3.监听者

在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要通过简单的注解,就可以成为一个消费者。

@Component
public class Listener {

    @RabbitListener(bindings = @QueueBinding(
            value = @Queue(value = "spring.test.queue", durable = "true"),
            exchange = @Exchange(
                    value = "spring.test.exchange",
                    ignoreDeclarationExceptions = "true",
                    type = ExchangeTypes.TOPIC
            ),
            key = {"#.#"}))
    public void listen(String msg){
        System.out.println("接收到消息:" + msg);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • @Componet:类上的注解,注册到Spring容器
  • @RabbitListener:方法上的注解,声明这个方法是一个消费者方法,需要指定下面的属性:
    • bindings:指定绑定关系,可以有多个。值是@QueueBinding的数组。@QueueBinding包含下面属性:
      • value:这个消费者关联的队列。值是@Queue,代表一个队列
      • exchange:队列所绑定的交换机,值是@Exchange类型
      • key:队列和交换机绑定的RoutingKey

类似listen这样的方法在一个类中可以写多个,就代表多个消费者。

3.4.AmqpTemplate

Spring最擅长的事情就是封装,把他人的框架进行封装和整合。

Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,非常方便的发送消息,其发送方法:

在这里插入图片描述

红框圈起来的是比较常用的3个方法,分别是:

  • 指定交换机、RoutingKey和消息体
  • 指定消息
  • 指定RoutingKey和消息,会向默认的交换机发送消息

3.5.测试代码

@RunWith(SpringRunner.class)
@SpringBootTest(classes = Application.class)
public class MqDemo {

    @Autowired
    private AmqpTemplate amqpTemplate;

    @Test
    public void testSend() throws InterruptedException {
        String msg = "hello, Spring boot amqp";
        this.amqpTemplate.convertAndSend("spring.test.exchange","a.b", msg);
        // 等待10秒后再结束
        Thread.sleep(10000);
    }
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

运行后查看日志:

在这里插入图片描述

四、面试金手指

4.1 消息队列两种类型

RabbitMQ使用AMQP协议,底层使用erlang语言编写,是网上资料很全,学习成本很低的消息队列。现在实现消息队列的有两种主流方式:AMQP、JMS。

两者间的区别和联系:

定义:JMS是定义了统一的接口,来对消息操作进行统一;AMQP是通过规定协议来统一数据交互的格式。

限定语言与跨语言:JMS限定了必须使用Java语言;AMQP只是协议,不规定实现方式,因此是跨语言的。

两种消息传输模型和多个消息传输模型:JMS规定了两种消息模型,队列和发布/订阅模型;而AMQP的消息模型更加丰富。

举例子:ActiveMQ:基于JMS
RabbitMQ:基于AMQP协议,erlang语言开发,稳定性好
RocketMQ:基于JMS,前阿里巴巴产品,目前交由Apache基金会
Kafka:基于JMS,分布式消息系统,高吞吐量

总之,RabbitMQ是一款基于AMQP的消息管理系统,使用erlang语言开发,时延最小,既然是AMQP,就是跨语言的,Java是其中之一,也是跨平台:windows linux mac 都可以使用。

4.2 五种消息传输模型特点

五种消息传输模型
(1) 共同点,都是生产者-消费者模式
(2) 基本消息模式和工作队列消息模式:一个消息只能被一个消费者消费(尽管工作队列消息模式有多个消费者,但是一个消费者只消费一个消费)(工作队列消息模式与基本消费模式:生产者生产50个消息给 2-n 个消费者用,生产者生产50个消息给一个消费者用)
(3) 发布/订阅模式:一个消息只能被多个订阅者消费(和前面两种不同点)
第一,三种相同点:都引入了exchange,一个消息只能被多个订阅者消费
第二,三种不同点:就是exchange匹配不同,订阅模式整体结构为“生产者-exchange-mq-消费者”,exchange完成消息在生产者与mq之间的三种匹配。

“发布/订阅”模式特点:
(1) 1个生产者,多个消费者,所以一个消息被多个消费者消息
(2) 每个队列都要绑定到交换机,每一个消费者都有自己的一个队列,所以一个消息被多个消费者消息;
(3) 生产者没有将消息直接发送到队列,而是发送到了交换机,消息经过交换机再到达队列,实现一个消息被多个消费者获取的目的

三种订阅者模式中,我们使用X(Exchanges)表示交换机。一方面接收生产者发送的消息,另一方面知道如何处理消息,例如递交给某个特别队列、递交给所有队列、或是将消息丢弃。到底如何操作,取决于Exchange的类型。Exchange类型有以下几种:
​ Fanout:广播,将消息交给所有绑定到交换机的队列
​ Direct:定向,把消息交给符合指定routing key 的队列
​ Topic:通配符,把消息交给符合routing pattern(路由模式) 的队列

Fanout表示广播模式,一个消息发送给所有queue,发送给所有的consumer。

direct表示定向模式,一个消息发送给指定queue,发送给指定的consumer,即不同的消息被不同的队列消费。在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key),消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。

topic表示通配符模式,一个消息发送给指定queue,发送给匹配上通配符的consumer,即不同的消息被不同的队列消费。在Topic模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个routing pattern(路由模式),消息的发送方在向Exchange发送消息时,也必须指定消息的routing pattern。

注意:Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失。

4.3 消息持久化

如何避免消息丢失?

  1. 在消费者消费之后,消费者的ACK机制。可以防止消费者丢失消息。
  2. 在消费者消费之前,MQ就宕机了,消息就没了。解决:队列、Exchange都持久化

五、尾声

RabbitMQ五种消息模型,完成了。

天天打码,天天进步!!!

推荐阅读