rocketmq基础认知

author author     2023-04-23     724

关键词:

参考技术A RocketMQ是一款分布式、队列模型的消息中间件,单机支持1万以上的持久化队列,前提是足够的内存、硬盘空间。

消息队列主要的应用场景:异步处理,应用解耦,流量削峰,消息通讯。

如上图所示, RocketMQ的部署结构有以下特点:

Name Server是一个几乎无状态节点,可集群部署,节点之间无任何信息同步。

Broker部署相对复杂,Broker分为Master与Slave,一个Master可以对应多个Slave,但是一个Slave只能对应一个Master,Master与Slave的对应关系通过指定相同的BrokerName,不同的BrokerId来定义,BrokerId为0表示Master,非0表示Slave。Master也可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接,定时注册Topic信息到所有Name Server。

Producer与Name Server集群中的其中一个节点(随机选择)建立长连接,定期从Name Server取Topic路由信息,并向提供Topic服务的Master建立长连接,且定时向Master发送心跳。Producer完全无状态,可集群部署。

Consumer与Name Server集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master、Slave建立长连接,且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息,也可以从Slave订阅消息,订阅规则由Broker配置决定。

消息的生产者,负责发送消息,将消息推送给broker。一般由业务系统负责产生消息。

消息有3种发送方式:同步、异步、单向。 

rocketmq的核心组件,负责消息的接收、存储(持久化到磁盘)、被消费者拉取消息等功能。

broker也存储消息相关的元数据,包括:消费者组、消费进度、topic&queue信息等。

消息的消费者,从broker上拉取消息从而进行消费。rocketmq提供两种消费者。

一般是后台系统负责异步消费消息。

主动消费者:DefaultMQ Pull Consumer,从broker中拉取一批消息并消费,主动权由消费者控制。

被动消费者:DefaultMQ Push Consumer,消费者实现回调接口,一旦有消息,broker回调接口,消费者被动响应。

注册中心的作用,提供轻量级的服务发现和提供路由信息(broker的服务注册与发现)。

nameserver存有全量的路由信息,提供对等的读写服务,支持快速扩缩容。

nameserver接收broker的请求,注册broker的路由信息。

nameserver接收client(producer/consumer)的请求,根据消息的topic获取相应的broker路由信息。

(手动创建的topic可以指定broker,自动创建的topic会随机指定broker,也许指定单个或全部,topic的概念在后面。)

一种消息的逻辑分类(消息的类型),比如说你有订单类的消息,也有库存类的消息,那么就需要进行分类存储。

生产者方面:发消息时需指定topic,可以有1-n个生产者发布1个topic的消息,

也1个生产者可以发布不同topic的消息。消费者方面:收消息时需订阅topic,

可以有1-n个消费者组订阅1个topic的消息,1个消费者组可以订阅不同topic的消息。

1个消息必须指定1个topic,topic允许自动创建与手工创建,topic创建时需要指定broker,可以指定1个或多个,

name server就是通过broker与topic的映射关系来做路由。

producer和consumer在生产和消费消息时,都需要指定消息的 topic,当topic匹配时,

consumer 才会消费到producer发送的消息。

topic与broker是多对多的关系,一个topic分布在多个broker上,一个broker可以配置多个topic。

message是消息的载体。每个message必须指定一个topic,相当于寄信的地址。

message还有一个可选的tag设置,以便消费端可以基于tag进行过滤消息。

message还有扩展的kv结构,例如你可以设置一个业务key到你的消息中,在broker上查找消息并诊断问题。

标签可以被认为是对topic的进一步细化。一般在相同业务模块中通过引入标签来标记不同用途的消息。

区分相同topic下不同种类的消息。

生产到哪个topic的哪个tag下,消费者也是从topic的哪个tag进行消费,即实现消息的过滤。

queue是消息的物理管理单位,而topic是逻辑管理单位。一个topic下可以有多个queue,

默认自动创建是4个,手动创建是8个。

queue的引入使得消息存储可以分布式集群化,具有了水平扩展的能力。

1个message只能属于1个queue、1个topic。

在rocketmq中,所有消息队列都是持久化,长度无限的数据结构,所谓长度无限是指队列中的每个存储单元都是定长,

访问其中的存储单元使用offset来访问,offset 为 java long 类型,64 位,理论上在 100年内不会溢出,

所以认为是长度无限,另外队列中只保存最近几天的数据,之前的数据会按照过期时间来删除。

也可以认为 Message Queue是一个长度无限的数组,offset就是下标。

rocketmq中,producer将消息发送给broker时,需要指定发送到哪一个queue中,默认情况下,

producer会轮询的将消息发送到每个queue中,顺序是随机的,但总体上每个queue的消息数量均分,

所有broker下的queue合并成一个list去轮询,

也可以由程序员通过MessageQueueSelector接口来指定具体发送到哪个queue中。

对于consumer而言,会为每个consumer分配固定的队列(如果队列总数没有发生变化),

consumer从固定的队列中去拉取没有消费的消息进行处理。

消费端会通过RebalanceService线程,10秒钟做一次基于topic下的所有队列负载,获取同一个Consumer Group下的所有Consumer实例数或Topic的queue的个数是否改变,通知所有Consumer实例重新做一次负载均衡算法。

理解成消费进度,可自增。

虽然每个topic下面有很多message queue,但是message queue本身并不存储消息。

真正的消息存储会写在CommitLog的文件,message queue只是存储CommitLog中对应的位置信息,

方便通过message queue找到对应存储在CommitLog的消息。 不同的topic,

message queue都是写到相同的CommitLog 文件,也就是说CommitLog完全的顺序写。

服务启动顺序:name server->broker->producer&consumer

每个broker与name server集群中的所有节点建立长连接,

定时注册topic&broker的路由信息到所有name server中。

producer与name server集群中的其中一个节点(随机选择)建立长连接,

定期从name server获取topic路由信息,并向提供topic服务的broker master建立长连接,

且定期向broker master发送心跳,produce无状态,可集群部署。

producer只能将消息发送到broker master,但是consumer则不一样。

consumer与name server集群中的其中一个节点(随机选择)建立长连接,定期从name server获取topic路由信息,

consumer同时与提供topic服务的master和slave建立长连接且定时发送心跳,

consumer既可以从broker master订阅消息,也可以从broker slave订阅消息,订阅规则由broker配置决定。

broker一旦需要横向扩展,只需要启动更多的broker即可,然后把对应的topic建上,

客户端的queue集合即会变大,并且由于每个group下面的topic的配置都是独立的,

也就说可以让broker1下面的那个topic的queue数量是4,其他broker下的topic queue数量是2,

这样broker1则得到更大的负载。

rocketmq云服务器和本地基础安装搭建及可视化控制台安装使用(代码片段)

...分享🐳。偶尔认知思考、日常水文🐌。目录一、RocketMQ介绍1、RocketMQ是什么?2、MQ的应用场景2.1、异步任务处理2.2、应用程序解耦合2.3、日志收集3、消息队列技术选型对比二、RocketMQ安装和基础使用1、RocketMQ组成结... 查看详情

rocketmq快速入门:消息发送延迟消息消费重试(代码片段)

...分享🐳。偶尔认知思考、日常水文🐌。目录1、RocketMQ消息结构1.1、消息结构1.2、三种消息发松方式2、快速搭建工程2.1、创建rocketmq-demo父工程2.2、生产者工程2.3、消费者工程2.4、消息发送过程3、消息发送过程4、三种消... 查看详情

rocketmq基础概念剖析,并分析一下producer的底层源码

这篇博客聊聊关于RocketMQ相关的东西,主要聊的点有RocketMQ的功能使用、RocketMQ的底层运行原理和部分核心逻辑的源码分析。至于我们为什么要用MQ、使用MQ能够为我们带来哪些好处、MQ在社区有哪些实现、社区的各个MQ的优劣对比... 查看详情

rocketmq基础知识

目录RocketMQ架构概述NameServerBrokerProducerConsumerRocketMQ客户端如何找到NameServerRocketMQ架构概述ApacheRocketMQ(阿里巴巴贡献给Apache)是一个分布式消息和流媒体平台,具有低延迟、高性能、高可靠、万亿级容量和灵活的可扩... 查看详情

azureai基础到实战(c#2022)-认知服务(代码片段)

目录Azure认知服务概述计算机视觉概述数据隐私和安全性计算机视觉快速入门光学字符识别(OCR)OCRAPIOCR常用功能Azure门户准备两种部署方式OCR项目实战之车牌识别Azure认知服务概述Azure认知服务是基于云的人工智能(AI)服务,可帮助... 查看详情

基于云基础设施快速部署rocketmq5.0集群

本文作者:蔡高扬,ApacheRocketMQCommitter,阿里云智能技术专家。背景上图左侧为RocketMQ4.x版本集群,属于非切换架构。NameServer作为无状态节点可以部署多份,broker集群可以部署多组broker,每一组有一个BrokerMaster和多个BrokerSlave。运... 查看详情

关于rocketmq的基础api操作——这一篇就够了(代码片段)

关于RocketMQ的基础操作一、基础API操作1、普通消息1.1、消息生产端1.2、消息消费端2、顺序消息2.1、消息生产端2.2、消息消费端3、广播消息3.1、消息生产端3.2、消息消费端4、延迟消息4.1、消息生产端4.2、消息消费端4.3、实现原理... 查看详情

rocketmq在线集群安装

...安装jdk并配置  3、下载并安装maven  4、下载并安装rocketMQ    5、启动rocketMQ  6、MQ用户手册二、操作  1、虚拟机安装CentOS64位基础版    (1)下载镜像文件,在虚拟机中启动镜像文件,选择第一个安装:  ... 查看详情

jvm基础认知篇(上)(代码片段)

JVM基础认知篇1.前言:为什么学习JVM?2.什么是JVM?3.JVM的特点4.JVM的作用5.JVM的相关概念6.JVM的所在位置7.JVM的大致结构1.前言:为什么学习JVM?我们知道在Java中,垃圾回收机制为我们打理了很多繁琐的工作&... 查看详情

jvm基础认知篇(下)(代码片段)

JVM基础认知篇1.JVM的执行流程2.JVM的架构模型3.JVM的生命周期4.JVM的发展历史5.JVM的版本历史1.JVM的执行流程2.JVM的架构模型Java编译器输入的指令流基本上是一种基于栈的指令集架构,另外一种指令集架构则是基于寄存器的指令... 查看详情

微服务基础概念认知总结(代码片段)

...SpringCloud、Dubbo等微服务框架,所以只能不断地从微服务基础知识出发,不让自己局限于某一种工具框架上。以下知识摘自一些自己看过的微服务相关的书上,还有一些自己对微服务的理解。单体应用存在的问题复杂性高单体应... 查看详情

rocketmq基础-核心架构剖析

RocketMQ基础-核心架构剖析RocketMQ的核心架构RocketMQ主要分为四个部分:Producer:负责生产消息;消息发布的角色,支持分布式集群方式部署,Producer通过MQ的负载均衡模块选择相应的Broker集群队列进行消息投递... 查看详情

浅谈vr基础视频教程改变技术革命

...睹的,一个新的技术领域的诞生,现在千锋给大家浅谈vr基础视频教程,改变技术革命。  认知革命发生在几万年前的上古时期,是一个很哲学的话题,聊起来很不接地气。这里讲的认知革命是人们对信息认知方式的革新,比... 查看详情

springboot整合rocketmq

上篇博客讲解了服务器集群部署RocketMQ博客地址:RocketMQ(2)---Docker部署RocketMQ集群这篇在上篇搭建好的基础上,将SpringBoot整合RocketMQ实现生产消费。GitHub地址: https://github.com/yudiandemingzi/spring-boot-study一、搭建步骤先说下技术大致... 查看详情

rocketmq核心技术精讲与高并发抗压实战

第1章课程介绍为什么掌握RocketMQ消息中间件技术对于跳槽,晋级如此重要?学习RocketMQ技术,为什么首选这门课程?电商平台双11高并发场景下是如何抗压的?MQ部分的落地是如何做的?这章讲重点为你解答这些疑惑1-1课前必读(... 查看详情

rocketmq核心技术精讲与高并发抗压实战

第1章课程介绍为什么掌握RocketMQ消息中间件技术对于跳槽,晋级如此重要?学习RocketMQ技术,为什么首选这门课程?电商平台双11高并发场景下是如何抗压的?MQ部分的落地是如何做的?这章讲重点为你解答这些疑惑1-1课前必读(... 查看详情

消息队列概念与认知

...一致性的架构。使用较多的消息队列有ActiveMQ、RabbitMQ、RocketMQ、Kafka、MetaMQ等1消息队列应用场景分析1.1异步处理举个栗子:有这样一个用户注册场景,实现将注册信息写入数据库并发送邮件和注册短信的功能。传统的方式如图:... 查看详情

rocketmq发送同步异步单向消息(代码片段)

目录说明基础工具类测试代码效果展示说明后续打算根据RocketMQ官网的例子,也对各种类型的消息进行简单的使用。在熟悉基本使用,了解各类消息的特点之后,再抽时间进行内部原理剖析。后续所有的文章,都... 查看详情