RocketMQ集群搭建

RocketMQ四种不同的集群搭建方式

依赖环境

  1. 64 位操作系统,Linux/ Unix/Mac OS

  2. 64位JDK 1.8+

  3. Maven 3.2.x

  4. Git

单Master模式

这种方式风险较大,一旦Broker重启或者宕机时,会导致整个服务不可用。不建议线上环境使用,可以用于本地测试。

环境搭建

pageRocketMQ单机环境

多Master模式

一个集群无Slave,全是Master,例如2个Master或者3个Master,这种模式的优缺点如下:

  • 优点:配置简单,单个Master宕机或重启维护对应用无影响,在磁盘配置为RAID10时,即使机器宕机不可恢复情况下,由于RAID10磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢),性能最高;

  • 缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到影响。

依赖环境

  1. 64 位操作系统,Linux/ Unix/Mac OS

  2. 64位JDK 1.8+

  3. Maven 3.2.x

  4. Git

代码下载

从github上clone代码 rocketmq

> git clone https://github.com/apache/rocketmq.git

项目构建

> cd rocketmq
# meavn打包
> mvn -Prelease-all -DskipTests clean install -U
# 这里的4.5.x是版本号,可能不同,请注意自己的版本
> cd distribution/target/rocketmq-4.5.x/rocketmq-4.5.x

启动 NameServer

> nohup sh bin/mqnamesrv &
#出现下面信息成功
  The Name Server boot success...
  
> tail -f ~/logs/rocketmqlogs/namesrv.log
  
2019-9-27 21:04:10 INFO NSScheduledThread1 - ----
...

启动Master1

1. 在机器A,启动第一个Master,例如NameServer的IP为:192.168.1.1

nohup sh bin/mqbroker -n 192.168.1.1:9876 -c ./conf/2m-noslave/broker-a.properties &

2. 在机器B,启动第二个Master,例如NameServer的IP为:192.168.1.1

nohup sh bin/mqbroker -n 192.168.1.1:9876 -c ./conf/2m-noslave/broker-b.properties &

...(其他Master节点)

如上启动命令是在单个NameServer情况下使用的。对于多个NameServer的集群,Broker启动命令中-n后面的地址列表用分号隔开即可,例如 192.168.1.1:9876;192.161.2:9876

多Master多Slave模式-异步复制

每个Master配置一个Slave,有多对Master-Slave,HA采用异步复制方式,主备有短暂消息延迟(毫秒级),这种模式的优缺点如下:

  • 优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,同时Master宕机后,消费者仍然可以从Slave消费,而且此过程对应用透明,不需要人工干预,性能同多Master模式几乎一样;

  • 缺点:Master宕机,磁盘损坏情况下会丢失少量消息。

项目下载打包参照上述文档

1. 启动NameServer

首先启动Name Server

nohup sh mqnamesrv &

验证Name Server 是否启动成功

tail -f ~/logs/rocketmqlogs/namesrv.log
The Name Server boot success...

2 启动Broker集群

### 在机器A,启动第一个Master,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-async/broker-a.properties &
 
### 在机器B,启动第二个Master,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-async/broker-b.properties &
 
### 在机器C,启动第一个Slave,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-async/broker-a-s.properties &
 
### 在机器D,启动第二个Slave,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-async/broker-b-s.properties &

多Master多Slave模式-同步双写

每个Master配置一个Slave,有多对Master-Slave,HA采用同步双写方式,即只有主备都写成功,才向应用返回成功,这种模式的优缺点如下:

  • 优点:数据与服务都无单点故障,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高;

  • 缺点:性能比异步复制模式略低(大约低10%左右),发送单个消息的RT会略高,且目前版本在主节点宕机后,备机不能自动切换为主机。

1. 启动NameServer

### 首先启动Name Server
$ nohup sh mqnamesrv &
 
### 验证Name Server 是否启动成功
$ tail -f ~/logs/rocketmqlogs/namesrv.log
The Name Server boot success...

2 启动Broker集群

### 在机器A,启动第一个Master,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-sync/broker-a.properties &
 
### 在机器B,启动第二个Master,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-sync/broker-b.properties &
 
### 在机器C,启动第一个Slave,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-sync/broker-a-s.properties &
 
### 在机器D,启动第二个Slave,例如NameServer的IP为:192.168.1.1
$ nohup sh mqbroker -n 192.168.1.1:9876 -c ./conf/2m-2s-sync/broker-b-s.properties &
  1. 以上Broker与Slave配对是通过指定相同的BrokerName参数来配对

  2. Master的BrokerId必须是0,Slave的BrokerId必须是大于0的数。

  3. 一个Master下面可以挂载多个Slave,同一Master下的多个Slave通过指定不同的BrokerId来区分。

  4. $ROCKETMQ_HOME指的RocketMQ安装目录,需要用户自己设置此环境变量。

参考文档:

Last updated