关键词:
Disruptor
介绍:
单机最快的MQ。性能非常的高
- 按照英文翻译的话,Disruptor应该是分裂、瓦解。这个Disruptor是一个做金融的、做股票的这样一个公司交易所来开发的,为自己来开发的这么一个底层的框架,开发出来之后受到了很多的认可,开源之后,2011年获得Duke将。
- 如果你想把它用作MQ的话,单机最快的MQ。性能非常的高,主要是它里面用的全都是cas,另外把各种各样的性能开发到了极致,所以他单机支持很高的一个并发。
特性:
Disruptor不是平时我们学的这个redis、不是平时我们所学的kafka,他可以跟他们一样有类似的用途,但他是单机,redis、kafka也可以用于集群。redis他有这种序列化的机制,就是你可以把它存储到硬盘上或数据库当中是可以的,kafka当然也有,Disruptor没有,Disruptor就是在内存里,Disruptor简单理解就是内存里用于存放元素的一个高效率的队列。
- Disruptor是单机的
- Disruptor就是在内存里
Disruptor简单理解: 就是内存里用于存放元素的一个高效率的队列
资料:
- 主页:http://imax-exchange.github.io/disruptor/
- 源码:https://github.com/LMAX-Exchange/disruptor
- GettingStarted:https://github.com/LMAX-Exchange/disruptor/wiki/Getting-Started
- api:http://imax-exchange.github.io/disruptor/docs/index.html
- maven:https://mvnrepository.com/artifact/com.imax/disruptor
观察者模式:
- Disruptor叫无锁、高并发、环形Buffer,直接覆盖(不用清除)旧的数据,降低GC频率,用于生产者消费者模式(如果说按照设计者角度来讲他就是观察者模式)。
- 什么叫观察者模式,想象一下,我们在前面学各种各样的队列的时候,队列就是个容器,好多生产者往里头扔东西,好多消费者从里头往外拿东西。所谓的生产者消费者就是这个意思,为什么我们可以叫他观察者呢,因为这些消费者正在观察着里面有没有新东西,如果有的话我马上拿过来消费,所以他也是一种观察者模式。Disruptor实现的就是这个容器
Disruptor核心与特点:
Disruptor的核心是一个环形的buffer。
- Disruptor也是一个队列,和其他队列不一样的是他是一个环形队列,环形的Buffer。一般情况下我们的容器是一个队列,不管你是用链表实现还是用数组实现的,它会是一个队列,那么这个队列生产者这边使劲往里塞,消费者这边使劲往外拿,但Disruptor的核心是一个环形的buffer。
线性表–07—队列:
环形队列:
Disruptor是用数组实现的环形队列
- 对比ConcurrentLinkedQueue:链表实现
这种环形的buffer速度就是更快,同学们可以去查一下JDK自带的容器,你会发现效率比较高的有各种各样的队列,如果不想阻塞就可以用Concurrent相关的,ConcurrentLinkedQueue是并发的用链表实现的队列,它里面大量的使用了cas,因此它的效率相对比较高,可是对于遍历来讲链表的效率一定会比数组低。 - JDK中没有ConcurrentArrayQueue
因为数组的大小的固定的,如果想扩展的话就要把原来的数组拷贝到新数组里,每次加都要拷贝这个效率相当底,所以他并没有给大家加这个叫ConcurrentArrayQueue,但是Disruptor就非常牛X,想到了这样一个办法,就是把数组的头尾相连。 - Disruptor是用数组实现的环形队列
这样的一个队列,你可以认为Disruptor就是用数组实现的ConcurrentArrayQueue,另外这个Queue是首尾相连的
效率为什么高?
那Disruptor用数组实现的环形的就比上面两个都牛吗,牛在哪?为啥呢?
1. 数组遍历本身就比链表快
- 如果我们用ConcurrentLinkedQueue这里面就是一个一个链表,这个链表遍历起来肯定没有数组快,这个是一点。
2. 链表要维护一个头指针和一个尾指针,环形队列只要维护一个位置
链表
- 这个链表要维护一个头指针和一个尾指针,我往头部加的时候要加锁,往尾部拿的时候也要加锁。另外链表本身效率就偏低,还要维护两个指针。
环形队列
- 关于环形的呢,环形本身就维护一个位置,这个位置称之为sequence序列,这个序列代表的是我下一个有效的元素指在什么位置上,就相当于他只有一个指针来回转.
3. Disruptor初始化的时候,会对ringBuffer进行内存的提前分配
- 这里牵扯效率问题,因为Disruptor初始化的时候会调用Event工厂,对ringBuffer进行内存的提前分配,GC频率会降低
添加元素
加在某个位置上怎么计算:直接用那个数除以我们整个的容量求余就可以了。
- RingBuffer的序号,指向下一个可用的元素
- 假如长度为8,当添加到第12个元素的时候在哪个序号上呢?用12%8决定
当Buffer被填满的时候到底是覆盖还是等待?
当Buffer被填满的时候到底是覆盖还是等待,由Produce决定
等待策略
-
那我生产者线程生产的特别多,消费者没来得及消费那我在往后覆盖的话怎么办?不会那么轻易的让你覆盖的,我们是有策略的,我生产者生产满了,要在生产一个的话就马上覆盖这个位置上的数了。这时候是不能覆盖的,指定了一个策略叫等待策略,这里面有8中等待策略,分情况自己去用。
-
最常见的是BlockingWait,满了我就在这等着,什么时候你空了消费者来唤醒一下就继续。
Disruptor开发步骤
开发步骤是比较固定的一个开发步骤
1. 定义Event-队列中需要处理的元素
- 在Disruptor他是每一个消息都认为是一个事件,在他这个概念里就是一个事件,所以在这个环形队列里面存的是一个一个的Event。
2. 定义Event工厂
- 用于填充队列 那这个Event怎么产生,就需要指定Event的工厂。
3. 定义EventHandler(消费者)
- 处理容器中的元素,那这个Event怎么消费呢,就需要指定Event的消费者EventHandler。
官网案例:
https://mvnrepository.com/artifact/com.lmax/disruptor
<!-- https://mvnrepository.com/artifact/com.lmax/disruptor -->
<dependency>
<groupId>com.lmax</groupId>
<artifactId>disruptor</artifactId>
<version>3.4.2</version>
</dependency>
LongEvent----事件
- LongEvent这个事件里面或者说消息里面装的什么值,我只装了一个long值,但这里面可以装任何值,任何类型的都可以往里装,这个long类型的值我们可以指定他set,官网上没有toString方法,我给大家加了一段主要是为了打印消息让大家看的更清楚。
package c_027;
public class LongEvent
private long value;
public long get()
return value;
public void set(long value)
this.value = value;
@Override
public String toString()
return "LongEvent" +
"value=" + value +
"";
EventFactory----工厂
- 我需要一个EventFactory就是怎么产生这些个事件,这个Factory非常简单,LongEventFactory去实现EventFactiry的接口,去重写它的newInstance方法直接new LongEvent方法。
- 构建这个环的时候为什么要指定一个产生事件的工厂,我直接new这个事件不可以吗?但是有的事件里面的构造方法不让你new呢,产生事件工厂的话你可以灵活的指定一些 ,这里面也是牵扯到效率的。底层比较深,我给大家解释一下:这里牵扯效率问题,因为Disruptor初始化的时候会调用Event工厂,对ringBuffer进行内存的提前分配,GC频率会降低。
因为Disruptor初始化的时候会调用Event工厂,对ringBuffer进行内存的提前分配,GC频率会降=低。
import com.lmax.disruptor.EventFactory;
public class LongEventFactory implements EventFactory<LongEvent>
@Override
public LongEvent newInstance()
return new LongEvent();
EventHandler----消费者
Handler就是我拿到这个事件之后该怎么样进行处理,所以这里是消息的消费者.
- 怎么处理呢,很简单,我处理完这个消息之后呢就记一个数,总共记下来我一共处理了多少消息了
onEvent()方法:
处理消息的时候默认调用的是onEvent方法,这个方法里面有三个参数,
- 第一个是你要处理的那个消息
- 第二个是你处理的是哪个位置上的消息
- 第三个是整体的消息结束没结束,是不是处理完了。你可以判断他如果是true的话消费者就可以退出了,如果是false的话说明后面还有继续消费。
import com.lmax.disruptor.EventHandler;
public class LongEventHandler implements EventHandler<LongEvent>
/**
*
*@param event
*@param sequence RingBuffer的序号
*@param endOfBatch 是否为最后一个元素
*@throws Exception
**/
public static long count = 0;
@Override
public void onEvent(LongEvent event,long sequence,boolean endOfBatch) throws Exception
count++;
System.out.println("["+Thread.currentThread().getName()+"]"+event+"序号:"+sequence);
三个辅助类
- 所以我们定义了这三个类,关于这三个类在给大家解释一下,我们现在有一个环,然后这个环上每一个位置装LongEvent,怎么产生这个LongEvent通过这个LongEventFactory的newInstance方法来产生,当我拿到这个Event之后通过LongEventHandler进行处理。
案例1
new一个: Disruptor
- 首先把EvenFactory给他初始化了new LongEventFactory,我们这个环应该是2的N次方1024,
- 然后new一个Disruptor出来,需要指定这么几个参数:factory产生消息的工厂;bufferSize是指定这个环大小到底是多少;defaultThreadFactory线程工厂,指的是当他要产生消费者的时候,当要调用这个消费者的时候他是在一个特定的线程里执行的,这个线程就是通过defaultThreadFactory来产生;
- 继续往下看,当我们拿到这个消息之后怎么进行处理啊,我们就用这个LongEventHandler来处理。然后start,当start之后一个环起来了,每个环上指向的这个LongEvent也得初始化好,内存分配好了,整个就安安静静的等待着生产者的到来。
生产者的代码
- 看生产者的代码,long sequence =
ringBuffer.next(),通过next找到下一个可用的位置,最开始这个环是空的,下一个可用的位置是0这个位置, - 拿到这个位置之后直接去ringBuffer里面get(0)这个位置上的event。如果说你要是追求效率的极致,你应该是一次性全部初始化好,你get的时候就不用再去判断,如果你想做一个延迟,很不幸的是你每次都要做判断是不是初始化了。get的时候就是拿到一个event,这个是我们new出来的默认的,
- 但是我们可以改里面的event.set( 值…),进行处理
- 填好数据之后ringBuffer.publish发布生产。
代码
package c_027;
import com.lmax.disruptor.RingBuffer;
import com.lmax.disruptor.dsl.Disruptor;
import java.util.concurrent.Executors;
public class Main01
public static void main(String[] args) throws Exception
//the factory for the event
LongEventFactory factory = new LongEventFactory();
//Specify the of the ring buffer,must be power of 2.
int bufferSize = 1024;
//Construct the Disruptor
Disruptor<LongEvent> disruptor = new Disruptor<>(factory, bufferSize, Executors.defaultThreadFactory());
//Connect the handler
disruptor.handleEventsWith(new LongEventHandler());
//Start the Disruptor,start all threads running
disruptor.start();
//Get the ring buffer form the Disruptor to be used for publishing.
RingBuffer<LongEvent> ringBuffer = disruptor.getRingBuffer();
//官方例程
long sequence = ringBuffer.next();//Grab the next sequence
try
LongEvent event = ringBuffer.get(sequence);//Get the entry in the Disruptor
//for the sequence
event.set(8888L);//Fill with data
finally
ringBuffer.publish(sequence);
案例2 ----Lambda表达式的写法
disruptor在后面提供了一些Lambda表达式的写法,为了支持这种写法对整个消息的构建过程做了改进.
- 读下面02小程序使用translator,就是怎么样构建这个消息,原来我们都是用消息的factory,但是下面这次我们用translator对他进行构建,就是把某一些数据翻译成消息。前面产生event工厂还是一样,然后bufferSize,后面再扔的是DaemonThreadFactory就是后台线程了,new LongEventHandler然后start拿到他的ringBuffer,前面都一样。
- 只有一个地方叫EventTranslator不一样,我们在main01里面的代码是要写try catch然后把里面的值给设好,相当于把这个值转换成event对象。相对简单的写法,它会把某些值转成一个LongEvent,通过EventTranslator。new出来后实现了translateTo方法,EventTranslator他本身是一个接口,所以你要new的时候你又要实现它里面没有实现的方法,translateTo的意思是你给我一个Event,我会把这个Event给你填好。ringBuffer.publishEvent(translator1)你只要把translator1交个ringBuffer就可以了。这个translator就是为了迎合Lambda表达式的写法(为java8的写法做准备)
package c_027;
import com.lmax.disruptor.*;
import com.lmax.disruptor.dsl.Disruptor;
import com.lmax.disruptor.util.DaemonThreadFactory;
import java.util.Objects;
public class Main02
public static void main(String[] args) throws Exception
//the factory for the event
LongEventFactory factory = new LongEventFactory();
//Specify the of the ring buffer,must be power of 2.
int bufferSize = 1024;
//Construct the Disruptor
Disruptor<LongEvent> disruptor = new Disruptor<>(factory, bufferSize, DaemonThreadFactory.INSTANCE);
//Connect the handler
disruptor.handleEventsWith(new LongEventHandler());
//Start the Disruptor,start all threads running
disruptor.start();
//Get the ring buffer form the Disruptor to be used for publishing.
RingBuffer<LongEvent> ringBuffer = disruptor.getRingBuffer();
//========================================================================
EventTranslator<LongEvent> translator1 = new EventTranslator<LongEvent>()
@Override
public void translateTo(LongEvent event, long sequence)
event.set(8888L);
;
ringBuffer.publishEvent(translator1);
//========================================================================
EventTranslatorOneArg<LongEvent, Long> translator2 = new EventTranslatorOneArg<LongEvent, Long>()
@Override
public void translateTo(LongEvent event, long sequence, Long l)
event.set(l);
;
ringBuffer.publishEvent(translator2, 7777L);
//========================================================================
EventTranslatorTwoArg<LongEvent, Long, Long> translator3 = new EventTranslatorTwoArg<LongEvent, Long, Long>()
@Override
public void translateTo(LongEvent event, long sequence, Long l1, Long l2)
event.set(l1 + l2);
;
ringBuffer.publishEvent(translator3, 10000L, 10000L);
//========================================================================
EventTranslatorThreeArg<LongEvent, Long, Long, Long> translator4 = new EventTranslatorThreeArg<LongEvent, Long, Long, Long>()
@Override
public void translateTo(LongEvent event, long sequence, Long l1, Long l2, Long l3)
event.set(l1 + l2 + l3);
;
ringBuffer.publishEvent(translator4, 10000L, 10000L, 10000L);
//========================================================================
EventTranslatorVararg<LongEvent> translator5 = new EventTranslatorVararg<LongEvent>()
@Override
public void translateTo(LongEvent event, long sequence, Object... objects)
long result = 0;
for (Object o : objects)
long l = (Long) o;
result += l;
event.set(result);
;
ringBuffer.publishEvent(translator5, 10000L, 10000L, 10000L, 10000L);
案例3 ------Lambda表达式 简洁版
- 有了上面Translator之后呢,下面看Lambda表达式怎么写,这个是比较简洁的写法,连factory都省了,直接指定一个Lambda表达式LongEvent::new。继续handleEventsWith把三个参数传进来后面写好Lambda表达式直接打印,然后start,接着RingBuffer,publishEvent原来我们还有写try…catch,现在简单了直接ringBuffer.publishEvent(第一个是lambda表达式,表达式后是你指定的几个参数),所以现在的这种写法就不定义各种各样的EventTranslator了。
package c_027;
import com.lmax.disruptor.RingBuffer;
import com.lmax.disruptor.dsl.Disruptor;
import com.lmax.disruptor.util.DaemonThreadFactory;
public class Main03
public static void main(String[] args) throws Exception
//the factory for the event
LongEventFactory factory = new LongEventFactory();
//Specify the of the ring buffer,must be power of 2.
int bufferSize = 1024;
//Construct the Disruptor
Disruptor<LongEvent> disruptor = new Disruptor<>(LongEvent::new, bufferSize, DaemonThreadFactory.INSTANCE);
//Connect the handler
disruptor.handleEventsWith((event, sequence, endOfBatch) -> System.out.println("Event:" + event));
//Start the Disruptor,start all threads running
disruptor.start();
//Get the ring buffer form the Disruptor to be used for publishing.
RingBuffer<LongEvent> ringBuffer = disruptor.getRingBuffer();
ringBuffer.publishEvent((event, sequence) -> event.set(10000L));
System.in.read();
Disruptor 细节
1. 生产者线程模式----ProducerType
默认的是多线程生产者
第一个细节是我们生产者的时候默认会有好多种生产方式,默认的是多线程生产者,但是假如你确定你整个程序里头只有一个生产者的话那你还能提高效率,就是在你指定Disruptor生产者的线程的方式是SINGLE,生产者的类型ProducerType。
ProducerType生产者线程模式
- ProducerType有两种模式ProducerMULTI和Producer.SINGLE
- 默认是MULTI,表示在多线程模式下产生sequence
- 如果确认是单线程生产者,那么可以指定SINGLE,效率会提升
Producer.SINGLE
Disruptor<LongEvent> disruptor = new Disruptor<>(factory,bufferSize, Executors.defaultThreadFactory(),
ProducerType.SINGLE,new BlockingWaitStrategy());
假如你的程序里头只有一个生产者还用ProducerMULTI的话,我们对序列来进行多线程访问的时候肯定是要加锁的,所以MULTI里面默认是有锁定处理的,但是假如你只有一个线程这个时候应该吧生产者指定为SINGLE,他的效率更高,因为它里面不加锁。
如果是多个生产者(多线程),但模式指定为SINGLE,会出什么问题?
- 下面这个小程序,我这里指定的是Producer.SINGLE,但是我生产的时候用的是一堆线程,当我制定了Producer.SINGLE之后相当于内部对于序列的访问就没有锁了,它会把性能发挥到极致,它不会报错,它会把你的消息静悄悄的覆盖了,因此你要小心一点。我这里这个写法是我有50 个线程然后每个线程生产100个数,最后结果正常的话应该是有5000个消费产生。
package c_027;
import com.lmax.disruptor.BlockingWaitStrategy;
import com.lmax.disr[转]golang号称高并发,但高并发时性能不高
...样做减少chan传输耗时,和Go程调度耗时,性能会有很大的提升。案例分析: 查看详情
轻量版chatgpt训练方法开源!仅用3天围绕llama打造,号称训练速度比openai快15倍...
...训练优化库,包含名叫Zero的现存优化技术,用于提升大模型训练能力,具体指帮模型提升训练速度、降低成本、提升模型可用性等。RLHF则会采用奖励模型来对预训练模型进行微调。奖励模型 查看详情
号称史上最全java多线程与并发面试题总结—基础篇(代码片段)
...硬件支持而能够在同一时间执行多于一个线程,进而提升整体处理性能。具有这种能力的系统包括对称多处理机、多核心处理器以及芯片级多处理或同时多线程处理器。在一个程序中,这些独立运行的程序片段叫作“线... 查看详情
zeromq的安装,部署(号称最快的消息队列)
1:Storm作为一个实时处理的框架,产生的消息需要快速的进行处理,比如存在消息队列ZeroMQ里面。由于消息队列ZeroMQ是C++写的,而我们的程序是运行在JVM虚拟机里面的。所以需要jzmq这个桥梁来黏合C++程序接口和Java程序接口。Zero... 查看详情
那个php中号称最难的‘递归函数’
昨天处理了一些私事,所以耽搁了一天,好在递归函数比较难以理解,所以今天有幸听了一遍:这个基于回调函数而存在的函数,的确不太好理解,需要将逻辑上的想法完全梳理通才可以顺利书写,这还是在拥有公式的情况下。... 查看详情
号称bi商业智能界的“四大天王”
基于云部署的现代商业智能与数据分析平台(国内似乎只有应用上云,数据本地化的趋势)正在逐步占据主流市场。随着市场在易用性和增强分析(augmentedanalytics)的变革,数据与分析领导者正在逐步升级传统解决方案或扩展新... 查看详情
fastjson使用
...善的JSON库。高性能fastjson采用独创的算法,将parse的速度提升到极致,超过所有json库,包括曾经号称最快的jackson。并且还超越了google的二进制协议protocolbuf。支持标准Fastjson完全支持http://json.org的标准,也是官方网站收录的参考... 查看详情
号称下一代监控系统,来看看它有多强!
相关阅读:一个90后员工猝死的全过程来源:aneasystone'sblogwww.aneasystone.com/archives/2018/11/prometheus-in-action.htmlPrometheus是一款基于时序数据库的开源监控告警系统,说起Prometheus则不得不提SoundCloud,这是一个在线音乐... 查看详情
vim和emacs哪个要牛一些?
vim号称编辑器之神,emacs号称神之编辑器,如果只是编辑,用VIM,很合适,速度快,效率高。如果还想干点别的,可以考虑使用emacs,而且emacs也安装上模拟vim的插件,也可以以vim方式编辑文字。所以。。。你懂的。没必要非要比... 查看详情
号称病毒之王的“熊猫烧香”详细分析(代码片段)
01-样本概况1.1-样本信息基本信息文件:C:\\Users\\15pb-win7\\Desktop\\xiongmao.exe大小:30001bytes修改时间:2018年7月14日,8:40:21MD5:512301C535C88255C9A252FDF70B7A03SHA1:CA3A1070CFF311C0BA40AB60A8FE3266CFEFE870CRC32:E334747C病毒行为 查看详情
github上最牛逼的10个java项目,号称"star收割机",dubbo只能排12
GitHub上最牛逼的10个Java项目,号称"Star收割机",Dubbo只能排12列表见:https://github.com/sixtreehall 查看详情
苹果地表最强芯只能剪视频?
...载于:新智元5nm工艺,570亿晶体管,70%CPU性能提升,4倍GPU性能提升。号称史上最强芯片的M1Max,只能「剪剪视频」?最近 查看详情
armv9刷屏——号称十年最大变革,realm机密计算技术有什么亮点?
...ARMv9机密计算相关的新特性Realm。ARMv9的新闻刷屏了。ARMv9号称十年以来最重大变革,因此让我们看下ARMv9中机密计算相关的新特性Realm。(注:本文是对IntroducingtheConfidentialComputeArchitecture的部分翻译和个人注解,本... 查看详情
号称下一代监控系统,来看看它有多强!(代码片段)
点击关注公众号,Java干货及时送达来源:aneasystone'sblogwww.aneasystone.com/archives/2018/11/prometheus-in-action.htmlPrometheus是一款基于时序数据库的开源监控告警系统,说起Prometheus则不得不提SoundCloud,这是一个在线音乐分... 查看详情
google强势开源carbon语言,号称要替代c++
大家好,我是校长。前几天看到一条新闻,在近日举行的CppNorth开发者大会上,谷歌工程师ChandlerCarruth宣布了名为“Carbon”的全新开源开发语言,并称它将是C++的继任者。在Carbon语言的GitHub开源文档上,... 查看详情
全面提升软件工程能力与实践,打造可信的高质量产品
...bsp; 今天有幸看到一篇华为公司[公司文件]《全面提升软件工程能力与实践,打造可信的高质量产品》------致全体员工的一封信任正非 ,此文章出自华为《心声社区》,让一个码了多年代码的我,看了后受益匪浅,写得非... 查看详情
微软正式发布.net6:号称迄今为止最快
整理|祝涛出品|CSDN(ID:CSDNnews)11月9日消息,微软宣布.NET6已正式推出,并称其为迄今为止最快的.NET版本。据了解,.NET6是首个原生支持苹果芯片(Arm64)的版本,并且还针对WindowsArm64进行了改进。C#10和F#... 查看详情
一道号称“史上最难”的java面试题引发的线程安全思考(代码片段)
1.史上最难的题最近偶然间看见一道名为史上最难的java面试题,这个题让了我对线程安全的有了一些新的思考,给大家分享一下这个题吧:publicclassTestSync2implementsRunnableintb=100;synchronizedvoidm1()throwsInterruptedExceptionb=1000;Thread.sleep(500);/... 查看详情