什么是qps、tps、rt、吞吐量?

author author     2023-03-14     560

关键词:

参考技术A 一、QPS,每秒查询

QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。互联网中,作为域名系统服务器的机器的性能经常用每秒查询率来衡量。

二、TPS,每秒事务

TPS:是TransactionsPerSecond的缩写,也就是事务数/秒。它是软件测试结果的测量单位。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。QPS vs TPS:QPS基本类似于TPS,但是不同的是,对于一个页面的一次访问,形成一个TPS;但一次页面请求,可能产生多次对服务器的请求,服务器对这些请求,就可计入“QPS”之中。如,访问一个页面会请求服务器2次,一次访问,产生一个“T”,产生2个“Q”。

三、RT,响应时间

响应时间:执行一个请求从开始到最后收到响应数据所花费的总体时间,即从客户端发起请求到收到服务器响应结果的时间。响应时间RT(Response-time),是一个系统最重要的指标之一,它的数值大小直接反应了系统的快慢。

四、并发数

并发数是指系统同时能处理的请求数量,这个也是反应了系统的负载能力。

五、吞吐量

系统的吞吐量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。单个request 对CPU消耗越高,外部系统接口、IO速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间。

QPS(TPS):(Query Per Second)每秒钟request/事务 数量

并发数: 系统同时处理的request/事务数

响应时间: 一般取平均响应时间

理解了上面三个要素的意义之后,就能推算出它们之间的关系:

QPS(TPS)= 并发数/平均响应时间

并发数 = QPS*平均响应时间

六、实际举例

我们通过一个实例来把上面几个概念串起来理解。按二八定律来看,如果每天 80% 的访问集中在 20% 的时间里,这 20% 时间就叫做峰值时间。

公式:( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS)

机器:峰值时间每秒QPS / 单台机器的QPS = 需要的机器

1、每天300w PV 的在单台机器上,这台机器需要多少QPS?

( 3000000 * 0.8 ) / (86400 * 0.2 ) = 139 (QPS)

2、如果一台机器的QPS是58,需要几台机器来支持?

139 / 58 = 3

七、最佳线程数、QPS、RT

1、单线程QPS公式:QPS=1000ms/RT

对同一个系统而言,支持的线程数越多,QPS越高。假设一个RT是80ms,则可以很容易的计算出QPS,QPS = 1000/80 = 12.5

多线程场景,如果把服务端的线程数提升到2,那么整个系统的QPS则为 2*(1000/80) = 25, 可见QPS随着线程的增加而线性增长,那QPS上不去就加线程呗,听起来很有道理,公司也说的通,但是往往现实并非如此。

2、QPS和RT的真实关系

我们想象的QPS、RT关系如下

实际的QPS、RT关系如下

3、最佳线程数量

刚好消耗完服务器的瓶颈资源的临界线程数,公式如下

最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间)* cpu数量

特性:

在达到最佳线程数的时候,线程数量继续递增,则QPS不变,而响应时间变长,持续递增线程数量,则QPS开始下降。

每个系统都有其最佳线程数量,但是不同状态下,最佳线程数量是会变化的。

瓶颈资源可以是CPU,可以是内存,可以是锁资源,IO资源:超过最佳线程数-导致资源的竞争,超过最佳线程数-响应时间递增。

qps相关的概念收集(吞吐量(tps)qps并发数响应时间(rt))

一、概念:1、响应时间(RT) 响应时间是指系统对请求作出响应的时间。直观上看,这个指标与人对软件性能的主观感受是非常一致的,因为它完整地记录了整个计算机系统处理请求的时间。由于一个系统通常会提供许多功... 查看详情

tps/qps/rt的关系及计算

...tps不等于qpsjmeter聚合报告中,Throughput是用来衡量请求的吞吐量,也就是tpstps=样本数/运行时间,样本数即并发请求数,运行时间=RT(响应时间)+tt(思考时间,thinktime)即Tps=并发数/(RT+tt)eg1:100并发,RT0.2S,tt不控制=0,那么Tps=100/0.2... 查看详情

吞吐量(tps)qps并发数响应时间(rt)概念

开发的原因,需要对吞吐量(TPS)、QPS、并发数、响应时间(RT)几个概念做下了解,查自百度百科,记录如下:1.响应时间(RT)   响应时间是指系统对请求作出响应的时间。直观上看,这个指标与人对软件性能的主观感受... 查看详情

rt吞吐量并发用户数tps和qps几个概念

RT、吞吐量、并发用户数、TPS和QPS都是业界对一个软件的性能指标,了解这几个概念对于混迹于IT行业的人员有帮助(手动滑稽)。响应时间(RT,ResponseTime)响应时间是指系统对请求作出响应的时间。直观上看,这个指标与人对... 查看详情

qps(tps)

...每秒的响应请求数,也即是最大吞吐能力。  一个系统吞吐量通常由QPS(TPS)、并发数两个因素决定,每套系统这两个值都有一个相对极限值,在应用场景访问压力下,只要某一项达到系统最高值 查看详情

tps和qps并发量区别;日活访问量活跃度(代码片段)

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS、TPS、并发数、响应时间1、吞吐量(TPS):吞吐量是指系统在单位时间内处理请求的数量;也就是事务数/秒。它是软件测试结果的测量单位。2、... 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式(转)

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间QPS(TPS):每秒钟request/事务数量并发数:系统同时处理的req 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式[转]

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

qps/tps简介

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间QPS(TPS):每秒钟request/事务数量并发数:系统同时处理的request/事务数响应时间:一般取平均响应时间QPS(TPS)=并发... 查看详情

系统吞吐量tps(qps)用户并发量性能測试概念和公式

...、IO影响速度越慢。系统吞吐能力越低,反之越高。系统吞吐量几个重要參数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能測试概念和公式

...、IO影响速度越慢。系统吞吐能力越低,反之越高。系统吞吐量几个重要參数:QPS(TPS)、并发数、响应时间    &n 查看详情

压力测试:系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间        QPS(TPS):每秒钟request/事务 数量        并发数... 查看详情

性能测试之qpstps并发量系统吞吐量的概念

QPS:每秒钟处理完请求的次数;具体是指发出请求到服务器处理完成功返回结果。TPS:每秒钟处理完的事务次数,一般TPS是对整个系统来讲的。一个应用系统1s能完成多少事务处理,一个事务在分布式处理中,可能会对应多个请求... 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式(分享二十二)

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间QPS(TPS):每秒钟request/事务数量并发数:系统同时处理的request/事务数响应时间: 一般取平均响 查看详情

最佳线程数和qps以及rt

...QPS=1000/RT对于多线程:QPS=1000*线程数/RT性能的两个点:吞吐量和延迟,通俗的解释就是QPS和RT.未完 查看详情