性能测试之qpstps并发量系统吞吐量的概念

happyliuyi happyliuyi     2022-12-03     245

关键词:

QPS: 每秒钟处理完请求的次数;具体是指发出请求到服务器处理完成功返回结果

TPS:每秒钟处理完的事务次数,一般TPS是对整个系统来讲的。一个应用系统1s能完成多少事务处理,一个事务在分布式处理中,可能会对应多个请求,对于衡量单个接口服务的处理能力,用QPS比较多。

并发量:系统能同时处理的请求数

RT:响应时间,处理一次请求所需要的平均处理时间

计算关系:

  QPS = 并发量 / 平均响应时间

  并发量 = QPS * 平均响应时间

 

TPS: (每秒事务处理量(TransactionPerSecond))

一个表达系统处理能力的性能指标,每秒处理的消息数(Transaction Per Second),
每秒事务处理量 - 性能测试的术语介绍
每秒钟系统能够处理的交易或事务的数量。它是衡量系统处理能力的重要指标。TPS是LoadRunner中重要的性能参数指标。
一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数

 

过程包括:

客户端请求服务端
服务端内部处理
服务端返回客户端


QPS:每秒查询率QPS是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。
每秒查询率:

因特网上,经常用每秒查询率来衡量域名系统服务器的机器的性能,其即为QPS。
对应fetches/sec,即每秒的响应请求数,也即是最大吞吐能力。
计算关系:
QPS = 并发量 / 平均响应时间
并发量 = QPS * 平均响应时间

Qps基本类似于Tps,但是不同的是,对于一个页面的一次访问,形成一个Tps;但一次页面请求,可能产生多次对服务器的请求,服务器对这些请求,就可计入“Qps”之中

例:访问一个页面会请求服务器3次,一次放,产生一个“T”,产生3个“Q”

文章参考:https://blog.csdn.net/zuoanyinxiang/article/details/51252049

 

转自:https://www.cnblogs.com/cynchanpin/p/7365859.html

PS:以下是性能測试的主要概念和计算公式,记录下:

一.系统吞度量要素:

  一个系统的吞度量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。单个reqeust 对CPU消耗越高,外部系统接口、IO影响速度越慢。系统吞吐能力越低,反之越高。

系统吞吐量几个重要參数:QPS(TPS)、并发数、响应时间

        QPS(TPS):每秒钟request/事务 数量

        并发数: 系统同一时候处理的request/事务数

        响应时间:  一般取平均响应时间

(非常多人常常会把并发数和TPS理解混淆)

理解了上面三个要素的意义之后,就能推算出它们之间的关系:
QPS(TPS)= 并发数/平均响应时间    或者   并发数 = QPS*平均响应时间


        一个典型的上班签到系统,早上8点上班。7点半到8点这30分钟的时间里用户会登录签到系统进行签到。公司员工为1000人,平均每一个员上登录签到系统的时长为5分钟。能够用以下的方法计算。
QPS = 1000/(30*60) 事务/秒
平均响应时间为 = 5*60  秒
并发数= QPS*平均响应时间 = 1000/(30*60) *(5*60)=166.7

        一个系统吞吐量通常由QPS(TPS)、并发数两个因素决定,每套系统这两个值都有一个相对极限值。在应用场景訪问压力下,仅仅要某一项达到系统最高值。系统的吞吐量就上不去了,假设压力继续增大。系统的吞吐量反而会下降。原因是系统超负荷工作,上下文切换、内存等等其他消耗导致系统性能下降。

 

决定系统响应时间要素

我们做项目要排计划,能够多人同一时候并发做多项任务,也能够一个人或者多个人串行工作,始终会有一条关键路径,这条路径就是项目的工期。

系统一次调用的响应时间跟项目计划一样,也有一条关键路径,这个关键路径是就是系统响应时间。

关键路径是有CPU运算、IO、外部系统响应等等组成。

二.系统吞吐量评估:

我们在做系统设计的时候就须要考虑CPU运算、IO、外部系统响应因素造成的影响以及对系统性能的初步预估。

而通常境况下,我们面对需求,我们评估出来的出来QPS、并发数之外,还有另外一个维度:日PV。

 

通过观察系统的訪问日志发现。在用户量非常大的情况下,各个时间周期内的同一时间段的訪问流量差点儿一样。比方工作日的每天早上。仅仅要能拿到日流量图和QPS我们就能够推算日流量。

 

通常的技术方法:

        1. 找出系统的最高TPS和日PV(Page View)。这两个要素有相对照较稳定的关系(除了放假、季节性因素影响之外)

        2. 通过压力測试或者经验预估,得出最高TPS,然后依据1的关系,计算出系统最高的日吞吐量。B2B中文和淘宝面对的客户群不一样,这两个客户群的网络行为不应用,他们之间的TPS和PV关系比例也不一样。

A)淘宝

淘宝流量图:

技术图片

淘宝的TPS和PV之间的关系通常为  最高TPS:PV大约为 1 : 11*3600 (相当于按最高TPS訪问11个小时,这个是商品详情的场景,不同的应用场景会有一些不同)

B) B2B中文站

B2B的TPS和PV之间的关系不同的系统不同的应用场景比例变化比較大。粗略预计在1 : 8个小时左右的关系(09年对offerdetail的流量分析数据)。旺铺和offerdetail这两个比例相差非常大,可能是由于爬虫暂的比例较高的原因导致。

在淘宝环境下,如果我们压力測试出的TPS为100,那么这个系统的日吞吐量=100*11*3600=396万

这个是在简单(单一url)的情况下。有些页面。一个页面有多个request,系统的实际吞吐量还要小。

不管有无思考时间(T_think),測试所得的TPS值和并发虚拟用户数(U_concurrent)、Loadrunner读取的交易响应时间(T_response)之间有下面关系(稳定执行情况下):
TPS=U_concurrent / (T_response+T_think)。

并发数、QPS、平均响应时间三者之间关系

技术图片

   上图横坐标是并发用户数。

绿线是CPU使用率。紫线是吞吐量,即QPS。蓝线是时延。
    開始,系统仅仅有一个用户,CPU工作肯定是不饱合的。一方面该server可能有多个cpu,可是仅仅处理单个进程。还有一方面,在处理一个进程中,有些阶段可能是IO阶段,这个时候会造成CPU等待,可是有没有其它请 求进程可以被处理)。

随着并发用户数的添加,CPU利用率上升。QPS对应也添加(公式为QPS=并发用户数/平均响应时间。)随着并发用户数的添加。平均响应时间也在添加。并且平均响应时间的添加是一个指数添加曲线。而当并发数添加到非常大时,每秒钟都会有非常多请求须要处理。会造成进程(线程)频繁切换。反正真正用于处理请求的时间变少,每秒可以处 理的请求数反而变少。同一时候用户的请求等待时间也会变大。甚至超过用户的心理底线。

来源:http://www.cnblogs.com/jackei/

软件性能測试的基本概念和计算公式

一、软件性能的关注点

对一个软件做性能測试时须要关注那些性能呢?

我们想想在软件设计、部署、使用、维护中一共同拥有哪些角色的參与。然后再考虑这些角色各自关注的性能点是什么,作为一个软件性能測试project师。我们又该关注什么?

首先。开发软件的目的是为了让用户使用,我们先站在用户的角度分析一下,用户须要关注哪些性能。

对于用户来说,当点击一个button、链接或发出一条指令開始,到系统把结果已用户感知的形式展现出来为止。这个过程所消耗的时间是用户对这个软件性能的直观印象。

也就是我们所说的响应时间,当对应时间较小时,用户体验是非常好的,当然用户体验的响应时间包含个人主观因素和客观响应时间,在设计软件时,我们就须要考虑到怎样更好地结合这两部分达到用户最佳的体验。

如:用户在大数据量查询时,我们能够将先提取出来的数据展示给用户,在用户看的过程中继续进行数据检索,这时用户并不知道我们后台在做什么。

 

用户关注的是用户操作的对应时间。

其次,我们站在管理员的角度考虑须要关注的性能点。

1、 对应时间
2、 server资源使用情况是否合理
3、 应用server和数据库资源使用是否合理
4、 系统是否能实现扩展
5、 系统最多支持多少用户訪问、系统最大业务处理量是多少
6、 系统性能可能存在的瓶颈在哪里
7、 更换那些设备能够提高性能
8、 系统是否能支持7×24小时的业务訪问

再次,站在开发(设计)人员角度去考虑。

 

1、 架构设计是否合理
2、 数据库设计是否合理
3、 代码是否存在性能方面的问题
4、 系统中是否有不合理的内存使用方式
5、 系统中是否存在不合理的线程同步方式
6、 系统中是否存在不合理的资源竞争

那么站在性能測试project师的角度,我们要关注什么呢?

一句话。我们要关注以上全部的性能点。

二、软件性能的几个主要术语

1、响应时间:对请求作出响应所须要的时间

网络传输时间:N1+N2+N3+N4

应用server处理时间:A1+A3

数据库server处理时间:A2

响应时间=N1+N2+N3+N4+A1+A3+A2

2、并发用户数的计算公式

系统用户数:系统额定的用户数量,如一个OA系统。可能使用该系统的用户总数是5000个。那么这个数量。就是系统用户数。

 

同一时候在线用户数:在一定的时间范围内。最大的同一时候在线用户数量。
同一时候在线用户数=每秒请求数RPS(吞吐量)+并发连接数+平均用户思考时间

平均并发用户数的计算:C=nL / T

当中C是平均的并发用户数,n是平均每天訪问用户数(login session),L是一天内用户从登录到退出的平均时间(login session的平均时间),T是考察时间长度(一天内多长时间实用户使用系统)

并发用户数峰值计算:C^约等于C + 3*根号C

当中C^是并发用户峰值。C是平均并发用户数。该公式遵循泊松分布理论。

3、吞吐量的计算公式

指单位时间内系统处理用户的请求数

从业务角度看。吞吐量能够用:请求数/秒、页面数/秒、人数/天或处理业务数/小时等单位来衡量

从网络角度看,吞吐量能够用:字节/秒来衡量

对于交互式应用来说。吞吐量指标反映的是server承受的压力,他可以说明系统的负载能力

以不同方式表达的吞吐量能够说明不同层次的问题,比如。以字节数/秒方式能够表示数要受网络基础设施、server架构、应用server制约等方面的瓶颈。已请求数/秒的方式表示主要是受应用server和应用代码的制约体现出的瓶颈。

 

当没有遇到性能瓶颈的时候,吞吐量与虚拟用户数之间存在一定的联系。能够採用下面公式计算:F=VU * R /

当中F为吞吐量,VU表示虚拟用户个数,R表示每一个虚拟用户发出的请求数,T表示性能測试所用的时间

4、性能计数器

是描写叙述server或操作系统性能的一些数据指标。如使用内存数、进程时间。在性能測试中发挥着“监控和分析”的作用,尤其是在分析统统可扩展性、进行新能瓶颈定位时有着很关键的作用。

 

资源利用率:指系统各种资源的使用情况,如cpu占用率为68%,内存占用率为55%,一般使用“资源实际使用/总的资源可用量”形成资源利用率。

 

5、思考时间的计算公式

Think Time,从业务角度来看,这个时间指用户进行操作时每一个请求之间的时间间隔,而在做新能測试时,为了模拟这种时间间隔,引入了思考时间这个概念。来更加真实的模拟用户的操作。

在吞吐量这个公式中F=VU * R / T说明吞吐量F是VU数量、每一个用户发出的请求数R和时间T的函数,而当中的R又能够用时间T和用户思考时间TS来计算:R = T / TS

以下给出一个计算思考时间的一般步骤:

A、首先计算出系统的并发用户数

C=nL / T F=R×C

B、统计出系统平均的吞吐量

F=VU * R / T R×C = VU * R / T

C、统计出平均每一个用户发出的请求数量

R=u*C*T/VU

D、依据公式计算出思考时间

TS=T/R

系统吞吐量(tps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量(tps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量(tps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量(tps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

八系统吞吐量(tps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式(转)

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间QPS(TPS):每秒钟request/事务数量并发数:系统同时处理的req 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量(tps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间        QPS 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式[转]

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能测试概念和公式(分享二十二)

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间QPS(TPS):每秒钟request/事务数量并发数:系统同时处理的request/事务数响应时间: 一般取平均响 查看详情

压力测试:系统吞吐量tps(qps)用户并发量性能测试概念和公式

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间        QPS(TPS):每秒钟request/事务 数量        并发数... 查看详情

系统吞吐量tps(qps)用户并发量性能測试概念和公式

...、IO影响速度越慢。系统吞吐能力越低,反之越高。系统吞吐量几个重要參数:QPS(TPS)、并发数、响应时间    &n 查看详情

系统吞吐量tps(qps)用户并发量性能測试概念和公式

...、IO影响速度越慢。系统吞吐能力越低,反之越高。系统吞吐量几个重要參数:QPS(TPS)、并发数、响应时间    &n 查看详情

jmeter之性能测试指标介绍

参考技术A常用的网站性能测试指标有:TPS、吞吐量、并发数、响应时间、性能计数器等。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间。性能计数器是描述服务器或操作系统性能的一些数据指标,如使用内存数、进... 查看详情

系统吞吐量(tps)用户并发量

...、IO影响速度越慢,系统吞吐能力越低,反之越高。系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间    &n 查看详情

性能测试需求分析业务pv量,响应时间qpstps

一、性能测试需求分析 1.1   性能测试需求内容性能测试需求应包括以下内容:a)  测试场景及用例,用例访问URL;b) 目标接口方法的入参、出参;c)  外部依赖的服务细节;d) 关键数据:数据量... 查看详情