人工智能数学基础--概率与统计14:连续随机变量的指数分布威布尔分布和均匀分布

LaoYuanPython LaoYuanPython     2022-12-15     524

关键词:

一、引言

在《人工智能数学基础–概率与统计12:连续随机变量的概率密度函数以及正态分布》介绍了连续随机变量概率分布及概率密度函数以及正态分布,《人工智能数学基础–概率与统计13:连续随机变量的标准正态分布》介绍了标准正态分布,本文将继续介绍几个连续随机变量的分布函数。

二、指数分布

2.1、定义

若随机变量X有概率密度函数: f ( x ) = 0                          当 x ≤ 0 时 λ e − λ x          当 x > 0 时 f(x) = \\Huge \\\\huge^λe^-λx\\;\\;\\;\\;当x>0时_0\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;当x≤0时 f(x)=0x0λeλxx>0
则称X服从指数分布,其中λ为参数,其值大于0,当x大于0时,-λx为负数,因此该分布也称为负指数分布

对于指数分布来说,当x≤0时,f(x)= 0,表示随机变量取负值的概率为0,故X只取正值,函数f(x)在x=0处不连续。

2.2、指数分布的分布函数

指数分布的分布函数 F ( x ) = ∫ − ∞ x f ( t ) d ( t )                                              = 0                          当 x ≤ 0 时 1 − e − λ x          当 x > 0 时 F(x)=∫_-∞^xf(t)d(t)\\\\\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;= \\Huge \\\\Large^1-e^-λx\\;\\;\\;\\;当x>0时_0\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;当x≤0时 F(x)=xf(t)d(t)=0x01eλxx>0

2.3、指数分布的适用场景及推导

指数分布最常见的一个场景是寿命分布。

设想一种大批生产的电子元件,其寿命X 是随机变量,以F(x)记X的分布函数。证明:在一定的条件下,F(x)就是指数分布的分布函数。

为了证明要进行技术上“无老化”的假定,就是说,“元件在时刻x尚为正常工作的条件下,其失效率总保持为某个常数λ>0,与x无关。失效率就是单位长度时间内失效的概率。用条件概率的形式,上述假定可表达为:
P ( x ≤ X ≤ x + h ∣ X > x ) / h = λ                          ( h → 0 ) P(x≤X≤x+h|X>x)/h=λ\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;(h→0) P(xXx+hX>x)/h=λ(h0)
此式解释如下

  1. 元件在时刻x时尚正常工作,表示其寿命大于x,即X>x;
  2. 在x处,长为h的时间段内失效,即x≤X≤x+h;
  3. 把这个条件概率除以时间段的长h,即得在x时刻的平均失效率;
  4. 令h→0,得瞬时失效率,按假定,它应为常数λ。

按条件概率的定义,注意到P(X>x)=1-F(x),又 X > x x ≤ X ≤ x + h = x < X ≤ x + h \\X>x\\\\x≤X≤x+h\\=\\x<X≤x+h\\ X>xxXx+h=x<Xx+h
P ( x ≤ X ≤ x + h ∣ X > x ) / h = P ( x < X ≤ x + h ) / ( h ( 1 − F ( x ) ) ) = ( F ( x + h ) − F ( x ) ) / h ] / ( 1 − F ( x ) ) → F ′ ( x ) / ( 1 − F ( x ) ) = λ P(x≤X≤x+h|X>x)/h=P(x<X≤x+h)/(h(1-F(x)))\\\\=(F(x+h)-F(x))/h]/(1-F(x))\\\\→F'(x)/(1-F(x))=λ P(xXx+hX>x)/h=P(x<Xx+h)/(h(1F(x)))=(F(x+h)F(x))/h]/(1F(x))F(x)/(1F(x))=λ
这个微分方程的通解为 F ( x ) = 1 − C e − λ x F(x)=1-Ce^-λx F(x)=1Ceλx(x>0),当x≤0时,F(x)为0。常数C可用初始条件F(0)=0求出为1。

老猿注:

  1. 上面这个推导过程用到了极限的定义、条件概率公式、条件概率定义、分布函数的定义及性质,挺有意思的一个推导过程;
  2. F ( x ) = 1 − C e − λ x F(x)=1-Ce^-λx F(x)=1Ceλx(x>0)是通过微分方程求解得到的,这个过程老猿演示如下:
    设F(x)=y,则F ′ (x)/(1−F(x))=λ可以化为dy/(dx(1-y))=λ,则可得:
    dy/(1-y)=λdx,对该式两边求积分:∫ dy/(1-y)=∫λdx,则得到:
    -ln(1-y)+c1 = λx+c2
    ∴ln(1-y)=-λx+c3
    1 − y = e − λ x + c 3 = e c 3 e − λ x = C e − λ x 1-y=e^-λx+c3=e^c3e^-λx=Ce^-λx 1y=eλx+c3=ec3eλx=Ceλx
    ∴y=1- C e − λ x Ce^-λx Ceλx

注意整个推导过程中常数的和差幂运算的结果还是常数,因此有c1、c2、c3和C。

2.4、补充说明

从上面的推导过程可以知道λ的意义就是失效率,失效率越高,平均寿命就越小,因此指数分布描述了无老化时的寿命分布,但实际中“无老化”是不可能的,因而指数分布只是一种近似的寿命分布。对一些寿命长的元件,在初期阶段,老化现象很小,在这一阶段指数分布比较准确相当描述了其寿命分布。

三、威布尔分布

如果将指数分布推导过程中考虑老化的情况,则失效率会随时间上升而上升,故应取为一个x的增函数 λ x m λx^m λxm,其中λ和m都为大于0的常数。在这个条件下,按指数分布的推理,将得出:寿命分布F(x)满足微分方程 F ′ ( x ) / [ 1 − F ( x ) ] = λ x m F'(x)/[1-F(x)]=λx^m Fx/[1F(x)]=λxm
结合F(0)=0,得出: F ( x ) = 1 − e − ( λ / ( m + 1 ) ) x m + 1 F(x) = 1-e^-(λ/(m+1))x^m+1 F(x)=1e(λ/(m+1))xm+1
取α = m+1(α>1),并把λ/(m+1)记为λ,得出: F ( x ) = 1 − e − λ x α                  ( x > 0 ) F(x)=1-e^-λx^α \\;\\;\\;\\;\\;\\;\\;\\;(x>0) F(x)=1eλxα(x>0)
而当x≤0时F(x)=0,此时的函数F(x)就称为威布尔分布函数。此分布的密度函数为:
f ( x ) = 0                                                  当 x ≤ 0 时 λ α x α − 1 e − λ x α          当 x > 0 时 f(x) = \\Huge \\\\huge^λαx^α -1e^-λx^α \\;\\;\\;\\;当x>0时_0\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;\\;当x≤0时 f(x)=0x0λαxα1eλxαx>0

威布尔分布和指数分布一样,在可靠性统计分析中占据重要地位,实际上指数分布是威布尔分布的α=1的特例。

三、均匀分布

3.1、定义

设随机变量X有概率密度函数:
f ( x ) = 0                                      其 他 1 b −

人工智能数学基础--概率与统计14:连续随机变量的指数分布威布尔分布和均匀分布

一、引言在《人工智能数学基础–概率与统计12:连续随机变量的概率密度函数以及正态分布》介绍了连续随机变量概率分布及概率密度函数以及正态分布,《人工智能数学基础–概率与统计13:连续随机变量的标准... 查看详情

人工智能数学基础--概率与统计12:连续随机变量的概率密度函数以及正态分布

一、连续随机变量的概率密度函数的定义在《人工智能数学基础–概率与统计10:离散随机变量的概率函数及常见的二项分布、泊松分布》介绍了概率分布函数的概念:设X为随机变量(包括离散和非离散),... 查看详情

人工智能数学基础--概率与统计13:连续随机变量的标准正态分布

一、引言在《人工智能数学基础–概率与统计12:连续随机变量的概率密度函数以及正态分布》介绍了连续随机变量概率分布及概率密度函数的概念,并介绍了连续随机变量一个重要的概率密度函数:正态分布的概率... 查看详情

人工智能数学基础--概率与统计4:联合分布与边缘分布

一、引言本文是《人工智能数学基础–概率与统计3:随机变量与概率分布》的后续篇,本文中的公式编号从15开始,前面14个公式请参考人工智能数学基础–概率与统计3:随机变量与概率分布》。二、联合分布概... 查看详情

人工智能数学基础--概率与统计3:随机变量与概率分布

一、随机变量假设对一个样本空间的每个点,我们指定一个数,于是就在该样本空间上定义了一个函数,称这个函数为随机变量(randomvariable)或更确切地称之为随机函数。随机变量通常用大写字母X或Y表示。... 查看详情

人工智能数学基础--概率与统计5:独立随机变量和变量替换

...;y对所有的x和y都是独立事件(独立事件定义请参考《人工智能数学基础–概率与统计1:随机试验、样本空间、事件、概率公理定理以及条件概率和贝叶斯法则》),则称X和Y是独立随机变量,在该情形:P(... 查看详情

人工智能数学基础--概率与统计10:离散随机变量的概率函数及常见的二项分布泊松分布

一、离散随机变量的概率函数及分布函数设X为离散随机变量,其全部可能取值为a1,a2,…,则:pi=P(X=ai)&nsp&nsp&nsp&nsp(i=1,2,…)称为X的概率函数,也称为随机变量X的概率分布;设X为随机变量&#... 查看详情

深度学习数学基础介绍概率与数理统计

第1章随机事件与概率§1.1随机事件§1.2随机事件的概率§1.3古典概型与几何概型§1.4条件概率§1.5事件的独立性第2章随机变量的分布与数字特征§2.1随机变量及其分布§2.2随机变量的数字特征§2.3常用的离散型分布§2.4常用的连续型... 查看详情

深度学习数学基础-概率与信息论(代码片段)

...有广泛应用,是学习这两门学科的基础。概率与信息论在人工智能领域的应用在人工智能领域,概率论主要有两种用途。首先,概率定律告诉我们AI系统应该如何推理,基于此我们设计一些算法来计算或者估算由概率论导出的表... 查看详情

人工智能数学基础--概率与统计1:随机试验样本空间事件概率公理定理以及条件概率和贝叶斯法则

随机试验我们都非常熟悉在科学研究和工程中试验的重要性。试验对我们是有用的,因为我们可以假定,在非常接近的确定条件下进行固定的试验,基本上会得到相同的结果。在这样的环境中,我们可以控制那些... 查看详情

人工智能数学基础|目录|00

目录高等数学基础|01微积分|02泰勒公式与拉格朗日乘子法|03线性代数基础|04特征值与矩阵分解|05概率论基础|06随机变量与概率统计|07随机变量的几种分布|08核函数变换|09熵与激活函数|10假设检验|11相关分析|12回归分析|13方差分析... 查看详情

机器学习之概率与统计-多元随机变量及其分布

    目录一、  随机向量及其分布...21.多元向量的联合分布...21.1离散情况...21.2连续情况...22.多元向量的边缘分布...22.1离散情况...22.2连续情况...23.多元向量的条件分布...24.贝叶斯规则...35.多元向量独... 查看详情

深度学习的数学基础

深度学习的数学基础微积分无穷小在17世纪下半叶,数学史上出现了无穷小的概念,而后发展处极限的概念极限数列的极限函数的极限导数微分积分不定积分也称为原函数或反导数定积分定积分中值定理牛顿-莱布尼茨公式偏导数... 查看详情

应用统计学随机变量的概率分布,数学期望和方差及协方差

一、概率分布1、离散型随机变量的概率分布 【例4-5】某厂对一批产品进行抽检,该批产品含有10件正品及3件次品。设每次抽取时,各件产品被抽到的可能性相等。一件一件抽取产品进行检验,每次抽取的产品都不放回该... 查看详情

数学期望方差与矩

  数学期望的定义在概率论和统计学中,数学期望是试验中每次可能结果的概率乘以其结果的总和,是最基本的数学特征之一。 离散型随机变量X的取值为 ,  为X对应取值的概率,可理解为数据  出现的... 查看详情

人工智能数学基础--概率与统计11:离散随机变量的超几何分布和负二项分布

一、超几何分布1.1、定义假设N个产品中M个废品,以X记为从N个产品中随机抽出n个里面所包含的废品数m,则:P(X=m)=(mM)(n−mN−M)/(nN)P(X=m)=\\Large(^M_m)(^N-M_n-m)/(^N_n)P(X=m)=(mM... 查看详情

概率论与数理统计

文章目录随机事件与概率排列组合计算公式一些基本概念集合的运算及性质概率的定义及性质经典概型条件概率事件相互独立全概率公式与贝叶斯公式随机变量及其分布一维随机变量概率分布函数和概率密度函数二项分布泊松分... 查看详情

概率论基础知识

...是自己整理回答的答案可以借鉴也可能存在错误欢迎指正概率论1、随机变量及其分布函数1.1随机变量1.2分布函数的定义及性质性质2、离散型与连续型随机变量2.1离散型随机变量定义、分布律常见离散型随机变量及其分布律2.2连... 查看详情