【数学】概率论与数理统计（四）

文章目录

• • @[toc]
• 分布函数
• • 分布函数
  • • 性质
    • 离散型随机变量的分布函数
    • 连续型随机变量的分布函数
    • • 示例1
      • • 问题
        • 解答
      • 正态随机变量
      • • 示例
        • • 问题
          • 解答
      • 示例2
      • • 问题
        • • （1）
          • （2）
        • 解答
        • • （1）
          • （2）
• 随机变量函数的分布
• • 离散型随机变量函数的分布
  • 连续型随机变量函数的分布
  • • 示例1
    • • 问题
      • 解答
    • 定理1
    • • 证明
    • 定理2
    • 示例2
    • • 问题
      • 解答
      • • 解法一
        • 解法二
    • 示例3
    • • 问题
      • 解答

分布函数

分布函数

• 设$X$是一个随机变量，$x$是任意实数，称 F ( x ) = P {   X ≤ x   } F(x) = P\set{X \leq x} F(x)=P{X≤x}为$X$的分布函数
• P {   x 1 < X ≤ x 2   } = P {   X ≤ x 2   } − P {   X ≤ x 1   } = F ( x 2 ) − F ( x 1 ) P\set{x_{1} < X \leq x_{2}} = P\set{X \leq x_{2}} - P\set{X \leq x_{1}} = F(x_{2}) - F(x_{1}) P{x1​<X≤x2​}=P{X≤x2​}−P{X≤x1​}=F(x2​)−F(x1​)

性质

• $0\le F(x)\le 1,x\in R$

• $F(-\infty )=\underset{x\to -\infty }{\lim }F(x)=0$，$F(+\infty )=\underset{x\to +\infty }{\lim }F(x)=1$

• $F(x)$是单调不减的函数，即$F(x_1)\le F(x_2),x_1<x_2$，事实上， F ( x 2 ) − F ( x 1 ) = P {   x 1 < X ≤ x 2   } ≥ 0 F(x_{2}) - F(x_{1}) = P\set{x_{1} < X \leq x_{2}} \geq 0 F(x2​)−F(x1​)=P{x1​<X≤x2​}≥0，故$F(x_1)\le F(x_2)$

• $F(x)$右连续，即$F(x)=F(x+0)$

• 满足上述$4$个性质的函数也一定是某个随机变量的分布函数

离散型随机变量的分布函数

• 设$F(x)$是离散型随机变量$X$的分布函数，则 F ( x ) = P {   X ≤ x   } = P {   ⋃ x k ≤ x ( X = x k )   } = ∑ x k ≤ x P {   X = x k   } = ∑ x k ≤ x p k F(x) = P\set{X \leq x} = P\set{\bigcup\limits_{x_{k} \leq x}{(X = x_{k})}} = \sum\limits_{x_{k} \leq x}{P\set{X = x_{k}}} = \sum\limits_{x_{k} \leq x}{p_{k}} F(x)=P{X≤x}=P{xk​≤x⋃​(X=xk​)}=xk​≤x∑​P{X=xk​}=xk​≤x∑​pk​，其中和式是对于所有$x_k\le x$的指标$k$求和

• p k = P {   X = x k   } = F ( x k ) − F ( x k − 0 ) p_{k} = P\set{X = x_{k}} = F(x_{k}) - F(x_{k} - 0) pk​=P{X=xk​}=F(xk​)−F(xk​−0)

• 若已知$X$的分布函数$F(x)$，则 P {   a ≤ X ≤ b   } = P {   a < X ≤ b   } + P {   X = a   } = F ( b ) − F ( a ) + P {   X = a   } P\set{a \leq X \leq b} = P\set{a < X \leq b} + P\set{X = a} = F(b) - F(a) + P\set{X = a} P{a≤X≤b}=P{a<X≤b}+P{X=a}=F(b)−F(a)+P{X=a}

连续型随机变量的分布函数

• 若$X$是连续型随机变量，其概率密度为$f(x)$，则 F ( X ) = P {   X ≤ x   } = ∫ − ∞ x f ( t ) d t F(X) = P\set{X \leq x} = \int_{- \infty}^{x}{f(t) dt} F(X)=P{X≤x}=∫−∞x​f(t)dt，即分布函数是概率密度函数的可变上限的定积分
• 在$f(x)$的连续点，有$\frac{dF(x)}{dx}=f(x)$，即概率密度函数是分布函数的导数

示例1

问题

• 证明：若$X\sim N(\mu ,{\sigma }^2)$，则$Y=\frac{X-\mu }{\sigma }\sim N(0,1)$

解答

• P {   a ≤ Y ≤ b   } = P {   a ≤ X − μ σ ≤ b   } = P {   μ + σ a ≤ X ≤ μ + σ b   } = ∫ μ + σ a μ + σ b 1 σ 2 π e − ( x − μ ) 2 2 σ 2 d x P\set{a \leq Y \leq b} = P\set{a \leq \frac{X - \mu}{\sigma} \leq b} = P\set{\mu + \sigma a \leq X \leq \mu + \sigma b} = \int_{\mu + \sigma a}^{\mu + \sigma b}{\frac{1}{\sigma \sqrt{2 \pi}} e^{- \frac{(x - \mu)^{2}}{2 \sigma^{2}}} dx} P{a≤Y≤b}=P{a≤σX−μ​≤b}=P{μ+σa≤X≤μ+σb}=∫μ+σaμ+σb​σ2π ​1​e−2σ2(x−μ)2​dx

• 令$t=\frac{x-\mu }{\sigma }$，得 P {   a ≤ Y ≤ b   } = ∫ a b 1 2 π e − t 2 2 d t P\set{a \leq Y \leq b} = \int_{a}^{b}{\frac{1}{\sqrt{2 \pi}} e^{- \frac{t^{2}}{2}} dt} P{a≤Y≤b}=∫ab​2π ​1​e−2t2​dt，则$Y\sim N(0,1)$

正态随机变量

• 若$X\sim N(\mu ,{\sigma }^2)$，则$Y=aX+b\sim N(a\mu +b,|a{|}^2{\sigma }^2)$，正态随机变量的线性函数仍为正态随机变量

• 对于标准正态分布，通常用$\phi (x)$表示概率密度函数，用$\Phi (x)$表示分布函数

• 因$\phi (x)$是偶函数，即$\phi (-x)=\phi (x)$，于是$\Phi (-x)=1-\Phi (x)$，事实上$\Phi (-x)={\int }_{-\infty }^{-x}\phi (t)dt={\int }_x^{+\infty }\phi (u)du(令t=-u)={\int }_{-\infty }^{+\infty }\phi (u)du-{\int }_{-\infty }^x\phi (u)du=1-\Phi (x)$

• 正态分布$N(\mu ,{\sigma }^2)$的分布函数$F(x)=\Phi (\frac{x-\mu }{\sigma })$

示例

问题

• 设$X\sim N(\mu ,{\sigma }^2)$，求 P {   ∣ X − μ ∣ < σ   } P\set{|X - \mu| < \sigma} P{∣X−μ∣<σ}， P {   ∣ X − μ ∣ < 2 σ   } P\set{|X - \mu| < 2 \sigma} P{∣X−μ∣<2σ}， P {   ∣ X − μ ∣ < 3 σ   } P\set{|X - \mu| < 3 \sigma} P{∣X−μ∣<3σ}

解答

• P {   ∣ X − μ ∣ < σ   } = P {   μ − σ < X < μ + σ   } = Φ ( μ + σ − μ σ ) − Φ ( μ − σ − μ σ ) = Φ ( 1 ) − Φ ( − 1 ) = 2 Φ ( 1 ) − 1 = 0.6827 P\set{|X - \mu| < \sigma} = P\set{\mu - \sigma < X < \mu + \sigma} = \Phi(\frac{\mu + \sigma - \mu}{\sigma}) - \Phi(\frac{\mu - \sigma - \mu}{\sigma}) = \Phi(1) - \Phi(- 1) = 2 \Phi(1) - 1 = 0.6827 P{∣X−μ∣<σ}=P{μ−σ<X<μ+σ}=Φ(σμ+σ−μ​)−Φ(σμ−σ−μ​)=Φ(1)−Φ(−1)=2Φ(1)−1=0.6827

• P {   ∣ X − μ ∣ < 2 σ   } = 0.9545 P\set{|X - \mu| < 2 \sigma} = 0.9545 P{∣X−μ∣<2σ}=0.9545

• P {   ∣ X − μ ∣ < 3 σ   } = 0.9973 P\set{|X - \mu| < 3 \sigma} = 0.9973 P{∣X−μ∣<3σ}=0.9973

• $X$几乎全部落在$(\mu -3\sigma ,\mu +3\sigma )$区间内，称为三倍标准差原则（$3\sigma$准则）

示例2

问题

• 设$F_1(x)$和$F_2(x)$都是分布函数，$a>0$，$b>0$均为常数，且$a+b=1$

（1）

• 求证$F(x)=a{F}_1(x)+b{F}_2(x)$也是一个分布函数

（2）

• 由此讨论分布函数是否只有离散型和连续型两种类型

解答

（1）

• 因$F_1(x)$，$F_2(x)$均为分布函数，则由分布函数的性质，得当$x_1<x_2$时，有$F_1(x_1)\le F_1(x_2)$，$F_2(x_1)\le F_2(x_2)$
• $F(x_1)=a{F}_1(x_1)+b{F}_2(x_1)\le a{F}_1(x_2)+b{F}_2(x_2)=F(x_2)$
• $\underset{x\to -\infty }{\lim }F(x)=\underset{x\to -\infty }{\lim }[a{F}_1(x)+b{F}_2(x)]=0$
• $\underset{x\to +\infty }{\lim }F(x)=\underset{x\to +\infty }{\lim }[a{F}_1(x)+b{F}_2(x)]=a+b=1$
• $F(x+0)=a{F}_1(x+0)+b{F}_2(x+0)=a{F}_1(x)+b{F}_2(x)=F(x)$
• 因此$F(x)$也是分布函数

（2）

• 取$a=b=\frac{1}{2}$，并令$F_1(x)=\{\begin{array}{ll}0,& x<0\\ 1,& x\ge 0\end{array}$，$F_2(x)=\{\begin{array}{ll}0,& x<0\\ x,& 0\le x\le 1\\ 1,& x>1\end{array}$，则$F(x)=\{\begin{array}{ll}0,& x<0\\ \frac{1+x}{2},& 0\le x\le 1\\ 1,& x>1\end{array}$
• 显然，此分布函数$F(x)$既不是阶梯函数也不是连续函数，于是$F(x)$所对应的随机变量既不是离散型也不是连续型，这就是说随机变量并非只有离散型和连续型两大类型

随机变量函数的分布

离散型随机变量函数的分布

• 设随机变量$X$的分布律 P {   X = x k   } = p k , k = 1 , 2 , ⋯ P\set{X = x_{k}} = p_{k} , k = 1, 2, \cdots P{X=xk​}=pk​,k=1,2,⋯，则当$Y=g(X)$的所有取值为$y_j(j=1,2,\cdots )$时，随机变量$Y$的分布律为 P {   Y = y j   } = q j , j = 1 , 2 , ⋯ P\set{Y = y_{j}} = q_{j} , j = 1, 2, \cdots P{Y=yj​}=qj​,j=1,2,⋯，其中$q_j$是所有满足$g(x_i)=y_j$的$x_i$对应的$X$的概率 P {   X = x i   } = p i P\set{X = x_{i}} = p_{i} P{X=xi​}=pi​的和，即 P {   Y = y j   } = ∑ g ( x i ) = y j P {   X = x i   } P\set{Y = y_{j}} = \sum\limits_{g(x_{i}) = y_{j}}{P\set{X = x_{i}}} P{Y=yj​}=g(xi​)=yj​∑​P{X=xi​}

连续型随机变量函数的分布

示例1

问题

• 设随机变量$X$的概率密度为$f_X(x)$，求$Y=aX+b$（$a$，$b$为常数，且$a\ne 0$）的概率密度

解答

• 设$X$和$Y$的分布函数分别为$F_X(x)$和$F_Y(y)$，$Y$的概率密度为$f_Y(y)$
• 由分布函数定义，得 F Y ( y ) = P {   Y ≤ y   } = P {   a X + b ≤ y   } F_{Y}(y) = P\set{Y \leq y} = P\set{aX + b \leq y} FY​(y)=P{Y≤y}=P{aX+b≤y}
• 当$a>0$时，有 F Y ( y ) = P {   X ≤ y − b a   } = F X ( y − b a ) = ∫ − ∞ y − b a f X ( x ) d x F_{Y}(y) = P\set{X \leq \frac{y - b}{a}} = F_{X}(\frac{y - b}{a}) = \int_{- \infty}^{\frac{y - b}{a}}{f_{X}(x) dx} FY​(y)=P{X≤ay−b​}=FX​(ay−b​)=∫−∞ay−b​​fX​(x)dx
• 当$a<0$时，有 F Y ( y ) = P {   X ≥ y − b a   } = ∫ y − b a + ∞ f X ( x ) d x = − ∫ − ∞ y f X ( t − b a ) ⋅ 1 a d t , ( 令 x = t − b a ) F_{Y}(y) = P\set{X \geq \frac{y - b}{a}} = \int_{\frac{y - b}{a}}^{+ \infty}{f_{X}(x) dx} = - \int_{- \infty}^{y}{f_{X}(\frac{t - b}{a}) \cdot \frac{1}{a} dt} , (令 x = \frac{t - b}{a}) FY​(y)=P{X≥ay−b​}=∫ay−b​+∞​fX​(x)dx=−∫−∞y​fX​(at−b​)⋅a1​dt,(令x=at−b​)
• 对$F_Y(y)$求导，得$Y$的概率密度

$$f_Y(y)=\{\begin{array}{ll}\frac{1}{a}{f}_X(\frac{y-b}{a}),& a>0\\ -\frac{1}{a}{f}_X(\frac{y-b}{a}),& a<0\end{array}$$

• 即$f_Y(y)=\frac{1}{|a|}{f}_X(\frac{y-b}{a})(a\ne 0,y\in R)$

• $y=f(x)$的反函数为$x=h(y)=\frac{y-b}{a}$，且$|h^{{}^{\prime }}(y)|=\frac{1}{|a|}$，故$f_Y(y)=f_X(h(y))\cdot |h^{{}^{\prime }}(y)|$

定理1

• 设$X$为连续型随机变量，$f_X(x)$为$X$的概率密度，若$y=g(x)$为严格单调的连续函数，且反函数$x=h(y)$有连续导数，则$Y=g(X)$为连续型随机变量，且概率密度为$f_Y(y)=f_X[h(y)]\cdot |h^{{}^{\prime }}(y)|$

证明

• 设$y=g(x)$为严格单调增加的连续函数，定义域为$(a,b)\subset (-\infty ,+\infty )$，值域为$(\alpha ,\beta )\subset (-\infty ,+\infty )$，则其反函数$x=h(y)$在$(\alpha ,\beta )$上也为严格单调增加的连续函数（$h^{{}^{\prime }}(y)>0$）

• F Y ( y ) = P {   Y ≤ y   } = P {   g ( X ) ≤ y   } = P {   X ≤ h ( y )   } = ∫ − ∞ h ( y ) f X ( x ) d x = ∫ a h ( y ) f X ( x ) d x F_{Y}(y) = P\set{Y \leq y} = P\set{g(X) \leq y} = P\set{X \leq h(y)} = \int_{- \infty}^{h(y)}{f_{X}(x) dx} = \int_{a}^{h(y)}{f_{X}(x) dx} FY​(y)=P{Y≤y}=P{g(X)≤y}=P{X≤h(y)}=∫−∞h(y)​fX​(x)dx=∫ah(y)​fX​(x)dx

• $f_Y(y)=F_Y^{{}^{\prime }}(y)=f_X[h(y)]\cdot h^{{}^{\prime }}(y),h^{{}^{\prime }}(y)>0$

• 类似地，当$y=g(x)$为严格单调减少时，有$f_Y(y)=-f_X[h(y)]\cdot h^{{}^{\prime }}(y),h^{{}^{\prime }}(y)<0$

定理2

• 设$Y=g(X)$，$X$为连续型随机变量，$f_X(x)$为$X$的概率密度，若$y=g(x)$为连续函数，它在不相重叠的区间$I_1$，$I_2$，$\cdots$上逐段严格单调，对应的反函数分别为$h_1(y)$，$h_2(y)$，$\cdots$，而且$h_1^{{}^{\prime }}(y)$，$h_2^{{}^{\prime }}(y)$，$\cdots$均连续，则$Y=g(X)$为连续型随机变量，且其概率密度为$f_Y(y)=\sum _i{f}_X[h_i(y)]\cdot |h_i^{{}^{\prime }}(y)|$
• 约定：对使反函数$h(y)$或其导数$h^{{}^{\prime }}(y)$无意义的$y$，$f_Y(y)=0$

示例2

问题

• 设质点$M$随机地落在以原点为圆心以$R$为半径的圆周上，且对弧长是均匀分布的，求质点$M$的横坐标$X$的概率密度

解答

• 设$Z$为$x$轴与$OM$的夹角，则$X=R\cos Z$，据题意知，$Z\sim U[-\pi ,\pi ]$，其概率密度为

$$f_Z(z)=\{\begin{array}{ll}\frac{1}{2\pi },& -\pi \le z\le \pi \\ 0,& 其他\end{array}$$

解法一

• F X ( x ) = P {   X ≤ x   } = P {   R cos ⁡ z ≤ x   } = P {   cos ⁡ z ≤ x R   } , ∀ x ∈ ( − ∞ , + ∞ ) F_{X}(x) = P\set{X \leq x} = P\set{R \cos{z} \leq x} = P\set{\cos{z} \leq \frac{x}{R}} , \forall x \in (- \infty, + \infty) FX​(x)=P{X≤x}=P{Rcosz≤x}=P{cosz≤Rx​},∀x∈(−∞,+∞)
• 当$x\le -R$时，$F_X(x)=0$，$f_X(x)=0$
• 当$x\ge R$时，$F_X(x)=1$，$f_X(x)=0$
• 当$-R<x<R$时

F X ( x ) = P {   R cos ⁡ z ≤ x   } = P {   cos ⁡ z ≤ x R   } = P {   − π ≤ z ≤ − arccos ⁡ x R   } + P {   arccos ⁡ x R ≤ z ≤ π   } = F Z ( − arccos ⁡ x R ) − F Z ( − π ) + F Z ( π ) − F Z ( arccos ⁡ x R ) \begin{aligned} F_{X}(x) &= P\set{R \cos{z} \leq x} = P\set{\cos{z} \leq \frac{x}{R}} \\&= P\set{- \pi \leq z \leq - \arccos{\frac{x}{R}}} + P\set{\arccos{\frac{x}{R}} \leq z \leq \pi} \\ &= F_{Z}(- \arccos{\frac{x}{R}}) - F_{Z}(- \pi) + F_{Z}(\pi) - F_{Z}(\arccos{\frac{x}{R}}) \end{aligned} FX​(x)​=P{Rcosz≤x}=P{cosz≤Rx​}=P{−π≤z≤−arccosRx​}+P{arccosRx​≤z≤π}=FZ​(−arccosRx​)−FZ​(−π)+FZ​(π)−FZ​(arccosRx​)​

• 于是，$f_X(x)=F_X^{{}^{\prime }}(x)=f_Z(-\arccos \frac{x}{R})\cdot \frac{1}{\sqrt{1-(\frac{x}{R}{)}^2}}\cdot \frac{1}{R}+f_Z(\arccos \frac{x}{R})\cdot \frac{1}{\sqrt{1-(\frac{x}{R}{)}^2}}\cdot \frac{1}{R}=\frac{1}{\pi \sqrt{R^2-x^2}}$

$$f_X(x)=\{\begin{array}{ll}\frac{1}{\pi \sqrt{R^2-x^2}},& |x|<R\\ 0,& |x|\ge R\end{array}$$

解法二

• 因为$x=R\cos z$在$(-\pi ,0)$和$(0,\pi )$上分别为严格单调的连续函数，相应的反函数分别为$z_1=h_1(x)=-\arccos \frac{x}{R}$，$z_2=h_2(x)=\arccos \frac{x}{R},|x|<R$
• $f_X(x)=f_Z(-\arccos \frac{x}{R})|(-\arccos \frac{x}{R}{)}^{{}^{\prime }}|+f_Z(\arccos \frac{x}{R})|(\arccos \frac{x}{R}{)}^{{}^{\prime }}|=\frac{1}{\pi \sqrt{R^2-x^2}},|x|<R$
• 当$|x|\ge R$时，$f_X(x)=0$

示例3

问题

• 已知随机变量$X$的分布函数$F(x)$是严格单调增加的连续函数，证明$F(X)$服从$[0,1]$上的均匀分布

解答

• 由于$F(x)$是严格单调增加的连续函数，$0\le F(x)\le 1$，因而当$0\le y\le 1$时，$y=F(x)$有反函数$x=F^{-1}(y)$

• 当$y<0$时， F Y ( y ) = P {   Y ≤ y   } = P {   F ( X ) ≤ y   } = 0 F_{Y}(y) = P\set{Y \leq y} = P\set{F(X) \leq y} = 0 FY​(y)=P{Y≤y}=P{F(X)≤y}=0

• 当$0\le y<1$时， F Y ( y ) = P {   F ( X ) ≤ y   } = P {   X ≤ F − 1 ( y )   } = F ( F − 1 ( y ) ) = y F_{Y}(y) = P\set{F(X) \leq y} = P\set{X \leq F^{- 1}(y)} = F(F^{- 1}(y)) = y FY​(y)=P{F(X)≤y}=P{X≤F−1(y)}=F(F−1(y))=y

• 当$y\ge 1$时， F Y ( y ) = P {   F ( X ) ≤ y   } = 1 F_{Y}(y) = P\set{F(X) \leq y} = 1 FY​(y)=P{F(X)≤y}=1

$$F_Y(y)=\{\begin{array}{ll}0,& y<0\\ y,& 0\le y<1\\ 1,& y\ge 1\end{array}$$

$$f_Y(y)=\{\begin{array}{ll}1,& 0\le y\le 1\\ 0,& 其他\end{array}$$

• 即$Y\sim U[0,1]$

• 该命题广泛用于计算机仿真模拟中