人工智能之参数估计
参数估计
参数估计:假设总体X~N(μ, σ 2 \sigma^2 σ2),μ和 σ 2 \sigma^2 σ2是未知参数, X 1 , X 2 , ⋅ ⋅ ⋅ , X n X_1,X_2,\cdot\cdot\cdot,X_n X1,X2,⋅⋅⋅,Xn是来自X的样本,样本值是 x 1 , x 2 , ⋅ ⋅ ⋅ , x n x_1,x_2,\cdot\cdot\cdot,x_n x1,x2,⋅⋅⋅,xn,要由样本值来确定μ和 σ 2 \sigma^2 σ2的估计值,这就是参数估计问题,参数估计分为点估计(Point Estimation)和区间估计(Interval Estimation)。
点估计
点估计:是指把总体的未知参数估计为某个确定的值或在某个确定的点上,所以点估计又称为定值估计。
设总体X的分布函数为F(x,θ),θ是未知参数, X 1 , X 2 , ⋅ ⋅ ⋅ , X n X_1,X_2,\cdot\cdot\cdot,X_n X1,X2,⋅⋅⋅,Xn是X的一样本,样本值为 x 1 , x 2 , ⋅ ⋅ ⋅ , x n x_1,x_2,\cdot\cdot\cdot,x_n x1,x2,⋅⋅⋅,xn,构造一个统计量( X 1 , X 2 , ⋅ ⋅ ⋅ , X n X_1,X_2,\cdot\cdot\cdot,X_n X1,X2,⋅⋅⋅,Xn),用它的观察值( x 1 , x 2 , ⋅ ⋅ ⋅ , x n x_1,x_2,\cdot\cdot\cdot,x_n x1,x2,⋅⋅⋅,xn)作为θ的估计值,这种问题称为点估计问题。习惯上称随机变量( X 1 , X 2 , ⋅ ⋅ ⋅ , X n X_1,X_2,\cdot\cdot\cdot,X_n X1,X2,⋅⋅⋅,Xn)为θ的估计量,称( x 1 , x 2 , ⋅ ⋅ ⋅ , x n x_1,x_2,\cdot\cdot\cdot,x_n x1,x2,⋅⋅⋅,xn)为估计值。
矩估计法
矩估计法: 矩是描述随机变量的最简单的数字特征,样本来自于总体,样本矩在一定程度上也反映了总体矩的特征,且在样本容量n增大的条件下,样本的k阶原点矩 A k = 1 n ∑ i = 1 n X i k A_k=\frac{1}{n}\sum_{i=1}^{n}X_i^k Ak=n1∑i=1nXik 依概 率 收 敛 到 总 体 X 的 k 阶 原 点 矩 μ k = E ( X k ) \mu_k=E(X^k) μk=E(Xk) , 即 A k ⟶ μ k ( n → ∞ ) , k = 1 , 2 , ⋯ A_k \longrightarrow\mu_k\quad(n\rightarrow\infty)\quad ,k=1,2,\cdots Ak⟶