编辑: Mckel0ve | 2013-05-06 |
? 我们想从这一有限样本中获取有关该物理系统的信息;
? 描述该物理系统的概率分布数学形式是已知的,但其中包含了某些未 知的参数;
? 参数估计的任务是通过对观测到的事例样本的统计分析来最大限度地 获取有关这些未知参数的信息.
例:共振峰参数的估计: 概率密度函数: ?Breit-Wigner公式 未知参数: m0=共振峰的质量 ?=共振峰的宽度 观测量: m=共振峰衰变产物的不变质量 第十一章 参数估计 (Parameter estimation) 参数估计的内容:
1、点估计(Point Estination):估计未知参数的值
2、区间估计(Interval Estimation):估计未知参数的估计值的 精确性和可靠性 本章介绍统计学中的参数估计的一些基本概念和方法 第十一章 参数估计 (Parameter estimation) 11.1 参数估计的基本概念 11.1 参数估计的基本概念 总体的概率密度函数(pdf):f(x|?) ?:未知参数 x:实验可测量量 随机样本(容量为n): xi:独立的随机变量 11.1 参数估计的基本概念
一、基本定义
1、似然函数(Likelihood Function, LF): 由于xi是相互独立的随机变量,因而在给定的?值下获得测量量 x1,x2,…,xn的联合条件概率为(Joint Conditional Probability) (1)似然值(Likelihood): 如果?和xi都为固定值,则称L 为在特定的?值下,观测 量x1,x2,…,xn的似然值;
(2)似然函数(LF): 如果将L看成是?的函数,而xi固定,则称L为似然函数;
(3)可测量量xi得pdf: ?固定,L是xi的函数 11.1 参数估计的基本概念
2、统计量(Statistic): 如果t=t(x1,x2,…,xn)是样本变量xi的函数,且不依赖于任何的未 知参数?,则称t为统计量 例:样本的平均值和方差:
3、估计式(Estimator): 如果统计量t给出了未知参数?的估计值,则称t为?的估计式, 即例:样本平均值 和方差s2分别是总体平均值?和方差?2的估 计式. 参数估计的目标之一就是求出未知参数的估计式
二、估计式的特性 由估计式t得到的参数?的估计值 是随机变量,将满足某种分 布,这种分布的特性将反映该估计式的好坏 判断估计式好坏的标准: (1)一致性(Consistency):样本容量为无限大时估计式的特性 (2)无偏性(Unbiassedness):样本容量为有限时估计式的特性 (3)最小方差(Minimum variance) 有效性(Efficiency) 估计式的分布特性 (4)充分性(Sufficiency):估计式是否包含了样本中所包含的 有关?的所有信息 11.1 参数估计的基本概念
1、一致性(Consistency): 如果一个估计式的值当样本容量增加时收敛到待估参数的真值, 则称该估计式具有一致性 概率语言的一致性描述: 如果估计值?n是从容量为n的样本得到的,则对于给定的正 数?和?,存在着正整数N,使得对所有的n>
N,| ?n- ?|>
?的 概率小于? P(| ?n- ?|>
?)<
? 即,当n??时, ?n? ? 例: 样本平均值 是总体平均值?的一致性估计式 根据大数定理:当n??时, ? ? 11.1 参数估计的基本概念
2、无偏性(Unbiassedness): 对于任意大的样本,如果估计式t的期望值都等于参数的真值? 则称t是?的无偏估计式 ? 无偏性保证了估计式的值不会系统地偏离参数?的真值;
? 一致性和无偏性是不相关的,具有一致性并不等于具有 无偏性 ? 一致性和无偏性是对参数估计式的基本要求,因为参数 估计的目的就是求?的真值. 注: 11.1 参数估计的基本概念