极大似然估计法.pdf

《概率论与数理统计》典型教案 教学内容：极大似然估计法 教学目的： 通过本节内容的教学，使学生： 1、明确极大似然估计法是在总体分布类型已知的情况下的一种常用 的参数估计方法； 2、理解极大似然思想； 3、掌握求极大似然估计值的一般步骤，会求常见分布参数的极大似 然估计值． 教学重点： 1、对极大似然思想阐述； 2、极大似然估计值的求解． 教学难点： 对不能通过求导方法获得极大似然估计的值的确定． 教学时数： ２学时． 教学过程： 引例：某位同学与一位猎人一起外出打猎，一只野兔从前方窜过．只 听一声枪响，野兔应声到下，如果要你推测，这一发命中的子弹是谁打 的？你就会想，只发一枪便打中，由于猎人命中的概率一般大于这位同 学命中的概率，看来这一枪是猎人射中的． 这个例子所作的推断就体现了极大似然法的基本思想． 一、极大似然思想 一般地说，事件A 与参数 有关， 取值不同，则P (A) 也不同．若    A 发生了，则认为此时的 值就是 的估计值．这就是极大似然思想．看   一例子：例１、设袋中装有许多黑、白球，不同颜色球的数量比为 3:1， 试设计一种方法，估计任取一球为黑球的概率P ． 分析：易知P 的值无非是 1/4 或 3/4．为估计P 的值，现从袋中有放 回地任取3 只球，用X 表示其中的黑球数，则X ~ b(3,P) ．按极大似然 估计思想，对P 的取值进行估计． 解：对P 的不同取值，X 取k  0,1,2,3 的概率可列表如下: 1 X ０ １ ２ ３ P  1 27 27 9 1 4 64 64 64 64 P  3 1 9 27 27 4 64 64 64 64  1 ,k  0,1 ˆ  4 故根据极大似然思想即知：P   ． 34 ,k  2,3  在上面的例子中， P 是分布中的参数，它只能取两个值：1/4 或 3/4，需要通过抽样来决定分布中参数究竟是 1/4 还是 3/4．在给定了样 本观测值后去计算该样本出现的概率，这一概率依赖于P 的值，为此需 要用 1/4、3/4 分别去计算此概率，在相对比较之下，哪个概率大，则P 就最象那个． 二、似然函数与极大似然估计 1、离散分布场合： 设总体X 是离散型随机变量，其概率函数为p (x ; ) ，其中 是未知  参数．设X 1 ,X 2 ,,X n 为取自总体X 的样本．X 1 ,X 2 ,,X n 的联合概率函 n 数为 p (X ; ) ，这里， 是常量，X ,X ,,X 是变量．  i  1 2 n i1 若我们已知样本取的值是x ,x ,,x ，则事件