1 / 43

概率论与数理统计

概率论与数理统计. 一、问题的提出. 二、矩估计法. 三、最大似然估计. 第六章 参数估计. 第一节 参数的点估计. 在实际中我们经常遇到这样的问题：总体. 的. 分布函数. 的形式为已知，. 是未知参. 数. 是. 的一个样本 ,. 未知参数. ，这种问题称为参数估计问题. 一、点估计问题的提出. 为相应的一个样本值 . 我们希望用样本值去估计. 例 1. 数这个总体. 服从泊松分布. , 即. 的分布律. 的形式已知 . 利用样本值 估计. 的值.

hedwig-hubbard
Download Presentation

概率论与数理统计

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. 概率论与数理统计

  2. 一、问题的提出 二、矩估计法 三、最大似然估计 第六章 参数估计 第一节 参数的点估计

  3. 在实际中我们经常遇到这样的问题：总体 的 分布函数 的形式为已知， 是未知参 数. 是 的一个样本, 未知参数 ，这种问题称为参数估计问题. 一、点估计问题的提出 为相应的一个样本值. 我们希望用样本值去估计

  4. 例1 数这个总体 服从泊松分布 , 即 的分布律 的形式已知 . 利用样本值 估计 的值. 已知某电话局在单位时间内收到用户呼唤次

  5. 例2 已知某种灯泡的寿命 ，即 的分布密度 的形式已知，但参数 未知 . 利用样本值 ，估计 ， .

  6. 例3 总体 ；不知道 的分布形式 ，根据样本值 估计元件的平均寿命和元件寿命 的差异程度,即估计总体 的均值 和方差 . 考虑某厂生产的一批电子元件的寿命这个

  7. 解决上述参数 的点估计问题的思路是: 设法 构造一个合适的统计量 , 对 在数理统计中称统计量 为 的估计量, 的观测值 称为 的估计值 . 作出合理的估计 . 点估计常用方法：矩估计和最大似然估计法.

  8. 二、矩估计法 矩估计法的基本思想是用样本的 阶原点矩 去估计总体 的 阶原点矩 ; 去估计总体 用样本的 阶中心矩 的k阶中心矩 矩估计法是由英国统计学家 皮尔逊(K.Pearson)在1894年提出. 并由此得到未知参数的估计量 .

  9. 设总体 的分布函数为 , 是 个待估计的未知参数 . 设 存在，对任意 , 现用样本矩作为总体矩的估计，即令

  10. 这样得到含 个参数 的 个方程组, 以 作为参数 的估计量. 这种求出估计量的方法 解该方程组得 称为矩估计法 .

  11. 例4 设总体 服从泊松分布 , 求参数 的 矩估计量. 设 是总体 的一个样本, 由于 可得 解

  12. 例5 求总体 的均值 和方差 的矩估计. 设 是总体 的一个样本， 解 由于 故令 解得

  13. 例6 设总体 服从区间上 的均匀分布, 求参数 的矩估计量. 设 是总体 的一个样本， 解 容易求得

  14. 解得 和 的矩估计量为 故令

  15. 例7 设总体 的分布 密度为 为总体 的一个样本，求参数 由于 只含有一个未知参数 ,一般 只需求出 便能得到 的矩估计量，但是 即 不含有 ,故不能由此得到 的矩估计量. 的估计量 . 解

  16. 于是解得 的矩估计量为 本例 的矩估计量也可以这样求得

  17. 即 的矩估计量为 故令 该例表明参数的矩估计量不唯一.

  18. 三、最大似然估计 Gauss Fisher 最大似然估计作为一种点估计方法最初是由 德国数学家高斯(Gauss)于1821年提出，英国统计 学家费歇尔(R.A.Fisher)在1922年作了进一步发展 使之成为数理统计中最重要应用最广泛的方法之一.

  19. 1.似然函数 设总体 的分布律为 或 分布密度为 ，其中 是未 知参数， 的分布律(或分布密度) 为 ,当给定样本值 后， 它只是参数 的函数，记为 ，即 则称 为似然函数，似然函数实质上是样本的 分布律或分布密度.

  20. 2. 最大似然估计法 可能结果 ,若在一次试验中，结果 出现, 则认为 出现的概率最大. 最大似然原理的直观想法：在试验中概率 最大的事件最有可能出现 .一个试验如有若干个

  21. 例8 为 3:1，但不知哪种球多 ， 表示从盒中任取一球 是黑球的概率，那么 或 , 现在有放回地 从盒中抽3个球，试根据样本中的黑球数 来估计 参数 . 随机变量 ，即 假定一个盒中黑球和白球两种球的数目之比 解

  22. 估计 只需在 和 之间作出选择. 计算这两种情况下 的分布律： 0 1 2 3 27/64 27/64 9/64 1/64 , 1/64 9/64 27/64 27/64 , 的估计

  23. 设总体 的分布律为 是样本的一个观测值, 则样本 的概率为 既然在一次试验中得到的样本值 ， 这似然函数 达到最大的参数值作为估计值 ， 那么样本取该样本值的概率应较大，所以选取使 称为最大似然估计法.

  24. 定义6.1 设总体 的分布密度(或分布律)为 ， 其中 为未知参数 . 又设 是总体 的一个样本值，如果似然函数 分别为 的最大似然估计量. 在 处达到最大，则称

  25. 与 有相同的最大值点 .因此， 为 称它为似然方程, 其中 由于 最大似然估计的必要条件为

  26. (1)求似然函数 ； (2)求出 及似然方程 求最大似然估计量的一般步骤为： (3)解似然方程得到最大似然估计值 (4)最后得到最大似然估计量

  27. 例9 设总体 服从泊松分布 ,其中 为未知 参数，试求参数 的最大似然估计量 . 设样本 的一个观测值为 ,由于总体 ,故有 解 似然函数为

  28. 即 所以 的最大似然估计量为 . 取对数

  29. 例10 设总体 ，求参数 的最大 设 是总体 的样本， 其观测值为 , 由总体 , 似然估计量 . 解 分布密度为

  30. 似然函数

  31. 最大似然估计量为 . 解似然方程得

  32. 例11 设总体 服从区间 上的均匀分布, 试求参数 的矩估计量和最大似然估计量 . 设 的样本, 是总体 其观测值为 ， 故 即 的矩估计量为 解

  33. 总体 的分布密度为 则似然函数为

  34. 当 时 达到最大, 故 的最大似然 估计量为 备用题 小 结

  35. 例12 设总体 服从 对于容量为 的点 的样本, 求使得 为来自总体 设 的一个样本, 可求得 与 的最大似然估计分别为 的最大似然估计. 解

  36. 由 则 故 的最大似然估计 查表得

  37. 例13 一罐中装有白球和黑球，有放回地抽 取一个容量为n的样本，其中有 k 个白球， 求罐中黑球与白球之比 R的最大似然估计. 解 则X1,X2,…,Xn是取自B(1,p)的样本，p是每次抽取时取到白球的概率，p未知 . 先求p的最大似然估计:

  38. p的最大似然估计为 的最大似然估计是 我们容易求得 由前述最大似然估计的性质不难求得

  39. 最后，我们用最大似然法估计湖中的鱼数. 为了估计湖中的鱼数N，第一次捕上r条鱼，做 上记号后放回. 隔一段时间后, 再捕出 S 条鱼, 结果发现这S条鱼中有k条标有记号. 根据这个 信息, 如何估计湖中的鱼数呢? 第二次捕出的有记号的鱼数X是r.v, X具有超几何分布：

  40. 由 而定. 或 把上式右端看作N的函数，记作L(N;k) . 应取使L(N;k)达到最大的N, 作为N的最大似然估计. 但用对N求导的方法相当困难, 我们考虑比值： 经过简单的计算知，这个比值大于或小于1，

  41. 的最大整数时, 升而后下降; 当N为小于 达到最大值 . 故N的最大似然估计为 由 或 而定 . 经过简单的计算知，这个比值大于或小于1， 这就是说，当N增大时，序列P(X=k;N)先是上

  42. 内容小结 两种求点估计的方法: 矩估计法 最大似然估计法 在统计问题中往往先使用最大似然估计法, 在最大似然估计法使用不方便时, 再用矩估计法.

  43. 再见

More Related