1 / 90

第三章 多元正态分布

设随机向量 , 独立同分布于 ,则 的概率密度为. 第三章 多元正态分布. 第一节 多元正态分布的定义. 的均值和协方差矩阵分别为. 的分布称为均值为 ,协方差矩阵为 的多元正态分布,记作. 假设 为 的一个非退化线 性变换,其中 是一个 维非退化矩阵 (即 ),则称 维随机向量 的分布

Download Presentation

第三章 多元正态分布

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript


  1. 设随机向量 , 独立同分布于 ,则 的概率密度为 第三章 多元正态分布 第一节 多元正态分布的定义

  2. 的均值和协方差矩阵分别为 的分布称为均值为 ,协方差矩阵为 的多元正态分布,记作

  3. 假设 为 的一个非退化线 性变换,其中 是一个 维非退化矩阵 (即 ),则称 维随机向量 的分布 为非退化的多元正态分布,记作 , 其中 。 的均值和协方差矩阵分别为

  4. 因为雅可比行列式 所以 的概率密度函数为

  5. 设随机向量 , 为 维常 数向量, 是一个 常数矩阵,则称 的分布为多元正态分布,仍记作 ,其中 。 若 (自然 ),则 存在, 的分布是一个非退化的 元正态分布,其概率密度见上式。 若 ,则 不存在, 的分布称为退化的 元正态分布,不存在概率密度。

  6. 例如,设 ,其中 , ,则 的分布就是退化的三元正 态分布,即 ,其中

  7. 例(二元正态分布) 设 ,这里 由于 故当 时, , 这时

  8. 由多元正态分布密度函数公式可得此时 的概率密度为 当 时,

  9. 另, 和 的边际密度函数分别是 故有 即 和 相互独立,因此,对于二元正态分布来说,两个分量的不相关和独立性是等价的。当 时, ,即 不存在,此时, 的概率密度不存在, 是一个退化的二元正态分布,并且 和 之间以概率 存在着线性关系。

  10. 多元正态分布的特征函数 ,其中 例 上一节二元正态分布的特征函数为 第二节 多元正态分布的性质 一、多元正态分布的特征函数

  11. 证明 由标准正态变量 的特征函数 又设 相互独立,则 的 特征函数

  12. 所以, 的特征函数 二、设 是一个 维随机向量,当且仅当它的 任何线性函数 ( 为 维常数向量)均 服从一元正态分布时, 服从多元正态分布。

  13. 证明 充分性 设对一切 , 都服从一元正态分 布。记 , ,于 是 , 从而 ,于是其特征函数 可表示为

  14. 所以, 的特征函数 该式对一切 都是成立的,所以由多元正 态分布的特征函数表达式知 服从 元正态 分布。

  15. 必要性 设 服从 元正态分布,又由多 元正态分布的定义知,存在 维常数向量 和 常数矩阵 ,使得 , 其中 ,于是对任意的 , 有 ,因此再由多元正态 分布的定义知, 服从一元正态分布。

  16. 三、设 , ,其中 为 常数矩阵, 为 维常数向量,则 (多元正态变量的任何线性变换仍为多元正态 变量。)

  17. 证明 对任意 , ,因 为 是多元正态变量,而 是 的一 个线性函数,从而由上述性质二的必要性知, 是一元正态变量,所以 是一元正 态变量;再由性质二的充分性知, 是一个 元正态变量。又由于 故而

  18. 例 设 , 为 维常数向量, 则 例 设 ,这里

  19. 服从一元正态分布,且 即 。

  20. 四、多元正态分布的任何边际分布仍为正态分 布。设 ,则 的任何子向量也服 从多元正态分布,其均值为 的相应子向量, 协方差矩阵为 的相应子矩阵。 证明 不妨对 的前 个变量组成的 子向量作出证明,将 , , 作如下的剖 分:

  21. 令 ,则由 知 例 设 ,这里 则每个 的边际分布为 , 。

  22. 设 相互独立,且 , ,则对任意 个常数 , 有 五 、独立的多元正态变量(维数相同)的任意 线性组合仍为多元正态变量。

  23. 证明 令 ,对任意的 , 由于一元正态变量 相互独立,从 而由一元正态分布的性质知,其线性组合 也服从一元正态分布,所以 服从 元正态分布。 且 故而

  24. 例 设 独立同分布于 , 则由 知

  25. 六、设 , ,则 证明 令 ,于是 ,即 独立同分布于 ,所以由卡方 分布的定义知

  26. 设 ,对 的剖分 如下: 则子向量 和 相互独立,当且仅当 。 七、对于多元正态变量而言,其子向量之间互 不相关和相互独立是等价的。

  27. 证明 必要性。 设 和 相互独立,则 。 充分性。设 ,于是 从而

  28. 所以 和 相互独立。 八、设 , , ,其中 当且仅当 ,则 和 相互独立。

  29. 证明 令 则由 知

  30. 必要性。设 和 相互独立, 则 。 充分性。 设 ,于是 从而 ,故由性质七知, 和 相互独立。

  31. 九、设 , , , 其中 , 当且仅当 ,则 和 相互独立。

  32. 证明 令 ,由 知, ,于是 从而 由于 , 所以,由性质八知,当且仅当 , 即 时, 和 相互独立。

  33. 十、设 , ,作了如下剖分: 则 和 相互独立, 和 也相互独立。

  34. 证明 令 , ,显 然 , ,于是 从而

  35. 所以,有性质九知, 和 相互独立。 同理可得, 和 也相互独立。 该性质说明,从 中扣除与 线性相关的部 分后便和 相互独立。

  36. 十一、设 , ,作如下 剖分 则给定 时 的条件分布为 , 其中

  37. 证明 由 可知, , , ,记 令 于是

  38. 由性质十知, 和 相互独立,从而 又由 知, 于是 所以

  39. 故而,给定 时 的条件概率密度为

  40. 即给定 时 的条件分布为 。 称 为条件数学期望或条件均值,称 为偏协方差矩阵或条件协方差矩阵,它的元素 用 表示,即 该性质表明,对于多元正态向量,其子向量的 条件分布仍是(多元)正态的。

  41. 可以表达为 这是一个 对给定的 的多元回归模型, 因此称 为 对 的回归系数矩阵。 特别当 时该式简化为 对 的线性回归函数形式,即

  42. 其中回归系数 为 的 个元素, 。其回归 的剩余方差是 例 设 ,其中

  43. 则 对 的线性回归函数为 其剩余方差是 给定 时 的条件分布为

  44. 例 设 ,其中 试求给定 时 的条件分布。 解 令 , ,于是

  45. 利用 和 可得给定 时 的条 件均值和偏协方差矩阵分别为 和

  46. 所以 给定时 和 的偏相关系数定义为 它度量了在 值给定的条件下 和 间相关关系的强弱。

  47. 中的元素不止一个时,直接用公式计 算比较麻烦,这时可采用偏相关系数的递推公 式计算: 具体计算时,首先计算一阶偏相关系数

  48. 可见,一阶偏相关系数可直接由相关系数算得;可见,一阶偏相关系数可直接由相关系数算得; 其次计算二阶偏相关系数

  49. 同样求得 和 。 如此按递推公式计算下去,直至计算出所需阶 数的偏相关系数。 与相关系数一样,偏相关系数也满足:

More Related