Régression linéaire (STT-2400)

1. Régression linéaire (STT-2400) Section 3 Préliminaires, Partie I, Matrices et vecteurs aléatoires Version: 8 février 2007

2. Introduction • L’objectif de cette section est de déterminer l’estimateur des moindres carrés (OLS) pour le modèle de régression linéaire multiple (RLM). • Les notions qui seront couvertes dans les sections préliminaires I, II et III sont notamment les vecteurs aléatoires et la loi normale multivariée. • Comme on le verra plus tard, les estimateurs des paramètres formeront un vecteur aléatoire qui sous certaines hypothèses est de distribution normale. STT-2400; Régression linéaire

3. Matrices et vecteurs aléatoires • Définition: Une matrice aléatoire de dimension est une matrice dont les éléments sont des variables aléatoires. • Définition: Un vecteur aléatoire est un vecteur dont les éléments sont des variables aléatoires. STT-2400; Régression linéaire

4. Espérance mathématique des matrices et vecteurs aléatoires • Définition: Soit une matrice aléatoire et considérons un vecteur aléatoire. Nous avons les propriétés suivantes: STT-2400; Régression linéaire

5. Propriété 3.1 • Soient et deux vecteurs aléatoires, une matrice aléatoire et et des matrices constantes. On a alors les propriétés suivantes: STT-2400; Régression linéaire

6. Matrice des variances et covariances • Soit un vecteur aléatoire de moyenne . On définit la variance de , que l’on note , de la manière suivante: STT-2400; Régression linéaire

7. Exemple • Soit un vecteur aléatoire de moyenne et de variance valant . Soit pour un vecteur constant . On a alors: STT-2400; Régression linéaire

8. Propriété 3.2 • Soit un vecteur aléatoire de moyenne et de variance valant . Pour une matrice constante on a les propriétés suivantes: STT-2400; Régression linéaire

9. Propriété 3.3 • Soit un vecteur aléatoire de moyenne et de variance valant . Pour une matrice constante et un vecteur constant on a les propriétés suivantes: STT-2400; Régression linéaire

10. Pour (ii): • (ii) implique (iii): • (i)

11. Remarque sur la Propriété 3.3 (i) • On rappelle que cette propriété stipule que: • En fait, l’analogue univarié est simplement que pour une variable aléatoire X: STT-2400; Régression linéaire