Ανάλυση Πολλαπλής Παλινδρόμησης

1. Ανάλυση Πολλαπλής Παλινδρόμησης y = b0 + b1x1 + b2x2 + . . . bkxk + u 3. Ασυμπτωτικές ιδιότητες

2. Συνέπεια • Κάτω από τις υποθέσεις των Gauss-Markov οι OLS εκτιμητές είναι BLUE, αλλά σε άλλες περιπτώσεις δεν είναι δυνατό να βρεθούνε πάντοτε αμερόληπτοι εκτιμητές • Σε αυτές τις περιπτώσεις, μπορούμε να εγκαταστήσουμε εκτιμητές οι οποίοι είναι συνεπείς, εννοώντας καθώς n  ∞, η κατανομή των εκτιμητών συρρικνώνεται στις τιμές των παραμέτρων.

3. Κατανομές Δειγματοληψίας as n n3 n1 < n2 < n3 n2 n1 b1

4. Συνέπεια του OLS • Κάτω από τις υποθέσεις των Gauss-Markov,οι OLS εκτιμητές είναισυνεπείς (και αμερόληπτοι) • Συνέπεια μπορεί να αποδειχθεί για την περίπτωση της απλής παλινδρόμησης κατά τρόπο παρόμοιο με αυτόν που αποδείχθηκε η αμεροληψία • Χρειάζεται να πάρουμε το όριο κατά πιθανότητα (plim) για να αποδείξουμε συνέπεια.

5. Αποδεικνύοντας Συνέπεια

6. Μια Ασθενέστερη Υπόθεση • Για την αμεροληψία, υποθέσαμε μία προσδοκώμενη αναμενόμενη τιμή ίση με το 0 – E(u|x1, x2,…,xk) = 0 • Για την συνέπεια, μπορούμε να έχουμε μία ασθενέστερη υπόθεση με αναμενόμενη τιμή και συνδιακύμανση ίσες με το 0. – E(u) = 0 και Cov(xj,u) = 0, γιαj = 1, 2, …, k • Χωρίς αυτή την υπόθεση, ο OLS θα είναι μεροληπτικός και ασυνεπής.

7. Εξάγοντας την Αμεροληψία • Ακριβώς όπως εξάγαμε το μεροληπτικό σφάλμα παραληφθείσας μεταβλητής νωρίτερα, τώρα θέλουμε να σκεφτούμε σχετικά με την ασυνέπεια, ή ασυμπτωτική μεροληψία, σε αυτή την περίπτωση

8. ΑσυμπτωτικήΑμεροληψία (συνεχ.) • Έτσι, σκεπτόμενοι ως προς την κατεύθυνση της ασυμπτωτικής μεροληψίαςείναι ακριβώς το ίδιο σαν να σκεπτόμαστε σχετικά με την κατεύθυνσητου μεροληπτικού σφάλματος παραληφθείσας μεταβλητής • Βασική διαφορά είναι ότι η ασυμπτωτική μεροληψία κάνει χρήση την διακύμανση και τη συνδιακύμανση του πληθυσμού, ενώ η μεροληψία κάνει χρήση τις αντίστοιχες ποσότητες του δείγματος • Θυμηθείτε, η ασυνέπεια είναι ένα πρόβλημα για μεγάλα δείγματα - δεν εξαλείφεται με την προσθήκη δεδομένων

9. Επαγωγή για Μεγάλα Δείγματα • Ανακαλέστε ότι κάτω από τις υποθέσεις του Κλασικού Γραμμικού Μοντέλου, οι κατανομές δειγματοληψίας είναι κανονικές,έτσι μπορούμε να εξάγουμε τιςtκαιFκατανομές για έλεγχο υποθέσεων • Αυτή η ακριβή κανονικότητα οφειλότανε στο ότι υποθέταμε ότι η κατανομή του πληθυσμού των σφαλμάτων ήτανε κανονική • Από αυτή την υπόθεση των σφαλμάτων συνεπάγεται ότι και η κατανομή τωνy, δοθέντος τα x’s, είναι και αυτή κανονική

10. Επαγωγή για Μεγάλα Δείγματα (συνεχ.) • Εύκολα μπορούμε να βρούμε παραδείγματα στα οποία αυτή η ακριβής υπόθεση της κανονικότητας αποτυχαίνει • Οποιαδήποτε λοξή μεταβλητή, όπως των μισθών, των συλλήψεων, των αποταμιεύσεων, κ.λπ. Δεν είναι κανονική, αφού μια κανονική κατανομή είναι συμμετρική • Η υπόθεση της κανονικότητας δεν απαιτείται για να συμπεράνουμε ότι ο OLS είναι BLUE, μόνο για επαγωγή

11. Κεντρικό Οριακό Θεώρημα Βασισμένοι στο κεντρικό οριακό θεώρημα, μπορούμε να δείξουμε ότι οι OLS εκτιμητές είναι ασυμπτωτικά κανονικοί Από την ασυμπτωτική κανονικότητασυνεπάγεται ότι P(Z<z)F(z) καθώς n , ή P(Z<z)  F(z) Το κεντρικό οριακό θεώρημααναφέρει ότι ο τυποποιημένος μέσος όροςαπό κάθε πληθυσμό με μέση τιμήmκαι διακύμανσηs2 είναι ασυμπτωτικά ~N(0,1), ή

12. Ασυμπτωτική Κανονικότητα Κάτω από τις υποθέσεις των Gauss-Markov,

13. Ασυμπτωτική Κανονικότητα (συνεχ) • Επειδή ηtκατανομή προσεγγίζει την κανονική κατανομήγια μεγάλουςdf, μπορούμε επίσης να πούμε ότι Σημειώστε ότι ενώ δεν χρειαζόμαστε πλέον να υποθέσουμε κανονικότητα με ένα μεγάλο δείγμα, χρειαζόμαστε ακόμη την ομοσκεδαστικότητα

14. Ασυμπτωτικά Τυπικά Σφάλματα Εάνuδεν είναι κανονικά κατανεμημένο, ορισμένες φορές θα αναφερόμαστε στα τυπικά σφάλματα ωςασυμπτωτικά τυπικά σφάλματα, αφού Έτσι αναμένεται τα τυπικά σφάλματα να μικραίνουνε με λόγο ανάλογο ως προς τον αντίστροφο του√n

15. Η Στατιστική του Πολλαπλασιαστή του Lagrange • Άπαξ και χρησιμοποιούμε μεγάλα δείγματα και βασιζόμαστε στην ασυμπτωτική κανονικότητα για επαγωγή, μπορούμε να χρησιμοποιούμε και άλλα τεστ από ταtκαιF. • Ο πολλαπλασιαστής του Lagrange ήστατιστική LMείναι μία εναλλακτική για τον έλεγχο πολλαπλών περιορισμών αποκλεισμού • Επειδή η στατιστική LMχρησιμοποιεί μία βοηθητική παλινδρόμηση, όπου καλείται στατιστικήn-R-τετράγωνο.

16. Η Στατιστική του Πολλαπλασιαστή του Lagrange (συνεχ.) • Υποθέστε ότι έχουμε ένα τυπικό μοντέλο, y = b0 + b1x1 + b2x2 + . . . bkxk + u και η μηδενική υπόθεση είναι • H0: bk-q+1 = 0, ... , bk = 0 • Πρώτα, εκτελούμε το μοντέλο υπό περιορισμούς

17. Η Στατιστική του Πολλαπλασιαστή του Lagrange (συνεχ.) • Με ένα μεγάλο δείγμα, το αποτέλεσμα από έναFτεστκαι από ένα LMτεστθα πρέπει να είναι όμοια • Σε αντίθεση με ταFκαιtτεστγια ένα αποκλεισμό,ταLMκαιFτετσδεν είναι απαράλλαχτα

18. Ασυμπτωτική Αποτελεσματικότητα • Εκτιμητές εκτός OLS θα είναι συνεπής • Ωστόσο,κάτω από τις υποθέσεις των Gauss-Markov, οι OLS εκτιμητέςθα έχουνε τις μικρότερες ασυμτωτικές διακυμάνσεις • Λέμε ότι ο OLS είναι ασυμπτωτικά αποτελεσματικός • Είναι σημαντικό να θυμόμαστε τις υποθέσεις. Εάν ομοσκεδαστικοτητα δεν ισχύει, τότε το παραπάνω δεν ισχύει