Regresijos lygties parametr vertinimas
This presentation is the property of its rightful owner.
Sponsored Links
1 / 46

Regresijos lygties parametrų vertinimas PowerPoint PPT Presentation


  • 292 Views
  • Uploaded on
  • Presentation posted in: General

Regresijos lygties parametrų vertinimas. 20 14 -0 2 - 19. D.Gujarati Part 1 “ Single-Eguation regression Models” 3 skyrelis “Two –variable Regression model:The Problem of Estimation” ir 4 skyrelis The Normality Assumption: CNLRM). Porinė tiesinė regresija: parametrų vertinimas.

Download Presentation

Regresijos lygties parametrų vertinimas

An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -

Presentation Transcript


Regresijos lygties parametr vertinimas

Regresijos lygties parametrų vertinimas

2014-02-19

D.Gujarati Part 1 “ Single-Eguation regression Models”

3 skyrelis “Two –variable Regression model:The Problem of Estimation” ir

4 skyrelis The Normality Assumption: CNLRM)


Porin tiesin regresija parametr vertinimas

Porinė tiesinė regresija: parametrų vertinimas

  • Grafinė ir statistinė duomenų analizė

  • Parametrų vertinimas mažiausių kvadratų metodu

    • Porinė tiesinė regresija

    • Dauginė tiesinė regresija

    • Klasikinio regresinio modelio prielaidos

    • Gauso-Markovo teorema

    • Įverčių savybės

    • Regresijos paklaida ir jos įvertis

  • Maksimalaus tikėtinumo metodas


Regresijos lygties parametr vertinimas

Pvz.


Grafin studento motinos gio priklausomyb s analiz

Grafinė studento-motinos ūgio priklausomybės analizė


Regresijos parametr vertinimo metodai

Regresijos parametrų vertinimo metodai

Regresinis modelis – bendras atvejis

Porinė tiesinė regresija

Yi=β0 + β2Xi + εi

=

β0 + β1 Xi

+

εi

Yi

Sisteminė/dėsningoji dalis

Atsitiktinė dalis


Regresijos parametr vertinimo metodai1

Regresijos parametrų vertinimo metodai

  • MKM – rasti tokius parametrų β1,β2 įverčius, kurie minimizuoja modelio paklaidas, t.y atsitiktinę modelio dalį.

  • MTM – rasti tokius parametrų įverčius β1,β2, kurie maksimizuoja sisteminės dalies ir Yi atitikimo tikimybę


Parametr ver i nustatymas ma iausi kvadrat metodu

Parametrų įverčių nustatymas mažiausių kvadratų metodu

Yi=0+1Xi+i Yi = b0+ b1Xi +ei

MKM

Įrodymas auditorijoje


Regresijos lygties parametr vertinimas

Y

.

Y4

{

e4

.

e3

}

Y3

.

Y2

e2

{

}

e1

.

Y1

x2

x1

x4

x3

x

Y, e ir tiesinė regresijos lygtis


Parametr ver i nustatymas ma iausi kvadrat metodu1

Parametrų įverčių nustatymas mažiausių kvadratų metodu

  • Formulių išvedimas paskaitos metu


Parametr ver i nustatymas ma iausi kvadrat metodu2

Parametrų įverčių nustatymas mažiausių kvadratų metodu

Galimos b1 matematinėsišraiškos

Įrodymas auditorijoje


Pvz matavimo vienet taka koeficientams

Pvz. Matavimo vienetų įtaka koeficientams

YSŪ irXMŪ - cm

YSŪ irXMŪ - metrais

YSŪ- cm , XMŪ - m

YSŪ- m , XMŪ - cm


Daugin s regresijos ver i nustatymas ma iausi kvadrat metodu

Dauginės regresijos įverčių nustatymas mažiausių kvadratų metodu

Yi=0 +1X1i + 2X2i+iYi = b0+ b1Xi + b2X2i+ ei

MKM


Regresijos lygties parametr vertinimas

MKM dviems kintamiesiems

Yi = 0 + 1X1 + 2X2 + ei

Pasižymime :


Regresijos lygties parametr vertinimas

2

yi xi1xi2 yi xi2xi1xi2

b1 =

2

2

xi1 xi2 xi1xi2

2

2

yi xi2xi1 yi xi1xi2xi1

b2 =

2

2

xi1 xi2 xi1xi2

2

MKM dviems kintamiesiems


1 4 grupi student giai 2014

1-4 grupių studentų ūgiai 2014


Mkm ver i savyb s

MKM įverčių savybės

  • Įverčiai yra atsitiktiniai dydžiai

  • Įverčiai yra tiesiniai, nepaslinkti, efektyvūs ir suderinti


Ver iai atsitiktiniai dyd iai

Įverčiai atsitiktiniai dydžiai

Įverčiai, kaip ir visi atsitiktiniai dydžiai, charakterizuojami vidurkiu ir dispersija


Gauso markovo teorema

Gauso-Markovo teorema

  • Teorema

    Jeigu yra tenkinamos klasikinio regresinio modelio prielaidos, tai mažiausių kvadratų metodu apskaičiuoti regresijos įverčiai yra tiesiniai, nepaslinkti ir turi mažiausią dispersiją nepaslinktų tiesinių įverčių klasėje.


Regresijos lygties parametr vertinimas

Klasikinio regresiniomodelio prielaidos


Regresijos lygties parametr vertinimas

Klasikinės regresijos prielaidos


S vokos

Sąvokos

  • Tiesiniai įverčiai

    • Gauti įverčiai yra apskaičiuoti pagal tiesinę Y atžvilgiu lygtį

  • Nepaslinkti įverčiai

    • Įverčių bj, apskaičiuotų skirtingų duomenų imčių pagrindu, vidurkis yra lygus tikrajai parametro reikšmei E(bj)=j

  • Efektyvūs

    • Efektyvus įvertis –tai įvertis turintis mažiausią dispersiją nepaslinktų įverčių klasėje, t.y., įvertis, esantis arčiausiai tikrosios parametro reikšmės

  • Suderinti

    • Suderintas - tai toks įvertis, kurio reikšmės artėja prie tikrosios parametro reikšmės, didėjant stebėjimų skaičiui


Svarbios skaitin s savyb s

Svarbios skaitinės savybės


Mkm ver i savybi rodymas

MKM įverčių savybių įrodymas

  • Tiesiškumas

Suma lygi 0

Konstanta


Mkm ver i savybi rodymas1

MKM įverčių savybių įrodymas

  • Nepaslinktumas

=0

=0

=1


Ma os imties ver i pageidaujamos savyb s

Mažos imties įverčių pageidaujamos savybės

  • Nepaslinktumas

Tikimybių tankis

1bj

2bj

βj

Tikroji parametro reikšmė

VU EF Vita Karpuškienė


Efektyv s ver iai

3.15

Efektyvūs įverčiai

Įverčių efektyvumas

Efektyvus

Tikimybių tankis

Neefektyvūs

βj


Suderinti ver iai

3.15

Suderinti įverčiai

N=10

Suderinamumas

Tikimybių tankis

N=1000

N=5000


Regresijos lygties parametr vertinimas

Įverčiai tiesiniai nepaslinkti ir efektyvūs

yi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

xi


Regresijos lygties parametr vertinimas

Įverčiai tiesiniai paslinkti

yi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

xi


Gauss markov teoremos rodymas

Gauss –Markov teoremos įrodymas

Efektyvumas

Tarkim turime tiesinį nepaslinktą įvertį, kurio dispersija yra mažiausia

Tiesinis

Efektyvumas

Min pasiekiamas tuo atveju, kai


Porin s regresijos paklaida ir jos vertis

Porinės regresijos paklaida ir jos įvertis

Porinės regresijos paklaida

Modelio paklaidos įvertis yra atsitiktinis dydis, kuris apibūdinamas vidurkiu ir dispersija;

  • Vidurkis E(e)=0

  • Dispersijos įvertis

  • Standartinė modelio paklaida


Daugin s regresijos paklaida ir jos vertis

Dauginės regresijos paklaida ir jos įvertis

Dauginės regresijos paklaida

Modelio paklaidos įvertis yra atsitiktinis dydis, kuris apibūdinamas vidurkiu ir dispersija;

  • Vidurkis E(e)=0

  • Dispersijos įvertis

  • Standartinė modelio paklaida


Modelio paklaidos e i

Modelio paklaidos ei


Modelio paklaidos e i1

Modelio paklaidos ei


Maksimalaus tik tinumo metodas

Maksimalaus tikėtinumo metodas

  • Idėja:

    Rasti tokius parametrų β0, β1įverčius, kurie maksimizuoja sisteminės dalies ir Yi atitikimo tikimybę

Neatsitiktiniai dydžiai

Yi=β0 + β1Xi+ εi

Atsitiktiniai dydžiai


Regresijos lygties parametr vertinimas

-

(y - )2

2s2

2.48

Normalusis skirstinys

Y ~ N(,s2)

1

exp

f(y) =

2ps2

f(y)

y


Maksimalaus tik tinumo metodas1

Maksimalaus tikėtinumo metodas

Tarkim nagrinėjame porinę priklausomybę, kurios Yi – atsitiktinis dydis pasiskirstęs N(, σ2)

Yi=β0 + β1Xi +εi

i=E(Yi) =β0 + β1Xi

MTM – esmė


Maksimalaus tik tinumo metodas2

Maksimalaus tikėtinumo metodas

Iš tikimybių teorijos žinom, jeigu Y – nepriklausomas atsitiktinis dydis, tai

...

...


Maksimalaus tik tinumo metodas3

Maksimalaus tikėtinumo metodas

=

Įsistatom į tankio f-jos lygtį


Maksimalaus tik tinumo funkcija

Maksimalaus tikėtinumo funkcija

LF – maksimalaus tikėtinumo funkcija

max

LF=


Maksimalaus tik tinumo funkcija imties koeficientai

Maksimalaus tikėtinumo funkcija(Imties koeficientai)

Ieškome LF maksimalios reikšmės duomenų imties koeficientams, skaičiuodami dalines išvestines, prilygintas 0


Maksimalaus tik tinumo funkcija1

Maksimalaus tikėtinumo funkcija

Dalinių išvestinių skaičiavimo rezultatai


Maksimalaus tik tinumo funkcija2

Maksimalaus tikėtinumo funkcija


Maksimalaus tik tinumo metodo ver iai

Maksimalaus tikėtinumo metodo įverčiai


Mkm ir mtm palyginimas

MKM ir MTM palyginimas

  • MKM privalumai:

    • Idėjos akivaizdumas

    • Skaičiavimų paprastumas

  • MKM trūkumai

    • Kad įverčiai turėtų pageidaujamas savybes: tiesiškumą, nepaslinktumą, suderinamumą, turi būti tenkinamos klasikinio regresinio modelio prielaidos, kurias reikia tikrinti kiekviename modelyje)


Mkm ir mtm palyginimas1

MKM ir MTM palyginimas

  • MTM privalumai:

    • Apskaičiuoja tiesinių ir netiesinių regresinių modelių parametrų įvarčius

    • Esant didelėms stebėjimų imtims, apskaičiuoti įverčiai turi pageidaujamas savybes

  • MTM trūkumai

    • Būtina žinoti priklausomojo kintamojo tikimybių pasiskirstymą.

    • Sudėtingi skaičiavimai

  • MKM ir MTM tiesinės regresinės lygties parametrų įverčiai sutampa, kai Y turi normalųjį tikimybių skirstinį


  • Login