Regresijos lygties parametr vertinimas
Download
1 / 46

Regresijos lygties parametrų vertinimas - PowerPoint PPT Presentation


  • 453 Views
  • Uploaded on

Regresijos lygties parametrų vertinimas. 20 14 -0 2 - 19. D.Gujarati Part 1 “ Single-Eguation regression Models” 3 skyrelis “Two –variable Regression model:The Problem of Estimation” ir 4 skyrelis The Normality Assumption: CNLRM). Porinė tiesinė regresija: parametrų vertinimas.

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

PowerPoint Slideshow about ' Regresijos lygties parametrų vertinimas' - maia-tucker


An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
Presentation Transcript
Regresijos lygties parametr vertinimas
Regresijos lygties parametrų vertinimas

2014-02-19

D.Gujarati Part 1 “ Single-Eguation regression Models”

3 skyrelis “Two –variable Regression model:The Problem of Estimation” ir

4 skyrelis The Normality Assumption: CNLRM)


Porin tiesin regresija parametr vertinimas
Porinė tiesinė regresija: parametrų vertinimas

  • Grafinė ir statistinė duomenų analizė

  • Parametrų vertinimas mažiausių kvadratų metodu

    • Porinė tiesinė regresija

    • Dauginė tiesinė regresija

    • Klasikinio regresinio modelio prielaidos

    • Gauso-Markovo teorema

    • Įverčių savybės

    • Regresijos paklaida ir jos įvertis

  • Maksimalaus tikėtinumo metodas




Regresijos parametr vertinimo metodai
Regresijos parametrų vertinimo metodai

Regresinis modelis – bendras atvejis

Porinė tiesinė regresija

Yi=β0 + β2Xi + εi

=

β0 + β1 Xi

+

εi

Yi

Sisteminė/dėsningoji dalis

Atsitiktinė dalis


Regresijos parametr vertinimo metodai1
Regresijos parametrų vertinimo metodai

  • MKM – rasti tokius parametrų β1,β2 įverčius, kurie minimizuoja modelio paklaidas, t.y atsitiktinę modelio dalį.

  • MTM – rasti tokius parametrų įverčius β1,β2, kurie maksimizuoja sisteminės dalies ir Yi atitikimo tikimybę


Parametr ver i nustatymas ma iausi kvadrat metodu
Parametrų įverčių nustatymas mažiausių kvadratų metodu

Yi=0+1Xi+i Yi = b0+ b1Xi +ei

MKM

Įrodymas auditorijoje


Y metodu

.

Y4

{

e4

.

e3

}

Y3

.

Y2

e2

{

}

e1

.

Y1

x2

x1

x4

x3

x

Y, e ir tiesinė regresijos lygtis


Parametr ver i nustatymas ma iausi kvadrat metodu1
Parametrų įverčių nustatymas mažiausių kvadratų metodu

  • Formulių išvedimas paskaitos metu


Parametr ver i nustatymas ma iausi kvadrat metodu2
Parametrų įverčių nustatymas mažiausių kvadratų metodu

Galimos b1 matematinėsišraiškos

Įrodymas auditorijoje


Pvz matavimo vienet taka koeficientams
Pvz. metodu Matavimo vienetų įtaka koeficientams

YSŪ irXMŪ - cm

YSŪ irXMŪ - metrais

YSŪ- cm , XMŪ - m

YSŪ- m , XMŪ - cm


Daugin s regresijos ver i nustatymas ma iausi kvadrat metodu
Dauginės regresijos metoduįverčių nustatymas mažiausių kvadratų metodu

Yi=0 +1X1i + 2X2i+iYi = b0+ b1Xi + b2X2i+ ei

MKM


MKM dviems kintamiesiems metodu

Yi = 0 + 1X1 + 2X2 + ei

Pasižymime :


2 metodu

yi xi1xi2 yi xi2xi1xi2

b1 =

2

2

xi1 xi2 xi1xi2

2

2

yi xi2xi1 yi xi1xi2xi1

b2 =

2

2

xi1 xi2 xi1xi2

2

MKM dviems kintamiesiems



Mkm ver i savyb s
MKM įverčių savybės metodu

  • Įverčiai yra atsitiktiniai dydžiai

  • Įverčiai yra tiesiniai, nepaslinkti, efektyvūs ir suderinti


Ver iai atsitiktiniai dyd iai
Įverčiai atsitiktiniai dydžiai metodu

Įverčiai, kaip ir visi atsitiktiniai dydžiai, charakterizuojami vidurkiu ir dispersija


Gauso markovo teorema
Gauso-Markovo teorema metodu

  • Teorema

    Jeigu yra tenkinamos klasikinio regresinio modelio prielaidos, tai mažiausių kvadratų metodu apskaičiuoti regresijos įverčiai yra tiesiniai, nepaslinkti ir turi mažiausią dispersiją nepaslinktų tiesinių įverčių klasėje.


Klasikin metoduio regresiniomodelio prielaidos



S vokos
Sąvokos metodu

  • Tiesiniai įverčiai

    • Gauti įverčiai yra apskaičiuoti pagal tiesinę Y atžvilgiu lygtį

  • Nepaslinkti įverčiai

    • Įverčių bj, apskaičiuotų skirtingų duomenų imčių pagrindu, vidurkis yra lygus tikrajai parametro reikšmei E(bj)=j

  • Efektyvūs

    • Efektyvus įvertis –tai įvertis turintis mažiausią dispersiją nepaslinktų įverčių klasėje, t.y., įvertis, esantis arčiausiai tikrosios parametro reikšmės

  • Suderinti

    • Suderintas - tai toks įvertis, kurio reikšmės artėja prie tikrosios parametro reikšmės, didėjant stebėjimų skaičiui



Mkm ver i savybi rodymas
MKM įverčių savybių įrodymas metodu

  • Tiesiškumas

Suma lygi 0

Konstanta


Mkm ver i savybi rodymas1
MKM įverčių savybių įrodymas metodu

  • Nepaslinktumas

=0

=0

=1


Ma os imties ver i pageidaujamos savyb s
Mažos imties įverčių pageidaujamos savybės metodu

  • Nepaslinktumas

Tikimybių tankis

1bj

2bj

βj

Tikroji parametro reikšmė

VU EF Vita Karpuškienė


Efektyv s ver iai

3.15 metodu

Efektyvūs įverčiai

Įverčių efektyvumas

Efektyvus

Tikimybių tankis

Neefektyvūs

βj


Suderinti ver iai

3.15 metodu

Suderinti įverčiai

N=10

Suderinamumas

Tikimybių tankis

N=1000

N=5000


Įverčiai tiesiniai nepaslinkti ir efektyvūs metodu

yi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

xi


Įverčiai tiesiniai paslinkti metodu

yi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

xi


Gauss markov teoremos rodymas
Gauss –Markov teoremos įrodymas metodu

Efektyvumas

Tarkim turime tiesinį nepaslinktą įvertį, kurio dispersija yra mažiausia

Tiesinis

Efektyvumas

Min pasiekiamas tuo atveju, kai


Porin s regresijos paklaida ir jos vertis
Porinės regresijos metodupaklaida ir jos įvertis

Porinės regresijos paklaida

Modelio paklaidos įvertis yra atsitiktinis dydis, kuris apibūdinamas vidurkiu ir dispersija;

  • Vidurkis E(e)=0

  • Dispersijos įvertis

  • Standartinė modelio paklaida


Daugin s regresijos paklaida ir jos vertis
Dauginės regresijos metodupaklaida ir jos įvertis

Dauginės regresijos paklaida

Modelio paklaidos įvertis yra atsitiktinis dydis, kuris apibūdinamas vidurkiu ir dispersija;

  • Vidurkis E(e)=0

  • Dispersijos įvertis

  • Standartinė modelio paklaida




Maksimalaus tik tinumo metodas
Maksimalaus tikėtinumo metodas metodu

  • Idėja:

    Rasti tokius parametrų β0, β1įverčius, kurie maksimizuoja sisteminės dalies ir Yi atitikimo tikimybę

Neatsitiktiniai dydžiai

Yi=β0 + β1Xi+ εi

Atsitiktiniai dydžiai


- metodu

(y - )2

2s2

2.48

Normalusis skirstinys

Y ~ N(,s2)

1

exp

f(y) =

2ps2

f(y)

y


Maksimalaus tik tinumo metodas1
Maksimalaus tikėtinumo metodas metodu

Tarkim nagrinėjame porinę priklausomybę, kurios Yi – atsitiktinis dydis pasiskirstęs N(, σ2)

Yi=β0 + β1Xi +εi

i=E(Yi) =β0 + β1Xi

MTM – esmė


Maksimalaus tik tinumo metodas2
Maksimalaus tikėtinumo metodas metodu

Iš tikimybių teorijos žinom, jeigu Y – nepriklausomas atsitiktinis dydis, tai

...

...


Maksimalaus tik tinumo metodas3
Maksimalaus tikėtinumo metodas metodu

=

Įsistatom į tankio f-jos lygtį


Maksimalaus tik tinumo funkcija
Maksimalaus tikėtinumo funkcija metodu

LF – maksimalaus tikėtinumo funkcija

max

LF=


Maksimalaus tik tinumo funkcija imties koeficientai
Maksimalaus tikėtinumo funkcija metodu(Imties koeficientai)

Ieškome LF maksimalios reikšmės duomenų imties koeficientams, skaičiuodami dalines išvestines, prilygintas 0


Maksimalaus tik tinumo funkcija1
Maksimalaus tikėtinumo funkcija metodu

Dalinių išvestinių skaičiavimo rezultatai




Mkm ir mtm palyginimas
MKM ir MTM palyginimas metodu

  • MKM privalumai:

    • Idėjos akivaizdumas

    • Skaičiavimų paprastumas

  • MKM trūkumai

    • Kad įverčiai turėtų pageidaujamas savybes: tiesiškumą, nepaslinktumą, suderinamumą, turi būti tenkinamos klasikinio regresinio modelio prielaidos, kurias reikia tikrinti kiekviename modelyje)


Mkm ir mtm palyginimas1
MKM ir MTM palyginimas metodu

  • MTM privalumai:

    • Apskaičiuoja tiesinių ir netiesinių regresinių modelių parametrų įvarčius

    • Esant didelėms stebėjimų imtims, apskaičiuoti įverčiai turi pageidaujamas savybes

  • MTM trūkumai

    • Būtina žinoti priklausomojo kintamojo tikimybių pasiskirstymą.

    • Sudėtingi skaičiavimai

  • MKM ir MTM tiesinės regresinės lygties parametrų įverčiai sutampa, kai Y turi normalųjį tikimybių skirstinį


ad