regresijos lygties parametr vertinimas n.
Download
Skip this Video
Download Presentation
Regresijos lygties parametr? vertinimas

Loading in 2 Seconds...

play fullscreen
1 / 46

Regresijos lygties parametr? vertinimas - PowerPoint PPT Presentation


  • 473 Views
  • Uploaded on

Regresijos lygties parametrų vertinimas. 20 14 -0 2 - 19. D.Gujarati Part 1 “ Single-Eguation regression Models” 3 skyrelis “Two –variable Regression model:The Problem of Estimation” ir 4 skyrelis The Normality Assumption: CNLRM). Porinė tiesinė regresija: parametrų vertinimas.

loader
I am the owner, or an agent authorized to act on behalf of the owner, of the copyrighted work described.
capcha
Download Presentation

PowerPoint Slideshow about 'Regresijos lygties parametr? vertinimas' - maia-tucker


Download Now An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -
Presentation Transcript
regresijos lygties parametr vertinimas
Regresijos lygties parametrų vertinimas

2014-02-19

D.Gujarati Part 1 “ Single-Eguation regression Models”

3 skyrelis “Two –variable Regression model:The Problem of Estimation” ir

4 skyrelis The Normality Assumption: CNLRM)

porin tiesin regresija parametr vertinimas
Porinė tiesinė regresija: parametrų vertinimas
  • Grafinė ir statistinė duomenų analizė
  • Parametrų vertinimas mažiausių kvadratų metodu
    • Porinė tiesinė regresija
    • Dauginė tiesinė regresija
    • Klasikinio regresinio modelio prielaidos
    • Gauso-Markovo teorema
    • Įverčių savybės
    • Regresijos paklaida ir jos įvertis
  • Maksimalaus tikėtinumo metodas
regresijos parametr vertinimo metodai
Regresijos parametrų vertinimo metodai

Regresinis modelis – bendras atvejis

Porinė tiesinė regresija

Yi=β0 + β2Xi + εi

=

β0 + β1 Xi

+

εi

Yi

Sisteminė/dėsningoji dalis

Atsitiktinė dalis

regresijos parametr vertinimo metodai1
Regresijos parametrų vertinimo metodai
  • MKM – rasti tokius parametrų β1,β2 įverčius, kurie minimizuoja modelio paklaidas, t.y atsitiktinę modelio dalį.
  • MTM – rasti tokius parametrų įverčius β1,β2, kurie maksimizuoja sisteminės dalies ir Yi atitikimo tikimybę
parametr ver i nustatymas ma iausi kvadrat metodu
Parametrų įverčių nustatymas mažiausių kvadratų metodu

Yi=0+1Xi+i Yi = b0+ b1Xi +ei

MKM

Įrodymas auditorijoje

slide8

Y

.

Y4

{

e4

.

e3

}

Y3

.

Y2

e2

{

}

e1

.

Y1

x2

x1

x4

x3

x

Y, e ir tiesinė regresijos lygtis

parametr ver i nustatymas ma iausi kvadrat metodu1
Parametrų įverčių nustatymas mažiausių kvadratų metodu
  • Formulių išvedimas paskaitos metu
parametr ver i nustatymas ma iausi kvadrat metodu2
Parametrų įverčių nustatymas mažiausių kvadratų metodu

Galimos b1 matematinėsišraiškos

Įrodymas auditorijoje

pvz matavimo vienet taka koeficientams
Pvz. Matavimo vienetų įtaka koeficientams

YSŪ irXMŪ - cm

YSŪ irXMŪ - metrais

YSŪ- cm , XMŪ - m

YSŪ- m , XMŪ - cm

daugin s regresijos ver i nustatymas ma iausi kvadrat metodu
Dauginės regresijos įverčių nustatymas mažiausių kvadratų metodu

Yi=0 +1X1i + 2X2i+iYi = b0+ b1Xi + b2X2i+ ei

MKM

slide13

MKM dviems kintamiesiems

Yi = 0 + 1X1 + 2X2 + ei

Pasižymime :

slide14

2

yi xi1xi2 yi xi2xi1xi2

b1 =

2

2

xi1 xi2 xi1xi2

2

2

yi xi2xi1 yi xi1xi2xi1

b2 =

2

2

xi1 xi2 xi1xi2

2

MKM dviems kintamiesiems

mkm ver i savyb s
MKM įverčių savybės
  • Įverčiai yra atsitiktiniai dydžiai
  • Įverčiai yra tiesiniai, nepaslinkti, efektyvūs ir suderinti
ver iai atsitiktiniai dyd iai
Įverčiai atsitiktiniai dydžiai

Įverčiai, kaip ir visi atsitiktiniai dydžiai, charakterizuojami vidurkiu ir dispersija

gauso markovo teorema
Gauso-Markovo teorema
  • Teorema

Jeigu yra tenkinamos klasikinio regresinio modelio prielaidos, tai mažiausių kvadratų metodu apskaičiuoti regresijos įverčiai yra tiesiniai, nepaslinkti ir turi mažiausią dispersiją nepaslinktų tiesinių įverčių klasėje.

s vokos
Sąvokos
  • Tiesiniai įverčiai
    • Gauti įverčiai yra apskaičiuoti pagal tiesinę Y atžvilgiu lygtį
  • Nepaslinkti įverčiai
    • Įverčių bj, apskaičiuotų skirtingų duomenų imčių pagrindu, vidurkis yra lygus tikrajai parametro reikšmei E(bj)=j
  • Efektyvūs
    • Efektyvus įvertis –tai įvertis turintis mažiausią dispersiją nepaslinktų įverčių klasėje, t.y., įvertis, esantis arčiausiai tikrosios parametro reikšmės
  • Suderinti
    • Suderintas - tai toks įvertis, kurio reikšmės artėja prie tikrosios parametro reikšmės, didėjant stebėjimų skaičiui
mkm ver i savybi rodymas
MKM įverčių savybių įrodymas
  • Tiesiškumas

Suma lygi 0

Konstanta

ma os imties ver i pageidaujamos savyb s
Mažos imties įverčių pageidaujamos savybės
  • Nepaslinktumas

Tikimybių tankis

1bj

2bj

βj

Tikroji parametro reikšmė

VU EF Vita Karpuškienė

efektyv s ver iai

3.15

Efektyvūs įverčiai

Įverčių efektyvumas

Efektyvus

Tikimybių tankis

Neefektyvūs

βj

suderinti ver iai

3.15

Suderinti įverčiai

N=10

Suderinamumas

Tikimybių tankis

N=1000

N=5000

slide28

Įverčiai tiesiniai nepaslinkti ir efektyvūs

yi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

xi

slide29

Įverčiai tiesiniai paslinkti

yi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

xi

gauss markov teoremos rodymas
Gauss –Markov teoremos įrodymas

Efektyvumas

Tarkim turime tiesinį nepaslinktą įvertį, kurio dispersija yra mažiausia

Tiesinis

Efektyvumas

Min pasiekiamas tuo atveju, kai

porin s regresijos paklaida ir jos vertis
Porinės regresijos paklaida ir jos įvertis

Porinės regresijos paklaida

Modelio paklaidos įvertis yra atsitiktinis dydis, kuris apibūdinamas vidurkiu ir dispersija;

  • Vidurkis E(e)=0
  • Dispersijos įvertis
  • Standartinė modelio paklaida
daugin s regresijos paklaida ir jos vertis
Dauginės regresijos paklaida ir jos įvertis

Dauginės regresijos paklaida

Modelio paklaidos įvertis yra atsitiktinis dydis, kuris apibūdinamas vidurkiu ir dispersija;

  • Vidurkis E(e)=0
  • Dispersijos įvertis
  • Standartinė modelio paklaida
maksimalaus tik tinumo metodas
Maksimalaus tikėtinumo metodas
  • Idėja:

Rasti tokius parametrų β0, β1įverčius, kurie maksimizuoja sisteminės dalies ir Yi atitikimo tikimybę

Neatsitiktiniai dydžiai

Yi=β0 + β1Xi+ εi

Atsitiktiniai dydžiai

slide36

-

(y - )2

2s2

2.48

Normalusis skirstinys

Y ~ N(,s2)

1

exp

f(y) =

2ps2

f(y)

y

maksimalaus tik tinumo metodas1
Maksimalaus tikėtinumo metodas

Tarkim nagrinėjame porinę priklausomybę, kurios Yi – atsitiktinis dydis pasiskirstęs N(, σ2)

Yi=β0 + β1Xi +εi

i=E(Yi) =β0 + β1Xi

MTM – esmė

maksimalaus tik tinumo metodas2
Maksimalaus tikėtinumo metodas

Iš tikimybių teorijos žinom, jeigu Y – nepriklausomas atsitiktinis dydis, tai

...

...

maksimalaus tik tinumo metodas3
Maksimalaus tikėtinumo metodas

=

Įsistatom į tankio f-jos lygtį

maksimalaus tik tinumo funkcija
Maksimalaus tikėtinumo funkcija

LF – maksimalaus tikėtinumo funkcija

max

LF=

maksimalaus tik tinumo funkcija imties koeficientai
Maksimalaus tikėtinumo funkcija(Imties koeficientai)

Ieškome LF maksimalios reikšmės duomenų imties koeficientams, skaičiuodami dalines išvestines, prilygintas 0

maksimalaus tik tinumo funkcija1
Maksimalaus tikėtinumo funkcija

Dalinių išvestinių skaičiavimo rezultatai

mkm ir mtm palyginimas
MKM ir MTM palyginimas
  • MKM privalumai:
    • Idėjos akivaizdumas
    • Skaičiavimų paprastumas
  • MKM trūkumai
    • Kad įverčiai turėtų pageidaujamas savybes: tiesiškumą, nepaslinktumą, suderinamumą, turi būti tenkinamos klasikinio regresinio modelio prielaidos, kurias reikia tikrinti kiekviename modelyje)
mkm ir mtm palyginimas1
MKM ir MTM palyginimas
  • MTM privalumai:
    • Apskaičiuoja tiesinių ir netiesinių regresinių modelių parametrų įvarčius
    • Esant didelėms stebėjimų imtims, apskaičiuoti įverčiai turi pageidaujamas savybes
  • MTM trūkumai
    • Būtina žinoti priklausomojo kintamojo tikimybių pasiskirstymą.
    • Sudėtingi skaičiavimai
  • MKM ir MTM tiesinės regresinės lygties parametrų įverčiai sutampa, kai Y turi normalųjį tikimybių skirstinį