Dr inż. Halina Tarasiuk (halina@tele.pw.pl), p. 337, tnt.tele.pw.pl

Metody Symulacyjne w Telekomunikacji (MEST)Wykład 6/7: Analiza statystyczna wyników symulacyjnych Dr inż. Halina Tarasiuk (halina@tele.pw.edu.pl), p. 337, tnt.tele.pw.edu.pl

Zagadnienia • Podstawowe pojęcia • Analiza wariancji • Przedziały ufności • Praktyczne zastosowanie rozkładu t-Studenta • Rodzaje symulacji a analiza wyników

Podstawowe pojęcia • Rozważmy n zmiennych losowych • X1, X2, ..., Xn • Cel • Dyskusja pewnych charakterystyk dla zmiennej losowej Xi • Pewne pomiary zależności, które mogą wystąpić między dwoma zmiennymi losowymi Xi i Xj

Podstawowe pojęcia • Wartość średnia/wartość oczekiwana • Mediana • Wariancja • Odchylenie standardowe • Kowariancja

Wartość średnia/wartość oczekiwana • Wartość średnią lub oczekiwaną zmiennej losowej Xi (gdzie i=1, 2, ..., n) będziemy oznaczać jako i lub E(Xi)

Wartość średnia/wartość oczekiwana • Własności • Przyjmijmy, że c lub ci oznaczają stałą (liczbę rzeczywistą) • (1) • (2) • nawet jeśli Xi są zależne

Wartość średnia/wartość oczekiwana • Przykład • Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wartość średnia wynosi: ? • Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wartość średnia wynosi: ?

Wartość średnia/wartość oczekiwana • Przykład • Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wartość średnia wynosi: • Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wartość średnia wynosi:

Mediana • Mediana (zwana też wartością środkową lub drugim kwantylem) to w statystyce wartość cechy w szeregu uporządkowanym, powyżej i poniżej której znajduje się jednakowa liczba obserwacji. Mediana jest kwantylem rzędu 1/2. • Aby obliczyć medianę ze zbioru n obserwacji, sortujemy je w kolejności od najmniejszej do największej i numerujemy od 1 do n. Następnie, jeśli n jest nieparzyste, medianą jest wartość obserwacji w środku (czyli obserwacji numer (n+1)/2). Jeśli natomiast n jest parzyste, wynikiem jest średnia arytmetyczna między dwiema środkowymi obserwacjami, czyli obserwacją numer n/2 i obserwacją numer (n/2)+1.

Mediana • Mediana x0.5 zmiennej losowej Xi jest zdefiniowana jako najmniejsza wartość x, taka że • dla zmiennej losowej ciągłej f(x) Obszar=0.5 x x0.5

Mediana • Przykład • Rozważmy zmienną losową X, która przyjmuje wartości 1, 2, 3, 4, i 5 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą ? • Rozważmy zmienną losową Y, która przyjmuje wartości 1, 2, 3, 4 i 100 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą odpowiednio ? i ?

Mediana • Przykład • Rozważmy zmienną losową X, która przyjmuje wartości 1, 2, 3, 4, i 5 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą 3. • Rozważmy zmienną losową Y, która przyjmuje wartości 1, 2, 3, 4 i 100 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą odpowiednio 22 i 3. • W rozważanych przypadkach mediana nie jest wrażliwa na zmianę rozkładu

Wariancja • Wariancja zmiennej losowej Xi o wartości oczekiwanej  zdefiniowana jest następująco • Wariancję oznaczamy również jako Var(Xi)

Wariancja • Wariancja jest miarą zmienności/rozrzutu zmiennej losowej od wartości średniej • Im wariancja jest większa, tym zmienna losowa przyjmuje wartości bardziej oddalone od wartości średniej Funkcja gęstości dla zmiennych losowych ciągłych o dużej i małej wariancji

Wariancja • Przykłady • Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wariancja wynosi: • E(X2) = ? • Var(X) = ? • Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wariancja wynosi: • E(X2) = ? • Var(X) = ?

Wariancja • Przykłady • Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wariancja wynosi: • E(X2)=43/6 • Var(X)=11/12

Wariancja • Przykłady • Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wariancja wynosi: • E(X2)=1/3 • Var(X)=1/12

Wariancja • Własności • (1) • (2) • (3)

Odchylenie standardowe • Odchylenie standardowe zmiennej losowej Xi definiujemy jako • Własności • Jest wyrażane w tych samych jednostkach, co wartości cechy

Kowariancja • Zależność liniowa między zmiennymi losowymi • Kowariancja między zmienną losową Xi iXj,która jest miarąich zależności liniowej jest oznaczana jako Cij lub Cov(Xi, Xj) i jest zdefiniowana następująco

Kowariancja • Jeśli Cij=0, wówczas zmienne losowe są nie skorelowane • Jeśli Cij>0, wówczas zmienne losowe są skorelowane dodatnio • Jeśli Cij<0, wówczas zmienne losowe są skorelowane ujemnie

Analiza wariancji • Wyniki symulacji a procesy stochastyczne • Estymacja wartości średniej, wariancji i korelacje

Wyniki symulacji a procesy stochastyczne (1) • Ponieważ większość modeli symulacyjnych używa zmiennych losowych jako parametrów wejściowych, wyniki symulacyjne są również losowe • Dlatego, należy bardzo ostrożnie wnioskować na podstawie otrzymanych wyników o ich „prawdziwości”

Wyniki symulacji a procesy stochastyczne (2) • Proces stochastyczny jest zbiorem „podobnych” zmiennych losowych uporządkowanych w czasie, które są zdefiniowane we wspólnej przestrzeni próby • Zbiór wszystkich możliwych wartości, które te zmienne losowe mogą przyjąć określamy jako przestrzeń stanu • W przypadku zbioru X1, X2, ... Mówimy o dyskretnym w czasie procesie stochastycznym • W przypadku, gdy {X(t), t0}, wówczas mamy ciągły w czasie proces stochastyczny

Wyniki symulacji a procesy stochastyczne (3) • Aby wnioskować o danym procesie stochastycznym na podstawie otrzymanych wyników symulacji, często musimy przyjąć pewne założenia, które niekoniecznie muszą być do końca prawdziwe (jednak, często bez takich założeń, analiza statystyczna wyników symulacji byłaby niemożliwa) • Przykładem, jest założenie, że proces stochastyczny jest procesem stacjonarnym z punktu widzenia kowariancji

Wyniki symulacji a procesy stochastyczne (4) • Mówimy, że dyskretny w czasie proces stochastyczny X1, X2, ... Ma ustaloną kowariancję, jeśli • i= dla i=1, 2, ... i -<< • i= dla i=1, 2, ... i 2< • oraz Ci, j+1=Cov(Xi, Xi+j) dla j=1, 2, ... • Czyli dla powyższego procesu wartość średnia i wariancja są ustalone w czasie, zaś kowariancja między Xi i Xj+i zależy tylko od j, nie zaś od rzeczywistego czasu i lub j+i

Wyniki symulacji a procesy stochastyczne (5) • Dla procesu stochastycznego o ustalonej kowariancji, kowariancję i korelację między Xi i Xi+j oznaczamy odpowiednio przez Cj oraz j, gdzie

Wyniki symulacji a procesy stochastyczne (6) • Jeśli X1, X2, ... stanowią proces stochastyczny zaczynający się w zerowej chwili czasowej symulacji jest bardzo prawdopodobne, że proces nie jest procesem o ustalonej kowariancji • Jednakże dla pewnych symulacji proces Xk+1, Xk+2 będzie w przybliżeniu procesem o ustalonej kowariancji jeśli k jest wystarczająco duże, gdzie k jest długością tzw. czasu rozbiegu

Estymacja wartości średniej, wariancji i korelacje (1) • Załóżmy, że X1, X2, ..., Xn są zmiennymi losowymi niezależnymi o takim samym rozkładzie (obserwacjami) o średniej  dla skończonej populacji i o wariancji 2dla skończonej populacji oraz, że naszym głównym celem jest oszacowanie , zaś oszacowanie 2jest kolejnym celem.

Estymacja wartości średniej, wariancji i korelacje (2) • Wówczas wartość średnia dla próby jest tzw. estymatorem nieobciążonym (punktowym) wartości , czyli • Intuicyjnie, jest nieobciążonym estymatorem średniej  wówczas, gdy wykonamy bardzo dużą liczbę niezależnych eksperymentów, z których każdy da wynik Wówczas średnia z otrzymanych powinna wynieść 

Estymacja wartości średniej, wariancji i korelacje (3) • Podobnie wariancja próbyjest nieobciążonym estymatorem 2, dopóki E[S2(n)]= 2

Estymacja wartości średniej, wariancji i korelacje (4) • Problem z użyciem jako estymatora  bez żadnej dodatkowej informacji polega na tym, że nie ma sposobu na określenie jak bardzo jest zbliżone do  • Ponieważ jest zmienną losową o wariancji • Dlatego typowym podejściem dla udowodnienia dokładności estymatora wobec  jest zastosowanie tzw. przedziałów ufności

Estymacja wartości średniej, wariancji i korelacje (5) • Jednakże pierwszym krokiem do stworzenia przedziałów ufności jest estymacja wariancji wartości średniej. Ponieważ

Estymacja wartości średniej, wariancji i korelacje (6) • Ogólnie im większy rozmiar próby, n, tym bliższym oszacowaniem  będzie • Ponadto nieobciążony estymator wariancji jest oszacowywany przez zastąpienie 2 przez S2(n)

Estymacja wartości średniej, wariancji i korelacje (7) • Ostatecznie • Należy zauważyć, że powyższe wyrażenie ma w mianowniku n i n-1 ze względu na Xi jak i

Przedziały ufności (1) • Przedziały ufności dla  • Załóżmy, że X1, X2, ..., Xn są zmiennymi losowymi niezależnymi o takim samym rozkładzie (obserwacjami) o skończonej średniej  i o skończonej wariancji 2oraz, że 2>0

Przedziały ufności (2) • Graniczne twierdzenie centralne • Niech Zn będzie zmienną losową • i niech Fn(z) będzie dystrybuantą zmiennej losowej Zn dla próby o rozmiarze n

Przedziały ufności (3) • Graniczne twierdzenie centralne • jeśli n jest wystarczająco duże wówczas zmienna losowa Zn będzie miała rozkład zbliżony do rozkładu normalnego • Na podstawie teorii możemy przyjąć, że zmienna losowa ma w przybliżeniu rozkład normalny z wartością średnią  i wariancją 2/n

Przedziały ufności (4) • Graniczne twierdzenie centralne • Trudność w zastosowaniu tej teorii polega na tym, iż w praktyce wariancja 2 jest nieznana. Jednak dla dużego n 2 możemy zastąpić przez wariancję próbkową w wyrażeniu na Zn • Po tych zmianach teoria mówi, że dla wystarczająco dużego n, zmienna losowa tn • ma rozkład zbliżony do rozkładu normalnego

Przedziały ufności (5) • Dla dużego ngdzie 0<<1

Przedziały ufności (6) • Dlatego też dla wystarczająco dużego n przybliżony przedział ufności na poziomie ufności 100(1-) procent dla  wynosi

Praktyczne zastosowanie rozkładu t-Studenta (1) • W praktyce trudno jest określić, co oznacza wystarczająco duża liczba prób n • Dlatego dla oszacowania przedziałów ufności stosuje się rozkład t-Studenta z n-1 stopniami swobody

Praktyczne zastosowanie rozkładu t-Studenta (2) • Jeśli Xi są zmiennymi losowymi o rozkładzie normalnym, zmienna losowama rozkład t z n-1 stopniami swobody, wówczas dokładny przedział ufności na poziomie 100(1-) dla  wynosi

Praktyczne zastosowanie rozkładu t-Studenta (3) - przykład • Dla 10 prób należy wyznaczyć wartości liczbowe końcowe przedziału ufności dla wartości średniej przyjmując poziom ufności 1-=0.95. Wartości zmiennej losowej wynoszą odpowiednio: 1472.116 1456.113 1471.995 1481.456 1491.801 1485.368 1496.552 1456.148 1496.655 1488.660

Dr inż. Halina Tarasiuk (halina@tele.pw.pl), p. 337, tnt.tele.pw.pl