Matematyka z el. statystyki, # 3 /Geodezja i kartografia II/ Uniwersytet Przyrodniczy w Lublinie Katedra Zastosowań Matematyki i Informatyki ul. Akademicka 15, p.211a bud. Agro II, e-mail: zdzislaw.otachel@up.lublin.pl materiały: http://kzmi.up.lublin.pl/ zotachel/geo2i3 konsultacje: poniedziałek,wtorek 10-12 Lublin, 2018/19
Zmienne losowe i ich rozkłady
Pojęcie zmiennej losowej Definicja 1 Niech Ω będzie przestrzenią zdarzeń elementarnych z σ-ciałem zdarzeń S. Zmienna losowa to każda rzeczywista funkcja X określona na Ω, taka że {ω Ω : X (ω) a} S dla dowolnej liczby rzeczywistej a. Zmienne losowe będziemy oznaczać X, Y, Z,..., a ich wartości odpowiednio x, y, z,... ; dla każdej zmiennej losowej X i dowolnego zbioru borelowskiego A R 1 podzbiór {ω Ω : X A} jest zdarzeniem, w szczególności, dla dowolnych liczb rzeczywistych a b zdarzeniami są: {ω Ω : X < a}, {ω Ω : a < X b}, {ω Ω : X = a}, itp.; jeżeli Ω jest co najwyżej przeliczalnym zbiorem zdarzeń elementarnych, to każda funkcja rzeczywista określona na Ω jest zmienną losową.
Przykład 1 Zmienną losową jest eksperyment, który polega na wylosowaniu obiektu z ustalonej populacji i pomiarze określonej cechy. W tym sensie każdą statystycznie badaną cechę można utożsamić ze zmienną losową.
Podział zmiennych losowych Zmienne losowe, tak jak cechy w populacjach, podzielimy na dwie kategorie: skokowe - przyjmujące przeliczalną liczbę wartości, ciągłe - przyjmujące wszystkie wartości z pewnego przedziału liczbowego. Nietrudno zauważyć, że zmienna losowa ciągła może być określona tylko na nieskończonej przestrzeni zdarzeń elementarnych.
Rozkład zmiennej losowej skokowej Niech wszystkimi wartościami zm. l. X będą liczby x i, a p i będą prawdopodobieństwami zdarzeń {ω Ω : X = x i }. Definicja 2 Funkcją rozkładu prawdopodobieństwa zm. l. X (krótko: rozkładem zm. l.) nazywamy przyporządkowanie: x i p i = P(X = x i ). Zdarzenia {ω Ω : X = x i } = {X = x i } są rozłączne i sumują się do Ω, zatem p i = 1. W przypadku skończonym rozkład prawdopodobieństwa zm. l. X można opisać za pomocą tabeli: x i p i = P(X = x i ) x 1 p 1 x 2 p 2. x n. p n
Rozkład zerojedynkowy (dwupunktowy) Zmienna losowa o tym rozkładzie przyjmuje tylko dwie wartości (umownie) 1 i 0 z prawdopodobieństwami p i q, p + q = 1. Niech, (Ω, S, P) przestrzenią prawdopodobieństwa związaną z pewnym eksperymentem losowym, a A S - zdarzeniem o prawdopodobieństwie p = P(A). Zmienna losowa X = { 1, A zaszło, 0, A nie zaszło ma rozkład dwupunktowy. Rozkład tego typu pojawia się, gdy elementy pewnej populacji klasyfikujemy dychotomicznie: dobry/zły, sprawny/ niesprawny itp.
Rozkład Bernoulliego (dwumianowy) Zmienna losowa X ma rozkład Bernoulliego z parametrami n i p (n - liczba całkowita dodatnia, p jest liczbą z przedziału [0, 1]), jeżeli przyjmuje wartości k = 0, 1, 2,..., n z prawdopodobieństwem: P n,p (k) = ( n k) p k (1 p) n k. Jeżeli doświadczenie jest schematem n prób Bernoulliego z prawdopodobieństwem sukcesu p, to zmienna losowa X określona jako ilość sukcesów w tym doświadczeniu ma rozkład Bernoulliego. Niech { 1, sukces w i tej próbie, X i = 0, porażka w i tej próbie. Wtedy X = X 1 + X 2 + + X n. Na podstawie dwumianowego wzoru Newtona: P n,p (0) + P n,p (1) + + P n,p (n) = ( n 0)p 0 (1 p) n + ( n 1)p 1 (1 p) n 1 + + ( n n)p n (1 p) 0 = 1.
Rozkład geometryczny Zmienna losowa X ma rozkład geometryczny z parametrem p (p jest liczbą z przedziału [0,1]) jeżeli przyjmuje wszystkie wartości naturalne k = 1, 2,..., z prawdopodobieństwami: P(X = k) = (1 p) k 1 p, k = 1, 2,.... Jeżeli wykonujemy serię niezależnych prób pewnego doświadczenia, które w wyniku daje sukces z prawdopodobieństwem p, to zmienna losowa określona jako ilość prób do wystąpienia pierwszego sukcesu ma rozkład geometryczny. Na podstawie wzoru na sumę wszystkich wyrazów ciągu geometrycznego: P(X = 1)+P(X = 2)+P(X = 3)+ = p+(1 p)p+(1 p) 2 p+ = p[1 + (1 p) + (1 p) 2 1 +... ] = p 1 (1 p) = 1.
Rozkład Pascala Zmienna losowa X ma rozkład Pascala z parametrami k i p (k liczba całkowita dodatnia, p jest liczbą z przedziału [0,1]), jeżeli przyjmuje wartości naturalne n = k, k + 1, k + 2,... z prawdopodobieństwami: ( ) n 1 P k (X = n) = p k (1 p) n k, n = k, k + 1, k + 2,.... k 1 Jeżeli wykonujemy serię niezależnych prób pewnego doświadczenia, które w wyniku daje sukces z prawdopodobieństwem p, to zmienna losowa określona jako ilość prób do otrzymania k sukcesów ma rozkład Pascala. Rozkład geometryczny jest szczególnym przypadkiem rozkładu Pascala dla k = 1.
Rozkład Poissona Zmienna losowa X ma rozkład Poissona z parametrem λ (λ liczba dodatnia), jeżeli przyjmuje wartości k = 0, 1, 2,... z prawdopodobieństwami: p(k) = P(X = k) = e λ λk, k = 0, 1, 2,.... k! Rozkład tego typu występuje w naturalny sposób w zjawisku promieniotwórczości. Przykład 2 Doświadczenie polegało na rejestrowaniu ilości cząstek k - produktów rozpadu radioaktywnego, w interwale czasowym równym 7, 5 s. Przeprowadzono N = 2608 takich niezależnych doświadczeń. Dane liczbowe zebrane są w następującej tabeli, gdzie n k jest ilością interwałów, w których licznik zarejestrował k = 0, 1, 2,... cząstek, p(k) jest prawdopodobieństwem z rozkładu Poissona dla λ = 3, 85 = 1 10 N k=0 kn k:
n k n k k N p(k) 0 57 0,022 0,021 1 203 0,078 0,082 2 383 0,147 0,158 3 525 0,201 0,202 4 532 0,204 0,195 5 408 0,156 0,150 6 273 0,105 0,096 7 139 0,053 0,053 8 45 0,017 0,025 9 27 0,010 0,011 10 16 0,006 0,006 N = 2608 0,999 1,000
Problem polegający na dopasowaniu rozkładu teoretycznego do obserwowanego rozkładu empirycznego jest kluczowym zagadnieniem statystyki matematycznej.
Twierdzenie Poissona Rozkład Poissona stanowi dobre przybliżenie rozkładu Bernoulliego w przypadku, gdy liczba prób n jest duża ( w praktyce większa niż 50), prawdopodobieństwo sukcesu p jest małe (mniejsze niż 1/10), a wartość iloczynu np jest przeciętna (z przedziału [1, 10]). Dokładniej: P n,p (X = k) = ( n k ) p k (1 p) n k e dla n 50, p 1/10, np 10. np (np)k, k = 0, 1, 2,..., k!
Dystrybuanta zmiennej losowej Niech u oznacza liczbę rzeczywistą, a X zmienną losową (skokową lub ciągłą). Dla każdego u zbiór {X u} jest zdarzeniem. Definicja 3 Dystrybuantą zmiennej losowej X nazywamy rzeczywistą funkcję F := F X określoną na zbiorze liczb rzeczywistych w następujący sposób: F (u) = P(X u).
Własności dystrybuanty 0 F (u) 1, dla każdej liczby rzeczywistej u, F (u) 0, gdy u oraz F (u) 1, gdy u, Dystrybuanta jest funkcją niemalejącą, tzn. u 1 u 2 implikuje F (u 1 ) F (u 2 ) dla dowolnych liczb u 1, u 2, Dystrybuanta jest funkcją prawostronnie ciągłą, P(a < X b) = F (b) F (a). Ostatnia własność jest szczególnie ważna, znając dystrybuantę zmiennej losowej X jesteśmy w stanie obliczać prawdopodobieństwa zdarzeń określanych za pomocą relacji niewiększości, więc praktycznie wszystkich zdarzeń. W tym sensie znajomość dystrybuanty jest równoważna znajomości rozkładu prawdopodobieństwa. Dla zmiennych losowych ciągłych jest to jedna z dwóch równoważnych możliwości opisu rozkładu prawdopodobieństwa.
Dystrybuanta zmiennej losowej skokowej Jeżeli (x i, p i ) jest rozkładem zmiennej losowej X to jej dystrybuanta jest funkcją schodową niemalejącą (tzn. funkcją sklejoną z części funkcji stałych), która ma w punktach o odciętych x i stopnie o wysokości p i.
Rozkład prawdopodobieństwa zmiennej losowej ciągłej Jedną z cech wyróżniających takie rozkłady jest fakt, że prawdopodobieństwo przyjęcia przez zmienną losową ciągłą konkretnej wartości jest równe zero. Rozkład zmiennej losowej ciągłej możemy opisać poprzez podanie jej dystrybuanty. Dystrybuanta zmiennej losowej ciągłej jest ciągłą funkcją niemalejącą.
Gęstość prawdopodobieństwa zmiennej losowej ciągłej Niech F (u) = P(X u) będzie dystrybuantą ciągłej zmiennej losowej X. Niech f (x) := f X (x) będzie taką funkcją, że dla dowolnej liczby u: P(X u) = u f (x)dx = F (u). Tak określoną funkcję f (x) na zbiorze wszystkich liczb rzeczywistych x nazywamy funkcją gęstości prawdopodobieństwa zmiennej losowej (ciągłej) X. Geometrycznie:
Własności gęstość prawdopodobieństwa Przyjmuje tylko nieujemne wartości, tzn. f (x) 0, + f (x)dx = 1, geometrycznie oznacza to, że pole figury na płaszczyźnie z prostokątnym układem współrzędnych ograniczone osią odciętych x i wykresem funkcji y = f (x) jest równe 1 (jest to prawdopodobieństwo zdarzenia pewnego {X < + }).
Pochodna dystrybuanty jest równa funkcji gęstości prawdopodobieństwa, tzn. F (x) = f (x), w punktach ciągłości funkcji f, prawdopodobieństwa zdarzeń geometrycznie interpretuje się jako pola figur ograniczonych osią odciętych x i wykresem funkcji gęstości prawdopodobieństwa f (x): P 1 = P(X < a) = F (a), P 2 = P(b < X < c) = F (c) F (b), P 3 = P(X > d) = 1 F (d).
Rozkład normalny Jest najczęściej spotykanym rozkładem ciągłym w zjawiskach przyrodniczych. Zmienna losowa o tym rozkładzie przyjmuje wszystkie wartości rzeczywiste. Funkcja gęstości prawdopodobieństwa tego rozkładu ma postać: f (x) = 1 σ (x µ) 2 2π e 2σ 2, gdzie µ jest dowolną, a σ dodatnią liczbą rzeczywistą. Fakt, że zm. los X ma rozkład normalny będzie zapisywany symbolicznie: X N(µ, σ). Rozkład normalny ma pomiar odległości między dwoma ustalonymi punktami w terenie za pomoca tego samego urzadzenia pomiarowego. Wartość µ należy interpretować jako rzeczywistą (niepoznawalną) odległość, wartość σ jest związana z charakterystyką urzadzenia pomiarowego.
Własności rozkładu normalnego Wykresem funkcji gęstości jest tzw. krzywa Gaussa mająca kształt dzwonu; jest ona symetryczna względem prostej x = µ (tj. prostej prostopadłej do osi x w punkcie x = µ); w punkcie x = µ funkcja gęstości osiąga maksimum równe 1/σ 2π; pole figury ograniczonej krzywą Gaussa a osią x jest równe 1; zmiana parametrów µ i σ powoduje zmianę położenia i kształtu krzywej, np. większa wartość σ powoduje, że krzywa staje się szersza i niższa. Prawo trzech sigm: P(µ σ < X < µ + σ) = 0, 6827, P(µ 2σ < X < µ + 2σ) = 0, 9545, P(µ 3σ < X < µ + 3σ) = 0, 9973.
Krzywa Gaussa
Rozkład normalny standardowy Jest to rozkład normalny z parametrami µ = 0 i σ = 1. Funkcja gęstości prawdopodobieństwa tego rozkładu ma postać: f (x) = 1 2π e x2 2. Okazuje się, że każdą zmienną losową o rozkładzie normalnym można za pomocą przekształcenia liniowego sprowadzić do zmiennej losowej U o rozkładzie normalnym standardowym. Dokładniej: Jeżeli X N(µ, σ), to U = X µ σ N(0, 1).
Rozkład normalny standardowy - cd. Dystrybuanta rozkładu normalnego standardowego ma własność: F ( u) = 1 F (u)
Rozkład jednostajny Zmienna losowa ma rozkład jednostajny na przedziale [a, b], a < b, jeżeli funkcja gęstości prawdopodobieństwa ma postać: f (x) = { 1 b a, a x b 0, poza. X [a, b] ma rozkład jednostajny wtedy i tylko wtedy, gdy P(α < X < β) = β α, [α, β] [a, b], b a tzn. prawdopodobieństwo liczymy zgodnie ze modelem prawdopodobieństwa geometrycznego. Ilość zaobserwowanych wartości zmiennej losowej w przedziale [α, β] jest proporcjonalna do długości przedziału. Np., w Excelu, wartości funkcji LOS() są generowane zgodnie z rozkładem jednostajnym na przedziale [0, 1].
Rozkład wykładniczy Zmienna losowa ma rozkład wykładniczy z parametrem θ > 0, jeżeli funkcja gęstości prawdopodobieństwa ma postać: f (x) = natomiast dystrybuanta: F (x) = { θe θx, x > 0 0, poza, { 0, x 0 1 e θx, x > 0. Rozkłady tego typu występują przy obserwowaniu czasu oczekiwania na obsługę, połączenie telefoniczne, czasu bezawaryjnej pracy maszyn, itp.
Rozkład gamma Zmienna losowa ma rozkład gamma z parametrami a > 0, p > 0, jeżeli funkcja gęstości prawdopodobieństwa ma postać: f (x) = { a p Γ(p) x p 1 e ax, x > 0 0, poza, gdzie Γ(p) = 0 x p 1 e x dx jest funkcją gamma Eulera. Rozkład wykładniczy jest szczególnym przypadkiem rozkładu gamma (p = 1, a = θ). Własności funkcji gamma: Γ(p) = (p 1)Γ(p 1), p > 1, dla n naturalnego Γ(n) = (n 1)!, Γ(1) = 0! = 1, Γ( 1 2 ) = 2 0 e t2 dt = π.
Funkcje zmiennych losowych Funkcję g : R R nazywamy borelowską, jeżeli dla dowolnego a R zbiór g 1 ((, a]) = {x R : g(x) a} jest borelowskim podzbiorem prostej. Funkcje ciągłe, funkcje monotoniczne są borelowskie. Złożenia, sumy, iloczyny, ilorazy funkcji borelowskich sa borelowskie. Twierdzenie 1 Niech X będzie zmienną losową określoną na pewnej przestrzeni probabilistycznej, a g : R R funkcją borelowską. Wtedy złożenie Y = g X jest zmienną losową na tej przestrzeni. W szczególności X α, α > 0 jest zmienną losową.
Rozkłady funkcji zmiennych losowych Jeżeli Y = g X jest zmienną losową, to powstaje problem wyznaczenia rozkładu jej rozkładu. Spostrzeżenie 1 Jeżeli g jest funkcją rosnącą, to F Y (u) = P(g(X ) u) = P(X g 1 (u)) = F X (g 1 (u)). Spostrzeżenie 2 Dla ciągłej zmiennej losowej X : F X 2(u) = f X 2(t) = { 0, u 0 P( X u) = F X ( u) F X ( u), u > 0 { 0, t 0 f X ( t)+f X ( t) 2, t > 0 t
Parametry rozkładów prawdopodobieństwa Rozkładom prawdopodobieństwa przypisuje się parametry liczbowe, które je charakteryzują. Umożliwia to m.in. porównywanie rozkładów prawdopodobieństwa dla różnych cech. Dla zmiennej losowej X, najważniejsze z takich parametrów to wartość oczekiwana wartość średnia (ozn. EX ), wariancja (ozn. VarX ), momenty. Wokół wartości oczekiwanej skupiają się wartości przyjmowane przez zmienna losową, natomiast wariancja jest miarą rozproszenia tych wartości wokół średniej. Jeżeli doświadczenie polega na obserwowaniu wartości zmiennej losowej (cechy) X, to średnia (arytmetyczna) tych obserwacji x stanowi przybliżenie wartości oczekiwanej EX, natomiast wariancja S 2 x obserwacji przybliża wariancję rozkładu zmiennej losowej - VarX. Przybliżenia są tym lepsze im więcej obserwacji użyto do wyznaczenia charakterystyk.
Wartość oczekiwana i momenty Niech zmienna losowa X przyjmuje wartości x 1, x 2,... z prawdopodobieństwami p 1, p 2,.... Jeżeli szereg x i p i jest zbieżny, to EX = x i p i. i Jeżeli X jest zmienna losową ciągłą z funkcją gęstości f i zbieżna jest całka x f (x)dx, to EX = x f (x)dx. Jeżeli rozpatrywany wyżej szereg albo całka nie są zbieżne, to mówimy, że wartość oczekiwana nie istnieje. Dla zm. los. X i liczby naturalnej k wartości m k = EX k, M k = E(X EX ) k nazywamy odpowiednio momentem zwykłym i momentem centralnym k-tego rzędu.
Wariancja i odchylenie standardowe Moment centralny 2-go rzędu nazywamy wariancją. Pierwiastek z wariancji VarX nazywamy odchylenie standardowym rozkładu zm. los. X. Twierdzenie 2 Z istnienia r-tego momentu zmiennej losowej wynika istnienie wszystkich momentów rzędu l < r. W szcególności, istnienie 2-go momentu zwykłego implikuje istnienie wartości oczekiwane i wariancji. Twierdzenie 3 VarX = 0 X ma rozkład jednopunktowy. Rozkład jednopunktowy (deterministyczny) ma zmienna losowa przyjmująca jedną wartość z prawdopodobieństwem 1.