Jan Rusinek. Elementy rachunku prawdopodobiestwa i statystyki matematycznej

Transkrypt

1 Jan Rusinek Elementy rachunku prawdopodobiestwa i statystyki matematycznej UWAGA! Ten tekst jest cały czas w trakcie przygotowania i sprawdzania. Może zawierać błędy. Jest sukcesywnie poprawiany i umieszczany pod aktualną datą! Obecna data

2 2

3 Spis treści Wstęp Część 1. Elementy Rachunku Prawdopodobieństwa Elementy kombinatoryki Wzór Stirlinga Podstawowe pojęcia Prawdopodobieństwo warunkowe Elementy diagnostyki Zdarzenia niezależne Schemat Bernoulliego Zmienna losowa Rozkład i dystrybuanta zmiennej losowej Funkcje zmiennej losowej i ich rozkłady Wartość oczekiwana, wariancja i odchylenie standardowe Wartość oczekiwana i wariancja funkcji zmiennej losowej Inne parametry rozkładu Kowariancja i korelacja Rozkład normalny (Gaussa) Inne rozkłady Kwantyle rozkładu Niezależne zmienne losowe Wyznaczanie ekstremum metodą Monte Carlo Twierdzenia graniczne Metoda Monte Carlo obliczania całek Część 2. Elementy statystyki matematycznej Wprowadzenie Estymacja punktowa Weryfikacja hipotez Testy zgodności Estymacja przedziałowa Wyznaczanie przedziałów ufności Minimalna liczność próby Parametryczne testy istotności Hipotezy o równości cechy w dwóch populacjach

4 6 Spis treści Porównanie dwóch średnich w przypadku zależnych prób Test χ 2 niezależności Tablice

5 Wstęp Podręcznik ten zawiera podstawowe elementy rachunku prawdopodobieństwa i statystyki matematycznej. Tekst unika dowodów, ale stara się ilustrować teorię różnymi zastosowaniami. Trudniejsze i dłuższe przykłady oznaczone są *. W zadaniach wymagających dokonania pewnych prostych, ale żmudnych obliczeń rachunkowych te obliczenia są zwykle pomijane - każdy może je sam wykonać przy pomocy kalkulatora lub komputera - ważniejszy jest sposób dojścia do nich i interpretacja otrzymanego rezultatu.

6

7 Część 1. Elementy Rachunku Prawdopodobieństwa

8 10 1. Elementy Rachunku Prawdopodobieństwa 1.1. Elementy kombinatoryki Przypomnimy podstawowe wzory potrzebne w dalszych rozważaniach. Permutacja. Permutacją nazywamy dowolne odwzorowanie różnowartościowe zbioru n-elementowego w zbiór {1, 2,..., n}. Liczba n-elementowych permutacji wyraża się wzorem: P n = n! = n. (1.1) Z permutacją mamy do czynienia wtedy, gdy pytamy się na ile sposobów można ustawić jakiś zbiór różnych elementów w szereg.

9 1.1. Elementy kombinatoryki 11 PRZYKŁAD 1. W finale biegu na 100 metrów startują czterej biegacze. Ile jest wszystkich możliwych rezultatów biegu? R o z w i ą z a n i e. Wszystkich rezultatów będzie 4!, czyli 24. Kombinacja. Jest to k-elementowy podzbiór zbioru n-elementowego. Liczba takich podzbiorów wyraża się wzorem C k n = ( ) n = k n! k!(n k)!. (1.2)

10 12 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 2. Spośród 10 osób mamy wybrać trzyosobową delegację. Na ile sposobów możemy to zrobić? R o z w i ą z a n i e. Możemy to zrobić na C10 3 = ( ) 10 3 sposobów czyli = 120 sposobów.

11 1.1. Elementy kombinatoryki 13 PRZYKŁAD 3. Dietetycy sugerują, że każdy człowiek powinien w ciągu dnia zjeść co najmniej 4 potrawy z mleka, dwie potrawy mięsne, 3 potrawy z owoców i warzyw i 4 potrawy mączne. Przypuśćmy, że stołówka dysponuje 6 potrawami mlecznymi, 10 potrawami mięsnymi, 7 potrawami z owoców i warzyw i 5 potrawami mącznymi. Ile można utworzyć zestawów potraw zgodnych z zaleceniami dietetyków? R o z w i ą z a n i e. Aby rozwiązać to zadanie, trzeba obliczyć liczbę kombinacji w każdej grupie potraw, a potem otrzymane wyniki przemnożyć. I tak liczba możliwości w grupie mlecznej wynosi C6 4 = = 15. Liczba możliwości w grupie mięsnej wynosi C10 2 = = 45. Liczba możliwości w grupie owoco wo-wa rzywnej wynosi C7 3 = = 35. Liczba możliwości w grupie mącznej wynosi C5 4 = 5. Ostatecznie otrzymujemy wynik: wszystkich zestawów potraw jest = Wariacja bez powtórzeń. Jest to odwzorowanie różnowartościowe zbioru k-elementowego w zbiór n-elementowy (k n). Liczba takich odwzorowań wyraża się wzorem A k n = n! (n k)!. (1.3)

12 14 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 4. W wyścigach konnych typuje się kolejność trzech pierwszych koni. W wyścigu startuje 8 koni. Ile jest możliwych typów? R o z w i ą z a n i e. Typów jest A 3 8 = 8! 5! = = 336. Wariacja z powtórzeniami to dowolne (niekoniecznie różnowartościowe) odwzorowanie zbioru k-elementowego w zbiór n-elementowy. Liczba takich odwzorowań jest równa n k.

13 1.1. Elementy kombinatoryki 15 PRZYKŁAD 5. W grupie jest 5 studentów: s 1, s 2, s 3, s 4, s 5. Trzeba ich podzielić na dwie podgrupy angielską i francuską - każdy z nich może wybrać jeden język spośród dwóch. Ile jest wszystkich możliwych podziałów? R o z w i ą z a n i e. Oznaczmy przez X zbiór {s 1, s 2, s 3, s 4, s 5 }, a przez Y zbiór {A, F }. Każdemu studentowi (czyli elementowi zbioru X) przyporządkowujemy wybrany język (a więc element zbioru Y ). Zatem wszystkich podziałów jest tyle, ile funkcji ze zbioru X (k = 5) w zbiór Y (n = 2), a więc 2 5 = 32.

14 16 1. Elementy Rachunku Prawdopodobieństwa 1.2. Wzór Stirlinga Bezpośrednie obliczanie powyższych wyrażeń dla dużych n i k może być trudne i nieosiągalne nawet dla komputerów - liczby n! są olbrzymie. Dużą pomocą może być oczywiście logarytmowanie. Na przykład liczbę p = ( 50 )( 50 ) ( 100 ) 25 można policzyć następująco. Najpierw obliczamy ln p : ln p = [2(ln ln 50) (ln ln 10) (ln ln 40) (ln ln 15) (ln ln 35)] [(ln ln 100) (ln ln 25) (ln ln 75)]. Następnie obliczamy p = e ln p. Jeśli mamy do dyspozycji komputery nie jest to bardzo trudne, choć dla jeszcze większych n, np. równych wielu milionom, a takie sytuacje często się w praktyce zdarzają, byłoby już to skomplikowane nawet dla nowoczesnych maszyn. Istnieje szybsza metoda, pozwalająca wykonywać przybliżone obliczenia wyrażeń, w których występują silnie. Oparta jest ona na wzorze szkockiego matematyka J. Stirlinga. Wzór ten mówi, że ciąg n! a n = n n e n 2πn dąży do 1. Oznacza to, że dla dużych n mamy n! n n e n 2πn. (1.4) Zastosujmy ten wzór do poniższego przykładu będącego uogólnieniem przykładu poprzedniego ) p = ( M )( N M k n k ( N. n)

15 1.2. Wzór Stirlinga 17 Z wzoru Stirlinga dla każdego u v, u, v IN mamy ln ( u v) [u ln u u + ln( 2πu)] [v ln v v + ln( 2πv)] [(u v) ln(u v) (u v) + ln( 2π(u v))] = [u ln u + ln( 2πu) [v ln v + ln( 2πv)] [(u v) ln(u v) + ln( 2π(u v))]. Zatem ln p [M ln M+ln( 2πM) k ln k ln( 2πk) (M k) ln(m k) ln( 2π(M k))] + [(N M) ln(n M) + ln( 2π(N M)) (n k) ln(n k) ln( 2π(n k)) (N M (n k)) ln(n M (n k)) ln( 2π(N M (n k)))] [N ln N + ln( 2πN) n ln n ln( 2πn) (N n) ln(n n) ln( 2π(N n))]. Liczba składników w powyższym wzorze jest równa zawsze 18 w przeciwieństwie do poprzedniej metody, gdzie jest proporcjonalna do liczb występujących we wzorze.

16 18 1. Elementy Rachunku Prawdopodobieństwa 1.3. Podstawowe pojęcia Będziemy rozważać uporządkowaną trójkę (Ω, M, P ), gdzie: Ω - zbiór zwany zbiorem (lub przestrzenią) zdarzeń elementarnych, M - pewien zbiór podzbiorów zbioru Ω zwany zbiorem zdarzeń losowych, P - funkcja określona na zbiorze M o wartościach w przedziale [0; 1] zwana prawdopodobieństwem. Muszą być spełnione następujące warunki: 1) Ω M, M, 2) jeśli A, B M, to zbiory A B i A B i A \ B należą do M, 3) jeśli A n M dla n = 1, 2, 3,..., to M, n=1 4) P (Ω) = 1, P ( ) = 0, 5) jeśli A n M dla n = 1, 2,... oraz A i A j = dla i j, to ( ) P A n = P (A n ). n=1 n=1 W przypadku, gdy zbiór Ω jest skończony i prawdopodobieństwo wszystkich zdarzeń elementarnych jest takie samo, to P (A) = A/Ω, gdzie A oznacza liczbę elementów zbioru A.

17 1.3. Podstawowe pojęcia 19 PRZYKŁAD 6. Rozpatrujemy doświadczenie polegające na jednokrotnym rzucie monetą. Jako Ω bierzemy zbiór wszystkich wyników [orzeł (o) lub reszka (r)], czyli Ω = {o, r}. Zbiór M jest czteroelementowym zbiorem wszystkich podzbiorów Ω, czyli M składa się z podzbiorów, {o}, {r} i Ω. Natomiast P jest zdefiniowana następująco P ( ) = 0, P (Ω) = 1, P ({o}) = P ({r}) = 1 2.

18 20 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 7. Winda z 6 pasażerami zatrzymuje się na 9 piętrach. Jakie jest prawdopodobieństwo, że na żadnym piętrze nie wysiądą dwie osoby? R o z w i ą z a n i e. Wszystkich sposobów wyjścia pasażerów z windy jest 9 6 (wariacje z powtórzeniami). Natomiast wszystkich sposobów wyjścia takich, że na każdym piętrze wychodzi co najwyżej jedna osoba jest tyle, ile wariacji bez powtórzeń, czyli 9! 3!. Zatem nasze prawdopodobieństwo jest równe 9! 96 6 =

19 1.3. Podstawowe pojęcia 21 PRZYKŁAD 8. Udowodnimy wzór: P (A B) = P (A) + P (B) P (A B). (1.5) R o z w i ą z a n i e. Zbiory A B, A \ B oraz B \ A są rozłączne przy czym: skąd skąd skąd A = (A \ B) (A B), P (A) = P (A \ B) + P (A B). B = (B \ A) (A B), P (B) = P (B \ A) + P (A B). A B = (A \ B) (B \ A) (A B), P (A B) = P (A \ B) + P (B \ A) + P (A B) = P (A \ B) + P (A B) + P (B \ A) + P (A B) P (A B) = P (A) + P (B) P (A B).

20 22 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 9. Generatory liczb losowych. Dzięki istnieniu w kompilatorach różnych języków, funkcji pozwalających generować liczby losowe możemy imitować doświadczenia uruchomieniem odpowiedniego programu. Na przykład w Turbo Pascalu jest funkcja random uruchamiana poleceniem randomize. I tak poniższy program imituje n rzutów monetą. var i,n,k:longint; var p:0..1; begin k:=0; writeln( Podaj liczbe prob );readln(n); randomize;for i:=1 to n do begin p:=random(2);if p=1 then begin write( O );k:=k+1;end; else write( R );end; writeln( W,n, rzutach wypadlo,k, orlow ); end.

21 1.3. Podstawowe pojęcia 23 PRZYKŁAD 10. Rzucamy kostką do gry. Jako Ω bierzemy zbiór wszystkich wyników czyli zbiór {1, 2, 3, 4, 5, 6}, a jako M zbiór wszystkich podzbiorów zbioru Ω. Zbiór M ma 2 6 elementów. Wtedy na przykład prawdopodobieństwo zdarzenia, że liczba wyrzuconych oczek będzie podzielna przez 3 wynosi P ({3, 6}) = 2 6 = 1 3.

22 24 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 11. Niewielka zmiana poprzedniego programu daje nam program imitujący rzut kostką. var jeden, dwa, trzy, cztery, piec, szesc, n, i:longint; var p:0..5; begin jeden:=0;dwa:=0;trzy:=0;cztery:=0;piec:=0;szesc:=0; writeln( Podaj liczbe prob );readln(n); randomize; for i:=1 to n do begin p:=random(6); if p=0 then jeden:=jeden+1 else if p=1 then dwa:=dwa+1 else if p=2 then trzy:=trzy+1 else if p=3 then cztery:=cztery+1 else if p=4 then piec:=piec+1 else szesc:=szesc+1;end; writeln( W,n, rzutach wypadlo ); writeln(jeden, jedynek ); writeln(dwa, dwojek ); writeln(trzy, trojek ); writeln(cztery, czworek ); writeln(piec, piatek ); writeln(szesc, szostek );end.

23 1.3. Podstawowe pojęcia 25 PRZYKŁAD 12. W pewnej szkole studiuje 500 studentów podzielonych na grupy językowe. Ich rozkład według płci i języków podaje poniższa tabelka. Język/płeć angielski francuski niemiecki rosyjski razem kobiety mężczyźni Razem Niech M, K, A, F, N, R oznaczają zdarzenia: M - losowo spotkany student jest mężczyzną, K - losowo spotkany student jest kobietą, A - losowo spotkany student uczy się angielskiego, F - losowo spotkany student uczy się francuskiego, N - losowo spotkany student uczy się niemieckiego, R - losowo spotkany student uczy się rosyjskiego. Obliczmy prawdopodobieństwo zdarzeń M, A, N, M A, K N, M R, K F. Ponieważ Ω = 500, to mamy P (M) = M 500 = , P (A) = , P (N ) = = , P (M A) = 500, P (K N) = Aby wyznaczyć liczbę elementów zbiorów M R, zauważmy, że do liczby wszystkich mężczyzn musimy dodać liczbę kobiet uczących się rosyjskiego, a zatem M R = = 235. Stąd P (M R) = Analogicznie K F = = 343. P (K F ) = 500.

24 26 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 13. Rzucamy ziarnkiem (np. piasku) do okrągłej długiej studni o kształcie walca o średnicy podstawy 1 m. Na środku dna studni znajduje się okrągła tarcza o średnicy 10 cm. Interesuje nas prawdopodobieństwo tego, że ziarnko spadnie na okrągłą tarczę. Jeśli założymy, że prawdopodobieństwo upadku ziarnka w dowolne miejsce jest takie samo, to intuicja podpowiada nam, że prawdopodobieństwo upadku ziarnka na środkową tarczę powinno być równe części jaką zajmuje ta tarcza w stosunku do powierzchni całego dna, czyli Za Ω musimy przyjąć zbiór wszystkich punktów na dnie studni (będzie to oczywiście zbiór nieskończony). Natomiast ze zbiorem M będziemy mieli już poważne kłopoty. Nie wnikając w szczegóły (którymi zajmuje się dział matematyki zwany teorią miary ) do M będziemy zaliczać te podzbiory koła (bo taki kształt ma dno studni), których powierzchnię potrafimy zmierzyć. Zostawiając na boku zagadnienie czy tak zdefiniowany zbiór M spełnia warunki (2) i (3) definiujemy P następująco: P (A) = pole powierzchni zbioru A pole powierzchni całego dna.

25 1.4. Prawdopodobieństwo warunkowe Prawdopodobieństwo warunkowe DEFINICJA 1. Niech A i B będą zdarzeniami losowymi oraz niech P (B) 0. Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem B nazywamy liczbę P (A B) = P (A B). (1.6) P (B)

26 28 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 14. Rozpatrzmy sytuację z zadania 8. Jakie jest prawdopodobieństwo, że losowo spotkany pracownik ma wyższe wykształcenie jeśli wiemy, że jest kobietą? R o z w i ą z a n i e. Niech K oznacza zdarzenie pracownik jest kobietą, a W zdarzenie pracownik ma wyższe wykształcenie. Mamy policzyć P (W K). Z wzoru na prawdopodobieństwo warunkowe mamy P (W K) = P (K W ) P (K) = 5/110 43/110 = Widzimy, że ogólna liczba pracowników (110) skróciła się, a istotne było tylko jaki procent kobiet ma wyższe wykształcenie - można było więc ten problem rozwiązać bez używania pojęcia prawdopodobieństwa warunkowego.

27 1.4. Prawdopodobieństwo warunkowe 29 PRZYKŁAD 15. Zakładamy, że prawdopodobieństwo urodzenia chłopca jest takie samo jak dziewczynki. a) Jakie jest prawdopodobieństwo tego, że rodzina mająca dwoje dzieci ma chłopca i dziewczynkę, jeśli wiemy, że w rodzinie jest chłopiec. b) Od przypadkowo spotkanego chłopca dowiadujemy się, że w domu zostało dokładnie jedno drugie dziecko z tej rodziny (czyli, że rodzina ma dokładnie dwoje dzieci). Jakie jest prawdopodobieństwo tego, że tych dwoje dzieci to chłopiec (czyli on) i dziewczynka? R o z w i ą z a n i e. Można ulec złudzeniu, że rozwiązanie obu problemów jest identyczne. Ale tak nie jest. Po głębszym zastanowieniu się zauważymy, że w pytaniu (a) wybieramy dwa sprzyjające zdarzenia z trzech, czyli prawdopodobieństwo jest 2 3, a w drugim prawdopodobieństwo tego, że drugie dziecko jest chłopcem jest takie samo jak to, że drugim dzieckiem jest dziewczynka, a więc musi być równe 1 2. Otóż problemy te prowadzą do dwóch różnych modeli. Aby to dokładnie prześledzić rozpatrzmy obrazową sytuację. Mamy cztery rodziny: rodzinę Jabłońskich mającą dwóch chłopców starszego Jacka i młodszego Wacka, rodzinę Malinowskich mającą starszego chłopca Placka i młodszą dziewczynkę Basię, rodzinę Śliwowskich mającą starszą dziewczynkę Jasię i młodszego chłopca Pankracka oraz rodzinę Wiśniewskich mającą dwie dziewczynki Kasię i Stasię. W pierwszym przypadku wybieramy rodzinę, zatem Ω = {Jabłońscy, Malinowscy, Śliwowscy, Wiśniewscy}. Jako zbiór A (czyli rodziny mające chłopca i dziewczynkę) musimy przyjąć zbiór {Malinowscy, Śliwowscy}, natomiast zbiór B (rodziny mające jakiegoś chłopca) to zbiór {Jabłońscy, Malinowscy, Śliwowscy}. Wtedy A B = A. Ostatecznie P (A B) = P (A B) P (B) = 2/4 3/4 = 2 3.

28 30 1. Elementy Rachunku Prawdopodobieństwa W drugim przypadku spotykamy dziecko, zatem zbiór Ω - to zbiór wszystkich ośmiorga dzieci, czyli Ω = 8. Nasze pytanie możemy sformułować tak: jakie jest prawdopodobieństwo, że spotkane dziecko pochodzi z rodziny mającej chłopca i dziewczynkę pod warunkiem, że dziecko to jest chłopcem. Zatem A to zbiór dzieci pochodzących z rodziny mieszanej czyli A = {Placek, Basia, Jasia, Pankracek}. Natomiast zbiór B to zbiór chłopców, czyli B = {Jacek, Wacek, Placek, Pankracek}. Wtedy A B = {Placek, Pankracek}. Ostatecznie mamy P (A B) = P (A B) P (B) = 2/8 4/8 = 1 2.

29 1.4. Prawdopodobieństwo warunkowe 31 PRZYKŁAD 16. Policja otrzymała informację, że terroryści podłożyli bomby w dwóch spośród 8 odlatujących samolotów. Jakie jest prawdopodobieństwo, że zostaną one znalezione już po przeszukaniu dwóch pierwszych samolotów. R o z w i ą z a n i e. Niech A 1 oznacza zdarzenie w pierwszym samolocie jest bomba, zaś A 2 zdarzenie w drugim samolocie jest bomba. Interesuje nas liczba P (A 1 A 2 ). Przekształcając wzór na prawdopodobieństwo warunkowe otrzymujemy P (A 1 A 2 ) = P (A 1 ) P (A 2 A1 ) = = TWIERDZENIE 1. (Wzór na prawdopodobieństwo całkowite). Załóżmy, że ciąg zdarzeń losowych B n (skończony lub nieskończony) spełnia warunki 1) B i B j = dla i j, 2) B n = Ω. n Wtedy dla dowolnego A M zachodzi równość P (A) = n P (A B n ) P (B n ). (1.7) Dowód jest oczywisty. Ponieważ zbiory A B n są parami rozłączne, oraz A = A B n, to n P (A) = n P (A B n ) = n P (A B n ) P (B n ).

30 32 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 17. W jednej urnie mamy 3 kule białe i 4 czarne, a w drugiej 5 kul białych i 4 czarne. Rzucamy kostką do gry. Gdy wypadnie liczba podzielna przez 3 losujemy z pierwszej urny, w przeciwnym wypadku z drugiej. Jakie jest prawdopodobieństwo wylosowania białej kuli? R o z w i ą z a n i e. Wprowadzimy oznaczenia B 1 - wypadła liczba podzielna przez 3, B 2 - wypadła liczba niepodzielna przez 3, A - wylosowaliśmy białą kulę. Mamy P (B 1 ) = 1 3, P (B 2) = 2 3. P (A B1 ) = 3 7, P (A B2 ) = 5 9. Zatem P (A) = P (A B1 ) P (B 1 ) + P (A B2 ) P (B 2 ) = =

31 1.4. Prawdopodobieństwo warunkowe 33 PRZYKŁAD 18. Rzucamy kostką do gry. Umawiamy się, że jeśli wypadnie jedynka lub dwójka, to przegrywamy, jeśli wypadnie szóstka, to wygrywamy. Jeśli wypadnie trójka, czwórka lub piątka, to rzucamy ponownie aż do momentu gdy wypadnie jedynka lub dwójka (wtedy przegramy) albo szóstka (wtedy wygramy). Obliczymy prawdopodobieństwo wygranej. R o z w i ą z a n i e. Niech B n będzie zdarzeniem gra się skończyła w n-tym rzucie (n = 1, 2, 3,...), natomiast A zdarzeniem wygraliśmy (czyli padła szóstka). Zdarzenie A B n jest zdarzeniem: wygraliśmy w n-tym rzucie. Tak się stało, jeśli w tym rzucie wypadła szóstka, zaś we wszystkich poprzednich rzutach wypadała trójka, czwórka lub piątka. Prawdopodobieństwo takiego zdarzenia jest równe n 1 6. Zatem prawdopodobieństwo całkowite jest równe P (A) = = 1 6 ( ) Korzystając ze wzoru na sumę nieskończonego szeregu geometrycznego otrzymujemy ostateczny wynik P (A) = = 1 3. Jeśli we wzorze na prawdopodobieństwo całkowite założymy dodatkowo, że P (A) 0, to otrzymamy następny ważny wzór. TWIERDZENIE 2. (Wzór Bayesa).. P (B k A) = P (B k A) P (A) = P (A B k ) P (B k ) n P (A B n ) P (B n ). (1.8)

32 34 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 19. Egzamin z matematyki przeprowadzało dwóch egzaminatorów. Jeden z nich oblał tylko 10% zdających i u niego zdawało 70% studentów, a drugi oblał 80% zdających i u niego zdawało 30% studentów (prawdopodobnie ci, którym nie udało się dostać do egzaminatora pierwszego). Przypadkowo napotkany student stwierdza, że zdał egzamin. Jakie jest prawdopodobieństwo, że zdawał u drugiego egzaminatora? R o z w i ą z a n i e. Niech B 1 oznacza zdawanie u pierwszego, B 2 zdawanie u drugiego egzaminatora, A zdanie egzaminu. Z treści zadania wynika, że P (B 1 ) = 0.7, P (B 2 ) = 0.3, P (A B1 ) = 0.9, P (A B2 ) = 0.2. Szukamy P (B 2 A). Podstawiając do wzoru Bayesa otrzymujemy P (B 2 A) = P (A B 2 ) P (B 2 ) P (A B1 ) P (B 1 ) + P (A B2 ) P (B 2 ) = = 6 69.

33 1.4. Prawdopodobieństwo warunkowe 35 PRZYKŁAD 20. Rozpatrzmy następujący teleturniej. W jednym z trzech pudełek jest nagroda, pozostałe są puste. Grający losowo wybiera jedno pudełko, po czym prowadzący turniej, który wie, gdzie jest nagroda otwiera jedno z pozostałych pudełek zawsze puste i proponuje grającemu zamianę wylosowanego wcześniej pudełka na pozostałe nieotwarte. Co powinien grający zrobić, zamienić czy nie? A może jest wszystko jedno czy zamieni? R o z w i ą z a n i e. Jedno z możliwych (jak się przekonamy błędnych) rozumowań jest następujące: W otwartym pudełku nie ma nagrody. Zostały dwa, moje i to drugie. W takim razie prawdopodobieństwo, że nagroda jest w jednym z nich wynosi 1 2, więc wszystko jedno, czy je zamienię czy nie. W celu precyzyjnego rozwiązania zadania oznaczmy pudełka przez P 1, P 2 i P 3. Przypuśćmy, że grający wylosował pudełko P 1, a prowadzący odkrył pudełko P 2. Zrozumienie tego zadania polega m.in. na uświadomieniu sobie, że dwa zdarzenia oraz A= prowadzący otworzył pudełko P 2 C = w pudełku P 2 nie ma nagrody to nie są te same zdarzenia. Niech B i dla i = 1, 2, 3 oznacza zdarzenie nagroda jest w pudełku P i. Mamy porównać P (B 1 A) oraz P (B3 A). Skorzystamy z wzoru Bayesa. Mamy P (B i A) = P (A B i )P (B i ) P (A B1 )P (B 1 ) + P (A B2 )P (B 2 ) + P (A B3 )P (B 3 ), dla i = 1, 3. Policzmy prawdopodobieństwa występujące po prawej stronie wzoru. Oczywiście P (B 1 ) = P (B 2 ) = P (B 3 ) = 1 3.

34 36 1. Elementy Rachunku Prawdopodobieństwa Jeśli nagroda jest w pudełku P 1, to prowadzący (który o tym wie) z jednakowym prawdopodobieństwem otwiera pudełko P 2 lub P 3. Zatem P (A B1 ) = 1 2. Jeśli nagroda jest w pudełku P 2, to prowadzący na pewno otworzy pudełko P 3, a jeśli nagroda jest w pudełku P 3, to otworzy pudełko P 2. Zatem P (A B 2 ) = 0. W takim razie P (A B 3 ) = 1. 1 P (B 1 A) = = P (B 3 A) 1 1 = = 2 3. Odpowiedź powinna być w takim razie następująca: grający powinien skorzystać z propozycji prowadzącego. Jego szansa wygranej wzrośnie aż dwukrotnie! Opiszemy nasz przykład konstruując odpowiedni zbiór zdarzeń elementarnych. Każde zdarzenie można opisać dwoma elementami : pudelkiem, w którym jest nagroda (zdarzenie B i ) oraz pudełkiem otwartym przez prowadzącego. Zdarzenia B 2 i B 3 wymuszają otwarcie odpowiedniego pudełka P 3, P 2, są to zatem zdarzenia elementarne, każde z prawdopodobieństwem 1 3. Natomiast zdarzenie B 1 nie jest zdarzeniem elementarnym, bo można je podzielić na dwa podzdarzenia : B 12 = nagroda jest w pudełku P 1 i prowadzący otworzył P 2 oraz B 13 = nagroda jest w pudełku P 1 i prowadzący otworzył P 3, każde z prawdopodobieństwem 1 6. Wtedy A = B 3 B 12 natomiast C = B 1 B 3 = B 12 B 13 B 3.

35 1.5. Elementy diagnostyki Elementy diagnostyki We wzorze Bayesa zdarzenia B i zwykle pełnią rolę przyczyn, a zbiór A pewnego zaobserwowanego zdarzenia np. usterki jakiegoś urządzenia. Ważne jest, aby ustalić prawdopodobieństwa tego, że przyczyną usterki są zdarzenia B i. W takich sytuacjach wzór Bayesa może być jednym z narzędzi. Tu zasygnalizujemy tylko problematykę opierając się na dwóch prostych przykładach. Przykłady bardziej skomplikowane są zwykle żmudne, dlatego z nich rezygnujemy.

36 38 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 21. Wyobraźmy sobie, że mamy układ złożony z trzech elementów: źródło energii (a 1 ), wyłącznika (a 2 ) i elementu a 3 połączonych szeregowo tak jak na rysunku. a 2 a 3 a 1 Rys. 1. Zakładamy, że niezawodność elementu a 1 wynosi 0.9, elementów a 2 i a 3 wynosi 0.7 i że możliwości uszkodzenia są niezależne. Zaobserwowaliśmy, że nie działają jednocześnie a 1 i a 2 (zdarzenie A). Jakie uszkodzenia są najbardziej prawdopodobne? R o z w i ą z a n i e. Oznaczmy przez B 0 zdarzenie wszystkie elementy są sprawne B i zdarzenie tylko element a i jest uszkodzony, B ij zdarzenie tylko elementy a i i a j są uszkodzone oraz B 123 zdarzenie wszystkie trzy elementy są uszkodzone, i = 1, 2, 3. Mamy: P (B 0 ) = = 0.441; P (B 1 ) = = 0.049; P (B 2 ) = = 0.189; P (B 3 ) = = 0.189; P (B 12 ) = = 0.021; P (B 13 ) = = 0.021; P (B 23 ) = = 0.081; P (B 123 ) = = Dalej mamy P (A B 0 ) = P (A B 3 ) = 0 oraz P (A B 1 ) = P (A B 2 ) = P (A B 12 ) = P (A B 13 ) = P (A B 23 ) = P (A B 123 ) = 1. Stąd z wzoru na prawdopodobieństwo całkowite mamy Z wzoru Bayesa otrzymujemy P (A) = 1 P (B 0 ) P (B 3 ) = oraz P (B i A) = P (A B i)p (B i ), P (A) P (B ij A) = P (A B ij)p (B ij ), P (A)

37 1.5. Elementy diagnostyki 39 (pomijamy P (B 123 A) w sposób oczywisty bardzo małe) skąd P (B 1 A) = 0.132, P (B 2 A) = 0.51, P (B 3 A) = 0, P (B 12 A) = P (B 13 A) = 0.057, P (B 23 A) = Zatem najbardziej prawdopodobne jest, że uszkodzony jest tylko element a 2.

38 40 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 22. A teraz rozważymy ten sam problem przy założeniu, że elementy a 2 i a 3 połączone są równolegle. Patrz rysunek. a 1 a 3 a 2 Rys. 2. R o z w i ą z a n i e. Pozostawmy te same oznaczenia, co w poprzednim przykładzie. Zmieniają się niektóre prawdopodobieństwa warunkowe. Mamy teraz: P (A B 0 ) = P (A B 3 ) = P (A B 2 ) = 0 oraz P (A B 1 ) = P (A B 12 ) = P (A B 13 ) = P (A B 23 ) = P (A B 123 ) = 1. Stąd z wzoru na prawdopodobieństwo całkowite mamy P (A) = 1 P (B 0 ) P (B 3 ) P (B 2 ) = Ponadto z wzoru Bayesa oraz P (B i A) = P (A B i)p (B i ), P (A) P (B ij A) = P (A B ij)p (B ij ). P (A) Stąd P (B 1 A) = 0.27, P (B 2 A) = 0, P (B 3 A) = 0, P (B 12 A) = P (B 13 A) = 0.116, P (B 23 A) = Tym razem najbardziej prawdopodobne jest, że uszkodzone są oba elementy a 2 i a 3. W praktyce nie wystarczy rozważać tylko prawdopodobieństwa, Ważne są też koszty sprawdzania poszczególnych usterek.

39 1.6. Zdarzenia niezależne Zdarzenia niezależne DEFINICJA 2. Mówimy, że zdarzenia A i B są niezależne, jeśli P (A B) = P (A) P (B). (1.9) Sens zdarzeń niezależnych widzimy lepiej, gdy założymy, że P (B) 0. Wówczas warunek w definicji mówi, że P (A B) = P (A B) P (B) = P (A) P (B) P (B) = P (A), (1.10) czyli, że prawdopodobieństwo zdarzenia A pod warunkiem B jest takie samo, jak prawdopodobieństwo A bez tego warunku.

40 42 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 23. Rzucamy dwa razy symetryczną monetą. Sprawdzimy czy zdarzenia A: co najmniej raz wypadł orzeł oraz B: raz wypadła reszka są niezależne. R o z w i ą z a n i e. Mamy Ω = {(o, o), (o, r), (r, o), (r, r)}, Stąd A = {(o, o), (o, r), (r, o)}, B = {(r, o), (o, r)}, A B = {(r, o), (o, r)} = B. P (A) = 3 4, P (B) = 1 = P (A B) P (A) P (B). 2 Zdarzenia są zależne.

41 1.6. Zdarzenia niezależne 43 PRZYKŁAD 24. Wiemy, że P (A) = P (B) = 1 2 te są niezależne. Oblicz P (A B). R o z w i ą z a n i e. Z niezależności zdarzeń A i B mamy oraz, że zdarzenia P (A B = = 14. Korzystając z wzoru (1.5) otrzymujemy P (A B) = P (A) + P (B) P (A B) = = 3 4. Możemy uogólnić pojęcie zdarzeń niezależnych na układ n zdarzeń. DEFINICJA 3. Układ zdarzeń losowych A 1, A 2,..., A n nazywamy niezależnym jeśli dla dowolnego podukładu A k1,..., A kp P (A k1... A kp ) = P (A k1 )... P (A kp ).

42 44 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 25. Rzucamy dwa razy symetryczną monetą. Niech A będzie zdarzeniem za pierwszym razem był orzeł, B zdarzeniem za drugim razem był orzeł, a C zdarzeniem dokładnie raz wypadł orzeł. Wówczas mamy: Ω = {(o, o), (o, r), (r, o), (r, r)}, A = {(o, o), (o, r)}, B = {(o, o), (r, o)}, C = {(o, r), (r, o)}, A B = {(o, o)}, A C = {(o, r)}, B C = {(r, o)}, A B C =., P (A B) = P (A C) = Zatem P (A) = P (B) = P (C) = 1 2 P (B C) = 1 4. Widać stąd, że każde dwa zdarzenia spośród A, B, C są niezależne, natomiast wszystkie trzy razem nie są niezależne, bo P (A B C) = 0, P (A) P (B) P (C) = 1 8.

43 1.7. Schemat Bernoulliego Schemat Bernoulliego Przeprowadzamy n-krotnie to samo doświadczenie, w którym mogą paść dwa rezultaty: sukces z prawdopodobieństwem p i porażka z prawdopodobieństwem 1 p. Zakładamy, że próby są od siebie niezależne. Niech A i oznacza zdarzenie za i-tym razem był sukces. Obliczmy prawdopodobieństwo b(n, k, p) tego, że w n próbach sukces był dokładnie k razy. Zatem porażka była dokładnie n k razy. A więc zdarzenie jest sumą rozłącznych zdarzeń postaci A i1... A ik (Ω A ik+1 )... (Ω A in ). Prawdopodobieństwo każdego z tych zdarzeń z założenia o niezależności jest równe p k (1 p) n k. Natomiast możliwości wybierania k elementów spośród n elementów jest ( n k). Zatem nasze prawdopodobieństwo wynosi ( ) n b(n, k, p) = p k (1 p) n k. (1.11) k Oto kilka spośród niezliczonej liczby problemów prowadzących do schematu Bernolliego.

44 46 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 26. Z dużej partii pewnego wyrobu zawierającego 10% braków wybrano losowo 40 sztuk. Należy określić prawdopodobieństwo znalezienia wśród nich: a) 1 sztuki wybrakowanej, b) 10 sztuk wybrakowanych, c) co najwyżej 5 sztuk wybrakowanych. R o z w i ą z a n i e. We wszystkich przypadkach za jedno doświadczenie przyjmujemy wybór jednej sztuki towaru. Sukces - wybranie sztuki wadliwej, zatem p = 0.1 Stosując odpowiednie wzory z dokładnością do 4 miejsc po przecinku otrzymamy: a) b(40, 1, 0.1) = ( ) 40 1 (0.1)1 (0.9) 39 = , b) b(40, 10, 0.1) = ( 40 10) (0.1) 10 (0.9) 30= , c) 5 k=0 b(40, k, 0.1) =

45 1.7. Schemat Bernoulliego 47 PRZYKŁAD 27. Rzucamy wielokrotnie kostką do gry. Ile razy co najmniej powinniśmy rzucić, aby prawdopodobieństwo tego, że co najmniej raz wypadnie szóstka było większe niż 0.8? R o z w i ą z a n i e. Obliczmy prawdopodobieństwo zdarzenia przeciwnego. Jest ono równe b ( n, 0, 1 ) 6 = 1 1 ( ) n 5. 6 Prawdopodobieństwo tego zdarzenia musi być mniejsze od 0.2. Trzeba zatem rozwiązać nierówność: ( ) n 5 < Logarytmując otrzymujemy n ln 5 < ln Dzieląc przez ln 5 6 (jest to liczba ujemna, zatem znak nierówności się zmienia) mamy ln 0.2 n > ln Zatem otrzymujemy odpowiedź: Powinniśmy rzucić co najmniej 9 razy.

46 48 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 28. Testowanie skuteczności szczepionki. Przypuśćmy, że częstotliwość zachorowania na pewną chorobę u bydła wynosi 25%. Dla przetestowania nowej szczepionki wybieramy zdrowe osobniki, szczepimy je i sprawdzamy ile spośród nich zachorowało. Jak należy ocenić wyniki eksperymentu? R o z w i ą z a n i e. Mamy do czynienia ze schematem Bernoulliego; p = 0.75 = prawdopodobieństwo tego, że krowa nie zachoruje. Jeśli szczepionka jest zupełnie nieskuteczna, to prawdopodobieństwo tego, że dokładnie k spośród n zaszczepionych zwierząt będzie zdrowych wynosi b(n, k, 0.75). Na przykład jeśli n = k = 10, to prawdopodobieństwo to jest równe Dlatego brak wystąpienia choroby u dziesięciu zaszczepionych krów możemy uznać za świadectwo (choć nie stuprocentowy dowód) skuteczności szczepionki. Przypuśćmy, że zaszczepiliśmy 20 krów i stwierdziliśmy chorobę u jednej krowy. Prawdopodobieństwo, że przy całkowitej nieskuteczności szczepionki nie więcej niż jedna krowa zachoruje wynosi b(20, 19, 0.75) + b(20, 20, 0.75) = Widzimy zatem, że jedno zachorowanie w partii 20 zaszczepionych zwierząt bardziej świadczy na korzyść szczepionki niż brak zachorowań w partii 10 zaszczepionych zwierząt! Podobnymi zagadnieniami zajmiemy się dokładniej w drugiej części podręcznika poświęconej statystyce matematycznej. Najbardziej prawdopodobne zdarzenie w schemacie Bernoulliego Z wzoru na wielkosć b(n, k, p) mamy b(n, k, p) b(n, k 1, p) = n! k!(n k)! pk (1 p) n k (k 1)!(n (k 1))! n!p k 1 (1 p) n (k 1) = (n k + 1)p k(1 p) = 1 + (n + 1)p k. k(1 p)

47 1.7. Schemat Bernoulliego 49 Widzimy stąd, że iloraz po lewej stronie powyższej równości jest większy bądź równy 1, jeśli k < (n + 1)p i mniejszy od 1, gdy k > (n + 1)p. Istnieje dokładnie jedna liczba całkowita m taka, że (n + 1)p 1 < m (n + 1)p. Wynika stąd, że gdy k zmienia się od 1 do n to funkcja ϕ(k) = b(n, k, p) najpierw rośnie, a potem maleje - przy czym osiąga największą wartość gdy k = m. Jeśli zdarzy się, że m = (n+1)p, to ta największa wartość jest osiągana w dwóch punktach m 1 i m.

48 50 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 29. Rzucamy 14 razy kostką do gry. Jaka jest najbardziej prawdopodobna liczba wyrzuconych szóstek? R o z w i ą z a n i e. Prawdopodobieństwo wyrzucenia szóstki p = 1 6. Znajdujemy więc takie m, że (14+1) < m (14+1) 1 6. Czyli takie, że 1.5 < m 2.5. Stąd m = 2.

49 1.8. Zmienna losowa Zmienna losowa DEFINICJA 4. Zmienną losową nazywamy funkcję X : Ω IR taką, że dla dowolnego a IR zbiór {ω Ω : X(ω) < a} należy do M. W naszych zastosowaniach zbiór Ω jest zwykle skończony i wtedy M jest zbiorem wszystkich podzbiorów Ω; wówczas warunek ostatni jest spełniony automatycznie. Zbiór opisany w tym warunku w skrócie oznacza się po prostu {X < a}. Analogicznie opisujemy zbiory {X a}, {X > a}, {X a} i {X = a}. Zamiast używać zapisu P ({X < a}) używa się zapisu P (X < a).

50 52 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 30. Przy rzucie kostką określmy zmienną losową przyporządkowującą każdemu rzutowi ilość wyrzuconych oczek, czyli X({wypadło i}) = i. Wówczas posługując się wprowadzonym powyżej zapisem mamy na przykład P (X < 3) = 1 3, P (X 2) = 5 6.

51 1.9. Rozkład i dystrybuanta zmiennej losowej Rozkład i dystrybuanta zmiennej losowej Przez rozkład zmiennej losowej X rozumiemy podanie prawdopodobieństwa wszystkich zdarzeń postaci {x : a < X(x) < b}. Rozkład zmiennej losowej można opisać przy pomocy tzw. dystrybuanty. DEFINICJA 5. Dystrybuantą zmiennej losowej nazywamy funkcję F określoną następująco: F (x) = P (X x). (1.12) Dystrybuanta zmiennej losowej ma następujące własności: 1) Jest funkcją niemalejącą i ciągłą prawostronnie, 2) lim F (x) = 0 oraz lim F (x) = 1, x x 3) Dla każdego przedziału [a; b] P (a X < b) = F (b) F (a). UWAGA. W wielu podręcznikach dystrybuantę definiuje się następująco F (x) = P (X < x). Wtedy dystrybuanta jest ciągła lewostronnie. W praktyce spotykamy zmienne losowe następujących dwóch typów. I. Zmienna losowa przyjmuje tylko pewien ciąg (może być skończony) wartości (x k ). Mówimy wówczas, że zmienna losowa ma rozkład dyskretny lub punktowy.. Wtedy wystarczy podać ciąg prawdopodobieństw p k = P (X = x k ).

52 54 1. Elementy Rachunku Prawdopodobieństwa Ciąg ten spełnia warunki: p k 0 oraz p k = 1. (1.13) k II. Istnieje funkcja g taka, że P (a X < b) = b a g(x)dx. (1.14) Wówczas mówimy, że X ma rozkład ciągły, a funkcję g nazywamy gęstością rozkładu. Gęstość rozkładu spełnia warunki g 0 oraz g(x)dx = 1. (1.15) różniczkowalna i Mając dany rozkład, możemy obliczać prawdopodobieństwa dowolnych zdarzeń. Jeśli zmienna losowa jest określona na zbiorze skończonym Ω, to jej rozkład można podać przy pomocy zestawienia takiego jak w kolejnym przykładzie.

53 1.9. Rozkład i dystrybuanta zmiennej losowej 55 PRZYKŁAD 31. Zmienna losowa ma rozkład określony w poniższej tabelce. x k p k Należy obliczyć P (X < 3) i wyznaczyć dystrybuantę tego rozkładu. R o z w i ą z a n i e. Z tabelki wynika, że X przyjmuje wartość 0 z prawdopodobieństwem 0.25, wartość 1 z prawdopodobieństwem 0.20, wartość 2 z prawdopodobieństwem 0.15 i wartość 3 z prawdopodobieństwem Zatem P (X < 3) = P (X = 0) + P (X = 1) + P (X = 2) = = Dystrybuanta tej zmiennej jest następującą funkcją: F (x) = A oto jej wykres (rysunek 1): 0 dla x ( ; 0) 0.25 dla x [0; 1) 0.45 dla x [1; 2) 0.60 dla x [2; 3) 1 dla x [3; ). Rys. 3.

54 56 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 32. Rozkład jednostajny na przedziale [0; 1]. Jest to rozkład, dla którego funkcja gęstości g jest dana wzorem { 1 dla x (0; 1) g(x) = 0 dla x (0; 1). Jego dystrybuanta F jest dana wzorem 0 dla x ( ; 0) F (x) = x dla x [0; 1] 1 dla x (1; ).

55 1.9. Rozkład i dystrybuanta zmiennej losowej 57 PRZYKŁAD 33. Funkcja random o której była już mowa ma właśnie rozkład jednostajny na przedziale [0; 1]. Poniższy program to demonstruje. var i,k,n:longint; a,b,c:real; begin k:=0; randomize; writeln( podaj n );readln(n); writeln( podaj a<1 );readln(a); writeln( podaj b>a i b<=1 );readln(b); k:=0; for i:=1 to n do begin c:=random; if (c-a)*(c-b)<=0 then k:=k+1;end; writeln(k/n:4:10);end. Jeśli wybierzemy duże n i jakieś a, b z przedziału [0; 1], (a < b), to wynik da prawdopodobieństwo tego, że wylosowana liczba znajdzie się w przedziale [a; b] równe b a 1 dx = b a.

56 58 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 34. Rozważamy schemat Bernoulliego polegający na n próbach. Za zmienną losową X przyjmiemy funkcję, która każdemu doświadczeniu przyporządkowuje liczbę sukcesów. Zatem X może przyjmować wartości 0, 1, 2,..., n. Oczywiście X ma rozkład punktowy i jeśli b(n, k, p) oznacza prawdopodobieństwo zdarzenia {X = k}, to jak już wiemy ( ) n b(n, k, p) = p k (1 p) n k. k Ten rozkład nazywa się rozkładem dwumianowym (binomialnym). Będziemy go oznaczać Bin(n, p). Dystrybuanta rozkładu dwumianowego wyraża się wzorem F (a) = k a b(n, k, p).

57 1.9. Rozkład i dystrybuanta zmiennej losowej 59 PRZYKŁAD 35. W pewnym urzędzie przeprowadzono badania, jak długo 1000 losowo wybranych interesantów musiało czekać na załatwienie swojej sprawy. Otrzymano rezultaty, które przedstawia tabelka: czas oczekiwania w tygodniach liczba petentów Daje to rozkład prawdopodobieństwa: x k p k

58 60 1. Elementy Rachunku Prawdopodobieństwa Funkcje zmiennej losowej i ich rozkłady Przypuśćmy, że h jest funkcją określoną na zbiorze liczb rzeczywistych o wartościach rzeczywistych, a X pewną zmienną losową. Wówczas funkcja h X jest pewną nową zmienną losową. Będziemy ją nazywać funkcją zmiennej losowej X i pisać h(x).

59 1.10. Funkcje zmiennej losowej i ich rozkłady 61 PRZYKŁAD 36. Rozpatrzmy rozkład zmiennej losowej dany tabelką: x k p k Wyznaczyć rozkład zmiennej Y = X 2. R o z w i ą z a n i e. Zmienna losowa Y przyjmuje wartości 0, 1 i 4. Mamy P (Y = 0) = P (X = 0) = 0.3, P (Y = 1) = P (X = 1) + P (X = 1) = = 0.3, P (Y = 4) = P (X = 2) = 0.4. Zatem rozkład Y jest dany tabelką: y k p k

60 62 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 37. Zmienna losowa X ma rozkład o gęstości g(x) = 1 2π e x2 2. Wyznaczmy gęstość ρ rozkładu zmiennej Y = X 2. R o z w i ą z a n i e. Zwykle robi się to w ten sposób, że wyznacza się dystrybuantę nowej zmiennej przy pomocy dystrybuanty zmiennej wyjściowej zamieniając odpowiednie zmienne w całce. Prześledzimy to na tym przykładzie. Niech F będzie dystrybuantą zmiennej X, a G dystrybuantą zmiennej Y. Zmienna Y przyjmuje tylko wartości dodatnie, zatem jeśli y 0, to G(y) = 0. Natomiast dla y > 0 mamy G(y) = P (Y < y) = P (X 2 < y) = P ( y < X < y) = F ( y) F ( y) = 1 2π y y e x2 2 dx = 2 2π y 0 e x2 2 dx. Podstawmy w całce zmienną t = x 2. Otrzymamy (dt = 2xdx, dx = dt 2 t ) Ostatecznie otrzymujemy { ρ(y) = G(y) = 1 2π y 0 1 t e t 2 dt. 0 dla y 0 1 2πy e y 2 dla y > 0.

61 1.11. Wartość oczekiwana, wariancja i odchylenie standardowe Wartość oczekiwana, wariancja i odchylenie standardowe Niech X będzie zmienną losową. DEFINICJA 6. Wartością oczekiwaną (średnią lub przeciętną) zmiennej losowej X o rozkładzie punktowym nazywamy liczbę E(X) = x i P (X = x i ). (1.16) i Obliczenie tej liczby może sprawiać kłopoty, gdy zbiór wartości x i nie jest skończony. DEFINICJA 7. Jeśli zmienna X ma rozkład ciągły o gęstości g, to wartością oczekiwaną tej zmiennej nazywamy liczbę E(X) = xg(x)dx. (1.17) Nie będziemy zajmować się problemami związanymi z istnieniem powyższej całki i nieskończonej sumy. Wartość oczekiwana ma następujące własności: 1) E(X + Y ) = E(X) + E(Y ), 2) E(aX) = ae(x), a IR, 3) Jeśli X 0, to E(X) 0. Przeważnie znajomość rozkładu nie jest konieczna do badania zmiennej losowej. Wystarcza znajomość kilku liczb związanych z tym rozkładem. Jedną z nich jest właśnie wartość oczekiwana. Inną ważną liczbę podaje następna definicja. DEFINICJA 8. Wariancją zmiennej losowej X nazywamy liczbę D 2 (X) zdefiniowaną następująco: D 2 (X) = E((X E(X)) 2 ) = E(X 2 ) (E(X)) 2. (1.18)

62 64 1. Elementy Rachunku Prawdopodobieństwa Dla rozkładu punktowego wyraża się ona wzorem D 2 (X) = k (x k E(X)) 2 p k, (1.19) a dla rozkładu ciągłego o gęstości g wzorem D 2 (X) = DEFINICJA 9. Liczbę σ(x) = nazywamy odchyleniem standardowym. (x E(X)) 2 g(x)dx. (1.20) D 2 (X) (1.21)

63 1.11. Wartość oczekiwana, wariancja i odchylenie standardowe 65 PRZYKŁAD 38. Niech X będzie zmienną losową opisaną w jednym z poprzednich przykładów: x k p k Obliczymy jej wartość oczekiwaną, wariancję i odchylenie standardowe. R o z w i ą z a n i e. Mamy E(X) = = D 2 (X) = 0.25(0 1.7) (1 1.7) (2 1.7) (3 1.7) 2 = σ(x) = D 2 (X) = 1.51 =

64 66 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 39. Policzymy wartość średnią, wariancję i odchylenie standardowe rozkładu jednostajnego na przedziale [0; 1]. R o z w i ą z a n i e. Stąd D 2 (X) = E(X) = x dx = x = 1 2. (x 0.5) 2 dx = x3 3 x2 2 + x 1 4 = σ = i przetestować go (i komputer

65 1.11. Wartość oczekiwana, wariancja i odchylenie standardowe 67 PRZYKŁAD 40. Obliczymy wartość oczekiwaną i wariancję liczby sukcesów w rozkładzie dwumianowym. R o z w i ą z a n i e. Niech X oznacza zmienną losową określającą liczbę sukcesów w n próbach. Wtedy n n ( ) n E(X) = kb(n, k, p) = k p k (1 p) n k. k k=0 k=0 k=0 Korzystamy z dwumianu Newtona: n ( ) n (x + b) n = x k b n k. k Po zróżniczkowaniu i pomnożeniu przez x otrzymujemy: n ( ) n xn(x + b) n 1 = k x k b n k. k k=0 Podstawiamy x = p, b = 1 p. Wtedy n ( ) n E(X) = k p k (1 p) n k = np(p + (1 p)) n 1 = np. k k=0 A teraz policzmy wariancję tego rozkładu. Mamy n ( ) n D 2 (X) = k 2 p k (1 p) n k (np) 2 k = np k=0 n ( ) n 1 k p k 1 (1 p) n k (np) 2 k 1 k=1 n 1 ( ) n 1 = np (m + 1) p m (1 p) n 1 m m m=0 = np[(n 1)p + 1] (np) 2 = np(1 p). Odchylenie standardowe w rozkładzie dwumianowym Bin(n, p) jest równe np(1 p).

66 68 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 41. Niech Ω = IN = {1, 2, 3,...} i niech p k = 1 2 k oraz X(n) = n. Jest to dobry rozkład, bowiem = 1. 3 Obliczmy wartość średnią i wariancję tego rozkładu. R o z w i ą z a n i e. Mamy E(X) = = n 2 n. Rozpatrzmy funkcje g(x) = n=1 xn oraz h(x) = n=1 nxn dla x (0; 1). Z wzoru na sumę szeregu geometrycznego mamy g(x) = x 1 x. Ponadto Widzimy zatem, że n=1 n=1 g (x) = nx n 1 = 1 nx n = 1 x x h(x).1 E(X) = Ale z drugiej strony Stąd E(X) = 1 ( 2 n=1 g (x) = ) 2 = 2. Obliczmy teraz wariancję. D 2 (X) = n=1 n=1 ( 1 ) n ( 1 n = h 2 2) = 1 2 g ( 1 ). 2 ( x ) 1 = 1 x (1 x) 2. (n 2) 2 2 n = n=1 4 2 n n=1 4n 2 n + n=1 n 2 2 n. Pierwszy szereg jest geometryczny zatem jego suma jest równa Druga suma jest równa 4h ( 1 2) = 8. 1 Pomijamy problem, dlaczego pochodna takiej nieskończonej sumy jest równa sumie pochodnych - jest to prawda, ale uzasadnienie wymaga pewnego dodatkowego aparatu matematycznego. =

67 1.11. Wartość oczekiwana, wariancja i odchylenie standardowe 69 Aby obliczyć trzecią sumę wprowadźmy funkcję k(x) = n 2 x n. n=1 Wówczas trzecia suma jest równa k ( 1 2). Mamy skąd h (x) = n 2 x n 1, n=1 k(x) = xh (x) = x(xg (x)) = x(g (x) + xg (x)) = xg (x) + x 2 g (x) = x (1 x) 2 + 2x2 (1 x) 3. Wstawiając za x liczbę 1 2 otrzymamy k( 1 2) = 6. Zatem ostatecznie D 2 (X) = = 2.

68 70 1. Elementy Rachunku Prawdopodobieństwa PRZYKŁAD 42. Rozpatrzmy zmienną o rozkładzie ciągłym, której gęstość jest dana wzorem { 0 dla x 0 g(x) = e x dla x > 0. Obliczymy wartość oczekiwaną i wariancję tego rozkładu. R o z w i ą z a n i e. E(X) = xg(x)dx = 0 xe x dx. Całkując przez części (kładąc u = x, v = e x, u = 1, v = e x ) otrzymamy E(X) = x( e x ) 0 Podobnie obliczymy wariancję D 2 (X) = 0 (x 1) 2 g(x)dx = = e x 0 2E(X) + e x dx = 0 e x = 1. (1 2x + x 2 )e x dx x 2 e x dx. Ostatnią całkę policzymy tez całkując przez części (kładąc u = x 2, v = e x, u = 2x, v = e x ). Mamy 0 x 2 e x dx = x 2 ( e x ) 0 0 2x( e x )dx = 0 + 2E(X) = 2. Ostatecznie D 2 (X) = = 1.

69 1.12. Wartość oczekiwana i wariancja funkcji zmiennej losowej Wartość oczekiwana i wariancja funkcji zmiennej losowej Niech X będzie zmienną losową przyjmującą wartości w zbiorze B IR, a h funkcją, h : B IR. Wtedy zmienna losowa i wariancja zmiennej losowej h(x) wyraża się wzorem E(h(X)) = k h(x k )p k, (1.22) oraz D 2 (h(x)) = k (h(x k ) E(h(X)) 2 p k, (1.23) dla rozkładu punktowego. oraz E(h(X)) = h(x)g(x) dx, (1.24) D 2 (h(x)) = (h(x) E(h(X))) 2 g(x)dx, (1.25) dla rozkładu ciągłego o gęstości g.

70 72 1. Elementy Rachunku Prawdopodobieństwa Inne parametry rozkładu DEFINICJA 10. Momentem zwykłym rzędu k zmiennej losowej X nazywamy wartość oczekiwaną zmiennej X k czyli liczbę m k = E(X k ). Zauważmy, że poznana już wartość oczekiwana E(X) jest szczególnym przypadkiem momentu, mianowicie E(X) = m 1. DEFINICJA 11. Momentem centralnym rzędu k nazywamy liczbę µ k = E((X m 1 ) k ). Wariancja jest szczególnym przypadkiem momentu centralnego; mianowicie D 2 (X) = µ 2.

71 1.14. Kowariancja i korelacja Kowariancja i korelacja Załóżmy, że mamy do czynienia z dwoma zjawiskami opisanymi przez dwie zmienne losowe X i Y określone na tym samym zbiorze zdarzeń elementarnych Ω z wartościami oczekiwanymi E(X) i E(Y ). Interesuje nas w jaki sposób zmiany jednej zmiennej powiązane są ze zmianami drugiej. Na przykład jeśli pierwsza zmienna odskoczy w górę od średniej, to druga też, albo jeśli pierwsza odskoczy w górę to druga w dół, albo wreszcie zmiany jednej nie są powiązane ze zmianami drugiej. W pierwszym przypadku oznacza to, że liczba (X E(X))(Y E(Y )) jest dodatnia, w drugim, ujemna, a w trzecim przypadku równa 0. Oczywiście w różnych punktach zbioru Ω mogą być sytuacje różne. W takim razie aby otrzymać średni obraz, należy rozważać odpowiednią wartość oczekiwaną. DEFINICJA 12. Kowariancją zmiennych Y i Y określonych na tym samym zbiorze Ω mających wartości oczekiwane nazywamy liczbę Cov(X, Y ) = E ( (X E(X) )( Y E(Y )) ) 2 (1.26) Łatwo można zauważyć, że DEFINICJA 13. Liczbę Cov(X, Y ) = E(XY ) E(X)E(Y ). (1.27) corr(x, Y ) = Cov(X, Y ) D(X)D(Y ) (1.28) nazywamy współczynnikiem korelacji zmiennych X i Y. Dla skończonego zbioru Ω = {ω 1,... ω n } z prawdopodobieństwem P ({ω i }) = p i wzór na kowariancję zmiennych X(ω i ) = x i i Y (ω i ) = y i jest następujący: 2 Pomijamy problem, że nie zawsze kowariancja musi być określona w wypadku wartości oczekiwanej określonej nieskończoną sumą lub całką.

72 74 1. Elementy Rachunku Prawdopodobieństwa ( n n ) ( n ) Cov(X, Y ) = p i x i y i p i x i p i y i. (1.29) i=1 i=1 i=1

73 1.14. Kowariancja i korelacja 75 PRZYKŁAD 43. Rzucamy dwa razy monetą. Za orła przyznajemy 0, za reszkę 1. Niech S będzie zmienną losową opisującą sumę rezultatów, I zmienną losową opisującą ich iloczyn, a R różnicę. Znajdziemy wszystkie możliwe kowariancje i korelacje. Wartości rozważanych zmiennych przedstawimy w tabelce. Stąd wynikają rozkłady: (o,o) (o,r) (r,o) (r,r) S I R SI SR IR s k p k i k 0 1 p k r k p k (si) k 0 2 p k (sr) k p k (ir) k 0 p k 1 W takim razie E(S) = = 1. D 2 (S) = 0.25 ( 1) = 0.5. E(I) = = D 2 (I) = = E(R) = 0.25 ( 1) = 0. D 2 (R) = 0.25 ( 1) = 0.5.

74 76 1. Elementy Rachunku Prawdopodobieństwa skąd Zatem E(SI) = = 0.5. E(SR) = E(R) = 0. E(IR) = E(0) = 0. Cov(S, I) = = 0.25, corr(s, I) = = 2 6. Cov(S, R) = 0 0 = 0 = corr(s, R). Cov(I, R) = 0 0 = 0 = corr(i, R).

75 1.14. Kowariancja i korelacja 77 PRZYKŁAD 44. Rozważmy tabelkę z jednego z poprzednich przykładów: wykształcenie płeć wyższe średnie podstawowe razem kobiety mężczyźni Razem Niech X 1 oznacza zmienną dotyczącą płci. Przyjmijmy wartość 1 gdy osoba jest kobietą i 1, gdy jest mężczyzną. Niech X 2 oznacza zmienną dotyczącą wykształcenia. Przyjmujemy wartości 1 dla wykształcenia podstawowego, 2 dla średniego i 3 dla wyższego. Ponumerujmy pracowników od 1 do 36. Przedstawmy rozkłady zmiennych X 1 i X 2 w tabelce. pracownicy ω 1 ω 2 ω 3 ω 4 ω 5 ω 6 p(ω i) 5/36 3/36 4/36 13/36 3/36 8/36 X X Mamy E(X 1 ) = 1 3 ( 1) = 1 3. Zatem Cov(X 1, X 2 ) = ( Dalej mamy E(X 2 ) = = ( D 2 (X 1 ) = ( 1 1 ) ( ) ( 3 11 ) ) ( 2 11 ) + 8 ( ) ( 1 1 ) ( 2 11 ) 3 6 ( 1 1 ) ( 1 11 ) 3 6 ) ( 3 11 ) = ( 1 1 ) ( = )

76 78 1. Elementy Rachunku Prawdopodobieństwa D 2 (X 2 ) = 18 ( 1 11 ) ( 2 11 ) ( 3 11 ) 2 = Stąd Zatem D(X 1 ) = 0.94, D(X 2 ) = corr(x 1, X 2 ) = = 2.21.