Wyk lad z Rachuku Prawdopodobieństwa WNE, 2008/2009. Podstawowe schematy kombiatorycze Wariacje z powtórzeiami. Za lóżmy, iż mamy zbiór elemetowy A. Wówczas liczba k-elemetowych ciagów o wyrazach ze zbioru A wyosi... = k. Wariacje bez powtórzeń. Za lóżmy, iż mamy zbiór elemetowy A. Wówczas liczba k-elemetowych różowartościowych ciagów o wyrazach ze zbioru A wyosi ( )... ( k + ) =!/( k)!, o ile k, i 0 jeśli k >. Permutacje. Sa to wariacje -elemetowe zbioru -elemetowego: iaczej, sa to ustawieia elemetów zbioru w ciag. Ich liczba wyosi!. Kombiacje. Za lóżmy, że mamy zbiór elemetowy A. Wówczas liczba k- elemetowych podzbiorów zbioru A wyosi ( k), gdzie ( ) {! k!( k)! jeśli k, = k 0 w p.p. 2. Rys historyczy Motywacje: - gry hazardowe, - zjawiska masowe (statystyki urodzeń i zgoów). - aksjomatyka Ko lmogorowa, 933 r. 3. Przyk lady prostych modeli probabilistyczych: dyskretych i ciag lych Przypuśćmy, że wykoujemy eksperymet losowy. Powstaje atychmiast pytaie: w jaki sposób opisać go matematyczie? Przede wszystkim, a pewo możemy mówić o jego potecjalych wyikach: zdarzeia elemetare to możliwe wyiki tego eksperymetu. Zbiór wszystkich zdarzeń elemetarych ozaczamy litera Ω. Zdarzeie elemetare ozaczamy litera ω.. Rzut moeta: możliwe dwa wyiki: Ω = {O, R}. Ω = 2. 2. Rzut kostka: możliwe sześć wyików: Ω = {, 2, 3, 4, 5, 6}. Ω = 6. 3. Rzut dwiema kostkami, patrzymy a sume oczek: Ω = {2, 3,..., 2}. Zauważmy, że, ituicyjie, wyiki ie sa jedakowo prawdopodobe. Suma 2 zdarza sie tylko gdy wypad ly dwie ; a p. suma 7 zdarza sie, gdy wypadie 3 i 4, 4 i 3, 2 i 6, itp. Ω =. 4. Z talii kart losujemy 5 kart. Wyikiem jest 5-cioelemetowa kombiacja zbioru kart; zatem Ω to zbiór piecioelemetowych podzbiorów zbioru 52-elemetowego. Ω = ( 52 5 ). 5. Rzucamy ig l e a stó l i mierzymy kat jaki tworzy z wybraa krawedzi a sto lu. Wyik to liczba z przedzia lu [0, 2π). Ω = [0, 2π). Jest to przyk lad ciag lego doświadczeia losowego. 4. σ-cia la Zdarzeia. Czesto ie iteresuje as kokrety wyik ω, ale to, czy ależy o do wcześiej ustaloego podzbioru A zbioru Ω. Takie podzbiory A azywamy zdarzeiami.
2 Przyk lad: Przy rzucie kostka, może as p. iteresować A = {, 3, 5} - zdarzeie polegajace a tym, że wypad la ieparzysta liczba oczek. Jeśli ω - wyik, A - zdarzeie, to: - jeśli ω A, to mówimy, że zasz lo A badź że ω sprzyja A. - jeśli ω / A, to mówimy, że ie zasz lo A, badź że zasz lo zdarzeie przeciwe, zdefiiowae jako A = Ω \ A. A azywamy też dope lieiem zbioru A. Mp., w przyk ladzie z kostka może iteresować as wyrzuceie ieparzystej liczby oczek, badź w przyk ladzie z talia kart, może as iteresować zdarzeie:,,wylosowaliśmy co ajmiej 2 asy. Szczególe zdarzeia, iterpretacje dzia lań/relacji a zdarzeiach: Ω - zdarzeie pewe, - zdarzeie iemożliwe, A B - zasz ly oba zdarzeia A, B, A B = - zdarzeia sie wykluczaja (sa roz l acze), A B - zasz lo A lub B, A - ie zasz lo A, A \ B = A B - zasz lo A i ie zasz lo B, A B - A pociaga za soba B. Przypuśćmy, że mamy Ω i chcemy zdefiiować sesowa klase zdarzeń (cokolwiek to zaczy). Naturaly pomys l: rozważać 2 Ω - wszystkie możliwe podzbiory; czasem jedak ta klasa jest zbyt duża i ie da sie a iej dobrze pracować. Rozsada klasa zdarzeń powia być zamkieta a braie sumy, iloczyu i zdarzeia przeciwego. To prowadzi do pojecia cia la oraz σ-cia la. Defiicja. Rodzi e F podzbiorów Ω azywamy σ-cia lem, jeśli (i) F, (ii) A F A F, (iii) A, A 2,... F A F. = 5. Ituicja wiodaca do określeia prawdopodobieństwa - czestość zdarzeń Weźmy przyk lad z moeta. Jeśli rzucamy (te sama) moeta wiele razy, to oczekujemy (i rzeczywiście tak bywa), że orze l pojawi sie w przybliżeiu w po lowie przypadków. Tak wiec,,czestościowo, prawdopodobieństwo wypadiecia or la to /2. Teraz ogóliej: za lóżmy, że wykoujemy eksperymet, w którym zbiór zdarzeń elemetarych to Ω oraz A jest zdarzeiem. Za lóżmy, że powtarzamy ekperymet razy i defiiujemy ρ (A) = liczba zajść A. Nazywamy t e liczb e cz estości a zdarzeia A. Gdy jest duże, spodziewamy si e, że ρ (A) powio z grubsza mówić o prawdopodobieństwie A.
3 Spójrzmy a w lasości ρ : (i) 0 ρ (A), (ii) ρ (Ω) =, (iii) A B = ρ (A B) = ρ (A) + ρ (B). Uwaga: Pożytecza w lasość: ρ (A) = ρ (A ). Chcia loby si e teraz określić prawdopodobieństwo A jako lim ρ (A). K lopot: ie wiemy, czy graica istieje. Może wi ec z drugiej stroy: zdefiiować prawdopodobieństwo jako fukcj e, która ma wszystkie w lasości (i) (iii). 6. Aksjomatyka Ko lmogorowa Niech (Ω, F) - ustaloe. Wówczas fukcj e P : F [0, ] azywamy prawdopodobieństwem, jeśli (i) 0 P(A), (ii) P(Ω) =, (iii) jeśli A, A 2,... F sa parami roz l acze, to ( ) P A = P(A ). = = Trójke (Ω, F, P) azywamy przestrzeia probabilistycza. 7. Przyk lady. Rzut symetrycza moeta: Ω = {O, R}, F = 2 Ω = {{O}, {R}, Ω, }, P({O}) = /2, P({R}) = /2, P(Ω) =, P( ) = 0. 2. Rzut iesymetrycza moeta: Ω = {O, R}, F = 2 Ω, P({O}) = p, P({R}) = p, P(Ω) =, P( ) = 0. Tutaj p jest pewa ustaloa liczba z przedzia lu [0, ]. 3. Rzut kostka: Ω = {, 2, 3, 4, 5, 6}, F = 2 Ω, P(A) = A /6. 4. Schemat klasyczy (prawdopodobieństwo klasycze). Za lóżmy, że Ω jest zbiorem skończoym, F = 2 Ω i wszystkie zdarzeia elemetare sa jedakowo prawdopodobe. Wówczas, jak latwo sprawdzić, dla A F, P(A) = A Ω. 5. Z talii 52 kart losujemy jedocześie pieć kart. Jakie jest prawdopodobieństwo, że wylosujemy cztery asy? Jak już wiemy, Ω to piecioelemetowe kombiacje zbioru talii kart. Ituicja podpowiada, iż zdarzeia elemetare sa rówoprawdopdobe, a wiec sesowym prawdopodobieństwem a Ω jest prawdopodobieństwo klasycze. Niech A - te podbiory, w których sa cztery asy: A = {{A, A, A, A, } : jeda z pozosta lych 48 kart}. Takich podzbiorów jest 48. A wi ec A = 48, Ω = ( 52 5 ). 6. Za lóżmy, że Ω = {ω, ω 2,..., ω,...} - zbiór co ajwyżej przeliczaly oraz p, p 2,... - liczby ieujeme o sumie. Wówczas możemy określić F = 2 Ω oraz
4 P({w i }) = p i, i =, 2,.... Wówczas, dla A F, P(A) = i A (w i )p i, gdzie A to fukcja wskaźikowa (charakterystycza) badź idykator zbioru A, day przez A (x) = { jeśli x A, 0 jeśli x / A. 7. Prawdopodobieństwo geometrycze. W wielu sytuacjach, którymi bedziemy sie zajmować, doświadczeie losowe ma charakter ciag ly. Najprostszym przyk ladem jest losowaie puktu ze zbioru Ω, leżacego a prostej (lub a p laszczyźie, czy ogóliej w przestrzei R ) i majacego skończoa d lugość (pole powierzchi, miare). Zbiorem takim może być p. odciek, ko lo, kwadrat, kula, sześcia. Zgodie z ituicja aturalie jest przyjać, iż prawdopodobieństwo zdarzeia A Ω jest proporcjoale do jego miary, czyli P(A) = A Ω, gdzie ozacza miare zbioru. Pojawia sie tu pewie techiczy problem, miaowicie jak zdefiiować σ-cia lo F? Okazuje sie, że ie moża w aturaly sposób określic d lugości, pola powierzchi, czy objetości a wszystkich podzbiorach Ω, ie możemy wiec przyjać F = 2 Ω i musimy sie ograiczyć do miejszego σ-cia la. Z regu ly w takich sytuacjach rozpatruje sie tzw. σ-cia lo borelowskie B(Ω), zdefiiowae jako ajmiejsze σ-cia lo zawierajace wszystkie zbiory otwarte w Ω. Tak, p. losowaie puktu z ko la Ω o promieiu r, moża opisać przy pomocy przestrzei probabilistyczej (Ω, B(Ω), P), gdzie dla A B(Ω), P(A) = A πr 2. W podoby sposób możemy rówież opisać losowaie puktu p. z okr egu czy sfery. 8. Podstawowe w lasości prawdopodobieństwa Poiżej sformu lujemy kilka podstawowych faktów dotyczacych prawdopodobieństwa. Przyjmujemy, że (Ω, F, P) jest ustaloa przestrzeia probabilistycza.
5 Twierdzeie. Niech A, B,, A, A 2,... F. Wówczas (i) P( ) = 0. (ii) Jeśli A, A 2,..., A sa parami roz l acze, to ( ) P A i = P(A i ). Dowód. Ile starczy czasu. i= i= (iii) P(A ) = P(A). (iv) jeśli A B, to P(B \ A) = P(B) P(A), (v) jeśli A B, to P(A) P(B). (vi) P(A B) = P(A) + P(B) P(A B). ( ) (vii) P A i P(A i ). i= i= Twierdzeie 2 (Wzór w l aczeń i wy l aczeń). Jeśli A, A 2,..., A sa zdarzeiami, to P(A A 2... A ) = P(A i A j ) +... i= P(A i ) i<j + ( ) + P(A A 2... A ). Defiicja 2. Za lóżmy, że A, A 2,... jest ciagiem zdarzeń. Mówimy, że ciag te jest wstepuj acy, jeśli A A 2 A 3... oraz że jest zstepuj acy, jeśli A A 2 A 3.... Twierdzeie 3 (Regu la ciag lości). Za lóżmy, że (A ) = jest ciagiem zdarzeń. (i) Jeśli ciag te jest wstepuj acy, to ( ) lim P(A ) = P A. (ii) Jeśli ciag te jest zstepuj acy, to lim P(A ) = P = ( ) A. = 9. Prawdopodobieństwo warukowe W praktyce z regu ly jesteśmy zaiteresowai ie tyle pojedyczym zdarzeiem, co kilkoma zdarzeiami i ich wzajemymi zwiazkami. Przyk lady. Na podstawie akiety przeprowadzoej a pewym zbiorze klietów (ozaczmy go litera Ω) firma foograficza posiada dae a temat ich gustów muzyczych. Przypuśćmy, że kierowictwo jest zaiteresowae pytaiem jak czesto
6 fai jazzu lubia także muzyke klasycza. Jeśli przez J ozaczymy zbiór tych akietowaych, którzy sa faami jazzu, a przez K zbiór tych akietowaych, którzy sa faami muzyki klasyczej, iteresujaca as czestość jest rówa J K J = J K / Ω. J / Ω Zauważmy, że wyrażeia w licziku i miaowiku to czestości poszczególych zbiorów liczoe wzgledem ca lego zbioru Ω. 2. Przypuśćmy, że suma oczek przy dwóch rzutach kostka wyosi 4. Nie zamy jedak wyików poszczególych rzutów. Jaka jest szasa, że przy pierwszym rzucie wypad ly dwa oczka (zdarzeie A)? Iformacja, która posiadamy ozacza, że zasz lo zdarzeie B = {(, 3), (2, 2), (3, )}. Ituicja podpowiada am, że każde z trzech sprzyjajacych mu zdarzeń elemetarych powio być tak samo prawdopodobe, a zatem szukae prawdopodobieństwo powio wyosić /3 (dwójce przy pierwszym rzucie sprzyja tylko jedo zdarzeie elemetare z B). Podobie uważamy, że wszystkie zdarzeia elemetare a przestrzei { } Ω = (a, b): a, b {, 2, 3, 4, 5, 6}, opisujacej dwa rzuty kostka, sa jedakowo prawdopodobe. Zatem aturalym modelem dla aszego doświadczeia jest (Ω, 2 Ω, P), gdzie P jest prawdopodobieństwem klasyczym P(C) = C, dla C Ω. 36 Zauważmy teraz, że 3 = /36 P(A B) =. 3/36 P(B) Powyższe przyk lady motywuja astepuj ac a defiicje Defiicja 3. Niech A, B bed a dwoma zdarzeiami, przy czym P(B) > 0. Prawdopodobieństwem warukowym zdarzeia A pod warukiem zdarzeia B azywamy liczbe P(A B) = P(A B). P(B) Uwaga Piszac P(A B) milczaco zak ladamy, że P(B) > 0. Przy ustaloym zbiorze B, prawdopodobieństwo warukowe P(A B) jako fukcja zbioru A F spe lia aksjomaty Ko lmogorowa. W kosekwecji posiada wiec wszystkie w lasości prawdopodobieństwa wprowadzoe w paragrafie 8. Twierdzeie 4 (Wzór lańcuchowy). Dla dowolych zdarzeń A,..., A, spe liajacych waruek zachodzi P(A A 2... A ) > 0, P(A A 2... A ) = P(A )P(A 2 A )P(A 3 A A 2 ) P(A A A 2... A ).
7 Przyk lad Losujemy po kolei trzy karty bez zwracaia. Jakie jest prawdopodobieństwo, że wylosujemy trzy asy? Niech A i, i =, 2, 3, ozacza prawdopodobieństwo, że i-ta wylosowaa karta jest as. Wiemy, że P(A ) = 4/52. Jeśli pierwsza wylosowaa karta jest as, to przed drugim losowaiem w talii zajduja sie trzy asy. Poieważ tym razem losujemy spośród 5 kart, mamy P(A 2 A ) = 3 5. Aalogiczie P(A 3 A A 2 ) = 2 50. Stosujac Twierdzeie 4, otrzymujemy P(wylosujemy trzy asy) = P(A A 2 A 3 ) = 4 52 3 5 2 50 Modele probabilistycze sa czesto zadae poprzez specyfikacje prawdopodobieństw warukowych iteresujacych as zdarzeń pod warukiem iych zdarzeń, których prawdopodobieństwa zamy. W takich sytuacjach przydaty jest tzw. wzór a prawdopodobieństwo ca lkowite. Zaim go sformu lujemy, wprowadźmy astepuj ac a defiicje. Defiicja 4. Rozbiciem przestrzei Ω azywamy dowola rodzie zdarzeń {H i } i I, taka że H i H j = dla i j oraz i I H i = Ω. Jeśli zbiór ideksujacy I jest skończoy (odp. przeliczaly) to rozbicie azywamy skończoym (odp. przeliczalym). Twierdzeie 5 (Wzór a prawdopodobieństwo ca lkowite). Dla dowolego skończoego rozbicia {H, H 2,..., H } zbioru Ω a zbiory o dodatim prawdopodobieństwie i dowolego zdarzeia A, P(A) = P(A H i )P(H i ). i= Aalogiczy wzór zachodzi także dla rozbicia a przeliczala liczbe zdarzeń o dodatim prawdopodobieństwie. Przyk lad Egzami usty przeprowadzay jest przez paów Dobrego i Z lego. Egzami u paa Dobrego zdaje 90% studetów, a u paa Z lego zaledwie 0%. Jakie jest prawdopodobieństwo, że studet zda egzami jeśli prawdopodobieństwo, że trafi do paa Dobrego wyosi 2/3? Niech D, Z ozaczaja zdarzeia, że studet trafi l odpowiedio do paa Dobrego lub Z lego, zaś OK zdarzeie, że studet zda egzami. Mamy P(D) = 2/3, P(Z) = /3 oraz P(OK D) = 9/0, P(OK Z) = /0. Zatem P(OK) = P(OK D)P(D) + P(OK Z)P(Z) = 9 0 2 3 + 0 3 = 9 30. Koleje twierdzeie, blisko zwi azae ze wzorem a prawdopodobieństwo ca lkowite, jest bardzo waże w zastosowaiach.
8 Twierdzeie 6 (Wzór Bayesa). Niech {H i } i I b edzie przeliczalym rozbiciem Ω a zdarzeia o dodatich prawdopodobieństwach. Wówczas, dla dowolego zdarzeia A o dodatim prawdopodobieństwie, zachodzi P(H j A) = P(A H j )P(H j ) i I P(A H i)p(h i ) Przyk lad Samochody sprzedawae przez pewa firme pochodza z dwóch fabryk, A (40%) oraz B (60%). Co dwudziesty samochód z fabryki A zawiera wade fabrycza. To samo dotyczy co dziesiatego samochodu z fabryki B. Kliet kupuje samochód, który okazuje sie być wadliwy. Jakie jest prawdopodobieństwo, że pochodzi z fabryki A? Z waruków zadaia otrzymujemy, że P(samochód wadliwy A) =, P(samochód wadliwy B) = 20 0 P(A) = 4 0, P(B) = 6 0, gdzie A, B ozaczaja oczywiście zdarzeia, że samochód pochodzi z fabryki odpowiedio A, B. Z wzoru Bayesa otrzymujemy P(samochód wadliwy A)P(A) P(A samochód wadliwy) = P(samochód wadliwy A)P(A) + P(samochód wadliwy B)P(B) /20 4/0 = /20 4/0 + /0 6/0 = 4. 0. Niezależość zdarzeń Przypuśćmy, że zdarzeia A, B spe liaja waruek () P(B A) = P(B). Ozacza to, że dodatkowa wiedza, że zasz lo zdarzeie A, ie wp lywa a prawdopodobieństwo zdarzeia B. Moża wi ec powiedzieć, że zdarzeie B jest iezależe od zdarzeia A. Powyższy waruek zapisuje si e rówoważie jako (2) P(A B) = P(A)P(B). W szczególości widzimy, że jeśli () zachodzi oraz P(B) > 0, to P(A B) = P(A), czyli rówież zdarzeie A ie zależy od zdarzeia B. Zapis (2) ma te zalete, że lepiej iż () obrazuje symetrie sytuacji, dodatkowo ma ses także dla zdarzeń o zerowym prawdopodobieństwie. Naturale jest wiec przyjać astepuj ac a defiicje. Defiicja 5. Zdarzeia A, B azywamy iezależymi jeśli P(A B) = P(A)P(B). Przyk lady. Rzucamy kostk a. Rozpatrzmy zdarzeia: A - wypad la parzysta liczba oczek, B - liczba wyrzucoych oczek jest miejsza iż 5, C - liczba wyrzucoych oczek jest miejsza iż 6. Oczywiście P(A) = /2, P(B) = 2/3, P(C) = 5/6.
Zdarzeia A i B sa iezależe atomiast zdarzeia A i C ie sa iezależe. Rzeczywiście P(A B) = P(wypad ly 2 lub 4 oczka) = 3 = P(A)P(B), P(A C) = P(A B) = 3 P(A)P(C). 2. W ramach agrody firma wykupi la dla pracowików dwa rodzaje wycieczek, w góry i ad morze. Wśród 2 pracowików rozdzieloo w sposób losowy 8 wycieczek ad morze, z czego dwie w lipcu, a sześć w sierpiu oraz cztery wycieczki w góry, jeda w lipcu i trzy w sierpiu. Niech M ozacza zdarzeie, że ustaloy pracowik wylosuje wycieczke ad morze, zaś L - zdarzeie, że te sam pracowik wylosuje termi lipcowy. Mamy P(M) = 8/2, p(l) = 3/2 oraz P(M L) = 2/2. Poieważ 8/2 3/2 = 2/2, zdarzeia M i L sa iezależe. 3. Losujemy jeda karte z talii. Zdarzeie A, polegajace a wylosowaiu karty starszej iż walet i zdarzeie B, polegajace a wylosowaiu karty w kolorze trefl sa iezależe. Rzeczywiście, P(A) = 2/52 (wylosowaa karta musi byc dama, królem lub asem w jedym z czterech możliwych kolorów), P(B) = /4 oraz P(A B) = P(wylosowao dame, króla lub asa trefl) = 3/52 = P(A)P(B). Pytaie Co sie zmiei gdy do talii dodamy jedego jokera (przyjmujemy, że joker ie ma żadego koloru)? 4. Rzucamy dwa razy moeta. Niech O i ozacza zdarzeie, że w i-tym rzucie wypad l orze l. Ituicyjie uważamy te zdarzeia za iezależe (przyajmiej zak ladajac, że osoba rzucajaca moeta ie oszukuje). W klasyczym modelu probabilistyczym dla moety symetryczej, gdy prawdopodobieństwo każdej z czterech sekwecji (O, O), (O, R), (R, O), (R, R) wyosi /4, latwo sprawdzić (por. z poprzedim przyk ladem), że rzeczywiście tak jest (P(O O 2 ) = P(O )P(O 2 )). Zastaówmy sie wiec jak zdefiiować prawdopodobieństwo P a zbiorze Ω = {(O, O), (O, R), (R, O), (R, R)}, tak aby prawdopodobieństwo wyrzuceia or la wyosi lo p (zarówo w pierwszym, jak i drugim rzucie), a zdarzeia O, O 2 adal by ly iezależe. Musimy w tym celu ustalić cztery liczby p (O,O), p (O,R), p (R,R), p (R,R). Chcemy aby 9 P({(O, O), (O, R)}) = P({(O, O), (R, O)}) = p P({(O, O)}) = p 2, oraz skad dostajemy rówaia p (O,O) + p (O,R) = p (O,O) + p (R,O) = p p (O,O) = p 2. Zatem p (R,O) = p (R,O) = p( p). Poieważ p (O,O) + p (O,R) + p (R,O) + p (R,R) =, ostateczie dostajemy p (O,O) = p 2 p (O,R) = p (R,O) = p( p) p (R,R) = ( p) 2
0 Moża rówież mówić o iezależości wi ekszej liczby zdarzeń. Defiicja okazuje si e jedak bardziej skomplikowaa. Defiicja 6. Zdarzeia A,..., A azywamy iezależymi, jeśli (3) P(A i A i2... A ik ) = P(A i ) P(A i2 )... P(A ik ), dla dowolych wskaźików i < i 2 <... < i k, k = 2, 3,...,. Przyk lady. Losujemy liczb e od do 90. Rozważmy zdarzeia A - wylosowaa liczba jest podziela przez 2, B - wylosowaa liczba jest podziela przez 3, C - wylosowaa liczba jest podziela przez 5. Wówczas, jak latwo sprawdzić oraz P(A) =, P(B) = /3, P(C) = /5 2 P(A B) = 6 = P(A)P(B) P(A C) = 0 = P(A)P(C) P(B C) = 5 = P(B)P(C) P(A B C) = 30 = P(A)P(B)P(C). Zdarzeia A, B, C sa zatem iezależe. 2. Moża sie zastaawiać, czy powyżej musieliśmy sprawdzać prawdopodobieństwa wszystkich czterech iloczyów zbiorów. Okazuje sie, że tak, co ilustruje astepuj acy przyk lad. Trzech wspó llokatorów (Bartek, Czarek i Darek) decyduje sie oddać butelki do skupu. Zadaie wymaga udzia lu dwóch osób. Przygotowuja wiec cztery losy {Bartek, Czarek, Darek, Za tydzień}, aby zadecydować czy dwóch z ich zda butelki, a wylosoway zostaie w domu, czy też od loża problem a przysz ly tydzień. Rozważmy zdarzeia B = {Bartek, Za tydzień} - Bartek zostaie w domu C = {Czarek, Za tydzień} - Czarek zostaie w domu D = {Darek, Za tydzień} - Darek zostaie w domu. Zauważmy, że prawdopodobieństwo każdego ze zdarzeń B, C, D wyosi /2. Poadto P(B C) = 4 = P(B)P(C) P(B D) = 4 = P(B)P(D) P(C D) = 4 = P(C)P(D). Zatem każde dwa spośród zdarzeń B, C, D sa iezależe. Zdarzeia A, B, C ie sa jedak iezależe, gdyż P(B C D) = P({Za tydzień}) = 4 8 = P(B)P(C)P(D). W takiej sytuacji mówimy, że zdarzeia B, C, D sa iezależe parami.
Twierdzeie 7. Rozważmy zdarzeia A, A 2,..., A i ozaczmy A 0 i = A i, A i = A i. Wówczas astepuj ace waruki sa rówoważe, (i) zdarzeia A,..., A sa iezależe, (ii) dla każdego ciagu ε,..., ε, gdzie ε i {0, } (i =,..., ), zdarzeia B = A ε,..., B = A ε, sa iezależe, (iii) dla każdego ciagu ε,..., ε, gdzie ε i {0, } (i =,..., ), zachodzi P(A ε... Aε ) = P(A ε )... P(Aε ) W szczególości, z powyższego twierdzeia wyika, że jeśli zdarzeia A, B sa iezależe, to iezależe sa także zdarzeia A, B. Fakt te pozwala uprościć ieco rachuki w przyk ladzie 4 powyżej.. Schemat Beroulliego Defiicja 7. Schematem Beroulliego azywamy ciag iezależych powtórzeń tego samego doświadczeia, w którym sa możliwe dwa wyiki: jede z ich azywamy sukcesem (i prawdopodobieństwo jego zajścia ozaczamy przez p), a drugie - porażka (jego prawdopodobieństwo wyosi q = p). Pojedycze doświadczeie azywamy próba Beroulliego. Schemat Beroulliego jest jedozaczie określoy przez podaie liczby prób (ozaczaej dalej litera ) i prawdopodobieństwa sukcesu p. Moża też rozpatrywać schematy Beroulliego z ieskończoa liczba prób. Przyk lady:. Rzucamy 0 razy prawid lowa moeta. Próba Beroulliego jest pojedyczy rzut moeta, jako sukces przyjmujemy wyrzuceie or la. Mamy = 0, p = /2. 2. Rzucamy 5 razy prawid lowa kostka. Próba Beroulliego jest pojedyczy rzut kostka, jako sukces przyjmujemy wyrzuceie co ajwyżej 2 oczek. Mamy = 5, p = /3. 3. Z ury, w której zajduje sie 5 bia lych i 4 czare kule, losujemy 20 razy ze zwracaiem po 2 kule. Próba Beroulliego jest pojedycze losowaie dwóch kul, jako sukces bierzemy wylosowaie dwóch bia lych kul. Mamy = 20, p = ( ( 5 2) / 9 2). Latwo jest podać przestrzeń probabilistycza modelujac a schemat Beroulliego sk ladajacego sie z prób i prawdopodobieństwie sukcesu p. Miaowicie, Ω = {(a, a 2,..., a ) : a i {0, }, i =, 2..., }, gdzie a i = (odp., a i = 0) iterpretujemy jako sukces (odp., porażk e) w i-tej próbie, i =, 2,...,. Poadto, bierzemy F = 2 Ω. Aby określić prawdopodobieństwo a (Ω, F), wystarczy określić je a zdarzeiach jedoelemetowych (patrz przyk lad 6 ze stroy 3). K ladziemy P({(a, a 2,..., a )}) = p P i= ai ( p) P i= a. Stad latwo wyika, iż prawdopodobieństwo uzyskaia dok ladie k sukcesów w schemacie Beroulliego sk ladajacego sie z prób wyosi ( ) p k ( p) k. k Przyk lady:
2. Rzucamy 0 razy kostka. Jakie jest prawdopodobieństwo tego, że szóstka wypadie raz lub dwa razy? Mamy tu do czyieia ze schematem Beroulliego sk ladajacego sie z 0 prób. Próba Beroulliego jest pojedyczy rzut kostka, a sukcesem jest wyrzuceie 6 oczek; zatem p = /6. Wobec tego P(szóstka wypadie raz lub dwa razy) = P(jede sukces) + P(dwa sukcesy) ( ) ( ) ( ) 9 ( ) ( ) 2 ( ) 8 0 5 0 5 = +. 6 6 2 6 6 2. Day jest schemat Beroulliego sk ladajacy sie z prób, o prawdopodobieństwie sukcesu p. Jaka jest ajbardziej prawdopodoba liczba sukcesów? Ozaczmy ( ) p k = P(mamy dok ladie k sukcesów) = p k ( p) k. k Mamy p k+ p k = ( k+ ) p k+ ( p) (k+) ( = k) pk ( p) k ( k)p (k + )( p). Powyższe wyrażeie jest wieksze iż wtedy i tylko wtedy, gdy k < ( + )p ; jest zaś miejsze iż wtedy i tylko wtedy, gdy k > ( + )p. Iymi s lowy, do mometu k = ( + )p liczby p k rosa, a potem maleja. Daje to astepuj ac a odpowiedź. Jeśli ( + )p jest liczba ca lkowita, to dwie liczby sukcesów sa ajbardziej prawdopodobe: ( + )p oraz ( + )p. Jeśli zaś ( + )p ie jest liczba ca lkowita, to ajbardziej prawdopodoba liczba sukcesów jest ( + )p. W przypadku, gdy liczba prób w schemacie Beroulliego jest duża, obliczaie prawdopodobieństwa daej liczby sukcesów jest k lopotliwe. W przypadku gdy p jest,,umiarkowae, dobre przybliżeie takiego prawdopodobieństwa daje astepuj ace twierdzeie. Twierdzeie 8 (Poissoa). Jeśli p [0, ], lim p = λ > 0, to dla k = 0,, 2,..., ( lim )p k( p ) k = λk k k! e λ. Powstaje aturale pytaie, a ile powyższe przybliżeie jest,,dobre. Odpowiedź jest zawarta w astepuj acym twierdzeiu. Twierdzeie 9 (Oszacowaie b l edu w przybliżeiu poissoowskim). Niech S ozacza liczbe sukcesów w schemacie Beroulliego sk ladajacego sie z prób i prawdopodobieństwie sukcesu p. Ozaczmy λ = p. Dla dowolego zbioru A {0,, 2,...}, P(S A) λ k k! e λ λ2. k A Przyk lady:. W urie zajduje sie 999 czarych i bia la kula. Wyzaczyć przybliżoe prawdopodobieństwo tego, że losujac 500 razy ze zwracaiem wylosujemy 2 razy bia l a kule. Mamy tu do czyieia ze schematem 500 prób Beroulliego (z których każda to pojedycze losowaie z ury), o prawdopodobieństwie sukcesu p = /000. Liczba
3 prób = 500 jest duża, λ = p = /2 jest umiarkowae, a wi ec a mocy twierdzeia Poissoa, szukae prawdopodobieństwo jest w przybliżeiu rówe (/2)2 2! e /2 = 0, 076.... Poadto, jak widać z powyższego twierdzeia, b l ad oszacowaia jest iewiekszy iż λ 2 / = /2000 = 0, 002. 2. Artyku l liczy 0 5 zaków. Podczas wprowadzaia artyku lu do komputera, prawdopodobieństwo iż day zak zostaie wpisay b l edie wyosi 0, 000. Jakie jest prawdopodobieństwo, że w artykule sa co ajmiej 2 b l edy? Widzimy, iż mamy do czyieia ze schematem Beroulliego sk ladajacego sie z = 0 5 prób (k-ta z ich odpowiada wprowadzeiu k-tego zaku artyku lu). Prawdopodobieństwo sukcesu (wprowadzeia zaku b l edie) wyosi p = 0, 000. Mamy, iż jest duże, a λ = p = 0 jest umiarkowae; stad możemy używać twierdzeia Poissoa. Latwiej jest pracować ze zdarzeiem przeciwym do rozważaego: w artykule jest co ajwyżej b l ad. Prawdopodobieństwo tego zdarzeia wyosi w przybliżeiu 0 0 0! e 0 + 0! e 0 = e 0 = 0, 0005..., a wiec rozważae w przyk ladzie prawdopodobieństwo wyosi oko lo 0, 9995. B l ad przybliżeia szacuje sie przez λ 2 / = 0, 00. 3. Z przedzia lu [0, 2] wybieramy losowo 00 puktów. Jakie jest prawdopodobieństwo tego, że co ajmiej jede z ich bedzie ależa l do odcika [0, /4]? Mamy schemat = 00 prób Beroulliego z prawdopodobieństwem sukcesu (wpadiecie losowaego puktu do [0, /4]) wyoszacym p = /8. Mamy λ = p = 2, 5 i zdarzeie przeciwe do badaego ma w przybliżeiu prawdopodobieństwo e 2,5 = 0, 000004.... B l ad przybliżeia szacuje sie przez λ 2 / =, 5625. Widać wiec, że otrzymay wyik jest bezwartościowy. Jest tak dlatego, iż λ, w porówaiu do, ie jest,,umiarkowae. 2. Zmiee losowe jedowymiarowe Jak już wiemy, matematyczym opisem doświadczeia losowego jest przestrzeń probabilistycza (Ω, F, P). Czesto jedak ie iteresuje as kokrety wyik ω Ω, ale pewe charakterystyki liczbowe wyiku. Np., przy rzucie dwoma kostkami może as iteresować suma oczek; przy ieskończoym ciagu rzutów moeta może as iteresować umer losowaia, w którym orze l pojawi l sie po raz pierwszy, itp. Iymi s lowy, czesto obiektem aszych zaiteresowań jest pewa fukcja X określoa a Ω, przyjmujaca wartości rzeczywiste. Przy badaiu takiej fukcji, aturalym pytaiem jest p. pytaie o prawdopodobieństwo tego, że X a (por. powyższe przyk lady). W szczególości ozacza to, iż,,x ie przekracza a jest zdarzeiem, tz. X ((, a]) = {ω Ω : X(ω) a} F. Prowadzi to do astepuj acego pojecia. Defiicja 8. Fukcje X : Ω R azywamy zmiea losowa o wartościach w R, jeśli dla dowolego a R zbiór X ((, a]) jest zdarzeiem, czyli X ((, a]) F. Uwaga: Gdy Ω jest zbiorem co ajwyżej przeliczalym i F = 2 Ω, to każda fukcja X : Ω R jest zmiea losowa. Przyk lady:
4. Rzucamy dwa razy kostka, X - liczba wyrzucoych or lów. Mamy Ω = {(O, O), (O, R), (R, O), (R, R)} i X((O, O)) = 2, X((O, R)) = X((R, O)) =, X((R, R)) = 0. 2. Rzucamy dwa razy kostka, X - suma oczek. Mamy Ω = {(a, b) : a, b {, 2, 3, 4, 5, 6}}, X((a, b)) = a + b. 3. Z odcika [0, 3] wybieramy pukt, X - jego odleg lość od ajbliższej liczby ca lkowitej. Wówczas Ω = [0, 3] i dla ω Ω, ω jeśli ω [0, /2], ω jeśli ω (/2, 3/2], X(ω) = ω 2 jeśli ω (3/2, 5/2], 3 ω jeśli ω (5/2, 3]. Na zmieych losowych (określoych a tej samej przestrzei probabilistyczej) moża wykoywać wszelkie (rozsade...) dzia laia: dodawaie, odejmowaie, możeie, dzieleie (o ile ie dzielimy przez 0) i jako wyik otrzymujemy owe zmiee losowe. Poadto, jeśli X jest zmiea losowa, a f : R R jest fukcja borelowska, to f(x) też jest zmiea losowa. Np., jeśli X, Y sa zmieymi losowymi, to Z = si X, Z 2 = 3 si X + Y 2, Z 3 = X Y 2 + także s a zmieymi losowymi. Przechodzimy teraz do pojecia rozk ladu zmieej losowej. Zaczijmy od kilku przyk ladów.. Rzucamy trzy razy symetrycza moeta. Niech X ozacza liczbe wyrzucoych or lów. Korzystajac ze schematu Beroulliego obliczamy, iż P(X = 0) = 8, P(X = ) = 3 8, P(X = 2) = 3 8, P(X = 3) = 8. Widzimy wiec, że 0 oraz 3 sa przyjmowae z prawdopodobieństwem /8, a i 2 - z prawdopodobieństwem 3/8. Widać, że dostajemy pewie rozk lad prawdopodobieństwa a prostej. Niech teraz Y - liczba wyrzucoych reszek. Wówczas tak samo: 0 oraz 3 sa przyjmowae przez zmiea Y z prawdopodobieństwem /8, a i 2 - z prawdopodobieństwem 3/8. Tak wiec dostajemy to samo prawdopodobieństwo a prostej. 2. Z ko la o promieiu losujemy pukt. Niech X ozacza odleg lość tego puktu od środka ko la. Wówczas X przyjmuje wartości z przedzia lu [0, ]. Dla a [0, ] mamy P(X [0, a]) = πa2 π = a2, a wiec potrafimy,,mierzyć wielkość przedzia lów [0, a]. Okazuje sie, iż podaa fukcje moża rozszerzyć do prawdopodobieństwa określoego a prostej. Zależy oo oczywiście od zmieej X. Z powyższych dwóch przyk ladów widać, iż przy ustaloej zmieej losowej X, prawdopodobieństwo z wyjściowej przestrzei probabilistyczej daje sie,,przetrasportować do prawdopodobieństwa µ X a (R, B(R)). Prowadzi to do pojecia rozk ladu zmieej losowej. Defiicja 9. Rozk ladem zmieej losowej rzeczywistej X azywamy prawdopodobieństwo µ X a (R, B(R)), dae wzorem µ X (A) = P(X A).
Uwaga: Istieja róże zmiee losowe majace te sam rozk lad. Por. przyk lad powyżej. Przyk lady:. Rzucamy raz kostka. iech X ozacza liczbe oczek. Wówczas µ X jest to prawdopodobieństwo skocetrowae a zbiorze {, 2, 3, 4, 5, 6}, takie, że Tak wi ec, dla A B(R), µ X ({k}) = 6. µ X (A) = 6 6 A (k). 2. Powyższy rozk lad jest przyk ladem rozk ladu dyskretego. Rozk lad a prostej rzeczywistej azwiemy dyskretym, jeśli istieje co ajwyżej przeliczaly zbiór S taki, że µ(s) =. Rozk lad taki jest jedozaczie wyzaczoy przez masy (prawdopodobieństwa) puktów ależ acych do S (ściślej, jedoelemetowych podzbiorów S): istotie, dla dowolego A B(R), k= µ(a) = k A µ({k}). 5 3. Rozk lad Beroulliego B(, p). Jest to rozk lad zmieej losowej X określoej jako liczba sukcesów w schemacie Beroulliego sk ladajacego sie z prób o prawdopodobieństwie sukcesu p. Day jest o poprzez ( ) µ({k}) = p k ( p) k, k = 0,, 2,...,. k 4. Rozk lad geometryczy z parametrem p (0, ), oz. Geom(p). Jest to rozk lad zmieej losowej X określoej jako umer próby, w której sukces pojawi l sie po raz pierwszy. Jest to rozk lad skocetroway a zbiorze {, 2,..., }. Poadto, mamy µ X ({k}) = ( p) k p, k =, 2,... oraz µ X ({ }) = µ X ({k}) = 0. k= Czasami rozk ladem geometrzyczym azywamy rozk lad zmieej Y = X, określoy przez µ Y ({k}) = ( p) k p, k = 0,, 2,.... 5. Rozk lad Poissoa z parametrem λ > 0, oz. Pois(λ). Jest to taki rozk lad skocetroway a liczbach ca lkowitych ieujemych, że µ({k}) = λk k! e λ. Jak wiadomo z twierdzeia Poissoa, jest to rozk lad graiczy, bed acy graica rozk ladów Beroulliego. 6. Przyk lad rozk ladu ciag lego: rozk lad jedostajy a odciku [a, b], oz. U(a, b). Za lóżmy, że losujemy liczbe X z odcika [a, b]. Wówczas, z prawdopodobieństwa
6 geometryczego, mamy, dla przedzia lu [c, d] [a, b], µ X ([c, d]) = P(X [c, d]) = [c, d] [a, b] = d c b a = d Ogóliej, jeśli A jest borelowskim podzbiorem [a, b], to µ X (A) = P(X A) = A [a, b] = b a A = A c b a dx = [c,d] b a dx. A b a dx. Jeszcze ogóliej, gdy A R, to bierzemy µ X (A) = µ X (A [a, b]). 7. Iy przyk lad rozk ladu ciag lego. Za lóżmy, że rzucamy moeta, dla której prawdopodobieństwo wypadiecia or la wyosi /3. Dalej, jeśli wypadie orze l, to losujemy pukt X z odcika [ 2, 0), atomiast gdy wypadie reszka - losujemy pukt X z odcika [0, 3]. Argumetujac jak w poprzedim przyk ladzie mamy, iż dla borelowskiego podzbioru [, 0), 2 µ X (A) = P(X A) = 3 3 0 dx, a dla borelowskiego podzbioru A odcika [ 2, 0), µ X (A) = 3 0 ( 2) dx. Ogólie, gdy A jest podzbiorem borelowskim prostej, to µ X (A) = g(x)dx, gdzie A 6 jeśli x [ 2, 0), 2 g(x) = 9 jeśli x [0, 3], 0 w pozosta lych przypadkach. Powyższe dwa przyk lady to przyk lady rozk ladów z gestości a badź rozk ladów ciag lych. Defiicja 0. Zmiea losowa X ma rozk lad ciag ly, jeśli istieje taka fukcja g : R R +, że dla dowolego zbioru A B(R), µ X (A) = P(X A) = g(x)dx. Wówczas fukcje g azywamy gestości a rozk ladu zmieej X badź gestości a zmieej X. Uwaga: G estość jedozaczie wyzacza rozk lad. Przyk lady - c.d. 8. Przyk lad 6 możemy wiec zapisać astepuj aco: rozk lad jedostajy U(a, b) to rozk Lad z gestości a g(x) = b a [a,b](x). 9. Rozk lad wyk ladiczy z parametrem λ > 0, oz. Exp(λ). Jest to rozk lad z gestości a g(x) = λe λx [0, ) (x). A A
7 0. Stadardowy rozk lad ormaly, oz. N (0, ). Jest to rozk lad o g estości g(x) = 2π e x2 /2. Ogóliej, dla a R oraz σ > 0 defiiujemy rozk lad ormaly o parametrach a, σ 2 (oz. N (a, σ 2 )) jako rozk lad o g estości g a,σ 2(x) = ( (x ) a)2 exp 2πσ 2σ 2. Dodatkowo dla σ = 0, defiiujemy N (a, 0) jako rozk lad jedopuktowy δ a (tzw. delta Diraca w a), zaday wzorem { gdy a A δ a (A) = A (a) = 0 w p.p. Jak widzimy N (a, σ 2 ) jest rozk ladem ciag lym dla σ > 0 i dyskretym dla σ = 0. Uwaga Rozk lady ormale ależa do ajważiejszych rozk ladów w rachuku prawdopodobieństwa. Pojawiaja sie oe iezwykle czesto w zastosowaiach, ze wzgledu a fakt, że wiele wystepuj acych w przyrodzie wielkości ma rozk lad w przybliżeiu ormaly. Wykres gestości rozk ladu ormalego ciag lego to charakterystycza krzywa o kszta lcie,,dzwou, zaa chociażby z opracowań popularych, gdzie ilustruje p. rozk lad wzrostu, wagi, ilorazu iteligecji czy iych cech w populacji. W dalszej cześci wyk ladu pozamy tzw. Cetrale twierdzeie graicze, które staowi matematycze wyjaśieie faktu pojawiaia sie gestości ormalej w tak wielu, czesto dość odleg lych problemach. 3. Dystrybuata zmieej losowej Jak już wspomiao w poprzedim rozdziale, z regu ly jesteśmy zaiteresowai zdarzeiami typu {ω Ω: X(ω) a} = {X a}, gdzie X jest zmiea losowa, zaś a liczba rzeczywista. Zdarzeia tego typu maja podstawowe zaczeie dla badaia zmieych losowych, w szczególości, jak zobaczymy ieco późiej, zajomość prawdopodobieństwa P(X a) dla wszystkich a R wyzacza jedozaczie rozk lad zmieej. Dlatego też wprowadza sie astepuj ac a defiicje. Defiicja. Dystrybuata zmieej losowej X : Ω R azywamy fukcje F X : R [0, ], daa wzorem F X (t) = P(X t). Uwaga. Poieważ dystrybuata zależy jedyie od rozk ladu zmieej losowej X, czasami mówimy o dystrybuacie rozk ladu (a ie zmieej). Przyk lady. Dystrybuata zmieej X o rozk ladzie δ a (czyli przyjmujacej z prawdopodobieństwem wartość a) jest daa wzorem { 0 dla t < a F X (t) = dla t a.
8 2. Dystrybuata zmieej dwupuktowej, przyjmujacej wartości,, każda z prawdopodobieństwem /2 jest fukcja 0 dla t (, ) F (t) = /2 dla t [, ) dla t [, ). 3. Jeśli Y jest zmiea o rozk ladzie wykladiczym z parametrem, czyli o gestości g Y (t) = e t [0, ) (t), to F X (t) = P(Y t) = t g(x)dx = [e x [0, ) (x)] x=t x= = ( e t ) [0, ) (t). Powyższe przyk lady sugeruja, że dystrybuatami zmieych losowych moga być tylko fukcje szczególego typu. Mówi o tym poiższe twierdzeie. Twierdzeie 0. Dystrybuata F X zmieej losowej X ma astepuj ace w lasości: (i) F X jest iemalejaca, (ii) lim t F X (t) =, lim t F X (t) = 0, (iii) F X jest prawostroie ciag la. Uwaga Czasami w literaturze, szczególie tej ieco starszej, defiiuje sie dystrybuate wzorem F X (t) = P(X < t) (czyli używajac ostrej ierówości). Tak zdefiiowaa dystrybuata posiada w lasości (i), (ii), ale wlasość (iii) zostaje zastapioa warukiem lewostroej ciag lości. Okazuje sie, że powyższe twierdzeie moża odwrócić, miaowicie każda fukcja spe liajaca waruki (i) (iii) jest dystrybuata pewej zmieej losowej. Twierdzeie. Jeśli fukcja F : R R spe lia waruki (i) (iii), to istieje przestrzeń probabilistycza (Ω, F, P) oraz zmiea losowa X : Ω R, taka że F jest dystrybuata X. Co wiecej rozk lad zmieej X jest wyzaczoy jedozaczie. Zatem w dystrybuacie zmieej X,,zakodowae sa wszystkie iformacje o jej rozk ladzie, w szczególości powiiśmy móc odczytać z iej czy zmiea X ma gestość albo czy X jest zmiea dyskreta. Przyk lad Rozważmy dyskreta zmiea losowa, przyjmujac a wartości t < t 2 <... < t, przy czym P(X = t i ) = p i (zak ladamy że zmiea ie przyjmuje żadych iych wartości, czyli i= p i = ). Wówczas dla t < t, F X (t) = 0, dla t t, F X (t) =, zaś dla t [t, t i+ ], F X (t) = i i= p i. W szczególości widzimy, że F X jest ciag la poza puktami t i oraz posiada graice lewostroe dla każdego t R. Ozaczmy F X (t ) = lim x t F X (t). Mamy oraz dla t / {t, t 2,..., t }, Okazuje si e, że jest to ogóly fakt. Twierdzeie 2. Jeśli F X zachodzi F X (t i ) F X (t i ) = p i = P(X = t i ), F X (t) F X (t i ) = 0 = P(X = t). jest dystrybuata zmieej losowej X, to dla t R F X (t ) = P(X < t)
9 oraz F X (t) F X (t ) = P(X = t). W szczególości, jeśli F X jest ciag la w pukcie t, to P(X = t) = 0. W przypadku rozk ladów ciag lych, dystrybuata może być użyta do zalezieia gestości. Przyk lad Niech X bedzie zmiea o rozk ladzie Exp(), czyli z gestości a g(x) = e x [0, ) (x). Wówczas dla t R mamy F X (t) = ( e t ) [0, ) (t). Zauważmy, że dla t 0 mamy F X (t) = g(t). Nie jest to jedak prawd a dla t = 0, gdyż F X (t) ie jest różiczkowala w zerze. W ogólości mamy astepuj ace twierdzeie, które w wielu sytuacjach pozwala obliczyć gestość zmieej losowej, gdy zaa jest jej dystrybuata. Twierdzeie 3. Niech F bedzie dystrybuata zmieej losowej X. Wówczas. jeśli F ie jest ciagla, to X ie ma rozk ladu ciag lego (tz. ie ma gestości) 2. jeśli F jest ciag la i różiczkowala poza skończoym zbiorem puktów, to fukcja { F (t) jeśli F (t) istieje g(t) = 0 w p.p. jest gestości a zmieej X. Przyk lad. Rozważmy zmiea losowa X o dystrybuacie 0 dla t (, 0) F (t) = 2t dla t (0, /2) dla t (/2, ). Fukcja F jest różiczkowala wsz edzie poza puktami t = 0 i t = /2. Poadto F (t) = 0 dla t (, 0) (/2, ) oraz F (t) = 2 dla t (, /2). Zatem fukcja g(t) = 2 (0,/2) (t) jest gestości a zmieej X. 2. Należy podkreślić, że istieja rozk lady, które ie sa ai ciag le ai dyskrete. Przyk ladowo rozk lad µ, day wzorem µ(a) = 2 A (0, ) + 2 A(3). Dystrybuata tego rozk ladu to 0 dla t (, 0) t F (t) = 2 dla t (0, ) 2 dla t [, 3) dla t [3, ) Jak latwo sprawdzić korzystajac ze wzoru a prawdopodobieństwo ca lkowite, rozk lad µ opisuje doświadczeie:,,rzucamy symetrycza moeta, jeśli wypadie orze l zwracamy jako wyik 3, w przeciwym wypadku jako wyik zwracamy liczbe wylosowaa z przedzia lu (0, ).
20 Jak wiemy, jeżeli X jest zmiea losowa, a ϕ fukcja borelowska, to Y = ϕ(x) też jest zmiea losowa. Nastepe twierdzeia dotycza zależości miedzy gestości a zmieej X oraz zmieej Y, gdy fukcja ϕ jest dostateczie regulara. Twierdzeie 4. Jeżeli X jest zmiea losowa o gestości f oraz X przyjmuje wartości w przedziale (a, b), zaś fukcja ϕ: (a, b) R jest klasy C i ϕ (x) 0 dla x (a, b), to zmiea losowa Y = ϕ(x) ma rozk lad ciag ly o gestości gdzie h(s) = ϕ (s). g(y) = f(h(y)) h (y) ϕ((a,b)) (y), Przyk lad Zmiea X ma rozk lad jedostajy a odciku (0, 4). Zaleźć rozk lad zmieej Y = X. Używajac otacji z twierdzeia, mamy a = 0, b = 4, f(x) = 4 (0,4)(x) oraz ϕ(x) = x. Zatem h(x) = x 2, ϕ((a, b)) = (0, 2). Gestość Y daa jest wzorem g(y) = 4 (0,4)(y 2 ) 2y (0,2) (y) = 2 y (0,2)(y). Rozważaia dotyczace gestości i dystrybuaty zakończymy defiicja tzw. kwatyli, które odgrywaja istota role w statystyce. Defiicja 2. Niech X bedzie zmiea losowa, zaś p [0, ]. Kwatylem rzedu p zmieej X azywamy dowola liczbe x p, taka że oraz P(X x p ) = F X (x p ) p P(X x p ) p. Kwatyl rzedu /2 azywamy także mediaa. Przyk lady. Jeśli X jest zmiea przyjmujac a dwie wartości,, każda z prawdopodobieństwem /2, to dowola liczba z przedzia lu [, ] jest mediaa zmieej X. Dla p (0, /2) zmiea X ma jee kwatyl rówy 0 zaś dla p (/2, ), jede kwatyl, rówy. Kwatylami rzedu 0 sa wszystkie liczby z przedzia lu (, ] zaś kwatylami rzedu, liczby z przedzia lu [, ). 2. Stadardowa zmiea ormala ma jeda mediae rówa 0. Podobie, dla dowolego p (0, ), zmiea ta ma dok ladie jede kwatyl rzedu p, wyzaczoy przez rówość xp e x2 /2 dx = p. 2π 4. Parametry rozk ladów 4.. Wartość oczekiwaa. Zaczijmy od astepuj acego przyk ladu. Przyk lad. Za lóżmy, iż ktoś propouje am astepuj ac a gre: rzucamy raz kostka, i jeśli wypadie oczko, to dostajemy 00 z l, atomiast w przeciwym razie musimy zap lacić 30 z l. Czy w taka gre op laca sie grać? Czy a d luższa mete wygrywamy? Otóż jeśli zagramy razy w powyższa gre, to jedyka wypada średio w /6 wypadkach, a wiec asza wygraa po grach to średio 6 00 5 6 30 = 50 6 < 0,
a wiec ie powiiśmy grać. Iymi s lowy, jeśli X jest asza wygraa w pojedyczej grze, to spodziewamy sie, iż średia X wyosi Prowadzi to do astepuj acej defiicji. 6 00 5 6 30 = 50 6 < 0. Defiicja 3. Za lóżmy, że X jest zmiea losowa o rozk ladzie dyskretym, skocetrowaym a zbiorze S R i iech p x = P(X = x) dla x S. Mówimy, że wartość oczekiwaa zmieej losowej X jest skończoa (badź że zmiea losowa X jest ca lkowala), jeśli x S x p x <. Wówczas określamy wartość oczekiwaa zmieej X jako EX = x S xp x. 2 Uwagi:. Wartość oczekiwaa zmieej losowej to, ituicyjie, jej średia wartość. Czasami, zamiast,,wartość oczekiwaa X bedziemy mówić,,średia X. 2. Jeśli zbiór wartości zmieej X jest skończoy, to wartość oczekiwaa zmieej X jest skończoa - sumy pojawiajace sie w defiicji zawieraja skończoa liczbe sk ladików. 3. Wartość oczekiwaa zmieej losowej zależy tylko od rozk ladu tej zmieej. Przyk lady:. Jeśli X jest sta la: P(X = a) = dla pewego a R, to EX = a = a. 2. Rzucamy raz kostka. Niech X ozacza liczbe wyrzucoych oczek. Wówczas P(X = k) = /6 dla k =, 2,..., 6 i EX = 6 + 2 6 +... + 6 6 = 3 2. 3. Za lóżmy, że zmiea X ma rozk lad Beroulliego z parametrami, p. Wówczas ( ) EX = kp(x = k) = k p k ( p) k k k=0 k=0 ( ) =p p k ( p) k = p. k k= 4. Za lóżmy, że zmiea losowa X ma rozk lad a {, 2,...} day przez P(X = k) =, k =, 2,.... k(k + ) Wówczas wartość oczekiwaa X ie istieje: mamy kp(x = k) = k + =. k= 5. Za lóżmy, że zmiea losowa X ma rozk lad a liczbach ca lkowitych różych od 0, zaday przez P(X = k) = k=, k Z, k 0. 2 k ( k + )
22 Wówczas X ie jest ca lkowala: mamy k P(X = k) = 2( k + ) =. k 0 k 0 Przejdźmy teraz do zmieych losowych o rozk ladach ciag lych. Defiicja 4. Za lóżmy, że zmiea losowa X ma rozk lad z gestości a g. Jeśli x g(x)dx <, R to mówimy, że wartość oczekiwaa X istieje (badź że zmiea losowa X jest ca lkowala). Defiiujemy wówczas wartość oczekiwaa X jako EX = xg(x)dx. Uwaga: Wartość oczekiwaa zależy tylko od rozk ladu zmieej X. R Uwaga: Jeśli zmiea losowa X jest ograiczoa, tz. z prawdopodobieństwem przyjmuje wartości z pewego ograiczoego przedzia lu (a, b), to istieje jej wartość oczekiwaa: istotie, x g(x)dx max{ a, b }g(x)dx = max{ a, b }. R R Przyk lady:. Za lóżmy, że X ma rozk lad jedostajy a odciku (a, b). Wówczas, jak wyika z powyższej uwagi, X jest ca lkowala. Poadto EX = R xg(x)dx = b a x b a dx = a + b 2. 2. Za lóżmy, że X ma rozk lad N (0, ). Wówczas x exp( x 2 /2)dx = 2 x exp( x 2 /2)dx = 2 ( e x2 /2 ) 0 = 2, 2π 2π 2π 2π R a wiec wartość oczekiwaa X jest skończoa. Wyosi oa x exp( x 2 /2)dx = 0. 2π R 0 Twierdzeie 5 (W lasości wartości oczekiwaej). Za lóżmy, że X i Y sa ca lkowalymi zmieymi losowymi. (i) Jeśli X 0, to EX 0. (ii) Jeśli X Y, to EX EY. (iii) Mamy EX E X. (iv) Wartość oczekiwaa jest operatorem liiowym: jeśli a, b R, to zmiea ax + by jest zmiea ca lkowala i (v) Jeśli X = A, to EX = P(A). E(aX + by ) = aex + bey. Uwaga: W lasość (iv) uogólia sie, poprzez prosta idukcje, do astepuj acej: jeśli X, X 2,..., X sa ca lkowalymi zmieymi losowymi i a, a 2,..., a R, to zmiea a X + a 2 X 2 +... + a X też jest zmiea ca lkowala i E(a X + a 2 X 2 +... + a X ) = a EX + a 2 EX 2 +... + a EX.
23 Najcześciej te w lasość stosujemy dla ciagu a = a 2 =... = a =. Przyk lady:. Rzucamy 00 razy kostka i iech X ozacza sume wyrzucoych oczek. Wówczas obliczeie wartości oczekiwaej X z defiicji jest praktyczie iemożliwe - wymaga to wyzaczeia rozk ladu zmieej X. Ale jeśli zauważymy, że X = X + X 2 +... + X 00, gdzie X i to liczba oczek w i-tym rzucie, to mamy, iż EX = EX + EX 2 +... + EX 00 = 00 3 2 = 350. 2. W urie zajduje sie 5 bia lych i 0 czarych kul. Losujemy ze zwracaiem 50 razy po jedej kuli. Niech X ozacza liczbe losowań, w których wyciagi eto bia l a kule. Tak jak wyżej, wyzaczeie wartości oczekiwaej X bezpośredio z defiicji jest ies lychaie żmude. Jeśli atomiast określimy gdzie to mamy = X = X + X 2 +... + X 50, X i = {w i-tym losowaiu wyci agi eto bia l a kule} { jeśli w i-tym losowaiu wyciagi eto bia l a kule, 0 jeśli w i-tym losowaiu wyciagi eto czara kule, EX = EX + EX 2 +... + EX 50 = 50 P(wyciagi eto bia l a kule) = 50 3. Przejdźmy teraz do sytuacji, gdy chcemy obliczyć wartość oczekiwaa fukcji pewej zmieej losowej. Twierdzeie 6. Za lóżmy, że φ : R R jest pewa fukcja borelowska. (i) Za lóżmy, że X ma rozk lad dyskrety a zbiorze S i p x = P(X = x) dla x S. Wówczas zmiea losowa φ(x) jest ca lkowala wtedy i tylko wtedy, gdy x S φ(x) p x < ; wartość oczekiwaa φ(x) wyosi wtedy Eφ(X) = x S φ(x)p x. (ii) Za lóżmy, że X ma rozk lad ciag ly z gestości a g. Wówczas zmiea losowa φ(x) jest ca lkowala wtedy i tylko wtedy, gdy φ(x) g(x)dx < ; wartość oczekiwaa wyosi wówczas R Eφ(X) = φ(x)g(x)dx. R Przyk lady:. Rzucamy raz kostka. Niech X ozacza liczbe wyrzucoych oczek. Wówczas 6 EX 2 = k 2 6 = 9 6. k= 2. Z przedzia lu [0, π/2] wybieramy losowo kat X. Wówczas wartość oczekiwaa siusa tego kata wyosi E si X = π/2 0 si x 2 π dx = 2 π.
24 Wartość oczekiwaa możemy też, w iektórych przypadkach, prosto wyrazić poprzez dystrybuate F (a raczej fukcje F ). Zaczijmy od astepuj acego przyk ladu. Przyk lad: Za lóżmy, że X jest ca lkowala, dyskreta zmiea losowa skocetrowaa a liczbach ca lkowitych ieujemych. Wówczas EX = kp(x = k) = kp(x = k). k=0 Wyrazy powyższego szeregu możemy w astepuj acy sposób ustawić,,w trójkat a macierz : P(X = ) P(X = 2) P(X = 2) P(X = 3) P(X = 3) P(X = 3) P(X = 4) P(X = 4) P(X = 4) P(X = 4)... W powyższym szeregu, sumowaie odbywa sie ajpierw wierszami, a astepie dodajemy do siebie otrzymae sumy. Poieważ szereg te posiada tylko ieujeme wyrazy, wiec kolejość sumowaia moża zmiaiać i ie ma to wp lywu a wyik. Spróbujmy wiec ajpierw zsumować liczby wystepuj ace w poszczególych kolumach, a astepie dodać te sumy do siebie. Suma liczb w pierwszej kolumie to k= P(X = ) + P(X = 2) + P(X = 3) +... = P(X ) = P(X > 0). Dodajac wyrazy stojace w drugiej kolumie dostajemy P(X = 2) + P(X = 3) + P(X = 4) +... = P(X 2) = P(X > ), itd, astepe sumy bed a wyosić P(X 3) = P(X > 2), P(X 4) = P(X > 3),.... Po zsumowaiu ich musimy dostać tyle, ile poprzedio, czyli EX. Udowodiliśmy zatem Twierdzeie 7. Jeśli X jest jak wyżej, to EX = P(X k) = P(X > k). k= Poiższe twierdzeie staowi rozszerzeie tego rezultatu. Jest oo prawdziwe dla dowolych zmieych losowych (także takich, których rozk lad ie jest ai dyskrety, ai ciag ly). k=0 Twierdzeie 8. Niech X bedzie zmiea losowa ieujema. (i) Jeśli 0 P(X > t)dt <, to X jest ca lkowala i powyższa ca lka to wartość oczekiwaa X. (ii) Jeśli p (0, ) i p 0 t p P(X > t)dt <, to X p jest ca lkowala i powyższa ca lka to wartość oczekiwaa X p.
25 Przyk lady:. Za lóżmy, że zmiea losowa X ma rozk lad skocetroway a zbiorze {, 2,...}, taki, że P(X = k) = 2k +, k =, 2,.... [k(k + )] 2 Wówczas a wi ec P(X = k) = k 2 (k + ) 2 i P(X k) = k 2, EX = k= k 2 = π2 6. 2. Za lóżmy, że zmiea losowa X ma rozk lad wyk ladiczy z parametrem λ > 0. Mamy, dla t 0, P(X > t) = F X (t) = e λt, skad wyika, iż EX = 0 e λt dt = ( λ e λt ) 0 = λ. 3. Za lóżmy, że zmiea losowa X ma rozk lad z gestości a g(x) = 2 x 2 [2, )(x). Weźmy teraz liczbe p (0, ) i zastaówmy sie ad istieiem wartości oczekiwaej zmieej X p. Przede wszystkim widzimy, iż { jeśli t < 2, P(X > t) = 2 t jeśli t 2. Tak wi ec, a mocy powyższego twierdzeia, musimy zbadać ca lk e p 0 t p P(X > t)dt = 2 0 =2 p + 2p pt p dt + 2 2 t p 2 dt. t p P(X > t)dt Powyższa ca lka jest zbieża wtedy i tylko wtedy, gdy p <, i wyosi wówczas 2 2 p p/( p). Tak wiec wartość oczekiwaa X p istieje wtedy i tylko wtedy, gdy p < i wyosi 2 p + 2 2 p p p. 4. Ostati z rozważaych tu przyk ladów porusza problem wyzaczaia wartości oczekiwaej zmieej, której rozk lad ie jest ai ciag ly, ai dyskrety. Za lóżmy, że X ma rozk lad jedostajy a [0, 2] i obliczmy E mi{x, }. Zmiea {X, } ma rozk lad mieszay. Mamy, iż { t P(mi{X, } > t) = P(X > t, > t) = 2 dla t <, 0 dla t. Zatem E mi{x, } = 0 P(mi{X, } > t)dt = 0 ( t ) dt = 3/4 2
26 i ogóliej, dla p (0, ), E mi{x, } p = p 0 ( t p t ) dt = p + 2 2 2(p + ). Zadaie to moża też by lo rozwiazać w iy sposób, stosujac wzór a wartość oczekiwaa fukcji zmieej losowej. Niech φ : R R bedzie daa wzorem φ(x) = mi{x, }. Wówczas 2 E mi{x, } =Eφ(X) = φ(x)g(x)dx = mi{x, } 2 dx = 0 R x 2 dx + Podobie, biorac φ(x) = x p, p (0, ), 2 2 E mi{x, } p =Eφ(X) = mi{x, } p 0 2 dx = = 2(p + ) + 2 = p + 2 2(p + ). 0 2 dx = 4 + 2 = 3 4. 0 x p 2 dx + 2 2 dx 4.2. Wariacja. Kolejym ważym parametrem zwiazaym z rozk ladem zmieej losowej jest jego wariacja. Defiicja 5. Za lóżmy, że X jest zmiea losowa spe liajac a waruek E X < oraz E(X EX) 2 <. Wówczas wariacja zmieej losowej X azywamy liczbe D 2 X = VarX = E(X EX) 2. Odchyleiem stadardowym (rozk ladu) zmieej X azywamy pierwiastek z wariacji: σ X = D 2 X. Uwagi:. Aby określić wariacje, wystarczy zak ladać, że EX 2 < (mówimy wówczas, że X jest ca lkowala z kwadratem). Pociaga to za soba żada a skończoość obu powyższych wartości oczekiwaych. 2. Jeśli zmiea losowa X jest ograiczoa, to jej wariacja jest skończoa. 3. Wariacje moża wyrazić iym wzorem, czesto bardziej przydatym w kokretych obliczeiach: D 2 X = VarX = EX 2 (EX) 2. 4. Wariacja zależy tylko od rozk ladu zmieej losowej. Wariacja zmieej losowej to średia kwadratu odchyleia od średiej. Tak wiec, ituicyjie, jeśli zmiea X posiada ma l a wariacje, to spodziewamy sie, że przyjmuje oa wartości dość blisko swojej średiej; atomiast, gdy wariacja jest duża, to zmiea posiada,,duży rozrzut badź,,duże wahaie. Zilustrujemy to a astepuj acym przyk ladzie. Przyk lad: Za lóżmy, że zmiea X ma rozk lad skocetroway a {, } taki, że P(X = ) = P(X = ) = 2.
27 Poadto, iech Y ma rozk lad skocetroway a { 00, 00}, taki, że P(Y = 00) = P(Y = 00) = 2. Wówczas EX = 2 ( ) + 2 = 0 oraz, aalogiczie, EY = 0; tak wi ec obie te zmiee maja te sama średia. W oczywisty sposób Y,,ma wiekszy rozrzut. I rzeczywiście D 2 X = E(X 0) 2 = EX 2 =, D 2 Y = E(Y 0) 2 = 0000. Dalsze przyk lady:. Rzucamy kostka i iech X ozacza liczbe wyrzucoych oczek. Wówczas, jak już wiemy, zatem EX = 3 2 oraz EX2 = 9 6, VarX = 9 ( 6 3 ) 2 = 5 2 6 2 4 = 2 2, σ X =, 7078.... 2. Przypuśćmy, że X ma rozk lad jedostajy a odciku [a, b]. Jak wiemy, EX = (a + b)/2; poadto, a zatem EX 2 = b D 2 X = b2 + ab + a 2 3 a x 2 b a dx = b a b3 a 3 3 ( ) 2 a + b = 2 = b2 + ab + a 2, 3 (b a)2, σ X = b a 2 2 3. Twierdzeie 9 (W lasości wariacji). Za lóżmy, że zmiea X jest ca lkowala z kwadratem. Wówczas a) VarX 0, przy czym rówość ma miejsce, gdy X jest sta la z prawdopodobieństwem, tz. istieje taka liczba a R, że P(X = a) =. b) Var(bX) = b 2 VarX dla dowolej liczby b R. c) Var(X + c) =VarX dla dowolej liczby c R. Przyk lad: parametry rozk ladu ormalego Niech m R, σ > 0 i za lóżmy, że X ma rozk lad N (0, ). Wówczas ( P(σX + m t) = P X t m ) (t m)/σ = e x2 /2 dx. σ 2π Stousujac podstawieie x = (y m)/σ, dx = dy/σ, dostajemy t ) (y m)2 F σx+m (t) = exp ( 2πσ 2σ 2 dy. Stad od razu widać, że σx + m ma rozk lad ormaly N (m, σ). Na mocy powyższych twierdzeń mamy, iż E(σX + m) = σex + m = m, D 2 (σx + m) = D 2 (σx) = σ 2 D 2 X = σ 2,
28 gdyż, ca lkujac przez cześci, D 2 X =EX 2 (EX) 2 = EX 2 = R x x 2π exp( x 2 /2)dx ( = x exp( x /2)) 2 dx R 2π = x ( exp( x 2 /2) ) exp( x 2 /2) dx = 0 + =. 2π 2π R Wobec tego, parametry m, σ rozk ladu ormalego to jego średia i odchyleie stadardowe. Zdefiiujmy teraz parametry rozk ladów, które graja waża role w statystyce. Niech X bedzie pewa zmiea losowa. Defiicja 6. Dla p (0, ), mometem (absolutym) rz edu p zmieej X azywamy liczb e (E X p ) /p, o ile wartość oczekiwaa jest skończoa (w przeciwym razie przyjmujemy, że momet jest ieskończoy). Defiicja 7. Za lóżmy, że E X 3 <. Wspó lczyikiem asymetrii (skośości) zmieej X azywamy liczb e α 3 = E(X EX)3 (D 2 X) 3/2 = E(X EX)3 σx 3. Defiicja 8. zza lóżmy, że E X 4 <. Kurtoza (wspó lczyikiem sp laszczeia) zmieej X azywamy liczbe α 4 = E(X EX)4 σ 4 X 3. 5. Charakterystyki liczbowe próbki W praktyce ie sa am zae ai wszystkie wartości ai awet rozk lady zmieych losowych. Przyk ladowo, aalitycy chcacy pozać rozk lad miesieczych wydatków a rozrywke wśród mieszkańców Warszawy, ie maja moźliwości zebraia oraz przeaalizowaia daych dotyczacych każdego mieszkańca i musza bazować a wyikach akiety przeprowadzej a losowej próbce mieszkańców stolicy. Rówież fizycy czy iżyierowie dokoujac obarczoego losowym b l edem pomiaru pewej wielkości fizyczej, ie zaja dok ladego rozk ladu b l edu (który może być traktoway jako cecha charakterystycza urzadzeia pomiarowego), dlatego czesto dokouja wielokrotych pomiarów tej samej wielkości, aby a ich podstawie uzyskać jej jak ajlepsze przybliżeie. W obu sytuacjach iformacja, która jest dostepa, to tzw. próbka, czyli ciag liczb X, X 2,..., X z którego chcielibyśmy odzyskać iformacje a temat iteresujacej as zmieej losowej X. Sposobami pobieraia próbek oraz wioskowaia a ich podstawie zajmuje sie statystyka matematycza, ie bedziemy wiec w tym momecie zg l ebiać tego zagadieia. Ograiczymy sie jedyie do iformacji, że wiele metod bazuje a charakterystykach liczbowych próbki, aalogiczych do zdefiiowaych w poprzedich rozdzia lach charakterystyk zmieych losowych.