Prawdopodobieństwo i statystyka Wykład I: Przestrzeń probabilistyczna

Transkrypt

1 9 października 2018

2 Zasady zaliczenia przedmiotu: Zaliczenie ćwiczeń rachunkowych. Zdanie egzaminu ustnego z treści wykładu.

3 Literatura J. Jakubowski i R. Sztencel, Wstęp do teorii prawdopodobieństwa. Wyd. 2 i późn., Script 2001, W. Niemiro, Rachunek prawdopodobieństwa i statystyka matematyczna, Szkoła Nauk Ścisłych, Warszawa Prezentacje dostępne na www-users.mat.umk.pl/ adjakubo

4 Co to jest... Rachunek prawdopodobieństwa to sztuka (umiejętność) obliczania prawdopodobieństw zdarzeń. Teoria prawdopodobieństwa to dział matematyki, na którym opierają się praktyczne obliczenia dokonywane w rachunku prawdopodobieństwa. Statystyka to sztuka (umiejętność) wnioskowania na podstawie próby losowej. Statystyka matematyczna to dział matematyki, który rozwija metody uzasadniające poprawność wnioskowania statystycznego. Eksploracja danych (drążenie danych, ekstrakcja danych) to umiejętność wydobywania użytecznych informacji z wielkich zbiorów danych.

5 Nieco historii... W drugiej połowie XVII wieku Blaise Pascal, Pierre de Fermat i Christiaan Huygens stworzyli matematykę gier hazardowych. Nie używając pojęcia prawdopodobieństwa! Interesujące dla bogatych hazardzistów! W roku 1662 John Graunt zbudował pierwsze tablice śmiertelnosci. Studiując London bills of mortality (tygodniowe statystyki pogrzebów, chrztów i ślubów) odkrył pewne regularności w rozwoju populacji ludzkich. M.in. stwierdził, że w Londynie rodzi się 14 chłopców na 13 dziewczynek (1,077). A współcześnie przyjmuje się, że jest to 1,07! Interesujące dla demografii i ubezpieczen! Ciekawe, że kolejne tablice śmiertelności ułożył w 1694 Edmond Halley (TEN astronom), wykorzystując dane zgromadzone in the city of Breslaw.

6 Nieco historii... W latach 80-tych XVII w. Jakub Bernoulli napisał książkę pt. Ars Conjectandi, czyli Sztuka przewidywania. Książka została opublikowana w 1713 r., 8 lat po śmierci Jakuba Bernoullego i zawiera fakt, który dziś nazywamy Prawem wielkich liczb Bernoullego. Rok 1713 przyjmuje się jako datę narodzin rachunku prawdopodobieństwa jako dyscypliny naukowej. Niedawno obchodzono 300-lecie tego wydarzenia. W 1738 roku, w drugim wydaniu książki pt. The Doctrine of Chances: or, A Method of Calculating the Probability of Events in Play Abraham de Moivre pokazał szczególny przypadek faktu, który dziś nazywamy Centralnym twierdeniem granicznym.

7 Aksjomatyczna definicja prawdopodobieństwa Teoria prawdopodobieństwa jako teoria matematyczna rozwinęła się na początku XX w. W 1933 r. wielki rosyjski matematyk Andriej N. Kołmogorow opublikował książkę Grundbegriffe der Wahrscheinlichkeitsrechnung ( Podstawy rachunku prawdopodobieństwa ), która nadała ostateczny kształt współczesnej teorii prawdopodobieństwa. Będziemy posługiwać się formalizmem wprowadzonym przez Kołmogorowa. To maszyneria matematyczna, która podaje reguły obliczania prawdopodobieństw i zapewnia teoretyczne uzasadnienie dla ich empirycznej weryfikacji. Prawdopodobieństwo można mierzyć!

8 Składniki modelu probabilistycznego Zbiór zdarzeń elementarnych Ω reprezentuje wszystkie możliwe wyniki eksperymentu losowego. Elementy ω zbioru Ω nazywamy zdarzeniami elementarnymi. Wśród wszystkich podzbiorów Ω wyróżniamy rodzinę zdarzeń F. A Ω jest zdarzeniem (czyli A F), jeśli dla każdego wyniku eksperymentu losowego ω Ω potrafimy stwierdzić, czy ω A. Jasne, że F oraz Ω F. Często F = 2 Ω. Jednak jeśli nie dysponujemy dostatecznie precyzyjnymi metodami identyfikacji zdarzeń elementarnych, to F może składać się tylko z niektórych podzbiorów Ω, tzn. F 2 Ω. Rodzina wszystkich zdarzeń F reprezentuje całość wiedzy, którą możemy uzyskać w wyniku realizacji eksperymentu losowego.

9 Składniki modelu probabilistycznego Przypomnijmy relacje między operacjami na zbiorach i operacjami logicznymi. A c = {ω Ω ; ω A}. A B = {ω Ω ; ω A lub ω B}. A B = {ω Ω ; ω A i ω B}. Ze względu na interpretację pojęcia zdarzenie, naturalne jest przyjąć, że, Ω F; (1) Jeżeli A F, to A c F; (2) Jeżeli A, B F, to A B F. (3) Rodzinę zbiorów spełniającą (1) - (3) nazywamy algebrą Boole a. Ponieważ A B = ( A c B c) c, relacje (2) i (3) pociągają Jeżeli A, B F, to A B F.

10 Przykłady Rzucamy monetą. Ω = {O, R}, gdzie O oznacza, że wypadł orzeł, R oznacza, że wypadła reszka. F = 2 Ω = {, {O}, {R}, {O.R} }. Rzucamy dwa razy monetą. Wtedy ważna jest kolejność rezultatów i Ω = {(O, O), (O, R), (R, O), (R, R)}, F = 2 Ω. Rzucany raz dwiema monetami. Gdy monety są rozróżnialne, Ω = {(O, O), (O, R), (R, O), (R, R)}, F = 2 Ω Gdyby monety były nierozróżnialne, Ω = {{O, O}, {O, R}, {R, R}}, F = 2 Ω. Rzeczywiste monety są rozróżnialne, więc dwa eksperymenty: dwukrotny rzut monetą i rzut dwiema monetami mają ten sam opis!

11 σ-algebry W algebrze Boole a, jeśli A 1, A 2,..., A n F, to nj=1 A j F. To może być zbyt mało do konstrukcji ciekawych zdarzeń. Rozważmy eksperyment polegający na rzucaniu monetą do momentu, gdy pierwszy raz wypadnie orzeł. Wtedy Ω = {(O), (R, O),..., (R, R, R,..., R, O),...} {(R, R, R,...)}. Tutaj na pewno każdy zbiór {(R, R, R,..., R, O)} jest zdarzeniem i chcielibyśmy, aby również był zdarzeniem zbiór nasze działanie kiedyś się zakończy : A = {(O), (R, O),...,(R, R, R,..., R, O),...} = {(R, R, R,..., R, O)} }{{} n=0 n razy

12 σ-algebry Definicja Algebrę Boole a F mającą dodatkową własność Jeżeli A 1, A 2,..., F, to A j F, (4) j=1 nazywamy σ-algebrą. Wniosek σ-algebra jest zamknięta ze względu na operacje Lim n A n = A j. Lim n A n = A j. n=1 j=n n=1 j=n Jaka jest interpretacja zbiorów Lim n A n i Lim n A n?

13 Prawdopodobieństwo Każdemu zdarzeniu A F będziemy przyporządkowywać liczbę P(A) [0, 1], nazywaną prawdopodobieństwem zdarzenia A. Będziemy zakładać, że funkcja F A P(A) [0, 1] jest addytywna, tzn. jeśli zdarzenia są rozłączne (A B = ), to P(A B) = P(A) + P(B), oraz unormowana, tzn. P(Ω) = 1. Zauważmy, że P( ) = P( ) = P( ) + P( ), a więc Mamy również P(A c ) = 1 P(A), P( ) = 0. P(A B) = P(A)+P(B) P(A B).

14 Ważna interpretacja Ω zachodzi zawsze, czyli jest zdarzeniem pewnym. Ale idziemy dalej i uważamy, że P(A) = 1 oznacza, że A zachodzi na pewno, choć może być A Ω. Podobnie F nigdy nie może zajść (jest zdarzeniem niemożliwym ). Przez analogię, jeśli P(A) = 0 to uważamy, że zdarzenie A jest niemożliwe, choć może być A.

15 Czy addytywność wystarcza? Jeżeli P jest addytywna na F, to dla dowolnego ciągu skończonego A 1, A 2,..., A n zdarzeń wzajemnie się wykluczających (parami rozłącznych, czyli A i A j = dla i j) mamy P ( n ) n A j = P(A j ). j=1 Ta własność może nie wystarczyć do obliczenia prawdopodobieństw. W przykładzie z rzucaniem monetą aż do wypadnięcia orła j=1 A = {(R, R, R,..., R, O)}. }{{} n=0 n razy Czy zachodzi P(A) = n=0 P ( {(R, R, R,..., R, O)} )? }{{} n razy

16 Miara probabilistyczna Definicja Niech Ω będzie przestrzenią zdarzeń elementarnych, a F będzie σ-algebrą zdarzeń. Funkcję P : F [0, 1] nazywamy miarą probabilistyczną, jeśli jest ona unormowana (P(Ω) = 1) i σ-addytywna, tzn. P ( ) A j = P(A j ), j=1 j=1 dla każdego ciągu A 1, A 2,..., zdarzeń wzajemnie się wykluczających. Uwaga: aby podkreślić rozłączność zdarzeń czasami piszemy P ( ) A j = P(A j ). j=1 j=1

17 Przestrzeń probabilistyczna Definicja Przestrzenią probabilistyczną nazywamy trójkę (Ω, F, P), gdzie Ω jest zbiorem zdarzeń elementarnych; F jest σ-algebrą podzbiorów zbioru Ω. P : F [0, 1] jest miarą probabilistyczną na F.

18 Przykłady Klasyczna definicja prawdopodobieństwa. Niech Ω będzie zbiorem skończonym i niech F = 2 Ω. Określamy P(A) = #A #Ω. Aby zastosować powyższy wzór (czyli zastosować Zasadę niedostatecznej racji Laplace a.) musimy się upewnić, czy rzeczywiście wszystkie zdarzenia elementarne są jednakowo prawdopodobne. Prawdopodobieństwo dyskretne. Niech Ω 0 = {ω 1, ω 2,...} będzie podzbiorem przeliczalnym zbioru Ω. Niech p 1, p 2,... 0, j p j = 1. Przyjmując z definicji 0, określamy P(A) = p j. (F = 2Prawdopodobieństwo Ω!) i statystyka {j : ω j A}

19 Przykłady cd. Niech Ω = R 1 i p(x) 0 będzie funkcją na R 1 taką, że p(x) dx = 1. Określamy: + P((a, b]) = b a p(x) dx, a < b, a, b R 1. Jak wygląda F? To problem badany przez teorię miary i całki Lebesgue a. Można pokazać, że nie istnieje prawdopodobieństwo Q : 2 R1 [0, 1] pokrywające się z P na odcinkach. Z drugiej strony istnieje σ-algebra B 1 (tzw. zbiorów borelowskich) na którą można rozszerzyć funkcję P, tak aby spełnione były własności prawdopodobieństwa.