Rachunek prawdopodobieństwa

Transkrypt

1 Rachunek prawdopodobieństwa Sebastian Rymarczyk

2 Tematyka zajęć 1. Elementy kombinatoryki. 2. Definicje prawdopodobieństwa. 3. Własności prawdopodobieństwa. 4. Zmienne losowe, parametry zmiennych losowych i rozkładu. 5. Rozkłady zmiennych losowych.

3 Kombinatoryka Kombinatoryka - dział w matematyce, w którym zajmujemy się m.in. obliczaniem liczebności zbiorów bądź długości ciągów, które łączą w określony sposób elementy należące do skończonego zbioru (teoria zliczania). =?

4 Oznaczenia (ω 1,..., ω k ) - ciąg elementów, porządek odgrywa rolę np. (zielony, czarny, czerwony) =(zielony, czarny, czerwony) ale (zielony, czarny, czerwony) (zielony, czerwony, czarny) {ω 1,..., ω k } - zbiór elementów, porządek nie odgrywa roli np. {zielony, czarny, czerwony} = {zielony, czarny, czerwony} i {zielony, czarny, czerwony} = {zielony, czerwony, czarny}

5 Permutacja bez powtórzeń Permutacją (bez powtórzeń) zbioru n-elementowego, nazywamy każdy n-wyrazowy ciąg utworzony z wszystkich elementów tego zbioru. Permutację bez powtórzeń zapisujemy za pomocą: P n = n! = n 1 n, n N (Mamy dowolny zbór elementów i musimy policzyć ile jest możliwych ułożeń (kolejności) tych elementów)

6 Permutacja z powtórzeniami Niech A = {a 1, a 2,, a k } oznacza dowolny zbiór n-elementowy. Permutacją z powtórzeniami w której element a 1 powtarza się n 1 razy,, element a k powtarza się n k razy, n 1 + n n k = n nazywamy każdy n-wyrazowy ciąg, w którym poszczególne elementy zbioru A powtarzają się wskazaną liczbę razy. Permutację z powtórzeniami zapisujemy za pomocą: n P 1,, n k n! n = n 1! n k!

7 Permutacja bez powtórzeń Przykład: 1. Ile różnych liczb trzycyfrowych można uzyskać z cyfr 2,3,5? P 3 = 3! = = 6 Te liczby to:235, 253, 325, 352, 523, Ile różnych liczb trzycyfrowych można uzyskać z cyfr 2,3,5 jeśli cyfra 2 powtarza się trzy razy, 3 dwa razy a 5 jeden raz. P 6 3,2,1 = Te liczby to np.: , 22325, ! 3! 2! 1! = = 60

8 Wariacje bez powtórzeń Wariacją k-elementową bez powtórzeń zbioru n-elementowego nazywamy każdy ciąg różnowartościowy k-wyrazowy utworzony z elementów danego zbioru (kolejność tych elementów ma znaczenie). Dla dowolnych k-wyrazowych wariacji bez powtórzeń zbioru n- elementowego jest: V n k = n n 1 n 2 n k + 1 = dla n k; n, k N n! n k!

9 Wariacje bez powtórzeń Przykład: Ile liczb dwucyfrowych można utworzyć używając dwóch różnych cyfr ze zbioru { 2,4,5,7 }? V 4 2 = 4! 4 2! = 4! 2! = = 3 4 = 12 {24, 25, 27, 42, 45, 47, 52, 54, 57, 72, 74, 75} kolejność jest ważna (24 jest różne od 42) i cyfry mają być różne więc nie może być np. 22, 44 itp..

10 Wariacja z powtórzeniami Wariacją k-elementową z powtórzeniami zbioru n-elementowego nazywamy każdy ciąg k-wyrazowy utworzony z elementów danego zbioru. Liczba wszystkich różnych k-elementowych wariacji z powtórzeniami zbioru n-elementowego jest równa V n k = n k n, k N

11 Wariacja z powtórzeniami Przykład: Ile liczb dwucyfrowych można utworzyć używając cyfr ze zbioru {2,4,5,7}? V 4 2 = 4 2 = 16 {22, 24, 25, 27, 42, 44, 45, 47, 52, 54, 55, 57, 72, 74, 75, 77} kolejność jest ważna (24 jest różne od 42) i brak warunku, że cyfry mają być różne.

12 Kombinacja bez powtórzeń Kombinacją bez powtórzeń k-elementową ze zbioru n- elementowego nazywamy każdy podzbiór k-elementowy danego zbioru. Liczba wszystkich różnych kombinacji k-elementowych zbioru n- elementowego jest równa: C n k = n k = n! k! n k! dla n k; n, k N W odróżnieniu od permutacji i wariacji, kombinacja nie jest ciągiem, a podzbiorem elementów, czyli m.in. kolejność nie ma znaczenia.

13 Kombinacja bez powtórzeń Przykład: Ile jest możliwości wyboru dwóch różnych liczb ze zbioru {2,4,5,7}? C 4 2 = 4 2 = 4! 2! 4 2! = = 6 {2,4}, {2,5}, {2,7}, {4,5}, {4,7}, {5,7} kolejność nie jest ważna (zbiór {2,4} to to samo co {4,2}), nie może być również elementów {2,2}, {4,4}, {5,5}, {7,7} gdyż każda cyfra występuje w zbiorze {2,4,5,7} tylko jeden raz.

14 Kombinacja z powtórzeniami Kombinacją z powtórzeniami k-elementową ze zbioru n- elementowego nazywamy każdy podzbiór k elementów różnych lub nie różniących się między sobą wybranych z n-elementowego zbioru. Liczba wszystkich różnych k-elementowych kombinacji z powtórzeniami zbioru n-elementowego jest równa: C n k = n + k 1 k = (n + k 1)! k! n 1! dla n k; n, k N

15 Kombinacja z powtórzeniami Przykład: Mamy cztery rodzaje owoców: jabłka, gruszki, morele i banany. Tworzymy paczki po pięć owoców. Ile różnych paczek możemy otrzymać? C 4 5 = n + k 1 k = = 8! 5! 8 5! = 8! 5! 3! = = 56

16 Sposób na zadanie Doświadczenie polega na wylosowaniu k-elementów ze zbioru n-elementowego. Czy istotna jest kolejność wylosowanych elementów? nie tak Czy elementy mogą się powtarzać? Czy elementy mogą się powtarzać? nie tak nie tak Kombinacja bez powtórzeń. Kombinacja z powtórzeniami. Wariacja bez powtórzeń. Wariacja z powtórzeniami.

17 1. Elementy kombinatoryki. 2. Definicje prawdopodobieństwa. o Przestrzeń zdarzeń losowych o Aksjomatyka rachunku prawdopodobieństwa 3. Własności prawdopodobieństwa. 4. Zmienne losowe, parametry zmiennych losowych i rozkładu. 5. Rozkłady zmiennych losowych.

18 Doświadczenie losowe Doświadczenie losowe to realizacja określonego zespołu warunków, wraz z góry określonym zbiorem wyników. Możemy uznać, że doświadczenie jest losowe, jeżeli można je wielokrotnie powtarzać w tych samych warunkach i wyniku doświadczenia nie potrafimy z góry przewidzieć Przykładem doświadczenia losowego może być np. rzut kostką do gry czy monetą i oczywiście obserwacja wyniku rzutu (liczba oczek na kostce, orzeł czy reszka).

19 Przestrzeń zdarzeń elementarnych Zbiór zawierający wszystkie możliwe wyniki doświadczenia losowego nazywamy zbiorem zdarzeń elementarnych i zazwyczaj oznaczamy literą Ω. Pojedynczy element zbioru Ω nazywamy zdarzeniem elementarnym i oznaczamy ω. Przykład Rzucamy jeden raz kostką. Zbór zdarzeń elementarnych to Ω = {1, 2, 3, 4, 5, 6} Z talii 24 kart wybieramy losowo 5. Tutaj możliwych wyników mamy dużo (V 5 24 = ), wynikiem może być np. {9,9,10, K, A },

20 Zdarzenie losowe Zdarzenie losowe pewien zbiór możliwych wyników danego doświadczenia. Może to być zarówno zbiór składający się z pojedynczego wyniku, jak i zbiór złożony z większej liczby elementów. Przykład. Rzucamy kostką do gry. Zdarzeniem losowym A określmy sytuację gdy wypadła parzysta liczba oczek. Ω A

21 Zbiór zdarzeń losowych Zbiorem zdarzeń losowych F nazywamy klasę podzbiorów (czyli zbiór zbiorów) nazywaną σ-ciało zdarzeń taką, że 1. Cała przestrzeń zdarzeń elementarnych należy do tej klasy Ω F 2. Dopełnienie A dowolnego zbioru A należącego do klasy F jest elementem tej klasy, czyli A F A F 3. Suma co najwyżej przeliczalnej liczby zbiorów należących do klasy F również należy do tej klasy: A 1 F,, A n F (A 1 A n ) F

22 Działania na zdarzeniach Na zdarzeniach wykonuje się analogiczne działania jak na zbiorach. Koniunkcją (iloczynem) zdarzeń A, B F nazywamy zdarzenie A B składające się z wszystkich zdarzeń elementarnych, które należą zarówno do zdarzenia A jak i do zdarzenia B. Alternatywą (sumą) zdarzeń A, B F nazywamy zdarzenie A B składające się z wszystkich zdarzeń elementarnych, które należą do zdarzenia A lub do zdarzenia B. Różnicą zdarzeń A, B F nazywamy zdarzenie A\B składające się z wszystkich zdarzeń elementarnych należących do zdarzenia A i nie należących do zdarzenia B.

23 Działania na zdarzeniach Różnicę zdarzeń Ω\A nazywamy dopełnieniem zdarzenia A i oznaczamy A Zdarzenie A pociąga zdarzenie B, co zapisujemy A B jeśli każde zdarzenie elementarne należących do zdarzenia A również należy do zdarzenia B. Zdarzenia A, B F wykluczają się, jeśli nie mają wspólnych zdarzeń elementarnych, tj. gdy ich koniunkcja jest zdarzeniem niemożliwym A B =.

24 Własności działań na zdarzeniach A B = B A, A B = B A A B C = A B C, A B C = A B C A B i i T = (A B i ) i T A i T B i = (A B i ) i T (A B) = B A, (A B) = B A

25 Prawdopodobieństwo 1. Aksjomatyczna definicja prawdopodobieństwa 2. Własności prawdopodobieństwa 3. Przestrzeń probabilistyczna 4. Prawdopodobieństwo warunkowe 5. Prawdopodobieństwo całkowite 6. Twierdzenie Bayesa 7. Niezależność zdarzeń

26 Aksjomatyczna definicja prawdopodobieństwa Niech Ω będzie zbiorem zdarzeń elementarnych doświadczenia losowego, F - jego zbiorem zdarzeń losowych. Prawdopodobieństwem nazywamy funkcję P przyporządkowująca każdemu zdarzeniu A F liczbę P(A) (prawdopodobieństwo zdarzenia A) zgodnie z następującymi warunkami: 1. P A 0 dla każdego zdarzenia A F, 2. P Ω = 1, 3. Jeżeli A 1,, A n, jest dowolnym ciągiem parami rozłącznych zdarzeń ze zbioru F, to P A 1 A n = P A P A n +

27 Elementarne własności prawdopodobieństwa 1. Prawdopodobieństwo zdarzenia niemożliwego równa się zeru: P = 0 2. Jeżeli zdarzenie A pociąga zdarzenie B (A B), to P A P B 3. Prawdopodobieństwo dowolnego zdarzenia A jest nie większe od jedności, P A 1

28 Elementarne własności prawdopodobieństwa 4. Jeżeli zdarzenie A pociąga zdarzenie B (A B), to P B\A = P B P(A) 5. Jeżeli zdarzenia A 1,, A n są rozłączne parami, to P A 1 A n = P A P(A n ) 6. Suma prawdopodobieństw zdarzeń przeciwnych równa się jedności, P A + P A = 1

29 Elementarne własności prawdopodobieństwa 7. Prawdopodobieństwo alternatywy dwóch dowolnych zdarzeń jest równe sumie prawdopodobieństw tych zdarzeń pomniejszonej o prawdopodobieństwo ich koniunkcji, czyli P A B = P A + P B P A B Czyli prawdopodobieństwo zajścia co najmniej jednego z tych zdarzeń jest równe sumie prawdopodobieństw tych zdarzeń pomniejszonej o prawdopodobieństwo zajścia obydwu zdarzeń równocześnie.

30 Elementarne własności prawdopodobieństwa 8. Jeżeli przestrzeń zdarzeń elementarnych Ω jest co najwyżej przeliczalna i są określone prawdopodobieństwa p i poszczególnych zdarzeń jednoelementowych {ω i }, czyli p i = P ω i, p i 0 p p n = 1, gdy przestrzeń Ω jest skończona, p p n + = 1, gdy przestrzeń Ω jest przeliczalna, to prawdopodobieństwo zdarzenia A, któremu sprzyjają zdarzenia elementarne, ω i1,, ω ik, jest dane równością P A = p i1 + + p ik

31 Elementarne własności prawdopodobieństwa 9. Jeżeli, a) przestrzeń Ω składa się z n zdarzeń elementarnych, b) zdarzenia jednoelementowe {ω i }, są jednakowo prawdopodobne, a więc P ω 1 = P ω 2 = = P ω n = 1 n to prawdopodobieństwo dowolnego zdarzenia A składającego się z k zdarzeń elementarnych wyraża się równością P A = k n

32 Przestrzeń probabilistyczna Przestrzenią probabilistyczną nazywamy trójkę (Ω, F, P), gdzie Ω- przestrzeń zdarzeń elementarnych, F- zbiór zdarzeń losowych, P prawdopodobieństwo. Przestrzeń probabilistyczna danego doświadczenia losowego stanowi matematyczny opis tego doświadczenia.

33 Prawdopodobieństwo warunkowe Niech B będzie zdarzeniem takim, że P(B) > 0. Prawdopodobieństwem warunkowym zdarzenia A przy warunku B nazywamy liczbę P(A B) = P(A B) P(B) Przykład: Spośród liczb {2, 3, 5, 30} wybieramy losowo jedną liczbę. Rozważmy zdarzenia: A wylosowano liczbę parzystą, B wylosowano liczbę podzielną przez 3 Oblicz prawdopodobieństwo wylosowania liczby parzystej, wiedząc, że wylosowano liczę podzielną przez 3. P A B = P(A B) P(B) = = 1 2

34 Twierdzenie o prawdopodobieństwie całkowitym Jeżeli a) zdarzenia B 1, B 2,, B n są parami rozłączne (tzn. B i B j =, gdy i j) oraz n b) i=1 B i = Ω, P B i > 0 dla i = 1,2,, n, to dla każdego zdarzenia A n P A = P(A B i ) P(B i ) i=1

35 Twierdzenie o prawdopodobieństwie całkowitym Przykład: Test ELISA na obecność wirusa HIV w organizmie (stosowany w USA w połowie lat osiemdziesiątych) daje wynik pozytywny z prawdopodobieństwem 0,98 i negatywny z prawdopodobieństwem 0,02, jeśli wirus jest w organizmie. Jeżeli wirusa w organizmie nie ma, prawdopodobieństwo wyniku pozytywnego wynosi 0,07. Zakłada się, że 1% populacji jest zarażony tym wirusem. Obliczyć prawdopodobieństwo, że u losowo wybranej osoby z tej populacji test da wynik pozytywny.

36 P(B1) prawdopodobieństwo, że wirus jest w organizmie (0,01) P(A B1) jest wirus i wynik pozytywny (0,98) P(B2) - prawdopodobieństwo, że wirusa nie ma w organizmie (0,99) P(A B2) wirusa nie ma i wynik pozytywny (0,07) P A = P A B1 P B1 + P A B2 P B2 = 0,01 0,98 + 0,99 0,07 = 0,0791

37 Zadania 1. Płyty DVD są produkowane w dwóch fabrykach X i Y. Płyty z fabryki X mają trwałość dłużej niż 30 lat w 99% procentach przypadków, płyty z fabryki Y tylko w 95% przypadków. Fabryka X dostarcza na rynek 60% płyt tej marki. Jakie jest prawdopodobieństwo, że zakupiona losowo płyta DVD będzie miała trwałość dłuższą niż 30 lat? 2. Pierwsza urna zawiera 4 białe i 1 czarną kulę, druga 2 białe i 3 czarne. Losujemy urnę tak, by szansa wybrania pierwszej urny była dwukrotnie mniejsza niż drugiej. Następnie z wybranej urny losujemy kulę. Jakie jest prawdopodobieństwo wylosowania kuli białej.

38 Jeżeli Twierdzenie Bayesa a) zdarzenia B 1, B 2,, B n są parami rozłączne (tzn. B i B j =, gdy i j), n b) i=1 B i = Ω, P B i > 0 dla i = 1,2,, n c) P A > 0, to dla k = 1,2,, n P B k A = P(A B k) P B k n P(A B i ) P(B i ) i=1 Wzór Bayesa możemy odczytać następująco: jeśli możliwymi przyczynami zajścia zdarzenia A (skutku), są zdarzenia B (B 1,..., B n ), to P(B k A) wyznacza prawdopodobieństwo, że przyczyną zajścia zdarzenia A jest właśnie B k.

39 Twierdzenie Bayesa - przykład Test ELISA na obecność wirusa HIV w organizmie (stosowany w USA w połowie lat osiemdziesiątych) daje wynik pozytywny z prawdopodobieństwem 0,98 i negatywny z prawdopodobieństwem 0,02, jeśli wirus jest w organizmie. Jeżeli wirusa w organizmie nie ma, prawdopodobieństwo wyniku pozytywnego wynosi 0,07. Zakłada się, że 1% populacji jest zarażony tym wirusem. Jakie jest prawdopodobieństwo, że losowo wybrana osoba jest rzeczywiście zarażona wirusem, jeśli wiadomo, że test dał wynik pozytywny. P B k A = P(A B k) P B k n P(A B i ) P(B i ) i=1

40 P(B1) prawdopodobieństwo, że wirus jest w organizmie (0,01) P(A B1) jest wirus i wynik pozytywny ((0,98) P(B2) - prawdopodobieństwo, że wirusa nie ma w organizmie (0,99) P(A B2) wirusa nie ma i wynik pozytywny (0,07) P A B1 P(B1) P B1 A = P A B1 P B1 + P A B2 P(B2) 0,98 0,01 = 0,98 0,01 + 0,99 0,07 = 0,123

41 Twierdzenie Bayesa - zadanie Pierwsza urna zawiera 4 białe i 1 czarną kulę, druga 2 białe i 3 czarne. Losujemy urnę tak, by szansa wybrania pierwszej urny była dwukrotnie mniejsza niż drugiej. Następnie z wybranej urny losujemy kulę. Jakie jest prawdopodobieństwo losowania z pierwszej urny gdy wynikiem losowania była biała kula.

42 Niezależność zdarzeń Zdarzenia A i B nazywamy niezależnymi (parami niezależnymi), jeżeli P(A B) = P(A) P(B) Zdarzenia A 1, A 2,, A n nazywamy wzajemnie niezależnymi, jeżeli dla dowolnego wyboru wskaźników 1 i 1 < i 2 < < i r n, r = 2,3,, n, r P A ik k=1 r = P A ik k=1

43 Niezależność zdarzeń Przykład: Spośród liczb {2, 3, 5, 30} wybieramy losowo jedną liczbę. Rozważmy zdarzenia: A wylosowano liczbę parzystą, B wylosowano liczbę podzielną przez 3, C wylosowano liczbę podzielną przez 5. Czy te zdarzenia są parami niezależne? Czy są wzajemnie niezależne?

44 P A = 1 2, P B = 1 2, P C = 1 2, P A B = 1 4, P A C = 1 4, P B C = 1 4, P A B C = 1 4 P A B = P A P B = = 1 4 P A C = P A P C = = 1 4 P B C = P B P(C) = = 1 4 P A B C = P A P B P C = = Zdarzenia są parami niezależne ale nie są wzajemnie niezależne

45 Własności zdarzeń niezależnych 1. Jeśli A i B są niezależne i P B > 0 to P A B = P(A) 2. Jeśli A B =, P A > 0, P B > 0 to A i B nie są niezależne. 3. Jeśli A B, P A > 0, P B < 1, to A i B nie są niezależne. 4. Ω i dowolne zdarzenie A są niezależne. 5. i dowolne zdarzenie A są niezależne.

46 Dodatek schemat Bernouliego Schematem Bernoulliego nazywamy wieloetapowe doświadczenie polegające na n-krotnym powtórzeniu tego samego doświadczenia cząstkowego w niezmienionych warunkach i niezależnie od siebie, przy czym każde doświadczenie cząstkowe może być zakończone jednym z dwóch wyników: sukces lub porażka. p prawdopodobieństwo sukcesu q prawdopodobieństwo porażki n ilość prób k ilość prób zakończonych sukcesem P n, k, p = n k pk q n k

47 Przykład Rzucamy dziesięć razy symetryczną monetą. Niech sukcesem w tym doświadczeniu będzie wyrzucenie orła O. Ponieważ moneta jest symetryczna więc P O = 1. Zatem prawdopodobieństwo, że w 10 2 rzutach monetą uzyskamy 3 razy orła wynosi P 10,3, 1 2 = = 10! 3! 7! = = =

48 Dziękuję za uwagę