Wykład 2. Prawdopodobieństwo i elementy kombinatoryki

Transkrypt

1 Wstęp do probabilistyki i statystyki Wykład 2. Prawdopodobieństwo i elementy kombinatoryki dr hab.inż. Katarzyna Zakrzewska, prof.agh Katedra Elektroniki, AGH zak@agh.edu.pl Wstęp do probabilistyki i statystyki. wykład 2 1

2 Plan: Definicja prawdopodobieństwa Zdarzenie losowe a zdarzenie elementarne Algebra zdarzeń Elementy kombinatoryki Prawdopodobieństwo warunkowe Wstęp do probabilistyki i statystyki. wykład 2 2

3 Definicja prawdopodobieństwa Klasyczna Geometryczna Częstościowa (von Misesa) Aksjomatyczna (Kołmogorowa) Wstęp do probabilistyki i statystyki. wykład 2 3

4 Definicja klasyczna prawdopodobieństwa Pierwszą (klasyczną) definicję prawdopodobieństwa podał P.S. Laplace w 1812 r. Rozważmy doświadczenie losowe kończące się zawsze dokładnie jednym spośród N jednakowo możliwych wyników. Prawdopodobieństwem zdarzenia A nazywamy stosunek liczby n a zdarzeń sprzyjających zdarzeniu A do liczby wszystkich zdarzeń N P ( A ) n N A jest podzbiorem tzw. zdarzenia pewnego Ω. a A Ω Wstęp do probabilistyki i statystyki. wykład 2 4

5 Definicja geometryczna prawdopodobieństwa P ( A) miara( g) miara( G) Wstęp do probabilistyki i statystyki. wykład 2 5

6 Paradoks Bertranda W danym kole prowadzimy na chybił trafił ( w sposób losowy) cięciwę. Jakie jest prawdopodobieństwo, że będzie ona dłuższa od boku trójkąta równobocznego wpisanego w to koło? Trzy sposoby rozwiązania, trzy różne odpowiedzi: ½, 1/3, ¼. Przyczyna paradoksu tkwi w tym, że w treści zadania nie sprecyzowano dokładnie, co należy rozumieć przez poprowadzenie średnicy w sposób losowy. Wstęp do probabilistyki i statystyki. wykład 2 6

7 Definicja częstościowa prawdopodobieństwa Zaproponowana przez R. von Misesa w 1931 r. Nie ma wad definicji klasycznej ani geometrycznej. Jest zgodna z intuicją i z obserwowalną prawidłowością dotyczącą częstości. Nie jest jednak akceptowalna jako definicja pojęcia matematycznego ( a posteriori). Prawdopodobieństwo zdarzenia A jest to granica częstości tego zdarzenia, gdy liczba doświadczeń n dąży do nieskończoności P( A) n( A) lim n n Wstęp do probabilistyki i statystyki. wykład 2 7

8 Aksjomatyczna definicja prawdopodobieństwa Każdemu zdarzeniu losowemu A przypisujemy liczbę P(A), zwaną prawdopodobieństwem tego zdarzenia, taką że 1. 0 P(A) Prawdopodobieństwo zdarzenia pewnego jest równe jedności P ( Ω ) 1 3. (przeliczalna addytywność prawdopodobieństwa) Prawdopodobieństwo alternatywy przeliczalnej ilości parami wykluczających się zdarzeń jest równe sumie prawdopodobieństw tych zdarzeń: jeżeli A 1, A 2, Є M, przy czym dla każdej pary wskaźników i, j (i j) jest A i A j Ø, to P U A k k 1 k 1 ( A ) Wstęp do probabilistyki i statystyki. wykład 2 8 P k

9 Konsekwencje aksjomatów Prawdopodobieństwo sumy wzajemnie wykluczających się zdarzeń losowych A i B jest równe sumie prawdopodobieństw tych zdarzeń P czyli:» (Kołmogorov, 1933) ( A B) P( A) + P( B),gdzie A B A B Wstęp do probabilistyki i statystyki. wykład 2 9

10 Zdarzenie losowe a zdarzenie elementarne W każdym doświadczeniu losowym można wyróżnić pewne najprostsze, nierozkładalne, elementarne wyniki (zdarzenia), charakteryzujące się tym, że każde powtórzenie tego doświadczenia kończy się jednym i tylko jednym z nich. Są to zdarzenia elementarne. Dla każdego doświadczenia losowego rozważamy zbiór wszystkich możliwych wyników tego doświadczenia. Poszczególne wyniki nazywamy zdarzeniami elementarnymi. Zbiór wszystkich wyników nazywamy przestrzenią wyników albo przestrzenią (zbiorem) zdarzeń elementarnych i oznaczamy symbolem Ω. Wstęp do probabilistyki i statystyki. wykład 2 10

11 Przykład zdarzenia losowego Rzucamy monetą dwa razy. Możliwe wyniki to: (o, o) wyrzucenie dwóch orłów (o, r) wyrzucenie orła, a potem reszki (r, o) wyrzucenie reszki, a potem orła (r, r) wyrzucenie dwóch reszek Zbiór: Ω{(o, o); (o, r) ; (r, o); (r, r)} jest zbiorem zdarzeń elementarnych. Jeżeli zbiór zdarzeń elementarnych ma n- elementów to zdarzeń losowych jest 2 n Wstęp do probabilistyki i statystyki. wykład 2 11

12 Przykład zdarzenia losowego W tej sytuacji możliwych jest 2 4 zdarzeń losowych. Wybrane zdarzenia losowe, np.: A {(o,o); (o,r); (r,o)} wyrzucenie co najmniej 1 orła B {(o,o); (o,r);} - orzeł w pierwszym rzucie G {(o,o)} - wyrzucenie dwóch orłów H {(o,r); (r,o)} wyrzucenie dokładnie jednej reszki Wstęp do probabilistyki i statystyki. wykład 2 12

13 Przykład do samodzielnego rozwiązania Dokonać przeglądu wszystkich (uwzględniając zdarzenie pewne i niemożliwe) zdarzeń (jedno-, dwu-, trzy-, cztero-, pięcio- i sześcioelementowych) w doświadczeniu polegającym na rzucie kostką. Określić przestrzeń zdarzeń elementarnych. Podać liczbę wszystkich możliwych zdarzeń Wstęp do probabilistyki i statystyki. wykład 2 13

14 Relacje zdarzeń Suma zdarzeń zachodzi co najmniej jedno ze zdarzeń A lub B A B A B Iloczyn zdarzeń zachodzi zdarzenie A oraz zdarzenie B A B A A A B B B Wstęp do probabilistyki i statystyki. wykład 2 14

15 Relacje zdarzeń Zdarzenie przeciwne nie zachodzi zdarzenie A Zdarzenie A pociąga zdarzenie B (operator: zbiór A zawiera się w zbiorze B) Zdarzenia A i B wzajemnie wykluczające się A A' A B B Wstęp do probabilistyki i statystyki. wykład 2 15

16 Liczba obiektów w prostych sytuacjach kombinatorycznych W wielu sytuacjach konieczne jest wyznaczenie liczby elementów rozważanego zbioru. Mogą tu być pomocne proste zasady arytmetyczne: reguła dodawania reguła mnożenia rzut monetą wyciąganie kart z talii rzut kostką Wstęp do probabilistyki i statystyki. wykład 2 16

17 Reguła dodawania Jeżeli dwa zdarzenia wzajemnie się wykluczają, tzn. nie mogą wystąpić jednocześnie, wtedy możemy stosować regułę dodawania. Twierdzenie dotyczące dodawania. Jeżeli zdarzenie e 1 można zrealizować na n 1 sposobów, a zdarzenie e 2 na n 2 sposobów oraz zdarzenia e 1 i e 2 wzajemnie się wykluczają, to liczba sposobów w jakich realizują się oba zdarzenia wynosi: n 1 + n 2 Wstęp do probabilistyki i statystyki. wykład 2 17

18 Uogólnienie reguły dodawania Jeżeli rozważany zbiór Z jest sumą, rozłącznych parami podzbiorów, Z A 1 A 2 A m i znamy liczbę elementów każdego podzbioru, to liczba elementów zbioru Z jest sumą liczb elementów wszystkich podzbiorów A 1, A 2,., A m A 1 A 2 A 1 + A 2 Jest to szczególny przypadek zasady włączeń-wyłączeń ang. Principle of Inclusion-Exclusion, PIE Wstęp do probabilistyki i statystyki. wykład 2 18

19 Zasada włączeń-wyłączeń, Principle of Inclusion-Exclusion (PIE) Rozważmy dwa zdarzenia, e 1 ie 2, dla których możliwe jest wystąpienie odpowiednio n 1 in 2 rezultatów. Jednak, tylko jedno zdarzenie może zachodzić a nie oba. W tej sytuacji nie stosuje się reguły dodawania. W języku zdarzeń: od sumy wszystkich możliwych wyników należy odjąć liczbę tych, które są wspólne dla obu zdarzeń. W języku zbiorów: A 1 A 2 A 1 + A 2 - A 1 A 2 Wstęp do probabilistyki i statystyki. wykład 2 19

20 Reguła mnożenia Jeżeli dwa zdarzenia nie wykluczają się, tzn. mogą zachodzić osobno, wtedy możemy stosować regułę mnożenia. Twierdzenie dotyczące mnożenia. Jeżeli pewne doświadczenie można wykonać w m kolejnych etapach, przy czym w k-tym etapie można uzyskać w k wyników, to liczba wszystkich wyników doświadczenia jest równa iloczynowi w 1 w 2 w m Wstęp do probabilistyki i statystyki. wykład 2 20

21 Zastosowanie reguł dodawania i mnożenia Zamek jest strzeżony przez dwie wieże, jedna z nich jest zamknięta kodem dwucyfrowym nieparzystym, druga kodem dwucyfrowym parzystym. Wystarczy złamać kod na jednej wieży, aby wejść. Na ile sposobów możemy wejść do zamku? Mamy tutaj jednocześnie regułę mnożenia i dodawania. Najpierw mnożenia, wieża z kodem parzystym składa się z 2 cyfr. Możliwe dziesiątki: 2,4,6,8 Możliwe jedności: 0,2,4,6,8 Zatem z reguły mnożenia kombinacji jest Tak samo w wieży nieparzystej. Możliwe dziesiątki: 1,3,5,7,9 Możliwe jedności: 1,3,5,7,9 Z reguły mnożenia kombinacji jest Z racji, że mamy albo (ta wieża albo tamta) sumujemy nasze wyliczone kombinacje:

22 Wariacje Wariacją k elementową ze zbioru n elementowego nazywamy każdy ciąg (uporządkowanie) k elementowy utworzony z elementów tego zbioru. Ilość (ciągów) wariacji zależy od tego czy elementy ciągu mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania bez powtórzeń; ze zwracaniemz powtórzeniami Wstęp do probabilistyki i statystyki. wykład 2 22

23 Wariacje bez powtórzeń Przykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie wariacje 2-wyrazowe bez powtórzeń: (a,b) (b,a) (a,c) (c,a) (b,c) (c,b) Obliczyć liczbę tych ciągów 3x26 Ogólnie: V ( k ) n k 1 i 0 ( n i) n( n 1)( n 2)...( n k + 1) Wstęp do probabilistyki i statystyki. wykład 2 23

24 Liczba wariacji bez powtórzeń Liczbę wariacji k elementowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) V k n ( n n! k)! Gdy kn, tzn. ciąg n elementowy ze zbioru n elementowego (permutacja bez powtórzeń) Przykład: (abc) (acb) (bac) (bca) (cab) (cba) Liczba permutacji wynosi n! Wstęp do probabilistyki i statystyki. wykład 2 24

25 Wariacje z powtórzeniami Przykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie wariacje 2-wyrazowe z powtórzeniami: (a,a) (b,a) (c,a) (a,b) (b,b) (c,b) (a,c) (b,c) (c,c) Obliczyć liczbę tych ciągów 3x Wstęp do probabilistyki i statystyki. wykład 2 25

26 Liczba wariacji z powtórzeniami Liczbę wariacji k elementowych z powtórzeniami ze zbioru n elementowego można obliczyć ze wzoru: k W ( ) n n k Zadanie: Wiele urządzeń elektronicznych wymaga od użytkownika wprowadzenia osobistego kodu złożonego z czterech cyfr. Oblicz, ile jest możliwych kodów. Rozwiązanie: Każdy kod to czteroelementowa wariacja z powtórzeniami ze zbioru dziesięciu cyfr {0,1,2,3,4,5,6,7,8,9} W (4) Wstęp do probabilistyki i statystyki. wykład 2 26

27 Kombinacje Kombinacją k wyrazową ze zbioru n elementowego nazywamy każdy k wyrazowy podzbiór (brak uporządkowania) utworzony z elementów tego zbioru. Ilość (podzbiorów) kombinacji zależy od tego czy elementy podzbioru mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania bez powtórzeń; ze zwracaniemz powtórzeniami Wstęp do probabilistyki i statystyki. wykład 2 27

28 Kombinacje bez powtórzeń Przykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie kombinacje 2-wyrazowe bez powtórzeń: {a,b} {a,c} {b,c} Obliczyć liczbę tych podzbiorów 6/2 3 Ogólnie: C ( k ) n ( k Vn k! ) Wstęp do probabilistyki i statystyki. wykład 2 28

29 Liczba kombinacji bez powtórzeń Liczbę kombinacji k wyrazowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) C k n k n!!( n k)! Czyli: C ( k ) n n k Wstęp do probabilistyki i statystyki. wykład 2 29

30 Kombinacje z powtórzeniami Przykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie kombinacje 2-wyrazowe z powtórzeniami: {a,a} {a,b} {a,c} {b,b} {b,c} {c,c} Obliczyć liczbę tych podzbiorów 6 Ogólnie liczba kombinacji z powtórzeniami: ( k ) c n n+ k 1 k Wstęp do probabilistyki i statystyki. wykład 2 30

31 Podsumowanie metod obliczania liczby możliwych zdarzeń Elementy kombinatoryki Wariacje (ciągi) - istotna jest kolejność z powtórzeniami Kombinacje (podzbiory) kolejność nie jest istotna z powtórzeniami bez powtórzeń bez powtórzeń Wstęp do probabilistyki i statystyki. wykład 2 31

32 Kombinatoryka Wstęp do probabilistyki i statystyki. wykład 2 32

33 Prawdopodobieństwo warunkowe Wprowadzenie: Interesuje nas częstość występowania daltonizmu wśród ludzi. W związku z tym wybieramy n osób i badamy, które z nich cierpią na daltonizm. Rozwiązanie: A zdarzenie polegające na tym, że wybrana losowo osoba cierpi na daltonizm n(a) d oznacza liczbę osób wybranych z n, które cierpią na daltonizm Częstość występowania daltonizmu dana jest wzorem: ν (A) d n Wstęp do probabilistyki i statystyki. wykład 2 33

34 Prawdopodobieństwo warunkowe Teraz interesuje nas częstość występowania daltonizmu wśród kobiet. Trzeba przeprowadzić nowy eksperyment, wybierając pewną liczbę kobiet (a więc teraz wybór odbywałby się w innej zbiorowości zbiorowości kobiet, zawartej w poprzednio rozpatrywanej zbiorowości ludzi) i licząc, ile wśród nich jest daltonistek. Jednak ten nowy eksperyment jest zbyteczny. Częstość występowania daltonizmu u kobiet można wyznaczyć za pomocą częstości zaobserwowanych w pierwszym eksperymencie. Wstęp do probabilistyki i statystyki. wykład 2 34

35 Prawdopodobieństwo warunkowe Rozwiązanie: B zdarzenie polegające na tym, że osoba jest kobietą n(b) k oznacza liczbę kobiet wśród wybranych n osób Wśród wybranych kobiet było L daltonistek: n ( A B) L Odpowiednie częstości zdarzeń B i A B są dane jako: ν (B) k n ν ( A B) L n Wstęp do probabilistyki i statystyki. wykład 2 35

36 Prawdopodobieństwo warunkowe Dotychczasowe rozważania dotyczą wszystkich n obserwacji. Ograniczmy się teraz do tych k obserwacji, które dały wynik B, i obliczmy jak często występowało w nich zdarzenie A, tzn. obliczmy zaobserwowaną częstość daltonizmu wśród kobiet. Dla zaznaczenia, że chodzi obecnie o częstość zdarzenia A w stosunku do tych obserwacji, które dały wynik B przyjmijmy inne oznaczenie: ν ( A B) Zauważamy, że zachodzi: L k ν ( A B) ν ( A B) ν ( B) Wstęp do probabilistyki i statystyki. wykład 2 36

37 Prawdopodobieństwo warunkowe Ogólna definicja: P ( A B ) P ( A B ) P( B ) przy założeniu, że P(B) > 0 (tj. zdarzenie B musi być prawdopodobne) Wstęp do probabilistyki i statystyki. wykład 2 37

38 Prawdopodobieństwo warunkowe Użyteczne wzory: P A B ( A) P( A Ω) A B P B A ( A B) P P ( A B) P P ( A B) 1 dla dowolnego zdarzenia A 0 ( A) ( B) Wstęp do probabilistyki i statystyki. wykład 2 38

39 Przykład Rzucamy trzy razy kostką 6-cio-ścienną. Wiemy, że za każdym razem wypadła inna liczba oczek. Jakie jest prawdopodobieństwo, że raz wypadło 5 pod warunkiem że za każdym razem wypadła inna cyfra? P P ( A B) ( A B) P ( B) P Ω Ω ( A B) 5 4 3Ω P( B) Ω Wstęp do probabilistyki i statystyki. wykład 2 39