Wykład 2. Prawdopodobieństwo i elementy kombinatoryki

Wstęp do probabilistyki i statystyki Wykład 2. Prawdopodobieństwo i elementy kombinatoryki dr inż. Krystyna Schneider, Katedra Elektroniki, AGH e-mail: kryschna@agh.edu.pl http://home.agh.edu.pl/~kryschna Wstęp do probabilistyki i statystyki. wykład 2 1

Plan: Definicja prawdopodobieństwa Zdarzenie losowe a zdarzenie elementarne Algebra zdarzeń Elementy kombinatoryki Prawdopodobieństwo warunkowe Wstęp do probabilistyki i statystyki. wykład 2 2

Definicja prawdopodobieństwa Klasyczna Geometryczna Częstościowa Aksjomatyczna Wstęp do probabilistyki i statystyki. wykład 2 3

Definicja klasyczna prawdopodobieństwa Pierwszą (klasyczną) definicję prawdopodobieństwa podał P.S. Laplace w 1812 r. Rozważmy doświadczenie losowe kończące się zawsze dokładnie jednym spośród N jednakowo możliwych wyników. Prawdopodobieństwem zdarzenia A nazywamy stosunek liczby n a zdarzeń sprzyjających zdarzeniu A do liczby wszystkich zdarzeń N P A = na N A jest podzbiorem tzw. zdarzenia pewnego Ω. A Ω Wstęp do probabilistyki i statystyki. wykład 2 4

Definicja geometryczna prawdopodobieństwa (Buffona) Wprowadzono, aby móc mówić o prawdopodobieństwie także w przypadku nieskończenie wielu wyników. Przypuśćmy, że w przestrzeni r-wymiarowej mamy pewien obszar G i zawarty w nim obszar g. Doświadczenie polega na losowym wyborze punktu w obszarze G, przy czym wszystkie punkty są równoprawne. Przez równoprawność rozumiemy, że wybory punktów z obszarów o identycznej mierze (przy dowolnym ich kształcie i położeniu) są jednakowo możliwe. Prawdopodobieństwem zdarzenia A polegającego na tym, że losowo wybrany punkt znajdzie się w obszarze g wynosi: P A = miara( g) miara( G) Wstęp do probabilistyki i statystyki. wykład 2 5

Paradoks Bertranda W danym kole prowadzimy na chybił trafił ( w sposób losowy) cięciwę. Jakie jest prawdopodobieństwo, że będzie ona dłuższa od boku trójkąta równobocznego wpisanego w to koło? Trzy sposoby rozwiązania, trzy różne odpowiedzi: ½, 1/3, ¼. Przyczyna paradoksu tkwi w tym, że w treści zadania nie sprecyzowano dokładnie, co należy rozumieć przez poprowadzenie średnicy w sposób losowy. Wstęp do probabilistyki i statystyki. wykład 2 6

Definicja częstościowa prawdopodobieństwa Zaproponowana przez R. von Misesa w 1931 r. Nie ma wad definicji klasycznej ani geometrycznej. Jest zgodna z intuicją i z obserwowalną prawidłowością dotyczącą częstości. Nie jest jednak akceptowalna jako definicja pojęcia matematycznego ( a posteriori). Prawdopodobieństwo zdarzenia A jest to granica częstości tego zdarzenia, gdy liczba doświadczeń n dąży do nieskończoności P( A) = n( A) lim n n Wstęp do probabilistyki i statystyki. wykład 2 7

(Kołmogorova) Aksjomatyczna definicja prawdopodobieństwa Każdemu zdarzeniu losowemu A przypisujemy liczbę P(A), zwaną prawdopodobieństwem tego zdarzenia, taką że 1. 0 P(A) 1. 2. Prawdopodobieństwo zdarzenia pewnego jest równe jedności PΩ= 1 3. (przeliczalna addytywność prawdopodobieństwa) Jeśli zdarzenia są rozłączne (wykluczające się parami), to prawdopodobieństwo alternatywy (sumy) zdarzeń jest równe sumie prawdopodobieństw tych zdarzeń. jeżeli A 1, A 2, Є M, przy czym dla każdej pary wskaźników i, j (i j) jest A i A j =Ø, to P A k = k1 k1 Wstęp do probabilistyki i statystyki. wykład 2 8 P A k

Konsekwencje aksjomatów Prawdopodobieństwo sumy wzajemnie wykluczających się zdarzeń losowych A i B jest równe sumie prawdopodobieństw tych zdarzeń P czyli:» (Kołmogorov, 1933) A B= PA +PB,gdzie A B= A B Wstęp do probabilistyki i statystyki. wykład 2 9

Zdarzenie losowe a zdarzenie elementarne W każdym doświadczeniu losowym można wyróżnić pewne najprostsze, nierozkładalne, elementarne wyniki (zdarzenia), charakteryzujące się tym, że każde powtórzenie tego doświadczenia kończy się jednym i tylko jednym z nich. Są to zdarzenia elementarne. Dla każdego doświadczenia losowego rozważamy zbiór wszystkich możliwych wyników tego doświadczenia. Poszczególne wyniki nazywamy zdarzeniami elementarnymi. Zbiór wszystkich wyników nazywamy przestrzenią wyników albo przestrzenią (zbiorem) zdarzeń elementarnych i oznaczamy symbolem Ω. Wstęp do probabilistyki i statystyki. wykład 2 10

Przykład zdarzenia losowego Rzucamy monetą dwa razy. Możliwe wyniki to: (o, o) wyrzucenie dwóch orłów (o, r) wyrzucenie orła, a potem reszki (r, o) wyrzucenie reszki, a potem orła (r, r) wyrzucenie dwóch reszek Zbiór: Ω={(o, o); (o, r) ; (r, o); (r, r)} jest zbiorem zdarzeń elementarnych. Jeżeli zbiór zdarzeń elementarnych ma n- elementów to zdarzeń losowych jest 2 n Wstęp do probabilistyki i statystyki. wykład 2 11

Przykład zdarzenia losowego W tej sytuacji możliwych jest 2 4 zdarzeń losowych. Wybrane zdarzenia losowe, np.: A = {(o,o); (o,r); (r,o)} wyrzucenie co najmniej 1 orła B = {(o,o); (o,r)} - orzeł w pierwszym rzucie G = {(o,o)} - wyrzucenie dwóch orłów H = {(o,r); (r,o)} wyrzucenie dokładnie jednej reszki Wstęp do probabilistyki i statystyki. wykład 2 12

Przykład do samodzielnego rozwiązania Dokonać przeglądu wszystkich (uwzględniając zdarzenie pewne i niemożliwe) zdarzeń (jedno-, dwu-, trzy-, cztero-, pięcio- i sześcioelementowych) w doświadczeniu polegającym na rzucie kostką. Określić przestrzeń zdarzeń elementarnych. Podać liczbę wszystkich możliwych zdarzeń Wstęp do probabilistyki i statystyki. wykład 2 13

Relacje zdarzeń Suma zdarzeń zachodzi co najmniej jedno ze zdarzeń A lub B (alternatywa) A B A B Iloczyn zdarzeń zachodzi zdarzenie A oraz zdarzenie B (koniunkcja) A B A A A B B B Wstęp do probabilistyki i statystyki. wykład 2 14

Relacje zdarzeń Zdarzenie przeciwne nie zachodzi zdarzenie A Zdarzenie A pociąga zdarzenie B (operator: zbiór A zawiera się w zbiorze B) Zdarzenia A i B wzajemnie wykluczające się A A' A B B= Wstęp do probabilistyki i statystyki. wykład 2 15

Liczba obiektów w prostych sytuacjach kombinatorycznych W wielu sytuacjach konieczne jest wyznaczenie liczby elementów rozważanego zbioru. Mogą tu być pomocne proste zasady arytmetyczne: reguła dodawania reguła mnożenia rzut monetą wyciąganie kart z talii rzut kostką Wstęp do probabilistyki i statystyki. wykład 2 16

Reguła dodawania Jeżeli dwa zdarzenia wzajemnie się wykluczają, tzn. nie mogą wystąpić jednocześnie, wtedy możemy stosować regułę dodawania. Twierdzenie dotyczące dodawania. Jeżeli zdarzenie e 1 można zrealizować na n 1 sposobów, a zdarzenie e 2 na n 2 sposobów oraz zdarzenia e 1 i e 2 wzajemnie się wykluczają, to liczba sposobów w jakich realizują się oba zdarzenia wynosi: n 1 + n 2 Wstęp do probabilistyki i statystyki. wykład 2 17

Uogólnienie reguły dodawania Jeżeli rozważany zbiór Z jest sumą, rozłącznych parami podzbiorów, Z= A 1 A 2 A m i znamy liczbę elementów każdego podzbioru, to liczba elementów zbioru Z jest sumą liczb elementów wszystkich podzbiorów A 1, A 2,., A m A 1 A 2 = A 1 + A 2 Jest to szczególny przypadek zasady włączeń-wyłączeń ang. Principle of Inclusion-Exclusion, PIE Wstęp do probabilistyki i statystyki. wykład 2 18

Zasada włączeń-wyłączeń, Principle of Inclusion-Exclusion (PIE) Rozważmy dwa zdarzenia, e 1 i e 2, dla których możliwe jest wystąpienie odpowiednio n 1 i n 2 rezultatów. Jednak, tylko jedno zdarzenie może zachodzić a nie oba. W tej sytuacji nie stosuje się reguły dodawania. W języku zdarzeń: od sumy wszystkich możliwych wyników należy odjąć liczbę tych, które są wspólne dla obu zdarzeń. W języku zbiorów: A 1 A 2 = A 1 + A 2 - A 1 A 2 Wstęp do probabilistyki i statystyki. wykład 2 19

Reguła mnożenia Jeżeli dwa zdarzenia nie wykluczają się, tzn. mogą zachodzić osobno, wtedy możemy stosować regułę mnożenia. Twierdzenie dotyczące mnożenia. Jeżeli pewne doświadczenie można wykonać w m kolejnych etapach, przy czym w k-tym etapie można uzyskać w k wyników, to liczba wszystkich wyników doświadczenia jest równa iloczynowi w 1 w 2 w m Wstęp do probabilistyki i statystyki. wykład 2 20

Zastosowanie reguł dodawania i mnożenia Zamek jest strzeżony przez dwie wieże, jedna z nich jest zamknięta kodem dwucyfrowym nieparzystym, druga kodem dwucyfrowym parzystym. Wystarczy złamać kod na jednej wieży, aby wejść. Na ile sposobów możemy wejść do zamku? Mamy tutaj jednocześnie regułę mnożenia i dodawania. Najpierw mnożenia, wieża z kodem parzystym składa się z 2 cyfr. Możliwe dziesiątki: 2,4,6,8 Możliwe jedności: 0,2,4,6,8 Zatem z reguły mnożenia kombinacji jest 5 4=20 Tak samo w wieży nieparzystej. Możliwe dziesiątki: 1,3,5,7,9 Możliwe jedności: 1,3,5,7,9 Z reguły mnożenia kombinacji jest 5 5=25 Z racji, że mamy albo (ta wieża albo tamta) sumujemy nasze wyliczone kombinacje: 25+20=45 21

Wariacje Wariacją k elementową ze zbioru n elementowego nazywamy każdy ciąg (uporządkowanie) k elementowy utworzony z elementów tego zbioru. Ilość (ciągów) wariacji zależy od tego czy elementy ciągu mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania = bez powtórzeń; ze zwracaniem = z powtórzeniami Wstęp do probabilistyki i statystyki. wykład 2 22

Wariacje bez powtórzeń Przykład: Rozważmy 3-elementowy zbiór Z={a,b,c} i wypiszmy wszystkie wariacje 2-wyrazowe bez powtórzeń: (a,b) (b,a) (a,c) (c,a) (b,c) (c,b) Obliczyć liczbę tych ciągów 3x2=6 Ogólnie: V ( k ) n = k 1 i0 ( n i) n( n 1)( n 2)...( n k 1) Wstęp do probabilistyki i statystyki. wykład 2 23

Liczba wariacji bez powtórzeń Liczbę wariacji k elementowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) V k n = n! ( n k)! Wstęp do probabilistyki i statystyki. wykład 2 24

Liczba wariacji bez powtórzeń Liczbę wariacji k elementowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) V k n = ( n n! k)! Gdy k=n, tzn. ciąg n elementowy ze zbioru n elementowego (permutacja bez powtórzeń) Przykład: (abc) (acb) (bac) (bca) (cab) (cba) Liczba permutacji wynosi n! Wstęp do probabilistyki i statystyki. wykład 2 25

Wariacje z powtórzeniami Przykład: Rozważmy 3-elementowy zbiór Z={a,b,c} i wypiszmy wszystkie wariacje 2-wyrazowe z powtórzeniami: (a,a) (b,a) (c,a) (a,b) (b,b) (c,b) (a,c) (b,c) (c,c) Obliczyć liczbę tych ciągów 3x3=3 2 = 9 Wstęp do probabilistyki i statystyki. wykład 2 26

Liczba wariacji z powtórzeniami Liczbę wariacji k elementowych z powtórzeniami ze zbioru n elementowego można obliczyć ze wzoru: k W ( ) n = n k Zadanie: Wiele urządzeń elektronicznych wymaga od użytkownika wprowadzenia osobistego kodu złożonego z czterech cyfr. Oblicz, ile jest możliwych kodów. Rozwiązanie: Każdy kod to czteroelementowa wariacja z powtórzeniami ze zbioru dziesięciu cyfr {0,1,2,3,4,5,6,7,8,9} W (4) 10 4 10 = 10000 Wstęp do probabilistyki i statystyki. wykład 2 27

Permutacje Permutacją bez powtórzeń zbioru złożonego z n różnych elementów nazywamy każdy ciąg złożony ze wszystkich wyrazów tego zbioru. Wszystkich możliwych permutacji zbioru n-elementowego jest n! Przykład: Zbiór {a, b, c, d} (abcd) (acbd) (bacd) (bcad) (cabd) (cbad) (dabc) (dacb) (dbac) (dbca) (dcab) (dcba) (adbc) (adcb) (bdac) (bdca) (cdab) (cdba) (abdc) (acdb) (badc) (bcda) (cadb) (cbda) Liczba możliwych ustawień ciągu 4-wyrazowego wynosi Wstęp do probabilistyki i statystyki. wykład 2 4!=4 3 2=24

Permutacje z powtórzeniami: Liczba permutacji Niech A oznacza zbiór złożony z k elementów A={a 1, a 2,a 3...a k }. Permutacją n-elementową, w której elementy a 1, a 2,a 3...a k powtarzają się odpowiednio n 1, n 2,n 3...n k razy, n 1, n 2,n 3...n k = n, jest każdy n-wyrazowy ciąg, w którym elementy a 1, a 2,a 3...a k powtarzają się podaną liczbę razy. Liczba takich permutacji z powtórzeniami wynosi Wstęp do probabilistyki i statystyki. wykład 2 29

Permutacje z powtórzeniami Permutacje z powtórzeniami: Niech A oznacza zbiór złożony z k elementów A={a 1, a 2,a 3...a k }. Permutacją n-elementową, w której elementy a 1, a 2,a 3...a k powtarzają się odpowiednio n 1, n 2,n 3...n k razy, n 1, n 2,n 3...n k = n, jest każdy n-wyrazowy ciąg, w którym elementy a 1, a 2,a 3...a k powtarzają się podaną liczbę razy. Liczba takich permutacji z powtórzeniami wynosi Na przykład przestawiając litery w, a, n, n, a można otrzymać różnych napisów: wanna wnnaa nanaw awnan nwnaa anwan aawnn nanwa anawn aannw waann annaw naanw awnna nwana nawna nnwaa nnawa naawn nnaaw wnana ananw awann nwaan anwna nawan annwa aanwn annaw naanw 30

Kombinacje Kombinacją k wyrazową ze zbioru n elementowego nazywamy każdy k wyrazowy podzbiór (brak uporządkowania) utworzony z elementów tego zbioru. Ilość (podzbiorów) kombinacji zależy od tego czy elementy podzbioru mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania =bez powtórzeń; ze zwracaniem=z powtórzeniami Wstęp do probabilistyki i statystyki. wykład 2 31

Kombinacje bez powtórzeń Przykład: Rozważmy 3-elementowy zbiór Z={a,b,c} i wypiszmy wszystkie kombinacje 2-wyrazowe bez powtórzeń: {a,b} {a,c} {b,c} Obliczyć liczbę tych podzbiorów 6/2 = 3 Ogólnie: C ( k ) n = ( k Vn k! ) Wstęp do probabilistyki i statystyki. wykład 2 32

Liczba kombinacji bez powtórzeń Liczbę kombinacji k wyrazowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) C k n = k n!!( n k)! Czyli: C ( k ) n n k Wstęp do probabilistyki i statystyki. wykład 2 33

Kombinacje z powtórzeniami Przykład: Rozważmy 3-elementowy zbiór Z={a,b,c} i wypiszmy wszystkie kombinacje 2-wyrazowe z powtórzeniami: {a,a} {a,b} {a,c} {b,b} {b,c} {c,c} Obliczyć liczbę tych podzbiorów 6 Ogólnie liczba kombinacji z powtórzeniami: ( k ) c n nk1 k Wstęp do probabilistyki i statystyki. wykład 2 34

Podsumowanie metod obliczania liczby możliwych zdarzeń Elementy kombinatoryki Wariacje (ciągi) - istotna jest kolejność z powtórzeniami Kombinacje (podzbiory) kolejność nie jest istotna z powtórzeniami bez powtórzeń bez powtórzeń Wstęp do probabilistyki i statystyki. wykład 2 35

Kombinatoryka Wstęp do probabilistyki i statystyki. wykład 2 36

Prawdopodobieństwo warunkowe Wprowadzenie: Interesuje nas częstość występowania daltonizmu wśród ludzi. W związku z tym wybieramy n osób i badamy, które z nich cierpią na daltonizm. Rozwiązanie: A zdarzenie polegające na tym, że wybrana losowo osoba cierpi na daltonizm n(a) = d oznacza liczbę osób wybranych z n, które cierpią na daltonizm Częstość występowania daltonizmu dana jest wzorem: (A) = d n Wstęp do probabilistyki i statystyki. wykład 2 37

Prawdopodobieństwo warunkowe Teraz interesuje nas częstość występowania daltonizmu wśród kobiet. Trzeba przeprowadzić nowy eksperyment, wybierając pewną liczbę kobiet (a więc teraz wybór odbywałby się w innej zbiorowości zbiorowości kobiet, zawartej w poprzednio rozpatrywanej zbiorowości ludzi) i licząc, ile wśród nich jest daltonistek. Jednak ten nowy eksperyment jest zbyteczny. Częstość występowania daltonizmu u kobiet można wyznaczyć za pomocą częstości zaobserwowanych w pierwszym eksperymencie. Wstęp do probabilistyki i statystyki. wykład 2 38

Prawdopodobieństwo warunkowe Rozwiązanie: B zdarzenie polegające na tym, że osoba jest kobietą n(b) = k oznacza liczbę kobiet wśród wybranych n osób Wśród wybranych kobiet było L daltonistek: n ( A B) = L Odpowiednie częstości zdarzeń B i A B są dane jako: (B) = k n ( A B) = L n Wstęp do probabilistyki i statystyki. wykład 2 39

Prawdopodobieństwo warunkowe Dotychczasowe rozważania dotyczą wszystkich n obserwacji. Ograniczmy się teraz do tych k obserwacji, które dały wynik B, i obliczmy jak często występowało w nich zdarzenie A, tzn. obliczmy zaobserwowaną częstość daltonizmu wśród kobiet. Dla zaznaczenia, że chodzi obecnie o częstość zdarzenia A w stosunku do tych obserwacji, które dały wynik B przyjmijmy inne oznaczenie: ( A B) Zauważamy, że zachodzi: L k ( A B) ( A B) ( B) Wstęp do probabilistyki i statystyki. wykład 2 40

Prawdopodobieństwo warunkowe Ogólna definicja: P A B = P A PB B przy założeniu, że P(B) > 0 (tj. zdarzenie B musi być prawdopodobne) Wstęp do probabilistyki i statystyki. wykład 2 41

Prawdopodobieństwo warunkowe Użyteczne wzory: P A= PA Ω A B = A B P B A A P P B A = B P P = A B= 1 dla dowolnego zdarzenia A 0 A B Wstęp do probabilistyki i statystyki. wykład 2 42

Przykład Rzucamy trzy razy kostką 6-cio-ścienną. Wiemy, że za każdym razem wypadła inna liczba oczek. Jakie jest prawdopodobieństwo, że raz wypadło 5 pod warunkiem że za każdym razem wypadła inna cyfra? 2 1 ' Ω Ω = B P B A P = B A P Ω = B P Ω Ω = B A P Ω = B A P 4 5 6 3 4 5 4 5 6 3 4 5 3 4 4-5 5 6 3 4 5 Wstęp do probabilistyki i statystyki. wykład 2 43