robabilistyka i statystyka rawdopodobieństwo i kombinatoryka Wykład dr inż. Barbara Swatowska Katedra Elektroniki, GH e-mail: swatow@agh.edu.pl http://home.agh.edu.pl/~swatow Definicja prawdopodobieństwa Klasyczna Geometryczna Częstościowa (von Misesa) ksjomatyczna (Kołmogorowa) 2 1
rawdopodobieństwo ogólnie Ogólne określenie jednego z wielu pojęć służących modelowaniu doświadczenia losowego poprzez przypisanie poszczególnym zdarzeniom losowym liczb, zwykle z przedziału jednostkowego (w zastosowaniach często wyrażanych procentowo), wskazujących szanse ich zajścia. W rozumieniu potocznym wyraz prawdopodobieństwo odnosi się do oczekiwania względem rezultatu zdarzenia, którego wynik nie jest znany (niezależnie od tego, czy jest ono w jakimś sensie zdeterminowane, miało miejsce w przeszłości, czy dopiero się wydarzy); w ogólności należy je rozumieć jako pewną miarę nieprzewidywalności. ( ) Ω 3 rawdopodobieństwo DEFINICJ RWDOODOBIEŃSTW (DL X TYU SKOKOWEGO) KLSYCZN równych szans Gdy eksperyment losowy ma n równoprawdopodobnych wyników, to prawdopodobieństwo danego jest p(e i )1/n CZESTOTLIWOŚCIOW (EKSERYMENTLN) rzyjmuje, że prawdopodobieństwo danego zdarzenia jest równe częstotliwości jego zajścia w wielokrotnie powtarzanym doświadczeniu losowym p() f() MTEMTYCZN Spełnione są warunki: 1)p(Ω) 1 2)0 p() 1 dla każdego 3)p( n )Σp( n ) dla dowolnego ciągu, parami rozłącznych 1, 2,. 4 2
Klasyczna definicja prawdopodobieństwa ierwszą (klasyczną) definicję prawdopodobieństwa podał.s. Laplace w 1812 r. Rozważmy doświadczenie losowe kończące się zawsze dokładnie jednym spośród N jednakowo możliwych wyników. rawdopodobieństwem zdarzenia nazywamy stosunek liczby n a zdarzeń sprzyjających zdarzeniu do liczby wszystkich zdarzeń N ( ) n N jest podzbiorem tzw. zdarzenia pewnego Ω. a Ω 5 Geometryczna definicja prawdopodobieństwa Wprowadzono ją, aby móc mówić o prawdopodobieństwie także w odniesieniu do nieskończenie wielu wyników. rzypuśćmy, że w przestrzeni r-wymiarowej mamy pewien obszar G i zawarty w nim obszar g. Doświadczenie polega na losowym wyborze punktu w obszarze G, przy czym wszystkie punkty są równoprawne. rzez równoprawność rozumiemy, że wybory punktów z obszarów o identycznej mierze (przy dowolnym ich kształcie i położeniu) są jednakowo możliwe. rawdopodobieństwo zdarzenia polegającego na tym, że losowo wybrany punkt znajdzie się w obszarze g wynosi: ( ) miara( g) miara( G) 6 3
aradoks Bertranda W danym kole prowadzimy na chybił trafił ( w sposób losowy) cięciwę. Jakie jest prawdopodobieństwo, że będzie ona dłuższa od boku trójkąta równobocznego wpisanego w to koło? Trzy sposoby rozwiązania, trzy różne odpowiedzi: ½, 1/3, ¼. rzyczyna paradoksu tkwi w tym, że w treści zadania nie sprecyzowano dokładnie, co należy rozumieć przez poprowadzenie średnicy w sposób losowy. 7 Częstościowa definicja prawdopodobieństwa Zaproponowana przez R. von Misesa w 1931 r. Nie ma wad definicji klasycznej ani geometrycznej. Jest zgodna z intuicją i z obserwowalną prawidłowością dotyczącą częstości. Nie jest jednak akceptowalna jako definicja pojęcia matematycznego ( a posteriori). rawdopodobieństwo zdarzenia jest to granica częstości tego zdarzenia, gdy liczba doświadczeń n dąży do nieskończoności. n( ) ( ) lim n n 8 4
Klasyczna definicja prawdopodobieństwa 9 rawdopodobieństwo c.d. {e 1, e 2,, e k } p( ) i k i 1 p( p() 1-p( ) Zdarzenia i B są niezależne, gdy: e i ) p ( B) p( ) p( B) rawdopodobieństwo sumy dwóch zdarzeń jest równe: p( B) p( ) + p( B) p( B) 10 5
ksjomatyczna definicja prawdopodobieństwa Każdemu zdarzeniu losowemu przypisujemy liczbę (), zwaną prawdopodobieństwem tego zdarzenia, taką że: 1. 0 () 1 2. rawdopodobieństwo zdarzenia pewnego jest równe jedności ( Ω ) 1 3. (przeliczalna addytywność prawdopodobieństwa) rawdopodobieństwo alternatywy przeliczalnej ilości parami wykluczających się zdarzeń jest równe sumie prawdopodobieństw tych zdarzeń: jeżeli 1, 2, Є M, przy czym dla każdej pary wskaźników i, j (i j) jest i j Ø, to: k ( k ) k 1 k 1 11 Konsekwencje aksjomatów rawdopodobieństwo sumy wzajemnie wykluczających się zdarzeń losowych i B jest równe sumie prawdopodobieństw tych zdarzeń» (Kołmogorov, 1933) czyli: ( B) ( ) + ( B),gdzie B B 12 6
Eksperyment losowy Doświadczenie losowe jest to proces, którego wynikiem jest jeden z kilku możliwych i którego nie można z pewnością przewidzieć. rzykłady: DOŚWIDCZENIE WYNIK 1. Rzut monetą orzeł (O), reszka (R) 2. Rzut kostką 1, 2, 3, 4, 5, 6 parzysta lub nieparzysta liczba oczek 3. Losowanie Toto-Lotka szóstka liczb: ze zbioru {1,2 49} 4. Narodziny chłopiec, dziewczynka, bliźniaki itp 5. Notowania dzienne kursu zł wzrost, spadek, stagnacja 13 Zdarzenia losowe Zbiór zdarzeń elementarnych (rzestrzeń zdarzeń elementarnych); Sample space (list of simple events) - Zbiór wszystkich prostych wyników doświadczenia losowego. Wyniki muszą być wykluczające się i wyczerpujące wszystkie możliwości. Ω {e 1, e 2,. } Zdarzenie losowe (event) - odzbiór zbioru zdarzeń losowych:, B, Eksperyment losowy (EL) ekperyment, którego wyniki są losowe. ojedynczy wynik EL nazywamy elementarnym zdarzeniem losowym. Zakładamy, że wszystkie możliwe wyniki EL są znane i tworzą przestrzeń zdarzeń elementarnych Ω. Zdarzeniami losowymi nazywamy podzbiory przestrzeni Ω, których elementami są zdarzenia elementarne. Ω ; B Ω e i є mówimy, że zaszło ( e i - sprzyja ) Ω zdarzenie pewne zdarzenie przeciwne do Ω Ø zdarzenie niemożliwe e i є B zaszło lub B e i є B zaszło i B 14 7
Zdarzenie losowe a zdarzenie elementarne W każdym doświadczeniu losowym można wyróżnić pewne najprostsze, nierozkładalne, elementarne wyniki (zdarzenia), charakteryzujące się tym, że każde powtórzenie tego doświadczenia kończy się jednym i tylko jednym z nich. Są to zdarzenia elementarne. Dla każdego doświadczenia losowego rozważamy zbiór wszystkich możliwych wyników tego doświadczenia. oszczególne wyniki nazywamy zdarzeniami elementarnymi. Zbiór wszystkich wyników nazywamy przestrzenią wyników albo przestrzenią (zbiorem) zdarzeń elementarnych i oznaczamy symbolem Ω. 15 rzykład do samodzielnego rozwiązania Dokonać przeglądu wszystkich (uwzględniając zdarzenie pewne i niemożliwe) zdarzeń (jedno-, dwu-, trzy-, cztero-, pięcio- i sześcio- elementowych) w doświadczeniu polegającym na rzucie kostką. Określić przestrzeń zdarzeń elementarnych. odać liczbę wszystkich możliwych zdarzeń 16 8
Zmienna losowa Ω {e 1, e 2,. } f: Ω R f ( e ) x R i i rzykłady: 1) Rzut monetą: zdarzeniu orzeł przypisujemy 0; zdarzeniu reszka przypisujemy 1. 2) nalog. losowanie wyrobów: zdarzeniu brak (wadliwy) - 0, dobry 1 3) Rzut kostką: wyrzucenie 1 1, 2 2 itd 4) Odcinek [a, b] na osi liczbowej wybór punktu o współrzędnej x przypisujemy np. wartość x ; wartość sin 2 (3x+17) itp. GDY WRTOŚCI ZMIENNEJ LOSOWEJ X SĄ IZOLOWNYMI UNKTMI N OSI LICZBOWEJ TO ZMIENN LOSOW JEST DYSKRETN (SKOKOW). NTOMIST GDY STNOWI ZBIÓR CIĄGŁY (np. wszystkie punkty odcinka) TO JEST ON CIĄGŁĄ. 17 Relacje zdarzeń Suma zdarzeń zachodzi co najmniej jedno ze zdarzeń lub B B B Iloczyn zdarzeń zachodzi zdarzenie oraz zdarzenie B B B B B 18 9
Relacje zdarzeń Zdarzenie przeciwne nie zachodzi zdarzenie : ' Zdarzenie pociąga zdarzenie B (operator: zbiór zawiera się w zbiorze B): B Zdarzenia i B wzajemnie wykluczające się: B B 19 B B C B B lgebra zbiorów a algebra zdarzeń Zaszło co najmniej jedno ze zdarzeń i B Zaszły oba zdarzenia B i C Zajście zdarzenia implikuje zajście zdarzenia B Zdarzenia i B nie mogą zajść jednocześnie (są rozłączne, wzajemnie się wyłączają). Operacje sumy i iloczynu zbiorów spełniają prawa łączności, przemienności i rozdzielności: ( B C) ( B) C B C ( B C) ( B) C B C B B B B ( B C) ( B) ( C) ( B C) ( B) ( C) 20 10
Liczba obiektów w prostych sytuacjach kombinatorycznych W wielu sytuacjach konieczne jest wyznaczenie liczby elementów rozważanego zbioru. Mogą tu być pomocne proste zasady arytmetyczne: reguła dodawania reguła mnożenia rzut monetą wyciąganie kart z talii rzut kostką 21 Reguła dodawania Jeżeli dwa zdarzenia wzajemnie się wykluczają, tzn. nie mogą wystąpić jednocześnie, wtedy możemy stosować regułę dodawania. Twierdzenie dotyczące dodawania Jeżeli zdarzenie e 1 można zrealizować na n 1 sposobów, a zdarzenie e 2 na n 2 sposobów oraz zdarzenia e 1 i e 2 wzajemnie się wykluczają, to liczba sposobów w jakich realizują się oba zdarzenia wynosi: n 1 + n 2 B 22 11
Uogólnienie reguły dodawania Jeżeli rozważany zbiór Z jest sumą, rozłącznych parami podzbiorów, Z 1 2 m i znamy liczbę elementów każdego podzbioru, to liczba elementów zbioru Z jest sumą liczb elementów wszystkich podzbiorów 1, 2,., m 1 2 1 + 2 Jest to szczególny przypadek zasady włączeń-wyłączeń ang. rinciple of Inclusion-Exclusion, IE B 23 Zasada włączeń wyłączeń (rinciple of Inclusion-Exclusion IE) Rozważmy dwa zdarzenia, e 1 i e 2, dla których możliwe jest wystąpienie odpowiednio n 1 i n 2 rezultatów. Jednak, tylko jedno zdarzenie może zachodzić a nie oba. W tej sytuacji nie stosuje się reguły dodawania. W języku zdarzeń: od sumy wszystkich możliwych wyników należy odjąć liczbę tych, które są wspólne dla obu zdarzeń. W języku zbiorów: 1 2 1 + 2-1 2 B 24 12
Reguła mnożenia Jeżeli dwa zdarzenia nie wykluczają się, tzn. mogą zachodzić osobno, wtedy możemy stosować regułę mnożenia. Twierdzenie dotyczące mnożenia Jeżeli pewne doświadczenie można wykonać w m kolejnych etapach, przy czym w k-tym etapie można uzyskać w k wyników, to liczba wszystkich wyników doświadczenia jest równa iloczynowi w 1 w 2 w m B 25 Zastosowanie reguł mnożenia i dodawania Zamek jest strzeżony przez dwie wieże, jedna z nich jest zamknięta kodem dwucyfrowym nieparzystym, druga kodem dwucyfrowym parzystym. Wystarczy złamać kod na jednej wieży, aby wejść. Na ile sposobów możemy wejść do zamku? Mamy tutaj jednocześnie regułę mnożenia i dodawania. Najpierw mnożenia, wieża z kodem parzystym składa się z 2 cyfr. Możliwe dziesiątki: 2,4,6,8 Możliwe jedności: 0,2,4,6,8 Zatem z reguły mnożenia kombinacji jest 5 420 Tak samo w wieży nieparzystej. Możliwe dziesiątki: 1,3,5,7,9 Możliwe jedności: 1,3,5,7,9 Z reguły mnożenia kombinacji jest 5 525 Z racji, że mamy albo (ta wieża albo tamta) sumujemy nasze wyliczone kombinacje: 25+2045 B 26 13
Wariacje Wariacją k elementową ze zbioru n elementowego nazywamy każdy ciąg (uporządkowanie) k elementowy utworzony z elementów tego zbioru. Ilość (ciągów) wariacji zależy od tego czy elementy ciągu mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania bez powtórzeń ze zwracaniem z powtórzeniami 27 Wariacje bez powtórzeń rzykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie wariacje 2-wyrazowe bez powtórzeń: (a,b) (b,a) (a,c) (c,a) (b,c) (c,b) Obliczyć liczbę tych ciągów: 3x26 Ogólnie: V ( k ) n k 1 i 0 ( n i) n( n 1)( n 2)...( n k + 1) 28 14
Liczba wariacji bez powtórzeń Liczbę wariacji k elementowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) V k n n! ( n k)! Gdy kn, tzn. ciąg n elementowy ze zbioru n elementowego (permutacja bez powtórzeń) rzykład: (abc) (acb) (bac) (bca) (cab) (cba) Liczba permutacji wynosi n! 29 rzykład: Wariacje z powtórzeniami Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie wariacje 2-wyrazowe z powtórzeniami: (a,a) (b,a) (c,a) (a,b) (b,b) (c,b) (a,c) (b,c) (c,c) Obliczyć liczbę tych ciągów: 3x33 2 9 30 15
Liczba wariacji z powtórzeniami Liczbę wariacji k elementowych z powtórzeniami ze zbioru n elementowego można obliczyć ze wzoru: k k W ( ) n n Zadanie: Wiele urządzeń elektronicznych wymaga od użytkownika wprowadzenia osobistego kodu złożonego z czterech cyfr. Oblicz, ile jest możliwych takich kodów. Rozwiązanie: Każdy kod to czteroelementowa wariacja z powtórzeniami ze zbioru dziesięciu cyfr {0,1,2,3,4,5,6,7,8,9} W (4) 10 4 10 10000 31 Kombinacje Kombinacją k wyrazową ze zbioru n elementowego nazywamy każdy k wyrazowy podzbiór (brak uporządkowania) utworzony z elementów tego zbioru. Ilość (podzbiorów) kombinacji zależy od tego czy elementy podzbioru mogą się powtarzać czy nie. Istotny jest zatem sposób losowania: bez zwracania bez powtórzeń; ze zwracaniem z powtórzeniami 32 16
Kombinacje bez powtórzeń rzykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie kombinacje 2-wyrazowe bez powtórzeń: {a,b} {a,c} {b,c} Obliczyć liczbę tych podzbiorów: 6/23 Ogólnie: C ( k ) n ( k Vn k! ) Liczbę kombinacji k wyrazowych bez powtórzeń ze zbioru n elementowego można obliczyć ze wzoru: ( ) C k n n! k!( n k)! czyli: k C ( ) n n k 33 Kombinacje z powtórzeniami rzykład: Rozważmy 3-elementowy zbiór Z{a,b,c} i wypiszmy wszystkie kombinacje 2-wyrazowe z powtórzeniami: {a,a} {a,b} {a,c} {b,b} {b,c} {c,c} Obliczyć liczbę tych podzbiorów 6 Ogólnie liczba kombinacji z powtórzeniami: ( k ) c n n+ k 1 k 34 17
rzykład z kombinacji W pudełku jest 10 kulek, w tym 6 czerwonych i 4 zielone. Wybrano losowo 5 kulek. Obliczyć prawdopodobieństwo, że 3 z nich są czerwone i 2 z nich zielone. Rozwiązanie: onieważ losowanie jest bez zwracania i kolejność wylosowanych kulek jest nieistotna, więc jako zdarzenia elementarne przyjmiemy 5-elementowe kombinacje zbioru 10 kulek. Zdarzeń elementarnych jest więc (10 nad 5). Obliczymy liczbę zdarzeń elementarnych sprzyjających zajściu zdarzenia wybrano 3 kulki czerwone i 2 kulki zielone. onieważ jest 6 kulek cz., więc 3 z nich można wybrać na (6 nad 3) sposobów. Jeśli już wybrano 3 kulki cz., to należy wybrać teraz 2 kulki z. spośród 4 kulek. Można to uczynić na (4 nad 2) sposobów. Tak więc dla każdego wyboru 3 kulek cz. można na (4 nad 2) sposobów wybrać 2 kulki z., dlatego mamy (6 nad 3) (4 nad 2) zdarzeń elementarnych sprzyjających zajściu zdarzenia, więc: 6 4 10 10 ( ) : 3 2 5 21 35 odsumowanie metod obliczania liczby możliwych zdarzeń Elementy kombinatoryki Wariacje (ciągi) - istotna jest kolejność z powtórzeniami Kombinacje (podzbiory) kolejność nie jest istotna z powtórzeniami bez powtórzeń bez powtórzeń 36 18
Kombinatoryka 37 Wprowadzenie: rawdopodobieństwo warunkowe rzykładowo interesuje nas częstość występowania daltonizmu wśród ludzi. W związku z tym wybieramy n osób i badamy, które z nich cierpią na daltonizm. Rozwiązanie: zdarzenie polegające na tym, że wybrana losowo osoba cierpi na daltonizm n() d oznacza liczbę osób wybranych z n, które cierpią na daltonizm Częstość występowania daltonizmu dana jest wzorem: d ν () n 38 19
rawdopodobieństwo warunkowe Zmieniamy założenie, że teraz interesuje nas częstość występowania daltonizmu wśród kobiet. Trzeba przeprowadzić nowy eksperyment, wybierając pewną liczbę kobiet (a więc teraz wybór odbywałby się w innej zbiorowości zbiorowości kobiet, zawartej w poprzednio rozpatrywanej zbiorowości ludzi) i licząc, ile wśród nich jest daltonistek. Jednak ten nowy eksperyment jest zbyteczny. Częstość występowania daltonizmu u kobiet można wyznaczyć za pomocą częstości zaobserwowanych w pierwszym eksperymencie. 39 Rozwiązanie: rawdopodobieństwo warunkowe B zdarzenie polegające na tym, że osoba jest kobietą n(b) k oznacza liczbę kobiet wśród wybranych n osób Wśród wybranych kobiet było K daltonistek: n ( B) K Odpowiednie częstości zdarzeń B i B są dane jako: k ν (B) n ν ( B) K n 40 20
rawdopodobieństwo warunkowe Dotychczasowe rozważania dotyczą wszystkich n obserwacji. Ograniczmy się teraz do tych k obserwacji, które dały wynik B, i obliczmy jak często występowało w nich zdarzenie, tzn. obliczmy zaobserwowaną częstość daltonizmu wśród kobiet. Dla zaznaczenia, że chodzi obecnie o częstość zdarzenia w stosunku do tych obserwacji, które dały wynik B przyjmijmy inne oznaczenie: Zauważamy, że zachodzi: ν ( \ B) K k ν ( B) ν ( \ B) ν ( B) 41 rawdopodobieństwo warunkowe definicja Ogólna definicja ( \ B ) ( B ) ( B ) przy założeniu, że (B) > 0 (tj. zdarzenie B musi być prawdopodobne) 42 21
rawdopodobieństwo warunkowe użyteczne wzory B B B ( ) ( Ω) ( B) 0 ( ) ( ) B ( B) ( B) 1 dla dowolnego zdarzenia 43 rawdopod. warunkowe przykład Rzucamy trzy razy kostką 6-cio-ścienną. Wiemy, że za każdym razem wypadła inna liczba oczek. Jakie jest prawdopodobieństwo, że raz wypadło 5, pod warunkiem, że za każdym razem wypadła inna cyfra? ( B) ( B) ( B) 5 4 3 Ω 6 5 4 Ω ( B) 5 4 3Ω ( B) 6 5 4 Ω 44 22
Dziękuję za uwagę 45 23