Matematyka z el. statystyki, # 2 /Geodezja i kartografia II/ Uniwersytet Przyrodniczy w Lublinie Katedra Zastosowań Matematyki i Informatyki ul. Akademicka 15, p.211a bud. Agro II, e-mail: zdzislaw.otachel@up.lublin.pl materiały: http://kzmi.up.lublin.pl/ zotachel/geo2i3 konsultacje: poniedziałek,wtorek 10-12 Lublin, 2018/19
Elementy rachunku prawdopodobieństwa
Rys historyczny Rachunek prawdopodobieństwa jest działem matematyki zajmującym się badaniem praw rządzących zjawiskami losowymi (przypadkowymi) i tworzeniem modeli matematycznych nadających się do opisu takich zjawisk. Pierwsze problemy rachunku prawdopodobieństwa dotyczyły gier hazardowych m.in. gry w kości, znanej od starożytności. Matematyczne zainteresowanie tą grą po raz pierwszy wykazali matematycy francuscy B. Pascal i P. Fermat w połowie XVII w. W XVIII i XIX w. zaczęto stosować rachunek prawdopodobieństwa w zagadnieniach demograficznych i ubezpieczeniowych, a szwajcarski matematyk Jakob Bernoulli dowiódł tzw. prawa wielkich liczb zwanego dzisiaj jego nazwiskiem. Twierdzenie to otworzyło możliwość zastosowania rachunku prawdopodobieństwa do statystyki. Inne ważne osiągnięcia pochodzą od francuskich probabilistów A. Moivre a, P. Laplace a, S. Poissona, natomiast niemiecki matematyk K. Gauss opracował teorię przypadkowych błędów obserwacji.
W drugiej połowie XIX w. rosyjski matematyk P.L. Czebyszew dowodzi następnego prawa wielkich liczb (prawa Czebyszewa) i tworzy petersburską szkołę rachunku prawdopodobieństwa. W 1827 r. angielski botanik R. Brown zauważył, że drobiny nierozpuszczalne w cieczy poruszają się w sposób chaotyczny (ruchy Browna). Wyjaśnienie tego faktu zostało podane dużo później na gruncie rachunku prawdopodobieństwa (A. Einstein i M. Smoluchowski, 1905 r.) Mimo intensywnego rozwoju rachunek prawdopodobieństwa stał się teorią matematyczną dopiero w 1933 r., kiedy to rosyjski matematyk A.N. Kołmogorow sformułował aksjomatyczną definicję prawdopodobieństwa.
Wprowadzenie Rachunek prawdopodobieństwa zajmuje się badaniem zjawisk przypadkowych. W praktyce każdy proces czy doświadczenie jest losowe, bo zależy od wielu przyczyn, z których tylko część udaje się kontrolować. Dwa doświadczenia uznamy za identyczne, jeśli mają te same zbiory kontrolowanych przyczyn. Wyniki doświadczeń nazywamy zdarzeniami. Zjawiska polegające na przeprowadzaniu lub przebieganiu dużej liczby tych samych doświadczeń nazywamy zjawiskami masowymi. Takie zjawisko nie zależy od indywidualnych własności obiektu. Zjawiska masowe mają swoje prawidłowości. Jeżeli przeprowadzamy n razy to samo doświadczenie i k razy zaszło zdarzenie A, to stosunek k/n nazywamy częstością zdarzenia A w tym doświadczeniu. W zjawiskach masowych częstości zdarzeń mają własność skupiania się (wraz ze wzrostem n) wokół tej samej liczby zależnej od zdarzenia. Dla ustalonego zdarzenia A oznaczymy ją przez P(A) i nazwiemy prawdopodobieństwem tego zdarzenia. Jest to treść tzw. statystycznej definicji prawdopodobieństwa
W tabeli podane są częstości otrzymania orła w przeprowadzonej jeden raz serii 10000 rzutów monetą. Liczba rzutów n Liczba k pojawień się orła Częstość k/n 200 116 0,5800 300 153 0,5100 500 251 0,5020 1000 504 0,5040 2000 1002 0,5010 5000 2529 0,5058 10000 4982 0,4982
Widać, że k/n 1/2, gdy n rośnie. Na początku XVIII w. Bernoulli udowodnił, że przy dużej liczbie doświadczeń, z praktyczną pewnością, częstość względna zdarzenia k/n różni się mało od prawdopodobieństwa tego zdarzenia.
Pojęcia podstawowe Doświadczenie losowe proces przyrodniczy lub zaplanowany eksperyment, którego wyniku nie można przewidzieć, natomiast znany jest zbiór wszystkich wyników. Przykład 1 Doświadczeniem losowym jest wylosowanie obiektu z ustalonej populacji i dokonanie pomiaru interesujących nas cech. W praktyce, wynikami eksperymentów losowych będą elementy przestrzeni R p. Zdarzenie elementarne pojedyńczy wynik eksperymentu losowego. Przestrzeń zdarzeń elementarnych zbiór wszystkich zdarzeń elementarnych. Zdarzenie losowe (w skrócie: zdarzenie) zbiór złożony ze zdarzeń elementarnych, najczęściej opisany przez spełnienie pewnych warunków. Uwaga: nie każdy podzbiór przestrzeni zdarzeń elementarnych musi być zdarzeniem losowym.
Oznaczenia i nomenklatura D doświadczenie losowe (eksperyment); Ω - przestrzeń zdarzeń elementarnych; ω - zdarzenie elementarne; Ω = {ω 1, ω 2..., ω n } przestrzeń zdarzeń elementarnych składająca się z n możliwych wyników : ω 1, ω 2..., ω n ; A, B, C,... - zdarzenia losowe; zapis ω A (mat.: ω jest elementem zbioru A) czytamy: zdarzenie elementarne ω sprzyja zdarzeniu A, tzn. jeżeli w wyniku eksperymentu losowego dostaniemy wynik ω, to powiemy zaszło zdarzenie A.
σ- ciało zdarzeń Klasę zdarzeń losowych oznaczymy przez S. Ω S, zdarzenie pewne, zachodzi zawsze; S, zdarzenie niemożliwe, nigdy nie zachodzi; jeżeli A i S, to C = A 1 A 2 S, zdarzenie C nazywamy sumą (alternatywą) zdarzeń A i, C zachodzi, gdy zachodzi co najmniej jedno ze zdarzeń A i ; jeżeli A i S, to D = A A 2 S, zdarzenie D nazywamy iloczynem (koniunkcją) zdarzeń A i, D zachodzi, gdy zachodzi każde ze zdarzenie A i ; jeżeli A S, to A := Ω \ A S, zdarzenie A nazywamy zdarzeniem przeciwnym do zdarzenia A, A zachodzi, gdy nie zachodzi zdarzenie A; w szczególności: jeżeli A, B S, to E = A \ B S, zdarzenie E nazywamy różnicą zdarzeń A i B, E zachodzi, gdy zachodzi zdarzenie A i nie zachodzi zdarzenie B. Klasę S nazywamy σ-ciałem zdarzeń.
Borelowskie σ-ciało zdarzeń Niech Ω = R p (z normą euklidesową). Najmniejsze (w sensie inkluzji) σ-ciało zdarzeń zawierające zbiory otwarte (jako zdarzenia) nazywa się borelowskim σ-ciałem zdarzeń. W tym przypadku, zdarzeniami są także zbiory domknięte, zbiory typu G δ - przeliczalne iloczyny zbiorów otwartych, zbiory typu F σ - przeliczalne sumy zbiorów domkniętych, Jest to kluczowy przykład dla teorii rachunku prawdopodobieństwa.
Klasyczna definicja prawdopodobieństwa Definicja 1 (Pierre Simon de Laplace, 1812) Jeżeli przestrzeń zdarzeń elementarnych jest zbiorem skończonym złożonym z n zdarzeń elementarnych, spośród których k sprzyja zdarzeniu A, to P(A) = k n.
Przykład 2 1. Prawdopodobieństwo wyrzucenia orła przy jednokrotnym rzucie monetą: 1/2; 2. Prawdopodobieństwo wyrzucenia co najmniej 3 oczek przy jednokrotnym rzucie sześcienną kostką do gry: 4/6; 3. Prawdopodobieństwo wylosowania figury z talii 52 kart do gry: 16/52. 4. Prawdopodobieństwo głównej wygranej w totka : ( ) 1/ 496 = 1/13983836.
Geometryczna definicja prawdopodobieństwa Definicja 2 Niech A Ω R p. Prawdopodobieństwo tego, że dowolny punkt należący do Ω będzie należał również do A wynosi: m p (A) m p (Ω), gdzie m p jest miarą na przestrzeni R p, w szczególności m 1 jest długością, m 2 - polem, a m 3 - objętością.
Przykład 3 (Zadanie Buffona, 1777 r.) Na płaszczyznę poliniowaną prostyni równoległymi o odległości d zrzucamy cienką igłę o długości l < d. Oblicz prawdopodobieństwo P(A), że igła przetnie jedną z wykreślonych prostych? x - odległość środka igły od najbliższej prostej, φ - kąt między igłą a prostopadłą do prostych równoległych; Ω = {(x, φ) : 0 x d 2, 0 φ π 2 }, A = {(x, φ) : x < 1 2l cos φ}; m 2 (A) = 1 2 l π/2 0 cos φdφ = l/2, m 2 (Ω) = πd/4, P(A) = m p(a) m p (Ω) = l/2 πd/4 = 2l πd. Dla dużej ilości rzutów N : 2l πd k 2lN N π dk, gdzie k - liczba rzutów, w których zaobserwowano przecięcie. Wzoru używano do empirycznego wyznaczania π : π 3, 1419 na podstawie 1120 rzutów (1894 r.); π 3, 1416 na podstawie 3408 rzutów (1901 r.).
Aksjomatyczna definicja prawdopodobieństwa Definicja 3 (Andrej Nikołajewicz Kołmogorow, 1933) Niech będzie dana przestrzeń zdarzeń elementarnych Ω i σ-ciało zdarzeń losowych S. Prawdopodobieństwem (miarą/rozkładem prawdopodobieństwa) nazywamy rzeczywistą funkcję P określona na klasie zdarzeń S spełniającą aksjomaty: Aksjomat I 0 P(A), A S Aksjomat II P(Ω) = 1, Aksjomat III P(A 1 A 2... ) = P(A 1 ) + P(A 2 ) +... dla dowolnych zdarzeń A i wykluczających się parami, tj. A i S, A i A j =, i j. Trójkę (Ω, S, P) nazywamy przestrzenią probabilistyczną. Definicja aksjomatyczna określa jak zbudować matematyczny model prawdopodobieństwa dla zdarzeń w rozpatrywanym doświadczeniu, analiza statystyczna - który z dopuszczalnych modeli wybrać.
Własności prawdopodobieństwa Niech (Ω, S, P) będzie przestrzenią probabilistyczną i A, B, C S. 0 P(A) 1; P( ) = 0, P(A ) = 1 P(A); Jeżeli A pociąga B (A B), to P(A) P(B) oraz P(B \ A) = P(B) P(A); P(A B) = P(A) + P(B) P(A B), P(A B C) = P(A) + P(B) + P(C) P(A B) P(B C) P(A C) + P(A B B C). Zauważmy, że jeżeli utożsamimy przestrzeń zdarzeń elementarnych Ω z figurą na płaszczyźnie o polu 1, to prawdopodobieństwo ma analogiczne własności jak pole figur będących częścią tej przestrzeni.
Informacja a prawdopodobieństwo Informacja o zajściu zdarzenia B ma wpływ na wartość obliczanego prawdopodobieństwa zdarzenia A. Przykład 4 D polega na jednokrotnym rzucie sześcienną kostką do gry. Zdarzenie A to parzysta liczba oczek, P(A) = 1/2 wg klasycznej definicji. Przypuśćmy, że eksperymentator wykonał doświadczenie D w zamkniętym pokoju, po czym przekazał nam informację B wypadło więcej niż 3 oczka. Jest to nowy eksperymet losowy. Oznaczymy go D B zajście zdarzenia A w tym eksperymencie oznaczymy A/B. Zdarzeniu A/B sprzyja 2 spośród 3 możliwych wyników, stąd P(A/B) = 2/3. Z drugiej strony: P(B) = 3/6, P(A B) = 2/6, stąd P(A/B) = 2/3 = 2/6 3/6 = P(A B) P(B).
Prawdopodobieństwo warunkowe Definicja 4 Niech (Ω, S, P) będzie przestrzenią probabilistyczną związaną z eksperymentem D, B S, P(B) > 0. Prawdopodobieństwo zdarzeń w eksperymencie D B, zwane prawdopodobieństwem warunkowym, określa wzór: P(A/B) = P(A B), A S. P(B) Zdarzenie B będzie nazywane warunkiem.
Zdarzenia niezależne Jeżeli zajście jakiegoś zdarzenia nie zmienia prawdopodobieństwa zajścia innego, to o takich zdarzeniach mówi się, że są to zdarzenia niezależne. Zdarzenia A i B z poprzedniego przykładu takie nie są. Bardziej ściśle: Definicja 5 Zdarzenia A i, i = 1, 2... są niezależne, jeżeli dla dowolnego ciągu liczb naturalnych (i 1, i 2,..., i k ) P(A i1 A i2 A ik ) = P(A i1 ) P(A i2 ) P(A ik ). Jeżeli A i B są niezależne, to przy założeniu P(A) 0 i P(B) 0 otrzymujemy: P(A/B) = P(A), P(B/A) = P(B). Twierdzenie 1 Jeżeli A i są niezależne i B i = A i lub B i = A i, to B i też są niezależne.
Prawdopodobieństwo całkowite - przykład Przykład 5 O pewnej populacji złożonej z dwóch różnych rodzajów obiektów (A) i (B) w proporcji k/m wiadomo, że własność W wykazuje p% obiektów A i q% obiektów B. Jakie jest prawdopodobieństwo, że wybierając losowo obiekt z tej populacji trafimy na taki z własnością W? P(W ) = 100 p k k + m + 100 q m k + m = P(W /A) P(A)+P(W /B) P(B).
Wzór na prawdopodobieństwo całkowite Bardziej ogólnie: Niech H 1, H 2,..., H n będzie układem zdarzeń wykluczających się parami, których suma jest zdarzeniem pewnym tj.: H i H j =, i j, H 1 H 2 H n = Ω. Wtedy dla dowolnego zdarzenia A: P(A) = P(A/H 1 ) P(H 1 ) + + P(A/H n ) P(H n ).
Wzór Bayesa Załóżmy, że zdarzenie A może zaistnieć wtedy i tylko wtedy, gdy zaistnieje jedno z jedynie możliwych i wzajemnie wykluczających się zdarzeń H 1, H 2,..., H n tj.: H i H j =, i j, H 1 H 2 H n = Ω. Nazwijmy zdarzenie A skutkiem, a zdarzenia H 1, H 2,..., H n przyczynami. W wyniku zaistnienia jednej z przyczyn zaobserwowaliśmy zajście skutku A. Znając a priori prawdopodobieństwa zaistnienia przyczyn i prawdopodobieństwa zaistnienia skutku A w wyniku działania przyczyny H i chcemy znać odpowiedź na pytanie: jakie jest prawdopodobieństwo, że to przyczyna H i doprowadziła do skutku A. Odpowiedzią jest wzór Bayesa: P(H i /A) = P(A/H i ) P(H i ) P(A/H 1 ) P(H 1 ) + + P(A/H n ) P(H n ).
Schemat Bernoulliego Mówimy, że ciąg (seria) niezależnych doświadczeń jest schematem Bernoulliego, jeżeli: każde doświadczenie (zwane próbą) może zakończyć się jednym z wyników: zdarzeniem A zwanym sukcesem, lub zdarzeniem przeciwnym A porażką, prawdopodobieństwo sukcesu w pojedynczym doświadczeniu jest stałe i równe p. Wtedy prawdopodobieństwo, że schemacie n prób Bernoulliego sukces pojawi się dokładnie k razy, określa wzór: P n,k = ( n k) p k (1 p) n k, k = 0, 1, 2,..., n, gdzie: ( n k ) = n! k!(n k)! jest symbolem Newtona, a n! = 1 2 n (n!: czytamy n silnia) przy czym 0! = 1.
Przykład schematu Bernoulliego Przykład 6 Klasycznym przykładem schematu Bernoulliego jest seria rzutów monetą. Np. prawdopodobieństwo, że w serii n = 8 rzutów monetą orzeł pojawi się k = 4 jest równe: ( ) ( 84 1 4 ( 1 2) 2 ) 4 = 8 7 6 5 1 2 3 4 1 16 1 16 = 70 0, 273. 256