Prawdopodobie«stwo warunkowe, twierdzenie Bayesa, niezale»no± zdarze«.

Transkrypt

1 Prawdopodobie«stwo warunkowe, twierdzenie Bayesa, niezale»no± zdarze«. Alicja Czy» WFTiMS April 14, 2010

2 Spis tre±ci 1 Wprowadzenie Denicja prawdopodobie«stwa warunkowego Twierdzenie Bayesa Niezale»no± zdarze«zako«czenie

3 Wprowadzenie Poj cia pierwotne (Ω, F, P) - przestrze«probabilistyczna Ω - niepusty zbiór zdarze«elementarnych; ω Ω - zdarzenie elementarne; F - ustalone σ - ciaªo podzbiorów Ω; P - miara probabilistyczna na Ω.

4 Wprowadzenie Poj cia pierwotne (Ω, F, P) - przestrze«probabilistyczna Ω - niepusty zbiór zdarze«elementarnych; ω Ω - zdarzenie elementarne; F - ustalone σ - ciaªo podzbiorów Ω; P - miara probabilistyczna na Ω. Examples rzut monet symetryczn Ω = {0, 1} P(0) = P(1) = 1 2 rzut kostk sze±cienn Ω = {1, 2, 3, 4, 5, 6} P(1) = P(2) =... = P(6) = 1 6

5 Wprowadzenie Poj cia pierwotne (Ω, F, P) - przestrze«probabilistyczna Ω - niepusty zbiór zdarze«elementarnych; ω Ω - zdarzenie elementarne; F - ustalone σ - ciaªo podzbiorów Ω; P - miara probabilistyczna na Ω. Examples rzut monet symetryczn Ω = {0, 1} P(0) = P(1) = 1 2 rzut kostk sze±cienn Ω = {1, 2, 3, 4, 5, 6} P(1) = P(2) =... = P(6) = 1 6

6 Wprowadzenie Poj cia pierwotne (Ω, F, P) - przestrze«probabilistyczna Ω - niepusty zbiór zdarze«elementarnych; ω Ω - zdarzenie elementarne; F - ustalone σ - ciaªo podzbiorów Ω; P - miara probabilistyczna na Ω. Examples rzut monet symetryczn Ω = {0, 1} P(0) = P(1) = 1 2 rzut kostk sze±cienn Ω = {1, 2, 3, 4, 5, 6} P(1) = P(2) =... = P(6) = 1 6

7 Denicja prawdopodobie«stwa warunkowego Rozpatrzmy dwa zdarzenia mierzalne A, B F. Zaªó»my,»e zaszªo zdarzenie B. Czy, i w jaki sposób mo»e wpªyn ta sytuacja na ocen prawdopodobie«stwa zdarzenia A?

8 Denicja prawdopodobie«stwa warunkowego Rozpatrzmy dwa zdarzenia mierzalne A, B F. Zaªó»my,»e zaszªo zdarzenie B. Czy, i w jaki sposób mo»e wpªyn ta sytuacja na ocen prawdopodobie«stwa zdarzenia A? Denicja 2 (prawdopodobie«stwo warunkowe) Niech (Ω, F, P) b dzie przestrzeni probabilistyczn, A, B F. Je»eli P(B) > 0, to prawdopodobie«stwem warunkowym zaj±cia zdarzenia A pod warunkiem,»e zaszªo zdarzenie B nazywamy P(A B) = P(A B) P(B) (1)

9 Denicja prawdopodobie«stwa warunkowego Examples Rzucamy trzema kostkami. Jakie jest prawdopodobie«stwo,»e na»adnej kostce nie wypadªa szóstka, je±li na ka»dej kostce wypadªa inna liczba oczek? A - zdarzenie,»e nie wypadªa szóstka, B - zdarzenie,»e na ka»dej kostce wypadªa inna liczba oczek. Obliczamy: Ω = 6 3 = 216 P(A B) = P(B) = P(A B) = = P(A B) P(B) = = = 1 2.

10 Denicja prawdopodobie«stwa warunkowego Examples Rzucamy trzema kostkami. Jakie jest prawdopodobie«stwo,»e na»adnej kostce nie wypadªa szóstka, je±li na ka»dej kostce wypadªa inna liczba oczek? A - zdarzenie,»e nie wypadªa szóstka, B - zdarzenie,»e na ka»dej kostce wypadªa inna liczba oczek. Obliczamy: Ω = 6 3 = 216 P(A B) = P(B) = P(A B) = = P(A B) P(B) = = = 1 2.

11 Denicja prawdopodobie«stwa warunkowego Examples Rzucamy trzema kostkami. Jakie jest prawdopodobie«stwo,»e na»adnej kostce nie wypadªa szóstka, je±li na ka»dej kostce wypadªa inna liczba oczek? A - zdarzenie,»e nie wypadªa szóstka, B - zdarzenie,»e na ka»dej kostce wypadªa inna liczba oczek. Obliczamy: Ω = 6 3 = 216 P(A B) = P(B) = P(A B) = = P(A B) P(B) = = = 1 2.

12 Twierdzenie Bayesa Denicja 3 Niech (Ω, F ) b dzie przestrzeni mierzaln. Rozbiciem mierzalnym sko«czonym przestrzeni Ω nazywamy dowoln reprezentacj Ω = H1 H2... H n, gdzie H i H j = dla j i oraz H1, H2,..., H n F ; Rozbiciem mierzalnym przeliczalnym przestrzeni Ω nazywamy dowoln reprezentacj Ω = j=1 H j, gdzie H i H j = dla j i oraz H1, H2,... F ; Rozbiciem Ω na zbiory mierzalne nazywamy reprezentacj Ω = α A H α, gdzie Hα Hβ = dla α β oraz Hα F

13 Twierdzenie Bayesa Denicja 3 Niech (Ω, F ) b dzie przestrzeni mierzaln. Rozbiciem mierzalnym sko«czonym przestrzeni Ω nazywamy dowoln reprezentacj Ω = H1 H2... H n, gdzie H i H j = dla j i oraz H1, H2,..., H n F ; Rozbiciem mierzalnym przeliczalnym przestrzeni Ω nazywamy dowoln reprezentacj Ω = j=1 H j, gdzie H i H j = dla j i oraz H1, H2,... F ; Rozbiciem Ω na zbiory mierzalne nazywamy reprezentacj Ω = α A H α, gdzie Hα Hβ = dla α β oraz Hα F

14 Twierdzenie Bayesa Denicja 3 Niech (Ω, F ) b dzie przestrzeni mierzaln. Rozbiciem mierzalnym sko«czonym przestrzeni Ω nazywamy dowoln reprezentacj Ω = H1 H2... H n, gdzie H i H j = dla j i oraz H1, H2,..., H n F ; Rozbiciem mierzalnym przeliczalnym przestrzeni Ω nazywamy dowoln reprezentacj Ω = j=1 H j, gdzie H i H j = dla j i oraz H1, H2,... F ; Rozbiciem Ω na zbiory mierzalne nazywamy reprezentacj Ω = α A H α, gdzie Hα Hβ = dla α β oraz Hα F

15 Twierdzenie Bayesa Denicja 3 Niech (Ω, F ) b dzie przestrzeni mierzaln. Rozbiciem mierzalnym sko«czonym przestrzeni Ω nazywamy dowoln reprezentacj Ω = H1 H2... H n, gdzie H i H j = dla j i oraz H1, H2,..., H n F ; Rozbiciem mierzalnym przeliczalnym przestrzeni Ω nazywamy dowoln reprezentacj Ω = j=1 H j, gdzie H i H j = dla j i oraz H1, H2,... F ; Rozbiciem Ω na zbiory mierzalne nazywamy reprezentacj Ω = α A H α, gdzie Hα Hβ = dla α β oraz Hα F

16 Twierdzenie Bayesa Twierdzenie 2 (prawdopodobie«stwo caªkowite) Niech (Ω, F, P) - przestrze«probabilistyczna oraz H1, H2,... b dzie rozbiciem mierzalnym Ω (sko«czonym albo przeliczanym). Wówczas dla dowolnego zbioru A F mamy P(A) = j=1 P(A H j ). (2) Je»eli ponad to dla ka»dego j: P(H j ) > 0, to dla dowolnego A F mamy: P(A) = j=1 P(A H j )P(H j ). (3)

17 Twierdzenie Bayesa Twierdzenie 3 (wzór Bayes'a) Niech (Ω, F, P) b dzie przestrzeni probabilistyczn oraz H1, H2,... przeliczalne b d¹ sko«czone rozbicie przestrzeni Ω takie,»e dla ka»dego indeksu j: P(H j ) > 0. Je»eli A F takie,»e P(A) > 0, to wtedy dla ustalonego indeksu j0 mamy: P(H j0 A) = P(A H j0)p(h j0 ) j=1 P(A H j)p(h j ) (4)

18 Twierdzenie Bayesa Examples Przykªadowo wybrany z populacji 40 mln. ludzi czªowiek poddany jest testowi na HIV. W±ród tych ludzi 80 tys. to nosiciele. U»yty test potwierdza HIV w 100%, gdy czªowiek jest nosicielem, natomiast daje 0,3% faªszywych alarmów (czyli w 3 badanych, zdrowych ludzi test 1000 myli si ). Jakie jest prawdopodobie«stwo,»e badany czªowiek jest nosicielem wirusa, je»eli test daª wynik pozytywny?

19 Twierdzenie Bayesa Examples A zdarzenie,»e wynik testów jest pozytywny; H+ zdarzenie,»e badany czªowiek jest nosicielem; H zdarzenie,»e badany czªowiek jest zdrowy.

20 Twierdzenie Bayesa Examples A zdarzenie,»e wynik testów jest pozytywny; H+ zdarzenie,»e badany czªowiek jest nosicielem; H zdarzenie,»e badany czªowiek jest zdrowy.

21 Twierdzenie Bayesa Examples A zdarzenie,»e wynik testów jest pozytywny; H+ zdarzenie,»e badany czªowiek jest nosicielem; H zdarzenie,»e badany czªowiek jest zdrowy. H+ H = Ω, H+ H = P(H+) = = 2 = 0, P(H ) = 1 0, 002 = 0, 998 P(H+ A) = 1 0, , , 003 0, 998 0, 4

22 Niezale»no± zdarze«niech b d dane nast puj ce zdarzenia: A - w maju wyst pi mrozy (< 6 C ) B - cena jabªek w pa¹dzierniku wi ksza ni» 3 zª/kg C - Polka wygra konkurs pi kno±ci

23 Niezale»no± zdarze«niech b d dane nast puj ce zdarzenia: A - w maju wyst pi mrozy (< 6 C ) B - cena jabªek w pa¹dzierniku wi ksza ni» 3 zª/kg C - Polka wygra konkurs pi kno±ci

24 Niezale»no± zdarze«niech b d dane nast puj ce zdarzenia: A - w maju wyst pi mrozy (< 6 C ) B - cena jabªek w pa¹dzierniku wi ksza ni» 3 zª/kg C - Polka wygra konkurs pi kno±ci Denicja 4 (niezale»no± zdarze«) Niech (Ω, F, P) - przestrze«probabilistyczna. Mówimy,»e zdarzenia A, B F s niezale»ne wtedy i tylko wtedy, gdy P(A B) = P(A)P(B). (5)

25 Niezale»no± zdarze«denicja 4 ci g dalszy... Mówimy,»e sko«czony ukªad zdarze«a1, A2,..., A n F jest niezale»ny, gdy dla dowolnego podukªadu A i1, A i2,..., A ik (1 i1 < i2 <... < i k n) P(A i1... A ik ) = P(A i1 )P(A i2 )...P(A ik ). (6) Mówimy,»e zdarzenia {Aα} α A s niezale»ne, gdy dla dowolnego sko«czonego wyboru indeksów α 1, α 2,..., α j A (parami ró»nych) P(Aα 1... Aα k ) = P(Aα 1 )P(Aα 2 )...P(Aα k ). (7)

26 Niezale»no± zdarze«denicja 4 ci g dalszy... Mówimy,»e sko«czony ukªad zdarze«a1, A2,..., A n F jest niezale»ny, gdy dla dowolnego podukªadu A i1, A i2,..., A ik (1 i1 < i2 <... < i k n) P(A i1... A ik ) = P(A i1 )P(A i2 )...P(A ik ). (6) Mówimy,»e zdarzenia {Aα} α A s niezale»ne, gdy dla dowolnego sko«czonego wyboru indeksów α 1, α 2,..., α j A (parami ró»nych) P(Aα 1... Aα k ) = P(Aα 1 )P(Aα 2 )...P(Aα k ). (7)

27 Niezale»no± zdarze«denicja 5 Niech (Ω, F, P) b dzie przestrzeni probabilistyczn. Mówimy,»e zdarzenia A1, A2,..., A n ({Aα} α A ) s parami niezale»ne, gdy dla dowolnego wyboru indeksów 1 i < j n (α i α j ) P(A i A j ) = P(A i )P(A j ) (P(Aα i Aα j ) = P(Aα i )P(Aα j )). (8)

28 Niezale»no± zdarze«denicja 5 Niech (Ω, F, P) b dzie przestrzeni probabilistyczn. Mówimy,»e zdarzenia A1, A2,..., A n ({Aα} α A ) s parami niezale»ne, gdy dla dowolnego wyboru indeksów 1 i < j n (α i α j ) P(A i A j ) = P(A i )P(A j ) (P(Aα i Aα j ) = P(Aα i )P(Aα j )). (8) Twierdzenie 4 niezale»no± niezale»no± parami. niezale»no± niezale»no± parami.

29 Niezale»no± zdarze«denicja 5 Niech (Ω, F, P) b dzie przestrzeni probabilistyczn. Mówimy,»e zdarzenia A1, A2,..., A n ({Aα} α A ) s parami niezale»ne, gdy dla dowolnego wyboru indeksów 1 i < j n (α i α j ) P(A i A j ) = P(A i )P(A j ) (P(Aα i Aα j ) = P(Aα i )P(Aα j )). (8) Twierdzenie 4 niezale»no± niezale»no± parami. niezale»no± niezale»no± parami. Twierdzenie 5 Je»eli zdarzenia A i B s niezale»ne, tzn. P(A B) = P(A)P(B), to P(A B) = P(A).

30 Niezale»no± zdarze«examples Niech Ω = {ω : ω {1, 2, 3, 4}} A = {1, 2} B = {1, 3} C = {1, 4} A, B, C nie s niezale»ne: P(A B C) = = P(A)P(B)P(C) A, B, C s parami niezale»ne: P(A B) = 1 4 = P(A)P(B) P(A C) = 1 4 = P(A)P(C) P(B C) = 1 4 = P(B)P(C)

31 Zako«czenie Koniec Dzi kuj za uwag.