Rachunek prawdopodobieństwa Rozdział 5. Rozkłady łączne

Transkrypt

1 Rachunek prawdopodobieństwa Rozdział 5. Rozkłady łączne 5.3 Rozkłady warunkowe i warunkowa wartość oczekiwana Katarzyna Rybarczyk-Krzywdzińska semestr zimowy 2015/2016

2 Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni

3 Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni Zmiana wiedzy powoduje zmianę prawdopodobieństwa

4 Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni Zmiana wiedzy powoduje zmianę prawdopodobieństwa Zmiana prawdopodobieństwa powoduje zmianę wartości oczekiwanej

5 Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni Zmiana wiedzy powoduje zmianę prawdopodobieństwa Zmiana prawdopodobieństwa powoduje zmianę wartości oczekiwanej Jeśli znam wartość zmiennej losowej X (X = x), to zamiast rozkładu zmiennej Y lepiej używać rozkładu warunkowego zmiennej Y pod warunkiem X = x. Jeśli znam wartość zmiennej losowej X, to zamiast wartości oczekiwanej EY lepiej używać warunkowej wartości oczekiwanej E(Y X )

6 Wprowadzenie Przykład 1 Bolek, Lolek i Tola wstąpili do kasyna. Bolek postawił na czerwone, a Tola postawiła na pierwsze 12; X A wygrana Bolka. X C wygrana Toli. Rozkład łączny wygranych: X A X C

7 Rozkłady dyskretne - wprowadzenie Przypomnienie 1 Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem zajścia zdarzenia B nazywamy liczbę P(A B) = P(A B). P(B) Przypomnienie 2 {X A = 1}, {X A = 1}, {X C = 2}, {X C = 1} są zdarzeniami. X A wygrana Bolka. X C wygrana Toli. X C 1 2 X A Przykład Jak zmieni się rozkład zmiennej X C gdy wiemy, że zaszło zdarzenie {X A = 1}/{X A = 1}?

8 Rozkłady dyskretne - wprowadzenie Przypomnienie 1 Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem zajścia zdarzenia B nazywamy liczbę P(A B) = P(A B). P(B) Przypomnienie 2 {X A = 1}, {X A = 1}, {X C = 2}, {X C = 1} są zdarzeniami. X A wygrana Bolka. X C wygrana Toli. X A X C Przykład Ile będzie wtedy wynosić wartość oczekiwana zmiennej X C pod warunkiem, że {X A = 1}/{X A = 1}?

9 Rozkłady dyskretne - wprowadzenie Przypomnienie 1 Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem zajścia zdarzenia B nazywamy liczbę P(A B) = P(A B). P(B) Przypomnienie 2 {X A = 1}, {X A = 1}, {X C = 2}, {X C = 1} są zdarzeniami. X A wygrana Bolka. X C wygrana Toli. X A X C Przykład Czy ta wartość oczekiwana jest zmienną losową na przestrzeni {Ω, 2 Ω, P}? Czy jest funkcją zmiennej losowej X A?

10 Definicje Rozkład warunkowy - zmienne dyskretne Jeśli (X, Y ) jest dyskretnym wektorem losowym skupionym na zbiorze S, to rozkładem warunkowym zmiennej losowej X pod warunkiem Y = y nazywamy rozkład prawdopodobieństwa dany wzorem P(X = x i Y = y) = P(X = x i, Y = y) P(Y = y) dla (x i, y) S.

11 Warunkowa wartość oczekiwana - zmienne dyskretne Definicja Jeśli (X, Y ) jest dyskretnym wektorem losowym skupionym na zbiorze S, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartości E(X Y = y) = (x i,y) S x i P(X = x i Y = y).

12 Warunkowa wartość oczekiwana - zmienne dyskretne Definicja Jeśli (X, Y ) jest dyskretnym wektorem losowym skupionym na zbiorze S, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartości Definicja E(X Y = y) = (x i,y) S x i P(X = x i Y = y). Dla dyskretnego wektora (X, Y ), w którym zmienna losowa Y jest skupiona na zbiorze S Y, warunkowa wartość oczekiwana E(X Y ) zmiennej losowej X względem zmiennej losowej Y to zmienna losowa, która przyjmuje wartości E(X Y = y) gdy Y = y dla każdego y S Y. Oznaczmy h(y) = E(X Y = y), wtedy E(X Y ) = h(y ) jest zmienną losową, funkcją zmiennej losowej Y.

13 Wzór na prawdopodobieństwo całkowite, przypomnienie Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnich prawdopodobieństwach, wówczas dla dowolnego zdarzenia A P(A) = i P(A B i ) P(B i )

14 Wzór na prawdopodobieństwo całkowite, przypomnienie Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnich prawdopodobieństwach, wówczas dla dowolnego zdarzenia A P(A) = i P(A B i ) P(B i ) Przykład 3 Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p; Przez Y oznaczamy liczbę potomków; jaki rozkład ma Y?

15 wzór Bayesa Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnim prawdopodobieństwie oraz P(A) > 0, to P(B j A) = P(A B j) P(B j ) P(A) = P(A B j) P(B j ) i P(A B i) P(B i )

16 wzór Bayesa Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnim prawdopodobieństwie oraz P(A) > 0, to P(B j A) = P(A B j) P(B j ) P(A) = P(A B j) P(B j ) i P(A B i) P(B i ) Przykład 4 (nie omówiony na wykładzie) Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p; Jaki jest rozkład warunkowy P(X = m Y = k) =?

17 wzór Bayesa Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnim prawdopodobieństwie oraz P(A) > 0, to P(B j A) = P(A B j) P(B j ) P(A) = P(A B j) P(B j ) i P(A B i) P(B i ) Przykład 4 (nie omówiony na wykładzie) Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p; Jaki jest rozkład warunkowy P(X = m Y = k) =? P(X = m Y = k) = P(Y = k X = m) P(X = m) P(Y = k)

18 Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Dla zmiennej losowej ciągłej zapis: P(X = x i Y = y) = P(X = x i, Y = y) P(Y = y) nie ma sensu (bo P(Y = y) = 0 dla każdego y R). Spójrzmy więc na obrazowy przykład

19 Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Przykład 5 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { 2 dla 0 x y 1; f (x, y) = 0 dla pozostałych x, y { 2y dla 0 y 1; f Y (y) = 0 dla pozostałych y Jeśli Y = y, jaką ma gęstość X? f X Y (x y) =...

20 Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Przykład 5 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { 2 dla 0 x y 1; f (x, y) = 0 dla pozostałych x, y { 2y dla 0 y 1; f Y (y) = 0 dla pozostałych y Jeśli Y = y, jaką ma gęstość X? f X Y (x y) =... Ile wynosi wtedy wartość oczekiwana E(X Y = y)?

21 Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Przykład 5 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { 2 dla 0 x y 1; f (x, y) = 0 dla pozostałych x, y { 2y dla 0 y 1; f Y (y) = 0 dla pozostałych y Jeśli Y = y, jaką ma gęstość X? f X Y (x y) =... Ile wynosi wtedy wartość oczekiwana E(X Y = y)? Jak można opisać zmienną E(X Y )?

22 Rozkłady warunkowe ciągłe Gęstość rozkładu warunkowego Powyższy przykład jest bardzo obrazowy, ale jak można wyznaczyć f X Y (x y), E(X Y = y), E(X Y ) w ogólnym przypadku? Definicja Niech (X, Y ) będzie wektorem losowym o rozkładzie ciągłym z gęstością łączną f (x, y) oraz rozkładem brzegowym zmiennej Y z gęstością f Y (y). Gęstością rozkładu warunkowego zmiennej losowej X pod warunkiem Y = y nazywamy funkcję określoną dla x R wzorem f (X Y ) (x y) = f (x, y) f Y (y), o ile f Y (y) > 0.

23 Rozkłady warunkowe ciągłe Warunkowa wartość oczekiwana - zmienne ciągłe Definicja Jeśli (X, Y ) jest wektorem o rozkładzie ciągłym, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartość E(X Y = y) = x f (X Y ) (x y) dx.

24 Rozkłady warunkowe ciągłe Warunkowa wartość oczekiwana - zmienne ciągłe Definicja Jeśli (X, Y ) jest wektorem o rozkładzie ciągłym, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartość Definicja E(X Y = y) = x f (X Y ) (x y) dx. Dla wektora (X, Y ) o rozkładzie ciągłym warunkowa wartość oczekiwana E(X Y ) zmiennej losowej X względem zmiennej losowej Y to zmienna losowa, która przyjmuje wartości E(X Y = y) gdy Y = y. Oznaczmy funkcję h(y) = E(X Y = y). Wtedy E(X Y ) = h(y ) jest funkcją zmiennej losowej Y.

25 Rozkłady warunkowe ciągłe Przykład 6 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { { 2 dla 0 x y 1; 2y dla 0 y 1; f (x, y) = f Y (y) = 0 w.p.p. 0 w.p.p Intuicyjne rozwiązanie dało nam dla ustalonego 0 y 1: f X Y (x y) = { 1 y dla 1 x y; 0 dla pozostałych x; E(X Y = y) = y 2, czyli E(X Y ) = Y 2. Sprawdź te wyniki korzystając z definicji gęstości rozkładu warunkowego i warunkowej wartości oczekiwanej.

26 Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V?

27 Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V? f (U,V ) (u, v) = f V U (v u) f U (u)

28 Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V? f V (v) = f (U,V ) (u, v) = f V U (v u) f U (u) f (U,V ) (u, v) du = f V U (v u) f U (u) du

29 Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V? f V (v) = f (U,V ) (u, v) = f V U (v u) f U (u) f (U,V ) (u, v) du = f V U (v u) f U (u) du Wzór na prawdopodobieństwo całkowite, przypomnienie (B i ) przeliczalne rozbicie Ω na zd. o dod. pr.: P(A) = i P(A B i ) P(B i )

30 Rozkłady warunkowe ciągłe Przykład 8 (nie omówiony na wykładzie) Rzucamy monetą. Gdy wypadnie orzeł, losujemy punkt z odcinka [0, 1]; Gdy wypadnie reszka, losujemy punkt z odcinka [0, 2]; Jakie jest prawdopodobieństwo, [ że wylosowany punkt należy do odcinka 1 2 2], 3

31 Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana - podsumowanie Wartość oczekiwana - przypomnienie Y rozkład dyskretny: EY = y y P(Y = y); Y ciągły: EY = R y f Y (y) dy Warunkowa wartość oczekiwana zmiennej Y pod warunkiem X = x (X, Y ) dyskretny: E(Y X = x) = y y P(Y = y X = x). (X, Y ) ciągły: E(Y X = x) = y f Y X (y x) dy R

32 Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x,

33 Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x, Przypomnienie gdzie h(x) = E(Y X = x) E(Y X ) = h(x ),

34 Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x, Przypomnienie gdzie h(x) = E(Y X = x) E(Y X ) jest zmienną losową E(Y X ) = h(x ), Ω ω E ( Y X = X (ω) ),

35 Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x, Przypomnienie gdzie h(x) = E(Y X = x) E(Y X ) jest zmienną losową E(Y X ) = h(x ), Ω ω E ( Y X = X (ω) ), zmienna losowa E(Y X ) jest funkcją zmiennej losowej X : E(Y X ) = h(x )

36 Warunkowa wartość oczekiwana - cd. Własności warunkowej wartości oczekiwanej Przykład 9 Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p. Ile wynosi: E(Y X ), E(E(Y X )), EY? Już wiemy: Y ma rozkład Poissona Po(pλ). Y pod warunkiem X = n ma rozkład dwumianowy Bin(n, p). Wartość oczekiwana zmiennej o rozkładzie Po(β) to β Wartość oczekiwana zmiennej o rozkładzie Bin(n, p) to np.

37 Warunkowa wartość oczekiwana - cd. Własności warunkowej wartości oczekiwanej Przykład 9 Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p. Ile wynosi: E(Y X ), E(E(Y X )), EY? Twierdzenie Niech (X, Y ) będzie wektorem losowym i niech EY istnieje; wtedy E ( E(Y X ) ) = EY Dowód dla zmiennej losowej ciągłej

38 Warunkowa wartość oczekiwana - cd. Dobre wieści: warunkowa wartość oczekiwana często istnieje Twierdzenie Jeśli EY istnieje, to E(Y X = x) też istnieje (zazwyczaj). Chcemy udowodnić, że Z(x) := E( Y X = x) < dla wielu wartości x wiemy, że zatem Z(X ) = E( Y X ); EZ(X ) = E [ E( Y X ) ] = E Y < ; P(Z(X ) = ) = 0 czyli: prawdopodobieństwo tego, że X przybierze taką wartość x, że E(Y X = x) nie będzie zdefiniowane, wynosi zero

39 Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana ma takie własności, jak zwykła wartość oczekiwana Twierdzenie Niech (X, Y, Z) będzie wektorem losowym. Załóżmy, że wartości oczekiwane EX i EY istnieją. Wówczas 1 jeśli X 0 to E(X Z) 0; 2 E(X Z) E ( X Z ) ; 3 dla a, b R warunkowa wartość oczekiwana E(aX + by Z) istnieje i E ( (ax + by ) Z ) = ae(x Z) + be(y Z) 4 dla dowolnego zdarzenia A zachodzi E(1 A Z = z) = P(A Z = z)

40 Warunkowa wartość oczekiwana - cd. Inne ważne własności Twierdzenie Niech (X, Y ) będzie wektorem losowym i niech EY istnieje; Wtedy jeśli X i Y są niezależne, wówczas E(Y X ) = EY jeśli h(x ) jest ograniczoną zmienną losową, to E ( h(x )Y X ) = h(x ) E(Y X )

41 Uwagi końcowe Rozkłady warunkowe bardziej ogólnie Mamy ustaloną przestrzeń (Ω, M, P) Szczypta teorii miary itp. Niech F M będzie σ ciałem a X zmienną losową całkowalną. Warunkową wartością oczekiwaną X pod warunkiem F nazywamy zmienną losową E(X F) spełniającą warunki: E(X F) jest F mierzalna; dla każdego A F A X dp = E(X F) dp. A

42 Uwagi końcowe Rozkłady warunkowe bardziej ogólnie Mamy ustaloną przestrzeń (Ω, M, P) i zmienną losową Y określoną na tej przestrzeni. Szczypta teorii miary itp. Prawdopodobieństwem warunkowym zdarzenia A M pod warunkiem Y = y nazywa się wielkość: P (A Y = y) = E( I A Y = y). Zaintrygowanych tymi nietuzinkowymi definicjami odsyłamy do obszernych rozdziałów w: