Rachunek prawdopodobieństwa Rozdział 5. Rozkłady łączne 5.3 Rozkłady warunkowe i warunkowa wartość oczekiwana Katarzyna Rybarczyk-Krzywdzińska semestr zimowy 2015/2016
Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni
Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni Zmiana wiedzy powoduje zmianę prawdopodobieństwa
Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni Zmiana wiedzy powoduje zmianę prawdopodobieństwa Zmiana prawdopodobieństwa powoduje zmianę wartości oczekiwanej
Prawdopodobieństwo wyraża postawę umysłu wobec zdań, których prawdziwości nie jesteśmy pewni Zmiana wiedzy powoduje zmianę prawdopodobieństwa Zmiana prawdopodobieństwa powoduje zmianę wartości oczekiwanej Jeśli znam wartość zmiennej losowej X (X = x), to zamiast rozkładu zmiennej Y lepiej używać rozkładu warunkowego zmiennej Y pod warunkiem X = x. Jeśli znam wartość zmiennej losowej X, to zamiast wartości oczekiwanej EY lepiej używać warunkowej wartości oczekiwanej E(Y X )
Wprowadzenie Przykład 1 Bolek, Lolek i Tola wstąpili do kasyna. Bolek postawił na czerwone, a Tola postawiła na pierwsze 12; X A wygrana Bolka. X C wygrana Toli. Rozkład łączny wygranych: X A X C 1 2 13 1 37 12 1 37 6 37 6 37
Rozkłady dyskretne - wprowadzenie Przypomnienie 1 Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem zajścia zdarzenia B nazywamy liczbę P(A B) = P(A B). P(B) Przypomnienie 2 {X A = 1}, {X A = 1}, {X C = 2}, {X C = 1} są zdarzeniami. X A wygrana Bolka. X C wygrana Toli. X C 1 2 X A 13 6 1 37 12 1 37 Przykład 2 37 6 37 Jak zmieni się rozkład zmiennej X C gdy wiemy, że zaszło zdarzenie {X A = 1}/{X A = 1}?
Rozkłady dyskretne - wprowadzenie Przypomnienie 1 Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem zajścia zdarzenia B nazywamy liczbę P(A B) = P(A B). P(B) Przypomnienie 2 {X A = 1}, {X A = 1}, {X C = 2}, {X C = 1} są zdarzeniami. X A wygrana Bolka. X C wygrana Toli. X A X C 1 2 13 1 37 12 1 37 Przykład 2 6 37 6 37 Ile będzie wtedy wynosić wartość oczekiwana zmiennej X C pod warunkiem, że {X A = 1}/{X A = 1}?
Rozkłady dyskretne - wprowadzenie Przypomnienie 1 Prawdopodobieństwem warunkowym zdarzenia A pod warunkiem zajścia zdarzenia B nazywamy liczbę P(A B) = P(A B). P(B) Przypomnienie 2 {X A = 1}, {X A = 1}, {X C = 2}, {X C = 1} są zdarzeniami. X A wygrana Bolka. X C wygrana Toli. X A X C 1 2 13 1 37 12 1 37 Przykład 2 6 37 6 37 Czy ta wartość oczekiwana jest zmienną losową na przestrzeni {Ω, 2 Ω, P}? Czy jest funkcją zmiennej losowej X A?
Definicje Rozkład warunkowy - zmienne dyskretne Jeśli (X, Y ) jest dyskretnym wektorem losowym skupionym na zbiorze S, to rozkładem warunkowym zmiennej losowej X pod warunkiem Y = y nazywamy rozkład prawdopodobieństwa dany wzorem P(X = x i Y = y) = P(X = x i, Y = y) P(Y = y) dla (x i, y) S.
Warunkowa wartość oczekiwana - zmienne dyskretne Definicja Jeśli (X, Y ) jest dyskretnym wektorem losowym skupionym na zbiorze S, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartości E(X Y = y) = (x i,y) S x i P(X = x i Y = y).
Warunkowa wartość oczekiwana - zmienne dyskretne Definicja Jeśli (X, Y ) jest dyskretnym wektorem losowym skupionym na zbiorze S, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartości Definicja E(X Y = y) = (x i,y) S x i P(X = x i Y = y). Dla dyskretnego wektora (X, Y ), w którym zmienna losowa Y jest skupiona na zbiorze S Y, warunkowa wartość oczekiwana E(X Y ) zmiennej losowej X względem zmiennej losowej Y to zmienna losowa, która przyjmuje wartości E(X Y = y) gdy Y = y dla każdego y S Y. Oznaczmy h(y) = E(X Y = y), wtedy E(X Y ) = h(y ) jest zmienną losową, funkcją zmiennej losowej Y.
Wzór na prawdopodobieństwo całkowite, przypomnienie Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnich prawdopodobieństwach, wówczas dla dowolnego zdarzenia A P(A) = i P(A B i ) P(B i )
Wzór na prawdopodobieństwo całkowite, przypomnienie Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnich prawdopodobieństwach, wówczas dla dowolnego zdarzenia A P(A) = i P(A B i ) P(B i ) Przykład 3 Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p; Przez Y oznaczamy liczbę potomków; jaki rozkład ma Y?
wzór Bayesa Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnim prawdopodobieństwie oraz P(A) > 0, to P(B j A) = P(A B j) P(B j ) P(A) = P(A B j) P(B j ) i P(A B i) P(B i )
wzór Bayesa Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnim prawdopodobieństwie oraz P(A) > 0, to P(B j A) = P(A B j) P(B j ) P(A) = P(A B j) P(B j ) i P(A B i) P(B i ) Przykład 4 (nie omówiony na wykładzie) Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p; Jaki jest rozkład warunkowy P(X = m Y = k) =?
wzór Bayesa Jeśli (B i ) jest przeliczalnym rozbiciem Ω na zdarzenia o dodatnim prawdopodobieństwie oraz P(A) > 0, to P(B j A) = P(A B j) P(B j ) P(A) = P(A B j) P(B j ) i P(A B i) P(B i ) Przykład 4 (nie omówiony na wykładzie) Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p; Jaki jest rozkład warunkowy P(X = m Y = k) =? P(X = m Y = k) = P(Y = k X = m) P(X = m) P(Y = k)
Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Dla zmiennej losowej ciągłej zapis: P(X = x i Y = y) = P(X = x i, Y = y) P(Y = y) nie ma sensu (bo P(Y = y) = 0 dla każdego y R). Spójrzmy więc na obrazowy przykład
Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Przykład 5 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { 2 dla 0 x y 1; f (x, y) = 0 dla pozostałych x, y { 2y dla 0 y 1; f Y (y) = 0 dla pozostałych y Jeśli Y = y, jaką ma gęstość X? f X Y (x y) =...
Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Przykład 5 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { 2 dla 0 x y 1; f (x, y) = 0 dla pozostałych x, y { 2y dla 0 y 1; f Y (y) = 0 dla pozostałych y Jeśli Y = y, jaką ma gęstość X? f X Y (x y) =... Ile wynosi wtedy wartość oczekiwana E(X Y = y)?
Rozkłady warunkowe ciągłe Rozkłady ciągłe - wprowadzenie Przykład 5 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { 2 dla 0 x y 1; f (x, y) = 0 dla pozostałych x, y { 2y dla 0 y 1; f Y (y) = 0 dla pozostałych y Jeśli Y = y, jaką ma gęstość X? f X Y (x y) =... Ile wynosi wtedy wartość oczekiwana E(X Y = y)? Jak można opisać zmienną E(X Y )?
Rozkłady warunkowe ciągłe Gęstość rozkładu warunkowego Powyższy przykład jest bardzo obrazowy, ale jak można wyznaczyć f X Y (x y), E(X Y = y), E(X Y ) w ogólnym przypadku? Definicja Niech (X, Y ) będzie wektorem losowym o rozkładzie ciągłym z gęstością łączną f (x, y) oraz rozkładem brzegowym zmiennej Y z gęstością f Y (y). Gęstością rozkładu warunkowego zmiennej losowej X pod warunkiem Y = y nazywamy funkcję określoną dla x R wzorem f (X Y ) (x y) = f (x, y) f Y (y), o ile f Y (y) > 0.
Rozkłady warunkowe ciągłe Warunkowa wartość oczekiwana - zmienne ciągłe Definicja Jeśli (X, Y ) jest wektorem o rozkładzie ciągłym, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartość E(X Y = y) = x f (X Y ) (x y) dx.
Rozkłady warunkowe ciągłe Warunkowa wartość oczekiwana - zmienne ciągłe Definicja Jeśli (X, Y ) jest wektorem o rozkładzie ciągłym, warunkową wartością oczekiwaną zmiennej losowej X pod warunkiem Y = y nazywamy wartość Definicja E(X Y = y) = x f (X Y ) (x y) dx. Dla wektora (X, Y ) o rozkładzie ciągłym warunkowa wartość oczekiwana E(X Y ) zmiennej losowej X względem zmiennej losowej Y to zmienna losowa, która przyjmuje wartości E(X Y = y) gdy Y = y. Oznaczmy funkcję h(y) = E(X Y = y). Wtedy E(X Y ) = h(y ) jest funkcją zmiennej losowej Y.
Rozkłady warunkowe ciągłe Przykład 6 Punkt (X, Y ) wybrano w sposób jednostajny z trójkąta o wierzchołkach (0, 0), (0, 1), (1, 1) wtedy: { { 2 dla 0 x y 1; 2y dla 0 y 1; f (x, y) = f Y (y) = 0 w.p.p. 0 w.p.p Intuicyjne rozwiązanie dało nam dla ustalonego 0 y 1: f X Y (x y) = { 1 y dla 1 x y; 0 dla pozostałych x; E(X Y = y) = y 2, czyli E(X Y ) = Y 2. Sprawdź te wyniki korzystając z definicji gęstości rozkładu warunkowego i warunkowej wartości oczekiwanej.
Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V?
Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V? f (U,V ) (u, v) = f V U (v u) f U (u)
Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V? f V (v) = f (U,V ) (u, v) = f V U (v u) f U (u) f (U,V ) (u, v) du = f V U (v u) f U (u) du
Rozkłady warunkowe ciągłe prawdopodobieństwo całkowite, ciąg dalszy Przykład 7 Z odcinka [0, 1] losujemy (z rozkładem jednostajnym) punkt U; Następnie z odcinka [0, U] losujemy punkt V ; Jaki rozkład ma zmienna losowa V? f V (v) = f (U,V ) (u, v) = f V U (v u) f U (u) f (U,V ) (u, v) du = f V U (v u) f U (u) du Wzór na prawdopodobieństwo całkowite, przypomnienie (B i ) przeliczalne rozbicie Ω na zd. o dod. pr.: P(A) = i P(A B i ) P(B i )
Rozkłady warunkowe ciągłe Przykład 8 (nie omówiony na wykładzie) Rzucamy monetą. Gdy wypadnie orzeł, losujemy punkt z odcinka [0, 1]; Gdy wypadnie reszka, losujemy punkt z odcinka [0, 2]; Jakie jest prawdopodobieństwo, [ że wylosowany punkt należy do odcinka 1 2 2], 3
Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana - podsumowanie Wartość oczekiwana - przypomnienie Y rozkład dyskretny: EY = y y P(Y = y); Y ciągły: EY = R y f Y (y) dy Warunkowa wartość oczekiwana zmiennej Y pod warunkiem X = x (X, Y ) dyskretny: E(Y X = x) = y y P(Y = y X = x). (X, Y ) ciągły: E(Y X = x) = y f Y X (y x) dy R
Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x,
Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x, Przypomnienie gdzie h(x) = E(Y X = x) E(Y X ) = h(x ),
Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x, Przypomnienie gdzie h(x) = E(Y X = x) E(Y X ) jest zmienną losową E(Y X ) = h(x ), Ω ω E ( Y X = X (ω) ),
Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana jako zmienna losowa - podsumowanie Jak można patrzeć na warunkową wartość oczekiwaną? E(Y X = x) to funkcja parametru x, Przypomnienie gdzie h(x) = E(Y X = x) E(Y X ) jest zmienną losową E(Y X ) = h(x ), Ω ω E ( Y X = X (ω) ), zmienna losowa E(Y X ) jest funkcją zmiennej losowej X : E(Y X ) = h(x )
Warunkowa wartość oczekiwana - cd. Własności warunkowej wartości oczekiwanej Przykład 9 Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p. Ile wynosi: E(Y X ), E(E(Y X )), EY? Już wiemy: Y ma rozkład Poissona Po(pλ). Y pod warunkiem X = n ma rozkład dwumianowy Bin(n, p). Wartość oczekiwana zmiennej o rozkładzie Po(β) to β Wartość oczekiwana zmiennej o rozkładzie Bin(n, p) to np.
Warunkowa wartość oczekiwana - cd. Własności warunkowej wartości oczekiwanej Przykład 9 Owad składa X jajeczek zgodnie z rozkładem Po(λ); Potomek wylęga się z jajka (niezależnie od innych jajek) z prawdopodobieństwem p. Ile wynosi: E(Y X ), E(E(Y X )), EY? Twierdzenie Niech (X, Y ) będzie wektorem losowym i niech EY istnieje; wtedy E ( E(Y X ) ) = EY Dowód dla zmiennej losowej ciągłej
Warunkowa wartość oczekiwana - cd. Dobre wieści: warunkowa wartość oczekiwana często istnieje Twierdzenie Jeśli EY istnieje, to E(Y X = x) też istnieje (zazwyczaj). Chcemy udowodnić, że Z(x) := E( Y X = x) < dla wielu wartości x wiemy, że zatem Z(X ) = E( Y X ); EZ(X ) = E [ E( Y X ) ] = E Y < ; P(Z(X ) = ) = 0 czyli: prawdopodobieństwo tego, że X przybierze taką wartość x, że E(Y X = x) nie będzie zdefiniowane, wynosi zero
Warunkowa wartość oczekiwana - cd. Warunkowa wartość oczekiwana ma takie własności, jak zwykła wartość oczekiwana Twierdzenie Niech (X, Y, Z) będzie wektorem losowym. Załóżmy, że wartości oczekiwane EX i EY istnieją. Wówczas 1 jeśli X 0 to E(X Z) 0; 2 E(X Z) E ( X Z ) ; 3 dla a, b R warunkowa wartość oczekiwana E(aX + by Z) istnieje i E ( (ax + by ) Z ) = ae(x Z) + be(y Z) 4 dla dowolnego zdarzenia A zachodzi E(1 A Z = z) = P(A Z = z)
Warunkowa wartość oczekiwana - cd. Inne ważne własności Twierdzenie Niech (X, Y ) będzie wektorem losowym i niech EY istnieje; Wtedy jeśli X i Y są niezależne, wówczas E(Y X ) = EY jeśli h(x ) jest ograniczoną zmienną losową, to E ( h(x )Y X ) = h(x ) E(Y X )
Uwagi końcowe Rozkłady warunkowe bardziej ogólnie Mamy ustaloną przestrzeń (Ω, M, P) Szczypta teorii miary itp. Niech F M będzie σ ciałem a X zmienną losową całkowalną. Warunkową wartością oczekiwaną X pod warunkiem F nazywamy zmienną losową E(X F) spełniającą warunki: E(X F) jest F mierzalna; dla każdego A F A X dp = E(X F) dp. A
Uwagi końcowe Rozkłady warunkowe bardziej ogólnie Mamy ustaloną przestrzeń (Ω, M, P) i zmienną losową Y określoną na tej przestrzeni. Szczypta teorii miary itp. Prawdopodobieństwem warunkowym zdarzenia A M pod warunkiem Y = y nazywa się wielkość: P (A Y = y) = E( I A Y = y). Zaintrygowanych tymi nietuzinkowymi definicjami odsyłamy do obszernych rozdziałów w: