Wykład 7: Warunkowa wartość oczekiwana. Rozkłady warunkowe.

Transkrypt

1 Rachunek prawdopodobieństwa MAP3040 WPPT FT, rok akad. 2010/11, sem. zimowy Wykładowca: dr hab. Agnieszka Jurlewicz Wykład 7: Warunkowa wartość oczekiwana. Rozkłady warunkowe. Warunkowa wartość oczekiwana. Definicja: Warunkowa wartość oczekiwana EY X) zmiennej losowej Y pod warunkiem zmiennej losowej X to nowa zmienna losowa, która jest postaci EY X) = mx) z prawdop. 1 dla borelowskiej funkcji mx) spełniającej warunek dla każdego borelowskiego zbioru B. B mx)df X x) = B R ydf X,Y x, y) Twierdzenie: Jeżeli E Y <, to taka funkcja mx) istnieje, tzn. warunkowa wartość oczekiwana EY X) jest dobrze określona z tw. Radona-Nikodyma. Uwaga: Często podajemy warunkową wartość oczekiwana tylko poprzez wzór na funkcję mx), przy czym zapis ma postać: EY X = x) = mx) Funkcja mx) zwana jest funkcją regresji I rodzaju. Fakt: Jeżeli D 2 X <, D 2 Y <, to min f EY fx)) 2 = EY mx)) 2 dla f - funkcji borelowskich). 1

2 Własności warunkowej wartości oczekiwanej: Przy założeniu, że E Y < a) dla Y = ay 1 + by 2, gdzie a, b R, Y 1, Y 2 to zmienne losowe, EY X) = EaY 1 + by 2 X) = aey 1 X) + bey 2 X) z prawd. 1; b) Jeżeli Y = hx, Y 0 ) dla pewnej borelowskiej funkcji h, to EY X) = Ehx, Y 0 ) X) x=x z prawd. 1; c) Jeżeli zmienne losowe X i Y są niezależne, to EY X) = EY z prawd. 1, tzn. mx) const = EY ; d) EEY X)) = EY własność ta daje użyteczną technikę obliczania wartości oczekiwanej skomplikowanych zmiennych losowych). Przykłady: Niech X i Y będą niezależnymi zmiennymi losowymi, przy czym E Y <. Wtedy 1. EX + Y X) b) = Ex + Y X) x=x c) = Ex + Y ) x=x a) = x + EY ) x=x = X + EY mx) = x + EY ) 2. EXY X) b) = ExY X) x=x a) = xey X) x=x c) = xey ) x=x = XEY mx) = EY x). 2

3 Suma losowa. Niech X 1, X 2,... będzie ciągiem niezależnych zmiennych losowych o jednakowym rozkładzie. Niech N będzie indeksem losowym tzn. zmienną losową dyskretną przyjmującą tylko wartości naturalne 1, 2,...) niezależną od ciągu {X k, k = 1, 2,...}. Sumą losową nazywamy zmienną losową N to losowa ilość składników w sumie.) N S = X k = X 1 + X X N. Załóżmy, że istnieją skończone wartości oczekiwane EX 1 i EN. Korzystając z techniki warunkowej wartości oczekiwanej obliczymy wartość oczekiwaną ES: )) N N n ) ) N ES = EES N)) = E E X k = E E X k = n=n n ) ) ) = E E X k = E nex 1 ) = EN EX 1 ) = EN EX 1. n=n n=n Otrzymaliśmy zatem, że ES = EN EX 1. Załóżmy teraz, że D 2 X 1 < i D 2 N <. Obliczymy wariancję D 2 S: ) N 2 ES 2 = EES 2 N)) = E E N n ) 2 N ) ) X k = E E X k = n=n n ) ) 2 = E E X k = E n=n E n Xk 2 + n n X k X j j=1 = n=n ) j k = E nex1 2 + nn 1)EX 1 ) 2 ) = EN EX NN 1)EX 1 ) 2 ) = n=n = EN EX1 2 EX 1 ) 2 ) + EN 2 EX 1 ) 2 = EN D 2 X 1 + EN 2 EX 1 ) 2. Zatem D 2 S = EN D 2 X 1 + EN 2 EX 1 ) 2 EN EX 1 ) 2 = = EN D 2 X 1 + EN 2 EN) 2 ) EX 1 ) 2 = EN D 2 X 1 + D 2 N EX 1 ) 2. Otrzymaliśmy zatem, że D 2 S = EN D 2 X 1 + D 2 N EX 1 ) 2. 3

4 Możemy też określić rozkład S za pomocą funkcji charakterystycznej ϕ S t). Niech ϕ X t) oznacza funkcję charakterystyczną zmiennych losowych X k, a g N z) - funkcję tworzącą losowego indeksu N. Wtedy ϕ S t) = g N ϕ X t)) Uzasadnienie: ϕ S t) = Ee its = EEe its N)) = E E exp it n ) N ) ) X k = n=n = E E exp it n ) ) ) ) X k = E ϕ X1+...+Xn n=n n=n t) = E ϕ X t)) n=n n = = E ϕ X t)) N = g N ϕ X t)) Przykład: Niech X k ma rozkład wykładniczy Expλ), λ > 0, a N - rozkład ujemny dwumianowy N Bm, p), m N, 0 < p < 1. Wtedy EX 1 = 1 λ, D2 X 1 = 1 λ 2 oraz EN = m p, D2 N = i stąd Mamy też ϕ X t) = Zatem m1 p) p 2 ES = m p 1 λ = m pλ D 2 S = m ) p 1 m1 p) = m λ2 p 2 λ p 2 λ 2 1 it ) 1 ) m pz oraz g N z) = λ 1 1 p)z ϕ S t) = p ) 1 1 it λ 1 1 p) 1 it λ m ) 1 Jest to funkcja charakterystyczna rozkładu gamma Gpλ, m) Zatem S ma taki właśnie rozkład. Otrzymane wcześniej ES i D 2 S zgadzają się.) = 1 it ) m pλ 4

5 Rozkłady warunkowe. Definicja: Niech B będzie zbiorem borelowskim, a Y pewną zmienną losową. Definiujemy nową zmienną losową Z = 1I {Y B} = { 1, gdy Y B, 0, gdy Y / B. Rozkładem warunkowym zmiennej losowej Y pod warunkiem zmiennej losowej X nazywamy P Y B X) := EZ X) = E1I {Y B} X), jako funkcję borelowskiego zbioru B. Zauważmy, że E Z = EZ = P Y B) < dla dowolnego B, zatem dla dowolnej zmiennej losowej X warunkowa wartość oczekiwana EZ X) czyli rozkład warunkowy Y pod warunkiem X) jest dobrze zdefiniowana. Przy ustalonym x takim, który jest wartością istotnie przyjmowaną przez X) rozkład warunkowy P Y B X = x) jako funkcja zbioru borelowskiego B jest pewnym rozkładem prawdopodobieństwa. Rozkład ten ma dystrybuantę zwaną dystrybuantą warunkową). F y x) = P Y < y X = x) Rozkład warunkowy Y pod warunkiem X możemy zatem opisać podając rodzinę dystrybuant warunkowych F y x) po wszystkich wartościach x istotnie przyjmowanych przez X. Warunkowa wartość oczekiwana EY X = x) przy ustalonym x to zwykła wartość oczekiwana rozkładu warunkowego P Y B X = x). 5

6 Jeżeli wektor losowy X, Y ) ma rozkład dyskretny zadany ciągiem {x n, y k, p nk ), n T 1, k T 2 }, to rozkład warunkowy Y pod warunkiem X = x n też jest dyskretny i opisać możemy go także podając rodzinę ciągów { y k, p nk p n ) xn ), k T 2 } po wszystkich tych wartościach x n, dla których p n = P X = x n ) > 0, czyli po wartościach istotnie przyjmowanych przez X. Zauważmy, że p nk warunkowe.) p n = P Y = y k X = x n ) to zwykłe prawdopodobieństwo Ponadto wówczas dla tych x n, dla których p n > 0, mamy EY X = x n ) = p n k T 2 y k P Y = y k X = x n ) = 1 k T 2 y k p nk Jeżeli wektor losowy X, Y ) ma rozkład ciągły o gęstości f X,Y x, y), to rozkład warunkowy Y pod warunkiem X = x też jest ciągły o gęstości fy x) = f X,Y x, y) f X x) dla wszystkich takich x, dla których f X x) = f X,Y x, y)dy > 0, czyli po wartościach istotnie przyjmowanych przez X. Rozkład warunkowy opisujemy zatem wtedy także podając rodzinę gęstości warunkowych fy x) po wszystkich wartościach x, dla których f X x) > 0. Ponadto, dla takich x mamy EY X = x) = yfy x)dy = 1 f X x) yf X,Y x, y)dy. 6

7 Wzór na prawdopodobieństwo całkowite: P Y B) = P Y B X = x)df X x). gdzie F X to dystrybuanta rozkładu zmiennej losowej X. Jeśli znamy rozkład zmiennej losowej X i rozkład warunkowy Y pod warunkiem X, to znamy też rozkład łączny wektora losowego X, Y ): F X,Y x, y) = x F y x )df X x ). 1) Dla rozkładu dyskretnego p nk = P Y = y k X = x n )p n ; dla rozkładu ciągłego f X,Y x, y) = fy x)f X x). Jeżeli X i Y są niezależnymi zmiennymi losowymi, to P Y B X) = P Y B) z prawd. 1, tzn. wtedy rozkład warunkowy jest taki sam jak rozkład zmiennej losowej Y. Wtedy wzór 1) sprowadza się do znanego wzoru F X,Y x, y) = F X x)f Y y). 7

8 Przykłady: 1. Wektor losowy X, Y ) ma następujący rozkład łączny: x n 0 2 r.brzeg. y k Y 2 0, 1 0, 2 0, , 2 0, 2 1 0, 2 0, 3 0, 5 r.brzeg.x 0, 3 0, 7 = 1 Rozkład warunkowy Y pod warunkiem X i warunkowa wartość oczekiwana EY X) ma postać: dla x n = 0: P Y = 2 X = 0) = P X = 0, Y = 2) P X = 0) = 0, 1 0, 3 = 1 3, Podobnie P Y = 0 X = 0) = 0, P Y = 1 X = 0) = 2 3, Mamy zatem dla x n = 0 y k p nk /p n 2 1/ /3 Stąd EY X = 0) = 2) = 0 dla x n = 2: P Y = 2 X = 2) = 2 7, P Y = 0 X = 2) = 2 7, P Y = 1 X = 2) = 3 7, Mamy zatem dla x n = 2 y k p nk /p n 2 2/7 0 2/7 1 3/7 Stąd EY X = 2) = 1 7. Zatem EY X) = X) 8

9 2. Wektor losowy X, Y ) ma rozkład o gęstości f X,Y x, y) = Wtedy X ma rozkład o gęstości: f X x) = { 2x + y) dla 0 x 1, 0 y x, 0 poza tym x 2x + y)dy = 3x 2 dla 0 < x 1, f X,Y x, y)dy = 0 0 dla pozostalych x. Gęstość warunkowa rozkładu Y pod warunkiem X ma zatem postać: fy x) = f X,Y x, y) f X x) = 2x + y) 3x 2 dla 0 y x, 0 dla pozostalych y, gdzie 0 < x 1 są to wartości istotnie przyjmowane przez X). Warunkowa wartość oczekiwana wynosi: EY X = x) = Zatem yfy x)dy = x 0 2x + y) y dy = 5/9)x dla 0 < x 1. 3x 2 EY X) = 5/9)X 3. Czas pracy τ urządzenia ma rozkład wykładniczy Expλ = 1). Koszt użytkowania urządzenia, które uległo awarii w chwili t, ma rozkład jednostajny U1, 3 e t ). Jaka jest wartość oczekiwana kosztów K użytkowania urządzenia? W zadaniu mamy podany rozkład brzegowy zmiennej losowej τ: jest to rozkład Expλ = 1). Mamy także podany rozkład warunkowy zmiennej losowej K pod warunkiem τ = t: jest to rozkład U1, 3 e t ). Stąd EK τ = t) = e t = e t Zatem EK = EEK τ)) = E 2 1 ) 2 e τ = 2 1 e t f τ t)dt = = e 2t dt = e 2t 2 0 = = e t e t dt = 9

10 Regresja II rodzaju Przypomnienie: Jeżeli D 2 X <, D 2 Y <, to min f EY fx)) 2 = EY EY X)) 2 dla f - funkcji borelowskich). EY X = x) = mx) - funkcja regresji I rodzaju. Rozważmy inne zagadnienie: Szukamy min EY fx)) 2 dla fx) = ax + b - funkcji liniowych. f Minimum to jest osiągane dla a = ρ XY D2 Y D2 X, b = EY aex Prostą o równaniu D2 Y l : y EY = ρ XY x EX) D2 X nazywamy prostą regresji albo regresją II rodzaju). 10