Rachunek prawdopodobieństwa MAP1151 Wydział Elektroniki, rok akad. 2011/12, sem. letni Wykładowca: dr hab. A. Jurlewicz

Transkrypt

1 Rchuek prwdopodobieństw MA5 Wydził Elektroiki, rok kd. 20/2, sem. leti Wykłdowc: dr hb. A. Jurlewicz Wykłd 7: Zmiee losowe dwuwymirowe. Rozkłdy łącze, brzegowe. Niezleżość zmieych losowych. Momety. Współczyik korelcji. Sumowie iezleżych zmieych losowych. rwo wielkich liczb. Zmiee losowe dwuwymirowe, rozkłd łączy, rozkłdy brzegowe. Defiicj. Zmie losow dwuwymirow to wektor (X, Y ), którego skłdowe X, Y są zmieymi losowymi. Rozkłd wektor losowego (X, Y ) to fukcj ((X, Y ) C), gdzie C to borelowski podzbiór płszczyzy R 2. Nzywmy go rozkłdem łączym zmieych losowych X, Y. Rozkłd zmieej losowej X i rozkłd zmieej losowej Y zywmy rozkłdmi brzegowymi wektor losowego (X, Y ). eł iformcj o rozkłdzie łączym zmieych losowych X, Y zwrt jest: () w dystrybucie tego rozkłdu, czyli fukcji F X,Y (x, y) = (X < x, Y < y) (b) w przypdku dyskretego wektor losowego (X, Y ) zwrt jest tkże w ciągu trójek {(x, y k, p k ), T N, k T 2 N}, gdzie {x, T } orz {y k, k T 2 } to ciągi wszystkich wrtości przyjmowych odpowiedio przez X i Y z dodtimi prwdopodobieństwmi, tomist p k = (X = x, Y = y k ), T, k T 2. (Ciągi {x, T } orz {y k, k T 2 } muszą być różowrtościowe, tomist p k 0 dl wszystkich, k orz p k =, by rozkłd był dobrze określoy.) k T 2 T (c) w przypdku ciągłego rozkłdu wektor losowego (X, Y ) zwrt jest tkże w gęstości łączej f(x, y), czyli tkiej fukcji f(x, y) 0 dl kżdego (x, y), że F X,Y (x, y) = x ds y f(s, t)dt (Aby fukcj f(x, y) był gęstością pewego rozkłdu prwdopodobieństw musi spełić wruki: f(x, y) 0 dl kżdego (x, y) orz dx f(x, y)dy =.)

2 Fkt: Jeśli zmy rozkłd łączy, to zmy też rozkłdy brzegowe, gdyż: F X (x) = (X < x) = (X < x, Y < ) = y lim F X,Y (x, y), F Y (y) = (Y < y) = (X <, Y < y) = x lim F X,Y (x, y) W przypdku dyskretego wektor losowego (X, Y ) zdego cigiem {(x, y k, p k ), T, k T 2 }: rozkłd zmieej losowej X zdy jest ciągiem {(x, p ), T }, gdzie p = (X = x ) = (X = x, Y = y k ) = p k k T 2 k T 2 odobie, rozkłd zmieej losowej Y zdy jest ciągiem {(y k, p k ), k T 2 }, gdzie p k = (Y = y k ) = (X = x, Y = y k ) = p k T T W przypdku wektor o rozkłdzie ciągłym o gęstości łączej f(x, y) moż pokzć, że: rozkłd zmieej losowej X jest ciągły o gęstości f X (x) = rozkłd zmieej losowej Y jest ciągły o gęstości f Y (y) = f(x, y)dy, f(x, y)dx. Niezleżość zmieych losowych Defiicj. Zmiee losowe X i Y są iezleże, gdy dl dowolych borelowskich zbiorów B i B 2 zdrzei {X B } i {Y B 2 } są iezleże, tz. (X B, Y B 2 ) = (X B ) (Y B 2 ). Zmiee losowe X, X 2,..., X są iezleże, gdy dl dowolych borelowskich zbiorów B, B 2,..., B rodzi {{X i B i }, i =, 2,..., } jest rodzią zdrzeń iezleżych. Fkt. Zmiee losowe X i Y są iezleże wtedy i tylko wtedy, gdy dl kżdego (x, y) F X,Y (x, y) = F X (x)f Y (y). W przypdku rozkłdu dyskretego wruek te jest rówowży wrukowi p k = p p k dl kżdego (, k) z odpowiediego zkresu. W przypdku rozkłdu ciągłego wrukiem rówowżym jest f(x, y) = f X (x)f Y (y) dl prwie wszystkich (x, y) (tz. rówość może ie zchodzić zbiorze o polu 0). rzykłdy do zd. 5., 5.2 2

3 Wrtość oczekiw i mcierz kowricji zmieej losowej dwuwymirowej. Współczyik korelcji. Defiicj. (EX, EY ) to wektor wrtości oczekiwych zmieej losowej dwuwymirowej (X, Y ). Cov(X, Y ) = EXY EXEY - współczyik kowricji zmieych X i Y [ D 2 ] X Cov(X, Y ) Cov(X, Y ) D 2 to mcierz kowricji zmieej losowej dwuwymirowej (X, Y ) Y rmetry te są dobrze określoe, o ile istieją wrtości oczekiwe i wricje zmieych losowych X i Y Fkt. Dl dowolej fukcji borelowskiej EZ = Eg(X, Y ) = g(x, y k )p k, T k T 2 = g(x, y)f(x, y)dxdy, o ile cłk (szereg) zbieże. Stąd jeśli istieją EX i EY, to orz jeśli istieją D 2 X i D 2 Y, to Defiicj. g(x, y)df X,Y (x, y) = gdy X m rozkłd dyskrety zdy ciągiem {(x, y k, p k ), T, k T 2 }; gdy X m rozkłd ciągły o gęstości f(x, y). E(X + Y ) = EX + EY D 2 (X + Y ) = D 2 X + D 2 Y + 2Cov(X, Y ). rzy złożeiu, że istieją D 2 X > 0 i D 2 Y > 0, określmy współczyik korelcji zmieych losowych X i Y jko: Włsości współczyik korelcji: ρ XY. ρ XY = Cov(X, Y ) D2 X D 2 Y. ρ XY = wtedy i tylko wtedy, gdy Y = X + b dl pewych stłych 0, b, przy czym ρ XY = odpowid > 0, ρ XY = odpowid < 0 (peł liiow zleżość Y od X). Gdy ρ XY = 0, mówimy, że X i Y są ieskorelowe. rzykłdy do zd

4 Fkt. Jeżeli zmiee losowe X i Y są iezleże orz ich wrtości oczekiwe i wricje istieją, przy czym wricje są iezerowe, to EXY = EXEY stąd orz ρ XY = 0. D 2 (X + Y ) = D 2 X + D 2 Y Ztem jeśli zmiee losowe o skończoych i iezerowych wricjch są iezleże, to są też ieskorelowe. Implikcj odwrot ie jest prwdziw. rzykłdy do zd. 5.4 Sum iezleżych zmieych losowych. X i Y to iezleże zmiee losowe odpowiedio o dystrybutch F X (x) i F Y (y). Wówczs Z = X + Y m rozkłd o dystrybucie F X+Y (z) = Jest to tzw. splot dystrybut (mir). F X (z y)df Y (y). Jeśli X i Y mją rozkłdy ciągłe o gęstościch odpowiedio f X (x) i f Y (y), to Z = X + Y też m rozkłd ciągły o gęstości f X+Y (z) = Jest to zy m splot gęstości. f X (z y)f Y (y)dy = (f X f Y )(z). 4

5 Zbieżości ciągu zmieych losowych z prwdopodobieństwem i stochstycz. Defiicj. Ciąg zmieych losowych X, X 2,... jest zbieży z prwdopodobieństwem (i. prwie pewo) do zmieej losowej X, jeżeli Ozczeie: X X, X (ω : lim X (ω) = X(ω)) =. p.. X, lim X = X z prwd.. Uwg: Ciąg zbieży puktowo jest zbieży z prwdopodobieństwem. (Ciąg X, X 2,... jest zbieży puktowo do X, jeżeli lim X (ω) = X(ω) dl kżdego ω Ω.) Zbieżość stochstycz: Defiicj. Ciąg zmieych losowych X, X 2,... jest zbieży stochstyczie (i. według prwdopodobieństw) do zmieej losowej X, jeżeli Ozczeie: X Fkt. () Jeżeli X X, to X (b) Jeżeli X ɛ>0 X, lim X = X. X. ( X X ɛ) 0. X, to istieje podciąg (X k ) cigu (X ), tki że X k X. 5

6 rw wielkich liczb (WL) Defiicj. Niech X, X 2,... będzie ciągiem zmieych losowych o skończoych wrtościch oczekiwych EX = m. Niech S = X + X X, = m + m m. Mówimy, że ciąg (X ) spełi słbe prwo wielkich liczb (SWL), gdy S = (X k m k ) 0. Mówimy, że ciąg te spełi moce prwo wielkich liczb (MWL), gdy Oczywiście MWL = SWL. S 0. WL dl ciągów zmieych losowych o jedkowym rozkłdzie Twierdzeie Chiczy. Niech (X ) będzie ciągiem iezleżych zmieych losowych o jedkowym rozkłdzie, przy czym E X <. Wtedy ciąg te spełi SWL, które w tym przypdku moż zpisć w postci S = X k m = EX. MWL Kołmogorow. Niech (X ) będzie ciągiem iezleżych zmieych losowych o jedkowym rozkłdzie. Ciąg te spełi MWL, które w tym przypdku moż zpisć w postci S = wtedy i tylko wtedy, gdy E X <. X k m = EX. 6

7 Szczególy przypdek: Jeżeli (X ) to ciąg iezleżych zmieych losowych o jedkowym rozkłdzie zerojedykowym B(, p), tz. (X = ) = p = (X = 0), to S m rozkłd Beroulliego B(, p), tki jk rozkłd ilości sukcesów w próbch Beroulliego z prwdopodobieństwem sukcesu p, m = EX = p. rwo wielkich liczb Beroulliego, twierdzeie Borel: Niech S będzie liczbą sukcesów w próbch Beroulliego z prwdopodobieństwem sukcesu p. Wtedy zchodzi WL Beroulliego (XVII/XVIII w.) (SWL) S p. twierdzeie Borel (pocz. XX w.) (MWL) S p. Iterpretcj: Częstość występowi sukcesu w próbch Beroulliego przybliż przy dużym prwdopodobieństwo p sukcesu w pojedyczej próbie. Odpowid to obserwcjom z tury, że częstość zdrzei losowego stbilizuje się pewym poziomie. rzykłdy do zd

8 rzykłdy zstosowń WL Metod Mote Crlo obliczi cłek ozczoych: Niech X, X 2,... X będzie ciągiem iezleżych zmieych losowych o jedkowym rozkłdzie jedostjym przedzile [, b] orz iech f będzie fukcją rzeczywistą tką, że Ef(X ) istieje i jest skończo. rzy powyższych złożeich f(x ), f(x 2 ),... f(x ) jest tkże ciągiem iezleżych zmieych losowych o jedkowym rozkłdzie, przy czym istieje wrtość oczekiw Ef(X ). odto Ef(X ) = b b f(x)dx. Z MWL Kołmogorow mmy f(x k ) z pr. Ef(X ) = b f(x)dx. b Możemy ztem do obliczi przybliżoej wrtości cłki ozczoej b stępujący lgorytm: f(x)dx zstosowć (i) losujemy iezleżie liczby u, u 2,..., u z rozkłdu jedostjego U[0, ]; (ii) przeksztłcmy x k = + (b )u k dl k =, 2,..., otrzymując w te sposób próbkę z rozkłdu U(, b); (iii) jko przybliżoą wrtość cłki przyjmujemy b f(x)dx b f(x k ). rzykłdowy progrm w Mtlbie fuctio clkowiemotecrlo N=0000; %N - ilość prób Mote Crlo %(im wieksze N, tym wyik przyblizoy blizszy rzeczywistej wrtosci clki) =-; % - pocztek przedzilu clkowi b=; %b - koiec przedzilu clkowi %geerujemy x, x 2,..., x N z rozkłdu jedostjego przedzile (, b) x=+(b-)*rd(,n); %liczymy wrtości fukcji podcłkowej f(x ), f(x 2 ),..., f(x N ), gdzie f(x) = x 2 f=sqrt(-x.ˆ2); %obliczmy przybliżoą wrtość cłki ze wzoru b f(x k ) clk=(b-)/n*sum(f) Uwg: b f(x)dx = x2 dx = π, Kilk otrzymych wyików przybliżoych:,5725;,5680;,5736;,

9 Dystrybut empirycz: Rozwżmy ciąg X, X 2,... X iezleżych zmieych losowych o jedkowym rozkłdzie opisym dystrybutą F (x). Ciąg te iterpretujemy jko opis wyików iezleżych pomirów pewej wielkości fizyczej X, dokoywych w tych smych wrukch fizyczych. Wrtości x, x 2,... x zmieych losowych w tym ciągu to wyiki kokretych tkich pomirów. Ciąg X, X 2,... X zywmy próbą prostą. Niech S (x; X, X 2,... X ) ozcz ilość elemetów próby prostej, których wrtość jest miejsz iż x. F (x; X, X 2,... X ) = S (x; X, X 2,... X ) (lbo F (x; x, x 2,... x )) zywmy dystrybutą empiryczą. Zuwżmy, że S (x; X, X 2,... X ) ozcz ilość tych X i, których wrtość jest miejsz iż x. Jest to ztem ilość sukcesów w próbch Beroulliego, gdzie sukces w itej próbie to zdrzeie {X i < x} i p = (X i < x) = F (x) iezleżie od i. Ztem S (x; X, X 2,... X ) m rozkłd Beroulliego B(, p = F (x)). Z tw. Borel otrzymujemy, że F (x; X, X 2,... X ) = S (x; X, X 2,... X ) p = F (x). Iczej mówiąc, dl dużych, dl prwie kżdej wrtości (x, x 2,... x ) wektor losowego (X, X 2,... X ) mmy F (x; x, x 2,... x ) F (x), czyli dystrybut empirycz jest w przybliżeiu rów dystrybucie teoretyczej F. = rzykłd: Niebieski wykres: F (x) = e x dl x > 0, czerwoy wykres: relizcj dystrybuty empiryczej. 0 = =