Rchuek prwopoobieństw MA1181 Wyził T, MS, rok k. 2013/14, sem. zimowy Wykłowc: r hb. A. Jurlewicz Wykł 9: Róże rozje zbieżości ciągów zmieych losowych. rw wielkich liczb. Zbieżość z prwopoobieństwem 1: Defiicj: Ciąg zmieych losowych X 1, X 2,... jest zbieży z prwopoobieństwem 1 (i. prwie pewo) o zmieej losowej X, jeżeli Ozczeie: X X, X (ω : lim X (ω) = X(ω)) = 1. p.. X, lim X = X z prw. 1. Uwg: Ciąg zbieży puktowo jest zbieży z prwopoobieństwem 1. (Ciąg X 1, X 2,... jest zbieży puktowo o X, jeżeli lim X (ω) = X(ω) ω Ω.) Zbieżość stochstycz: Defiicj: Ciąg zmieych losowych X 1, X 2,... jest zbieży stochstyczie (i. weług prwopoobieństw) o zmieej losowej X, jeżeli Ozczeie: X Fkt: () Jeżeli X X, to X (b) Jeżeli X ɛ>0 X, lim X = ( X X ɛ) X, to istieje pociąg (X k ) cigu (X ), tki że X k Zbieżość wzglęem mometów rzęu r: Defiicj: Złóżmy, że l pewego r > 0 E X r, E X r są skończoe l wszystkich N. Ciąg zmieych losowych X 1, X 2,... jest zbieży wzglęem mometów rzęu r (i. w przestrzei ) o zmieej losowej X, jeżeli Ozczeie: X E X X r Dl r = 2 mówimy, że ciąg (X ) jest zbieży śreiokwrtowo o Ozczeie: X śr.kw. X, l.i.m.x = 1
Fkt: Dl owolego ustloego r 0 > 0: L () Jeżeli X r 0 X, to X L (b) Jeżeli X r 0 X, to X X l kżego 0 < r < r 0. Zbieżość weług rozkłu: Defiicj: Niech X m rozkł o ystrybucie F (x), X - rozkł o ystrybucie F (x). Ciąg zmieych losowych X 1, X 2,... jest zbieży weług rozkłu (i. słbo zbieży) o zmieej losowej X, jeżeli F (x) F (x) l kżego tkiego x, w którym F (x) jest ciągł. Ozczeie: X Fkt: () Jeżeli X (b) Gy X X, F X, to X F. X, gzie (X = ) = 1 l pewej stłej, to X (c) Jeżeli X X, to X () Jeżeli X X, to X Twierzeie Lévy ego: 1. Niech zmiee losowe X, X mją rozkły o fukcjch chrkterystyczych opowieio ϕ (t), ϕ(t). Jeżeli X X, to ϕ (t) ϕ(t) l kżego t. 2. Niech X m rozkł o fukcji chrkterystyczej ϕ (t). Jeżeli ϕ (t) ϕ(t) l kżego t i gricz fukcj ϕ(t) jest ciągł w t = 0, to ϕ(t) jest fukcją chrkterystyczą pewej zmieej losowej X orz X Uwg: W zbieżościch z prwopoobieństwem 1, stochstyczej, w przestrzei gricz zmie losow X jest określo z prwopoobieństwem 1, tz. jeżeli X i X są gricmi ciągu X, to (X = X ) = 1. W zbieżości słbej określoy jest tylko rozkł griczy ego cigu i kż zmie losow X o tkim rozkłzie może reprezetowć słbą gricę tego ciągu. 2
rw wielkich liczb (WL) rwo wielkich liczb Beroulliego, twierzeie Borel: Niech S bęzie liczbą sukcesów w próbch Beroulliego z prwopoobieństwem sukcesu p. Wtey zchozi WL Beroulliego (XVII/XVIII w.) (SWL) S p. twierzeie Borel (pocz. XX w.) (MWL) S p. Iterpretcj: Częstość występowi sukcesu w próbch Beroulliego przybliż przy użym prwopoobieństwo p sukcesu w pojeyczej próbie. Opowi to obserwcjom z tury, że częstość zrzei losowego stbilizuje się pewym poziomie. Defiicj: Niech X 1, X 2,... bęzie ciągiem zmieych losowych o skończoych wrtościch oczekiwych EX = m. Niech S = X 1 + X 2 +... + X, = m 1 + m 2 +... + m. Mówimy, że ciąg (X ) spełi słbe prwo wielkich liczb (SWL), gy S = 1 (X k m k ) Mówimy, że ciąg te spełi moce prwo wielkich liczb (MWL), gy Oczywiście MWL = SWL. S 3
WL l ciągów zmieych losowych o jekowym rozkłzie Twierzeie Chiczy Niech (X ) bęzie ciągiem iezleżych zmieych losowych o jekowym rozkłzie, przy czym E X <. Wtey ciąg te spełi SWL, które w tym przypku moż zpisć w postci S = 1 X k m = EX 1. MWL Kołmogorow Niech (X ) bęzie ciągiem iezleżych zmieych losowych o jekowym rozkłzie. Ciąg te spełi MWL, które w tym przypku moż zpisć w postci S = 1 wtey i tylko wtey, gy E X <. X k m = EX 1. Szczególy przypek: twierzeie Borel, w kosekwecji WL Beroulliego, gyż jeżeli (X ) to ciąg iezleżych zmieych losowych o jekowym rozkłzie zerojeykowym B(1, p), tz. (X = 1) = p = 1 (X = 0), to S m rozkł Beroulliego B(, p), tki jk rozkł ilości sukcesów w próbch Beroulliego z prwopoobieństwem sukcesu p, m = EX 1 = p. WL l ciągów zmieych losowych o różych rozkłch Twierzeie Czebyszew Niech (X ) bęzie ciągiem prmi iezleżych zmieych losowych, l których l kżego istieje wricj D 2 X <, przy czym l pewego c D 2 X c < l wszystkich. Wtey ciąg te spełi SWL. Twierzeie Mrkow Niech (X ) bęzie ciągiem zmieych losowych, tkim że D 2 S = D2 (X 1 +... + X ) 2 2 (Oczywiście zkłmy, że wricj t istieje.) Wtey ciąg te spełi SWL. Twierzeie Kołmogorow Niech (X ) bęzie ciągiem iezleżych zmieych losowych, tkich że istieje wricj D 2 X <. Jeżeli D 2 X <, 2 to ciąg te spełi MWL. =1 4
Wże zstosowi WL: Meto Mote Crlo obliczi cłek ozczoych: Niech X 1, X 2,... X bęzie ciągiem iezleżych zmieych losowych o jekowym rozkłzie jeostjym przezile [, b] orz iech f bęzie fukcją rzeczywistą tką, że Ef(X 1 ) istieje i jest skończo. rzy powyższych złożeich f(x 1 ), f(x 2 ),... f(x ) jest tkże ciągiem iezleżych zmieych losowych o jekowym rozkłzie, przy czym istieje wrtość oczekiw Ef(X 1 ). oto Ef(X 1 ) = 1 b 1 b f(x)x. Z MWL Kołmogorow mmy f(x k ) z pr.1 Ef(X 1 ) = 1 b f(x)x. b Możemy ztem o obliczi przybliżoej wrtości cłki ozczoej stępujący lgorytm: b f(x)x zstosowć () losujemy iezleżie liczby u 1, u 2,..., u z rozkłu jeostjego U[0, 1]; (b) przeksztłcmy x k = + (b )u k l k = 1, 2,..., otrzymując w te sposób próbkę z rozkłu U(, b); (c) jko przybliżoą wrtość cłki przyjmujemy b Dystrybut empirycz: f(x)x b f(x k ). Rozwżmy ciąg X 1, X 2,... X iezleżych zmieych losowych o jekowym rozkłzie opisym ystrybutą F (x). Ciąg te iterpretujemy jko opis wyików iezleżych pomirów pewej wielkości fizyczej X, okoywych w tych smych wrukch fizyczych. Wrtości x 1, x 2,... x zmieych losowych w tym ciągu to wyiki kokretych tkich pomirów. Ciąg X 1, X 2,... X zywmy próbą prostą. Niech S (x; X 1, X 2,... X ) ozcz ilość elemetów próby prostej, których wrtość jest miejsz iż x. F (x; X 1, X 2,... X ) = S (x; X 1, X 2,... X ) (lbo F (x; x 1, x 2,... x )) zywmy ystrybutą empiryczą. Zuwżmy, że S (x; X 1, X 2,... X ) ozcz ilość tych X i, których wrtość jest miejsz iż x. Jest to ztem ilość sukcesów w próbch Beroulliego, gzie sukces w itej próbie to zrzeie {X i < x} i p = (X i < x) = F (x) iezleżie o i. Ztem S (x; X 1, X 2,... X ) m rozkł Beroulliego B(, p = F (x)). Z tw. Borel otrzymujemy, że F (x; X 1, X 2,... X ) = S (x; X 1, X 2,... X ) p = F (x). Iczej mówiąc, l użych, l prwie kżej wrtości (x 1, x 2,... x ) wektor losowego (X 1, X 2,... X ) mmy F (x; x 1, x 2,... x ) F (x), czyli ystrybut empirycz jest w przybliżeiu rów ystrybucie teoretyczej F. 5