Wstęp. zbiór wszystkich zdarzeń elementarnych (sample space), S zbiór zdarzeń, (events), P prawdopodobieństwo (probability distribution).

Transkrypt

1 Wstęp,, S P przestrzeń probabilistycza (Probability space), zbiór wszystich zdarzeń elemetarych (sample space), S zbiór zdarzeń, (evets), P prawdopodobieństwo (probability distributio). P : S R

2 ZMIENNA LOSOWA JEDNOWYMIAROWA. (Radom variable) Zmieą losową X azywamy fucję (pratyczie ażdą) przyporządowującą zdarzeiom elemetarym liczby rzeczywiste. X : Ω R

3 (doładiej: przeciwobrazy zbiorów borelowsich powiy ależeć do - ciała zdarzeń S, : X ( x S ). ) x R

4 Dystrybuatą zmieej losowej X azywamy fucję F: R R oreśloą wzorem: F( x) P( X x) P ((, x)) (distributio fuctio of the radom variable X). X

5 Własości dystrybuaty (properties): a) F jest fucją iemalejącą (odecreasig), b) F jest fucją lewostroie ciągłą (leftcotious), c) F( ) 0; F( ),

6 d) dystrybuata zmieej losowej wyzacza jedozaczie jej rozład, e) P( a X b) F( b) F( a); a b f) P( X a) F( a ) F( a); gdzie F( a ) ozacza graicę prawostroą, (jeśli a jest putem ciągłości dystrybuaty to P(X = a ) = 0).

7 Zmiea losowa jest soowa (dysreta) jeśli zbiór wszystich jej wartości jest sończoy lub przeliczaly. (A radom variable is said to be of the discrete type if it taes values belogig to a set which is at most coutable)

8 Rozład zmieej losowej soowej często oreślamy za pomocą fucji prawdopodobieństwa (probability fuctio): P( X x ) p (własość: p ; p 0) Liczby p azywamy soami (jump), a wartości x putami soowymi (jump poits).

9 Zmiea losowa X o dystrybuacie F jest ciągła jeśli jej dystrybuata da się przedstawić w postaci x F( x) f ( t) dt x R A radom variable X is said to be of the cotiuous type if there exists a o-egative fuctio f(x) such that for every real umber x the followig relatio holds: x F( x) f ( t) dt x R where F(x) is the distributio fuctio of X. The fuctio f(x) is called the probability desity of the radom variable X.

10 gdzie f jest fucją spełiającą warui: f ( x) 0; x R; f ( t) dt i azywamy ją gęstością prawdopodobieństwa (probability desity ) zmieej losowej X.

11 Własości zmieej losowej ciągłej: a) b) c) a, P( X a) f ( x) dx F( a) P( a P( a X b) P( a X b) b a X b) P( a f ( x) dx F( b) F( a) P( X b) f ( x) dx F( b), b X b) d) P( X a) 0, dla dowolego a R ; (bra putów soowych), e) F jest fucją ciągłą i prawie wszędzie różiczowalą F ( x) f ( x) (rówość zachodzi dla putów ciągłości gęstości). Wyzaczając gęstość przez różiczowaie dystrybuaty, w putach w tórych F ie jest różiczowala moża przyjąć, że gęstość jest rówa zero.

12 Twierdzeie Lebesgue'a o rozładzie dystrybuaty. Każdą dystrybuatę F moża przedstawić w postaci gdzie F c F cf c3f3 c c c3, c, c, c3 F - dystrybuata soowa, F - dystrybuata ciągła, F 3 - dystrybuata osobliwa, 0

13 Wartość oczeiwaa (Expectatios). Ozaczeie EX lub m. Dla zmieej losowej soowej EX i x i p i (jeśli ewetualy szereg jest zbieży bezwzględie, taie szeregi są "odpore" p. a zmiaę olejości wyrazów).

14 Dla zmieej losowej ciągłej EX xf ( x) dx (jeśli ewetuala cała iewłaściwa jest zbieża bezwzględie).

15 Własości wartości oczeiwaej (properties) a) Ec = c; c stała, b) E(aX) = ae(x), c) E(X + Y) = EX + EY, d) Jeśli a X b, to a EX b jeśli X Y, to EX EY, e) EX E X, EX E X f) X, Y iezależe, to E(XY) = EXEY g) Jeśli Y g(x ), to EY i g( x ) p i g( x) i f ( x) dx gdy X gdy X soowa ciagla ciągła,

16 Wariacja (Variace). Ozaczeie D X lub lub VX. D X = E(X EX) Dla zmieej losowej soowej D X ( xi EX ) p Dla zmieej losowej ciągłej D X ( x EX ) f ( x ) dx i

17 Własości wariacji (properties) a) D c = 0; c stała, b) D (ax) = a D (X), c) D (X + b) = D X, b stała, d) X, Y iezależe, to D (X Y) = D X + D Y e) D X = E(X ) (EX).

18 Wyorzystaie własości e) D X i x x i p i EX gdy X soowa f ( x) dx EX gdy X ciagla ciągła

19 Odchyleie stadardowe (Stadard deviatio). Ozaczeie DX lub. DX D X

20 Momet rzędu ( - liczba aturala) (momet of order ) m W szczególości m E m X EX własość e) wariacji moża zapisać D X = m m.

21 Własość. Jeśli istieje m to istieje m s dla ażdego s <.

22 Momet cetraly rzędu ( - liczba aturala) (cetral momet) E X EX Zauważmy, że w szczególości = 0, = D X.

23 Rozłady soowe (radom variable of the discrete type) Rozład jedoputowy (oe-poit distributio) Oreślamy: P(X = c) = gdzie c ustaloa liczba.

24 EX = c, D X = 0 (tylo te rozład ma zerową wariację!!!)

25 Rozład dwuputowy (zerojedyowy) (two-poit distributio, zero-oe distributio) Niech p ( 0, ) będzie ustaloą liczbą. Oreślamy: P(X = 0) = q, P(X = ) = p ; gdzie q = p. Umowa: 0 - poraża (failure) - suces (success)

26 EX = p, D X = pq

27 Rozład dwumiaowy (biomial distributio) Dla daych p ( 0, ), N oreślamy fucję prawdopodobieństwa P( X ) p q gdzie q = p = 0,,,...,. (wzór Beroulliego)

28 Sprawdzeie 0 P( X ) 0 p q p q

29 EX = p, D X = pq

30 Przyład Rzucamy 4 razy ostą sześcieą. Jaie jest prawdopodobieństwo, że w co ajmiej 3 rzutach liczba ocze będzie podziela przez 3?.

31 Szuae prawdopodobieństwo to P(X 3) = P(X = 3) + P(X = 4), gdzie sucesem jest uzysaie 3 lub 6 ocze, więc p = /3.

32 Zatem ) ( 3 X P ) ( 0 4 X P ) ( 3) ( 3) ( X P X P X P

33 Przyład Obliczymy wartość oczeiwaą rozładu dwumiaowego. p q p p q p p q p q p EX 0 ) ( )! )!( ( )! ( )!!(!

34 Rozład geometryczy (geometric distributio) X - liczba prób Beroulliego poprzedzających pierwszy suces P( X ) pq q = - p = 0,,,...

35 Sprawdzeie 0 P( X ) 0 pq p q

36 EX = q/p; D X = q/p a q p 9 q q

37 Rozład Poissoa (Poisso distributio) Dla > 0 oreślamy fucję prawdopodobieństwa P( X )! e = 0,,,...

38 Sprawdzeie!! ) ( e e e e X P

39 EX = D X = a 3 m, , m

40 Przyład Obliczymy wartość oczeiwaą rozładu Poissoa. e e e e EX 0 )! (!

41 dla > 9 rozład Poissoa moża przybliżać rozładem N(, ), zachodzi wtedy P( X ) 0,5 0, 5 gdzie - dystrybuata rozładu N(0, )

42 Rozład Poissoa (możliwość odczytu w tablicy) może dla dużych (pratyczie 30) i małych p (pratyczie p 0,) przybliżać rozład dwumiaowy (przybliżeie Poissoa) p q e! gdzie p

43 Rozłady ciągłe (radom variable of the cotiuous type) Rozład jedostajy (uiform distributio) Rozład tórego gęstość jest stała w pewym przedziale azywamy jedostajym (rówomierym). Gęstość rozładu jedostajego w (a, b) f x b a x ( ( ) a ; b ) 0 x ( a; b)

44 Poieważ gęstość ta ma oś symetrii w pucie x = (a + b)/ to EX = (a+b)/

45 Poażemy, że DX = (b a) /

46 Przyład Najpierw obliczymy EX b ab a a b a b x a b dx a b x EX b a b a Zatem 3 ) ( a b b a b ab a EX EX X D

47 a 0, 8

48 Rozład wyładiczy (expoetial distributio) Rozład te występuje często w zagadieiach rozładu czasu między zgłoszeiami (awariami) lub czasu oczeiwaia a obsługę w systemach olejowych. Gęstość rozładu wyładiczego o parametrze a > 0 ma postać ae f ( x) 0 ax x 0 x 0 (szczególy przypade rozładu gamma)

49 dystrybuatą tego rozładu jest fucja ax e x 0 F( x) 0 x 0 (uzasadieie: F'(x) = f(x))

50 Przyład Obliczymy EX EX 0 D X xae a ax ax ax dx xe e a a 9 0 a d = 0 Uwaga 0 x e ax m dx! a! a! a ( ) j j! (a > 0) j

51 Własość. ) Jeśli liczba zgłoszeń w systemie olejowym w przedziale czasu (t, t + T) ma rozład Poissoa o parametrze T, oraz liczby zgłoszeń przychodzące w rozłączych przedziałach czasu są iezależe to czas X między olejymi zgłoszeiami ma rozład wyładiczy o parametrze a = /. ) Dla dowolych t, T > 0 mamy T X P t X T t X P (własość brau pamięci) T X P e e e t X P T t X P t X P t X T t X P t X T t X P Ta ta a T t ) ( Jest to jedyy rozład ciągły o tej własości.

52 Rozład gamma ) (0,, p ) ( ) ( x x p e x x f p x p Uwaga. - fucja Eulera, 0 ) ( dx e x x p. () = ( - )!; ) / ( ; )!! ( ) ( (dla p = jest to rozład wyładiczy o parametrze a = /

53 EX = p; D X = p a 6 3 p p m p( p )...( p )

54 Rozład Erlaga a > 0, m N m a x f ( x) ( m )! 0 m e ax x 0 x 0 (szczególy przypade rozładu gamma) Dla m = jest to rozład wyładiczy. Uwaga. Suma m iezależych zmieych losowych o rozładzie wyładiczym z parametrem a ma rozład Erlaga.

55 EX = m/a; D X = m/a a 6 3 m d = (m - )/a m m m( m )...( m ) a

56 Rozład ormaly (Gaussa) N ( m, ) (ormal distributio) Dla m R, ( 0, ) Oreślamy gęstość rozładu f ( x) e ( xm) x R

57 Uwaga Jeśli X ma rozład N(m, ) to zmiea losowa Y = (X m)/ ma rozład N(0, ) (taie przeształceie azywamy stadaryzacją).

58 Wartości dystrybuaty dla argumetów ujemych wyzaczamy a podstawie zależości ( x) = (x)

59 Przyład Czas wyoaia pewego detalu (mi.) jest zmieą losową o rozładzie ormalym N(m; ). Wiadomo, że 80% robotiów wyouje te detal dłużej iż 0 miut a 60% robotiów dłużej iż miut. a) wyzacz parametry rozładu czasu wyoaia detalu m i, b) jai odsete robotiów wyouje te detal w czasie rótszym iż 6 miut? X czas wyoaia detalu.

60 P ( X 0) 0,8 stąd m 0 0,84 m 0, P ( X ) 0,6 stąd 5 Rozwiązując powyższy uład rówań otrzymamy m =,85; = 3,39. P( X 6) P X,85 6,85 3,39 3,39 (,0) (,0) 0,07, 7% PY,0

61 Prawo trzech sigm (the "three-sigma" rule) Jeśli X ma rozład N(m, ) to P( m X m ) P( m X m ) 0,683 0,955, P ( m3 X m3 ) 0,997 Ostatia rówość świadczy o tym, że chociaż rozład ormaly ma gęstość różą od zera a całej prostej to pratyczie iemal wszystie realizacje supiają się w przedziale ( m 3, m 3 ) własość tą azywamy prawem trzech sigm., m 38 m + 38 m

62 ROZKŁAD ZMIENNEJ LOSOWEJ -WYMIAROWEJ. CIĄGI LOSOWE, S, P- ustaloa przestrzeń probabilistycza. X = (X, X,..., X ) - zmiea losowa - wymiarowa (wetor losowy, ciąg losowy). X : R (fucja borelowsa) P : X R [0, ] - rozład zmieej losowej X.

63 Dystrybuata F ( x,..., x ) P X x,..., X X azywamy zmieą losową soową jeśli jej zbiór wartości jest sończoy lub przeliczaly. x

64 X azywamy zmieą losową ciągłą jeśli jej dystrybuata da się przedstawić w postaci F x x ( x,..., x ) f ( u,..., u ) du... du dla pewej ieujemej fucji f zwaej gęstością.

65 Uwaga..W putach ciągłości fucji f zachodzi: ( ) F( x x,... x..., x ) f ( x,..., x.dla A ( R ) mamy P X ( A)... f ( x,..., x ) dx... dx A ).

66 Rozłady waruowe. Jeśli P,..., ( X x j,..., X xj ) 0 to rozład zmieej losowej soowej ( - ) wymiarowej oreśloej wzorem: P ( X x, j,..., X x j X x j,..., X x j ) P P ( X,..., ( X x j x, j,..., X..., X x j x ) j ) azywamy rozładem waruowym zmieej losowej X,..., X pod waruiem, że X x,..., X x j j. Jeśli gęstość f,..., 0 to rozład zmieej losowej ciągłej ( - ) wymiarowej oreśloej wzorem: f ( x,..., x x,..., x ) f ( x f ( x,,..., x..., x azywamy rozładem waruowym zmieej losowej X,..., X pod waruiem, że X x,..., X x. ) )

67 Niezależość zmieych losowych. Zmiee losowe X, X,..., X są iezależe jeśli F( x,..., x ) F ( x) F ( x )... F ( x ) dla dowolych x, x,..., x R. gdzie F i - dystrybuaty rozładów brzegowych jedowymiarowych. Dla zmieych losowych soowych odpowiedi warue ma postać: P( X x j,..., X xj ) P ( X x )... P ( X j j dla dowolych x j,..., xj R Dla zmieych losowych ciągłych odpowiedi warue ma postać: f ( x,..., x ) f( x) f ( x )... ( x dla dowolych x, x,..., x R. f ) x )

68 Parametry (mogą ie istieć ) Wartość oczeiwaa E ( X ) EX, EX,..., EX.

69 Wariacja ( X ) D X, D X,...,D X D.

70 Momet (zwyczajy) rzędu l + l l l l m l E X X... X l... l, l

71 Momet cetraly rzędu l + l l l l X EX X EX E... l... l l,

72 Macierz owariacji K = [ ij ], gdzie ij E cov( X i, X j E X i EX i X j EX j X X EX EX ) i j i j Uwaga ii = D X i, jest wariacją i - tej sładowej.

73 Macierz K jest wadratowa, symetrycza i słabo dodatio oreśloa ( w szczególości ma wyzaczi ieujemy).

74 Macierz orelacji ij cov( X, X ) DX i i DX Uwaga ii =. j j R = [ ij ], gdzie

75 Wielowymiarowy rozład Beroulliego. Dla daych N, p = [p, p,...,p ] T taiego, że 0 p i oraz i i = [i, i,...,i ] T gdzie i j {0,,..., } i j j oreślamy P(X = i) = i 0! i! i! i0 i p0 p...!... i! p i gdzie p 0 p i ; i i 0 i j. j

76 Wielowymiarowy rozład wielomiaowy. Jeśli w defiicji rozładu Beroulliego mamy p o = 0, i j j to otrzymay rozład azywamy rozładem wielomiaowym. Wielowymiarowy rozład Poissoa. Dla daego = [,,..., ] T oraz i = [i, i,...,i ] T gdzie i j {0,,..., } oreślamy P(X = i) = i... e i i! i 0! gdzie 0 i i.

77 Rozład ormaly - wymiarowy. K - macierz owariacyja, iech detk 0. Zmiea losowa - wymiarowa ma rozład ormaly - wymiarowy gdy gęstość tej zmieej losowej wyraża się wzorem: ) ( ) ( exp ) )( ( exp ),...,, ( ) ( /, / m x L m x L m x m x l L x x x f x f T j j j j gdzie ) ( i i X E m dla i =,,..., L = [l j ] j, =,,..., jest macierzą odwrotą do K. Dla = warue K 0 jest rówoważy waruowi.

78 Poieważ macierz K ma wtedy postać K to ) ( L Zatem gęstość rozładu ormalego - wymiarowego N(m, m,,, ) moża zapisać astępująco: exp ), ( m y m y m x m x y x f Powyższa fucja gęstości ma stałą wartość f(x, y) = h a elipsie: cost m y m y m x m x o środu w pucie (m, m ). gdzie l h. Dla 0 osie główe mają rówaia:

79 4 m x m y Dla = 0 osie rozpatrywaej elipsy są rówoległe do osi uładu współrzędych. Zauważmy, że gdy to jeda oś się wydłuża, a druga sraca, zależość między zmieymi staje się ściśle liiowa. Osie powyższej elipsy tworzą z osią OX ąty i + / gdzie tg

80 Fucja charaterystycza: ( t) expim T t t T Kt gdy = to ( t, t ) expi t t m t m t t t Twierdzeie. Dowoly rozład brzegowy ormalego rozładu -wymiarowego jest rozładem ormalym.

81 Twierdzeie. Jeśli sładowe ormalego rozładu -wymiarowego są parami iesorelowae to są iezależe.

82 Zbieżość ciągów losowych Zbieżość ciągu zmieych losowych z prawdopodobieństwem (prawie apewo) Ciąg zmieych losowych (X ) jest zbieży do zmieej losowej X z prawdopodobieństwem jeśli P : lim X ( ) X ( ) Średiowadratowa zbieżość ciągu zmieych losowych Ciąg zmieych losowych (X ) jest średiowadratowo zbieży do zmieej losowej X jeśli lime X X 0 Rozpatrując te rodzaj zbieżości załadamy, że dla występujących tu zmieych losowych (X ), X istieje sończoy momet rzędu. Nieiedy stosuje się zapis od limit i mea ). l.i.m. X X (srót

83 Stochastycza zbieżość ciągu zmieych losowych Ciąg zmieych losowych (X ) jest stochastyczie (wg prawdopodobieństwa) zbieży do zmieej losowej X jeśli lub rówoważie limp X X 0 X X 0 lim P 0

84 Zbieżość ciągu zmieych losowych wg dystrybuat (wg rozładu) Ciąg zmieych losowych (X ) jest zbieży do zmieej losowej X wg dystrybuat jeśli ciąg ich dystrybuat F jest zbieży do dystrybuaty F w ażdym pucie jej ciągłości (F jest dystrybuatą zmieej losowej X). Zależości miedzy zbieżościami. ZBIEŻNOŚĆ Z PRAWDOPODOBIEŃSTWEM ZBIEŻNOŚĆ ŚREDNIOKWADRATOWA ZBIEŻNOŚĆ STOCHASTYCZNA ZBIEŻNOŚĆ WG DYSTRYBUANT zbieżość do stałej (tz. gdy graica ma rozład jedoputowy)

85 Przyład. Rozpatrzmy ciąg zmieych losowych soowych oreśloych a przedziale [0, ) w astępujący sposób gdy ; X ( ) 0 gdy [0, ) ; P( X ) ; P( X 0) Ciąg X 0, X 0, X, X 03, X 3, X 3,... zbieży stochastyczie do zera bo 0 lim P X lim 0 jest Natomiast ciąg te ie jest zbieży w żadym pucie przedziale [0, ) bowiem dla ażdego ustaloego putu otrzymujemy rozbieży ciąg zer i jedye (zera i jedyi występują a dowolie daleich miejscach).

86 Przyład. Ciąg zmieych losowych X ciągłych o rozładach jedostajych a przedziałach (0, /) jest zbieży do rozładu jedoputowego X ( P ( X 0) ) wg dystrybuat.

87 Uwaga. Putowa graica ciągu dystrybuat ie musi być dystrybuatą. Jeśli ciąg fucji charaterystyczych odpowiadających rozpatrywaemu ciągowi dystrybuat jest putowo zbieży do fucji ciągłej to graica tych dystrybuat jest dystrybuatą