Tablice wzorów z probabilistyki

Transkrypt

1 Akademia Górniczo - Hutnicza im. Stanisªawa Staszica Wydziaª Elektrotechniki, Automatyki, Informatyki i In»ynierii Biomedycznej Kierunek: Automatyka i robotyka Tablice wzorów z probabilistyki Prowadz cy: dr Beata Orchel

2 1 Schematy wyboru Wariacje z powtórzeniami: W k n = V k n = n k Kombinacje z powtórzeniami: Cn k = ( ) n+k 1 n 1 Wariacje bez powtórze«: Vn k = n (n 1)... (n k + 1) = n! k! Kombinacja bez powtórze«: C k n = ( n k ) n! = (n k)!k! Liczba ci gów binarnych, które maja n wyrazów i k jedynek ( ) n # bin = k 2 Przestrze«probabilistyczna Zdarzenie elementarne najprostsze, nierozkªadalne wyniki do±wiadczenia losowego charakteryzuj ce si tym,»e ka»de powtórzenie do±wiadczenia losowego ko«czy si jednym z nich. odzin podzbiorów S zbioru Ω nazywamy σ-ciaªem na Ω je±li: 1) S 2)A S (Ω \ A) S 3) {A i } S A i S Tw. Je»eli na danym zbiorze S zdeniujemy wiele σ-ciaª to iloczyn mnogo±ciowy tych σ-ciaª te» jest σ-ciaªem: S σ-ciaªo na Ω i I S i σ-ciaªo na Ω Zbiory Borelowskie Ω = B = {(, a), a }, σ-ciaªem zbiorów Borelowskich na nazywamy σ-ciaªo generowane przez rodzin B. Miar nazywamy σ-ciaªo na Ω, które: ( ) 1) A S, µ(a) 0 2)A i A j =, i j, A i, A j S(niezale»ne) µ A i = µ(a i ) 3 Wªasno±ci rozkªadu prawdopodobie«stwa (A, B S): a) P ( ) = 0 b) P (Ω A) = 1 P (A) c) A B (zawiera si ) P (A) P (B) d) P (A B) = P (A) + P (B) P (A B) e) P (A \ B) = P (A) P (A B) 1

3 4 ó»ne modele przestrzeni probabilistycznych 1. Model przeliczalny Ω = (ω 1,..., ω n,...), S = 2 Ω, f : Ω ω i f(ω i ) = p i 0 P (A) = i:ω i A p i, A Ω, p i = 1 i=0 (Ω, S, P ) przestrze«probabilistyczna Ω zbiór sko«czony lub przeliczalny przestrze«probabilistyczna 2. Model klasyczny Ω = (ω 1,..., ω n,...) zbiór sko«czony,, S = 2 Ω, f : Ω ω i f(ω i ) = p i = 1 n, i 1,..., n P (A) = i:ω i A p i = Ā Ω, A Ω, p i = 1, Ā liczno± zbioru A i=0 3. Prawdopodobie«stwo geometryczne Ω odcinek, gura pªaska, bryªa µ miara b d ca odpowiednio dªugo±ci, polem, obj to±ci, 0 < µ < P (A) = µ(a) µ(ω), A S(musimy tak okre±li S, aby A miaªo miar ) 4. Prawdopodobie«stwo warunkowe S σ -ciaªo nad Ω, (Ω, S, P ) przestrze«probabilistyczna, B S, P (B) > 0 S σ -ciaªo nad B, S = {C : C = A B, A S}, (B, S, P ) zacie±niona przestrze«probabilistyczna, P (A B) - prawdopodobie«stwo zdarzenia A pod warunkiem,»e zaszªo zdarzenie B. P B : S A P (A B) = P (A B) P (B) 5. Prawdopodobie«stwo caªkowite denicja: Twierdzenie: 1) n A i = Ω, 2) A i zdarzenia niezale»ne, czylia i A j =, i j n P (B) = P (B A i )P (A i ) Przypadek podziaªu na 2 cz ±ci (X X = Ω) i wydarzenia O: 5 Niezale»no± zdarze«1. P (A B) = P (A) P (B) P (O) = P (O X) P (X) + P (O X ) P (X ) 2. Zdarzenia A 1,..., A n s niezale»ne je»eli dla ka»dego podci gu wybranego z tego ci gu prawdopodobie«stwo iloczynu elementów jest równe iloczynowi prawdopodobie«stw. P (A k1 A k2... A kr ) = P (A k1 ) P (A k2 ) P (A kr ), 1 k 1 k 2... k r 2

4 6 Model probabilistyczny dla n prób Bernoulliego Prawdopodobie«stwo sukcesu w ka»dym do±wiadczeniu jest takie samo, do±wiadczenia przebiegaj niezale»nie. (k liczba sukcesów), A = {(x 1,..., x n ) : n x i = k} (k sukcesów w n próbach) ( ) n P k = P (A) = p k (1 p) n k k 7 ozkªad i dystrybuanta zmiennej losowej 1. ozkªadem prawdopodobie«stwa zmiennej losowej nazywamy unormowan P x : (Ω, S, P ) przestrze«probabilistyczna, X : Ω S zmienna losowa, A Ω podzbiór Ω P x (A) = P (X 1 [A]) = P ({ω Ω : X(ω) A}) = P (X A) 2. Funkcja charakterystyczna zbioru A nazywamy funkcje δ A (ω): { 1, ω A δ A (ω) = f(ω)δ A (ω) = 0, ω / A { f(ω), ω A 0, ω / A Przypadki rozwini cia (µ = 1 caªka Lebesque'a): A Ω f(ω)µ(ω) = f(ω)δ A (ω)µ(ω) A A = Ω f(ω)µ(ω) = f(ω) + 1µ(ω) 3. G sto± zmiennej losowej X f(x X) Wªasno±ci (a) Sumowalna do 1, f l = f(x)dx = 1 (b) Nieujemna, f(x) > 0 4. Wªasno±ci dystrybuanty: (a) lim F X(x) = 0 x (b) lim F X(x) = 1 x (c) F X (x) niemalej ca (d) zbiór punktów nieci gªo±ci jest przeliczalny, (e) przynajmniej lewostronnie ci gªa lim x x i 5. Dystrybuanta dla ró»nych rozkªadów: Ω F X (x) = F X (x i ) = F X (x 0) dystrybuanta rozkªadu dyskretnego - funkcja schodkowa: P X = i I p i δ xi dystrybuanta rozkªadu ci gªego: F X (x) = P X (x (, x)) = i I p i σ xi ((, x)) = P X = f l F X (x) = P X (x (, x)) = f l ((, x)) = dystrybuanta rozkªadu mieszanego: F X (x) = P X (x (, x)) = i I P X = i I p i + f l p i σ xi ((, x)) + f l ((, x)) = i:x i <X x i:x i <X f(t)dt p i x p i + f(t)dt 3

5 Dzi ki dystrybuancie mo»emy wyznaczy prawdopodobie«stwo zdarzenia nale» cego do przedziaªu: P (x a, b)) = F (b) F (a) Ka»da zmiana ostro±ci powoduje wstawienie granicy prawostronnej dystrybuanty: P (x (a, b)) = F (b) F (a + 0), P (x (a, b ) = F (b + 0) F (a + 0), P (x a, b ) = F (b + 0) F (a), Dla rozkªadu dyskretnego ponadto: p i = F (x i + 0) F (x i ) 0 8 Momenty zmiennych losowych 1. Warto± oczekiwana E(X) = Je±li istnieje E(X): n p i x i dla P X = p i δ i o ile p i x i < + i i xf(x)dx dla P X = f l o ile x f(x)dx < + E(aX + b) = ae(x) + b 2. moment rz du n: E((x x 0 ) n ) 3. moment zwykªy: x 0 = 0 4. moment centralny: x 0 = E(x) 5. wariancja (moment centralny drugiego rz du): (a) zawsze nieujemna: V (X) 0 (b) V (X) = E(X 2 ) (E(X)) 2 (c) V (ax + b) = a 2 V (X) 9 Kwantyle V (X) = E((X E(X)) 2 ) Kwantyl rz du p (p 0, 1 ) zmiennej losowej o g sto±ci f i dystrybuancie F X nazywamy ka»da liczb x p speªniaj c jeden z warunków (równowa»nych sobie): 1. P (X < x p ) = p 2. x p f(x) dx = p 3. F X (x p ) = p Kwantyl rz du 1 2 nazywamy median i oznaczamy m e, (x 0,5 = m e ). 10 Najwa»niejsze rozkªady zmiennych losowych 10.1 Dyskretne Zmienna losowa przyjmuje sko«czon lub przeliczaln liczb warto±ci. Poda rozkªad takiej zmiennej losowej to poda warto±ci jakie ona przyjmuje oraz prawdopodobie«stwo przyj cia tych warto±ci. n P X = p i σ xi gdzie σ xo (A) miara unormowana: σ xo (A) = { 1, x A 0, x/ A i X 4

6 a) ozkªad zero-jedynkowy b) ozkªad dwumianowy P X = (1 p)δ 0 + pδ 1, p (0, 1) E(X) = p, V (X) = p(1 p) P x = n ( ) n δ i p i (1 p) n i i i=0 E(X) = pn, V (X) = np(1 p) c) ozkªad Poissona z parametrem λ > 0 (k dowolne) rozkªad zdarze«rzadkich (wypadki, wygrane, spadaj ce krople deszczu) P (X x = k) = λk k! e λ, k N 0 E(X) = λ, V (X) = λ d) ozkªad geometryczny - czas oczekiwania na pierwszy sukces P (x = k) = q k 1 p q = 1 p p (0, 1), k N 0 E(X) = 1 p, V (X) = p q Typu ci gªego Je±li istnieje nieujemna sumowalna funkcja g sto±ci rozkªadu f(x) i jest ona ci gªa to rozkªad zmiennej X jest rozkªadem ci gªym: P X = f l a) ozkªad normalny X N(m, σ), m, σ > 0, f(x) = 1 σ 2π e (x m) 2 2σ 2 E(X) = m, V (X) = σ 2 ( ) X m F (X) = Φ, Φ( X) = 1 Φ(X) σ b) ozkªad jednostajny f(x) = 1, x (a, b) b a 0, x / (a, b) E(X) = a + b 2 c) ozkªad wykªadniczy (λ > 0) czas bezawaryjnej pracy, V (X) = (b a)2 12 f(x) = { λe λx, x 0 0, x < 0 E(X) = 1 λ, V (X) = 1 λ 2 E(X) ±redni czas bezawaryjnej pracy 5

7 11 Funkcje zmiennej losowej X zmienna losowa, g(x) funkcja przeksztaªcaj ca X Y taka,»e P (g(x) = ± ) = 0 I y - zbiór tych x, dla których: g(x) < y, I y = {x : g(x) < y} Ciekawe przypadki: Y = g(x), F Y (y) = P (Y < y) = P (y(x) < y) = P (X I Y ) P X = f x l rozkªad ci gªy, Y = g(x) i g(x) nie jest staªa w»adnym przedziale oraz zbiór rozwi za«równania y = g(x), (x 1, x 2,..., x n ) jest przeliczalny dla ka»dego y, to rozkªad zmiennej losowej Y wyra»a si wzorem: P y = f Y l. f Y (y) = f x (x 1 ) g (x 1 ) + f x(x 2 ) g (x 2 ) +..., dla y : x 1,x 2,... takie»e g(x i ) = y i g (x i ) 0 0, dla pozostaªych y P X (x) rozkªad dowolny, g(x) dyskretna, staªa (przedziaªami) P Y (y) = n p iδ yi rozkªad dyskretny, w którym warto±ci p i s ró»nic dystrybuant na danym przedziale funkcji g(x), a y i to kolejne warto±ci funkcji g(x). Momenty funkcji zmiennych losowych g(x i )p i n, gdy P X = p i δ xi i g(x i )p i < + i E(Y ) = E(g(x)) f(x)g(x)dx, gdy f(x)g(x) dx < + 12 Nierówno± Czebyszewa: 1. ε>0, X 0, P (x ε) E(X) ε 2. ε>0, E(X) = m < +, P ( x m ɛ) V (X) ε 2 3. σ > 0, c > 0, V (x) = σ 2, E(x) = m, P ( x m cσ) 1 σ 2 13 Centralne twierdzenie graniczne Lindeberga-Levy'ego: Ci g niezale»nych zmiennych losowych {X i },..,n o tym samym rozkªadzie, x dana warto± ograniczaj ca E(X i ) = m < +, V (X i ) = σ 2 < +, σ > 0, S n = lim P n ( ) ( ) S n E(S n ) Sn nm < x = P V (Sn ) σ < x Φ(x) n n x i E(S n ) = E(X 1 + X X n ) = nm, V (S n ) = nσ 2 Twierdzenie Moivre'a - Laplace'a - rozkªad binarny: P X (x) = pδ 1 + (1 p)δ 0, E(X) = p, V (X) = pq = p(1 p) ( ) Sn np P < x Φ(x) npq 6

8 14 Miara Jordana i Lebesgue'a Miara Lebesgue'a jest uogólnieniem miary Jordana i ma nast puj ce wªasno±ci: 1. Ka»dy zbiór Borelowski jest mierzalny w sensie Lebesgue'a 2. Zbiory jednopunktowe, sko«czone i przeliczalne maj miar Lebesgue'a równ zero 3. Je»eli zbiór jest mierzalny w sensie Jordana to jest mierzalny w sensie Lebesgue'a i obie miary s sobie równe 15 Wielowymiarowe zmienne losowe Dana jest przestrze«probabilistyczna (Ω, F, P ) oraz X 1, X 2,..., X n zmienne losowe. ozkªad dyskretny Mówimy, ze wektor losowy (X, Y ) jest typu dyskretnego je±li istnieje sko«czony lub przeliczalny zbiór K 2 taki,»e P (X,Y ) (K) = 1, K = {(x 1, y 1 ),..., (x m, y n )}. P (X,Y ) = i={1,...,m} j={1,...,n} p ij δ (xi,y j ), p ij 0, p ij = 1 ozkªad ci gªy Mówimy, ze wektor losowy (X, Y ) ma rozkªad typu ci gªego, je±li istnieje sumowalna funkcja f : 2 2 taka,»e P (X,Y ) = f l 2, f - g sto± wektora losowego (X, Y ). P (X,Y ) (A) = P ((x, y) A) = A f(x, y) dx dy, A B( 2 ) 16 Dystrybuanta wektora losowego (X, Y ) : F (X, Y ) : 2 F (X,Y ) (x, y) = i:x i <x j:y j <y (,x) (,y) p ij, 1. Wªasno±ci dystrybuanty wektora losowego (X, Y ): P (X,Y ) = ij ij p ij δ ( x i, y j ) rozkªad dyskretny f(s, t) ds dt, P (X,Y ) = f l 2 rozkªad ci gªy (a) x lim F (X,Y )(x, y) = 0, y lim F (X,Y )(x, y) = 0 y x (b) x lim F (X,Y ) (x, y) = 1 y (c) Funkcja niemalej ca ze wzgl du na ka»d ze zmiennych (d) Funkcja przynajmniej lewostronnie ci gªa ze wzgl du na ka»d ze zmiennych (e) Dystrybuanta nad prostok tem (x 1, y 1 ) (x 2, y 2 ) musi by dodatnia: P (x 1, X < x 2 y 1, Y < y 2 ) = F (X,Y ) (x 1, y 1 ) + F (X,Y ) (x 2, y 2 ) F (X,Y ) (x 1, y 2 ) F (X,Y ) (x 2, y 1 ) 0 Je±li rozkªad wektora losowego jest ci gªy, to: f (X,Y ) (x, y) = F 2 x y 7

9 2. ozkªady brzegowe: Wektor losowy typu dyskretnego P (X,Y ) = ij n p ij δ ( x i, y j ), p i = p i0 j, p j = j=1 m p ij0, P X = m p i δ xi, P Y = Wektor losowy typu ci gªego P (X,Y ) = f l 2, f 1 (x) = 3. ozkªady warunkowe: Wektor losowy typu dyskretnego n p j δ xi, j=1 f (X,Y ) (x, y)dy, f 2 (y) = P X = f 1 l, P Y = f 2 l, E(X) = xf 1 dx, E(Y ) = yf 2 dy, f (X,Y ) (x, y)dx p xi y j = p i j = P (X = x i Y = y j ) = P ((X, Y ) = (x i, y j ), P (Y = y j ) > 0, P (Y = y j ) P X Y =yj = m p (xi y j )δ xi p yj x i = p j i = P (Y = y j X = x i ) = P ((X, Y ) = (x i, y j ), P (X = x i ) > 0, P (X = x i ) n P Y X=xi ) = p (yj x i )δ yj Wektor losowy typu ci gªego j=1 ϕ(x Y = y 0 ) = f(x, y 0) f 2 (y 0 ), f 2(y 0 ) > 0, P X Y =y0 = ϕ(, y 0 )l ψ(y X = x 0 ) = f(x 0, y) f 1 (x 0 ), f 1(x 0 ) > 0, P Y X=x0 = ψ(x 0, )l F (X Y = y 0 ) = x ϕ(x y 0 )dy, F (Y X = x 0 ) = 4. Linie regresji pierwszego rodzaju: {(E(X Y = y), y)} linia regresji zmiennej losowej X wzgl dem zmiennej Y, E(X Y = y 0 ) = xϕ(x y 0 )dx {x, (E(Y X = x))} linia regresji zmiennej losowej Y wzgl dem zmiennej X, E(Y X = x 0 ) = yψ(y x 0 )dy y ψ(y x 0 )dx 8

10 5. Momenty dwuwymiarowych zmiennych losowych: Moment zwykªy wektora losowego (X, Y ) rz du t + s: m ts = E(X t Y s ) x t y s f(x, y)dx dy, P (X,Y ) = f l 2 o ile caªka jest zbie»na E(X t Y s ) = x t i ys j p ij ij P (X,Y ) = p ij δ (xi,y j ) ij o ile szereg jest zbie»ny Moment centralny mieszany rz du t + s: µ ts = E ( (X E(X)) t (Y E(Y )) s) 6. Kowariancja - Moment centralny mieszany rz du 2 wektora losowego (X, Y ): xy f(x, y)dx dy, P (X,Y ) = f l 2 o ile caªka jest zbie»na E(XY ) = x i y j p ij P (X,Y ) = p ij δ (xi,y j ) ij o ile szereg jest zbie»ny 17 Wspóªczynnik korelacji gdzie V (X) > 0, Wªasno±ci: 1. ϱ 1 ij V (Y ) > 0 - wariancje zmiennych cov(x, Y ) = µ 11 = E(XY ) E(X) E(Y ) ϱ = ϱ (X,Y ) = ϱ XY = cov(x, Y ) V (X) V (Y ) 2. ϱ (X,Y ) = ϱ(ax + b, cy + d), a, c 0 zale»no± liniowa (X,Y silnie skorelowane) 3. ϱ = 1 P (Y = ax + b) = 1 a 0 18 Niezale»no± zmiennych losowych Zmienne losowe X, Y nazywamy niezale»nymi je»eli dla dowolnych zbiorów borelowskich A i B: Warunki niezale»no±ci (X, Y niezale»ne): P (X A, Y B) = P (X A) P (Y B) Ogólny warunek: (X,Y ) 2 F (X,Y ) (x, y) = F X (x) F Y (y) ozkªad ci gªy P (X,Y ) = fl 2 (X,Y ) 2 f(x, y) = f 1 (x) f 2 (y) ozkªad dyskretny P (X,Y ) = ij p ijδ (xi,y j ) (X,Y ) 2 p ij = p i p j Dla ka»dych zmiennych niezale»nych E(XY ) = E(X) E(Y ), wi c wszystkie zmienne niezale»ne s nieskorelowane, ale nie na odwrót. 19 Zmienne nieskorelowane (X, Y ) nieskorelowane V (X + Y ) = V (X) + V (Y ) (X, Y ) nieskorelowane ϱ = 0 cov(x, Y ) = 0 V (X + Y ) = V (X) + V (Y ) + 2cov(X, Y ) E(X), E(Y ) = E(XY ) = E(X) E(Y ) cov(x, Y ) = 0 ϱ = 0 9

11 20 egresja liniowa E(Y h(x)) 2 = min: 1. Pierwszego rodzaju: h(x) = E(Y X = x) 2. Drugiego rodzaju zmiennej losowej Y wzgl dem zmiennej losowej X to prosta: y = ax + b, E(Y ax b) 2 = min gdzie: a = ϱ σ y, σ x m x, m y, m z z rozkªadów brzegowych, b = m y ϱ σ y σ x, ϱ wspóªczynnik korelacji y m y = ϱ σ y σ x (x m x ) 21 ozkªad normalny na pªaszczy¹nie X N(m 1, m 2 ; σ 1, σ 2 ): ozkªady brzegowe: f(x, y) = ( 1 2πσ 1 σ 2 1 ϱ 2 e 1 2(1 ϱ 2 ) ( (x m 1 ) 2 σ 2 1 P X = f 1 l, X N(m 1, σ 1 ) P Y = f 2 l, Y N(m 2, σ 2 ) )) +2ϱ x m 1 x m 2 + (x m 2 )2 σ 1 σ 2 σ 2 2 Dla takiego rozkªadu linie regresji pierwszego rodzaju = linie regresji drugiego rodzaju 22 Funkcje dwuwymiarowych zmiennych losowych Dla zmiennych (X,Y): P (X,Y ) = f (x,y) l 2 Dla zmiennych (U,V): P (U,V ) = k (u,v) l 2 U = U(x, y), V = V (x, y) Maj c dany wzór na (u, v) szukamy: x = x(u, v) y = y(u, v) Jakobian: J = x u y u x v y v 0 G sto± nowego rozkªadu wyra»a si wzorem: f (X,Y ) (x(u, v), y(u, v) J (x, y) D k (U,V ) (u, v) = 0 pozostaªe x,y ozkªad brzegowy (faktycznie wyznaczany): k U (u) = Przypadki szczególne: k (U,V ) (u, v)dv 1. Splot funkcji U = X + Y, V = X = J = 1 Je±li (X,Y) - niezale»ne f(x, y) = f 1 (x) f 2 (y) k U (u) = f(x, u x)dx = f 1 (x) f 2 (u x)dx = f 1 f 2 2. U = X Y = J = 1 3. U = XY = J = 1 x 10

12 23 Tablica rozkªadu normalnego x 0,00 0,01 0,02 0,03 0,04 0,05 0,06 0,07 0,08 0,09 0,0 0, , , , , , , , , , ,1 0, , , , , , , , , , ,2 0, , , , , , , , , , ,3 0, , , , , , , , , , ,4 0, , , , , , , , , , ,5 0, , , , , , , , , , ,6 0, , , , , , , , , , ,7 0, , , , , , , , , , ,8 0, , , , , , , , , , ,9 0, , , , , , , , , , ,0 0, , , , , , , , , , ,1 0, , , , , , , , , , ,2 0, , , , , , , , , , ,3 0, , , , , , , , , , ,4 0, , , , , , , , , , ,5 0, , , , , , , , , , ,6 0, , , , , , , , , , ,7 0, , , , , , , , , , ,8 0, , , , , , , , , , ,9 0, , , , , , , , , , ,0 0, , , , , , , , , , ,1 0, , , , , , , , , , ,2 0, , , , , , , , , , ,3 0, , , , , , , , , , ,4 0, , , , , , , , , , ,5 0, , , , , , , , , , ,6 0, , , , , , , , , , ,7 0, , , , , , , , , , ,8 0, , , , , , , , , , ,9 0, , , , , , , , , , ,0 0, , , , , , , , , , ,1 0, , , , , , , , , , ,2 0, , , , , , , , , , ,3 0, , , , , , , , , , ,4 0, , , , , , , , , , ,5 0, , , , , , , , , , ,6 0, , , , , , , , , , ,7 0, , , , , , , , , , ,8 0, , , , , , , , , , ,9 0, , , , , , , , , ,