Statystyka Matematyczna. Skrypt. Spis treści. SKN Matematyki Stosowanej. s k n. m s 11 czerwca Oznaczenia i definicje 4

Transkrypt

1 Spis treści Ozaczeia i defiicje 4 Wioskowaie statystycze 4. Statystyki dostatecze Rodzia rozkładów wykładiczych Rozkłady iektórych statystyk Estymatory Defiicje Metody wyzaczaia estymatorów Testowaie hipotez statystyczych 8 3. Testy ajmociejsze Testy ilorazowe Statystyka bayesowska 0 4. Bayesowskie przedziały ufości Rodziy sprzężoe Decyzje statystycze Reguły bayesowskie Skrypt SKN Matematyki Stosowaej s k m s czerwca Rachuek prawdopodobieństwa 5. Fukcje zmieych losowych Fukcje charakterystycze Zbieżości probabilistycze rawa wielkich liczb Słabe prawa wielkich liczb Moce prawa wielkich liczb Cetrale Twierdzeia Graicze Nierówości Tabela rozkładów dyskretych 8 7 Tabela rozkładów ciągłych 9 0

2 7 Tabela rozkładów ciągłych Nazwa Fukcja gęstości arametry EX D X Dystrybuata F. tworząca Jedostajy χ<a,b> b a a < b a + b x a b a b a Normaly σ π e x m Trójkąty a x Log-ormaly xσ lx m e π σ σ > 0 m σ a x < a 0 3 a σ σ > 0 e m+ σ e σ e m+σ areto χ <b, ab a x a+ a, b > 0 ba a : a > b a a a : a > b x k Wykładiczy χr++ e x > 0 Gamma Γ, s χr++ s Γs xs e x s s > 0 Beta Γp+q ΓpΓq xp x q x, p, q > 0 x < p p+q e itb e ita itb a e x it s pq p+q p+q+ Laplace a σ e x m σ σ > 0 m σ Cauchy ego π Uog. Cauchy ego π +x - - b b+x a b > Weibulla sx s e xs s, s > 0 Γ + s s Γ + s Γ + s θit k π arctax + Chi-kw df eπx it Chi-kw df x e x T-studeta df Γ Γ + Γ Γ + x + m m x m Sedecora B m, mx m > 0 N + m+/ e Logistyczy x > 0 +e x it > 0 > +m m 4 > 4 Maxwella χr π x e x > 0 π 3π 8 π Rayleigha χr++ x xe > 0 π 4 π x 4 exp σ 9

3 6 Tabela rozkładów dyskretych Nazwa X = k EX D X Dystrybuata F. tworząca Zerojedykowy = p 0 = p p p Dwupuktowy p k p k Γk+, k! expe it + Rówomiery k p k p k p p Dwumiaowy p oissoa k k! e Geometryczy p p k p p p M N M N N N M N M k N M k N Hipergeometryczy m p p p m p k m m p k m Uj. dwumiaowy ascala Logarytmiczy θk k log θ Autorzy Katarzya Łuckowska Marci Szymański aweł Wietraszuk Niiejszy skrypt apisay został jako pomoc dla studiujących statystykę matematyczą. Wszelkie teksty w im zawarte staowią własość itelektualą autorów. racę złożoo w języku L A TEX ε Γs = Γs + = sγs 0 t s e t dt Γ =! N Bp, q = Bp, q = ΓpΓq Γp + q 0 t p t q dt c Studeckie Koło Naukowe Matematyki Stosowaej??? Warszawa

4 Ozaczeia i defiicje 5.6 Nierówości Oz. rzestrzeń parametrów. Θ Tw. 87 Schwarz. Jeśli EX < i EY <, to Oz. rzestrzeń prób. X R Oz. 3 Obserwacja losowa. wektor losowy X X Oz. 4 Rodzia rozkładów prawdopodobieństwa. { θ : θ X} Def. 5 Model statystyczy; rzestrzeń statystycza. E XY EX EY, poadto rówość zachodzi wtedy i tylko wtedy, gdy X i Y są liiowo zależe. Tw. 88 Jese. Niech E X < oraz g : R R wypukła, taka że E gx <, wtedy X, S, { θ : θ X} S = BX gex EgX. Def. 6 Idetyfikowalość. Własość modelu: θ θ θ θ Def. 7 Statystyka. Fukcja t : X R k taka, że X X tx jest zmieą losową a X, S, { θ : θ X} S = BX Def. 8 Statystyka k-wymiarowa. T : R R k T X,..., X X,..., X iid F Def. 9 k-ta statystyka pozycyja. X k: k-ta liczba w rosąco uporządkowaym ciągu Def. 0 Mediaa. { X + M e = : mod X : + X +: Def. Dystrybuata empirycza. F ˆ t = card{xi:xi t} Tw. Gliweko-Catelli. sup F t F ˆ t 0 t Tw. Własości dystrybuaty empiryczej.. t R F t, X F t. t R E F F t, X = F t 3. Ft,X F t d Z N 0, F t[ F t] Wioskowaie statystycze. Statystyki dostatecze Def. Statystyka dostatecza. T, że rozk. warukowy θ { T = t} ie zależy od θ Def. 3 Statystyka dostatecza. Statystyka dostatecza dla θ to taka, która geeruje podział dostateczy przestrzei prób. Tw. 3 O faktoryzacji. T jest dostatecza g θ - zależy od θ, zależy od x tylko przez T h - ie zależy od θ, zależy od x f θ x = g θ T x hx Def. 4 odział dostateczy. odział A przestrzei prób X jest dostateczy dla θ, jeśli przy każdym ustaloym zbiorze A A rozkład warukowy próby pod warukiem A ie zależy od θ. Def. 5 Kostrukcja miimalego podziału dostateczego. do apisaia Def. 6 Miimala statystyka dostatecza. Statystyka S jest miimala statystyką dostateczą gdy dla każdej iej statystyki dostateczej T istieje fukcja h taka, że S = ht. Def. 7 Miimala statystyka dostatecza. Miimala statystyka dostatecza dla θ to taka, która geeruje miimaly podział dostateczy przestrzei prób. Def. 8 Statystyka zupeła. Statystyka T = T X jest zupeła, jeżeli dla wszystkich θ Θ z rówości E θ ht = 0 wyika że h 0 z prawdopodobieństwem a zbiorze wartości T. Def. 9 Statystyka swoboda wzgl. θ. Statystyka, której rozkład ie zależy od θ. Def. 0 Statystyka swoboda I rzędu. Statystyka, której wartość oczekiwaa ie zależy od θ. Tw. 4 Basu. Jeżeli T jest statystyką dostateczą zupełą dla θ, a V statystyką swobodą, to T i V są iezależymi zmieymi losowymi. Tw. 5. Miimala statystyka dostatecza ie musi być zupeła Tw. 6. Jeżeli T jest statystyką dostateczą zupełą to jest miiimalą statystyką dostateczą Tw. 89 Czebyszew. Niech X będzie ieujemą zmieą losową. Wtedy dla każdego ε > 0 X ε EX ε. Tw. 90 Czebyszew. Niech g : R + R borelowska, iemalejące i dodatia, wtedy [rzykład] Dla gx = x i X := X EX otrzymujemy ε > 0 X > a Eg X ga X EX ε V ar X ε. Tw. 9 Hölder. Niech p, q > oraz p + q = i E X p <, E Y q <, wtedy E XY < oraz Tw. 9 Mikowski. Niech p wtedy E XY E X p p E Y q q. E X + Y p p E X p p + E Y p p Tw. 93 Kołomogorow. Niech X,..., X będą iezależymi zmieymi losowymi, takimi że EX i = 0 i EX i < i =,...,. Jeśli c > 0, że X i c =, i =,..., to gdzie S = X X. ε > 0 max k S k ε c + ε ES, 4 7

5 5.5 Cetrale Twierdzeia Graicze Tw. 79 CTG. Niech X, X,... będą iezależymi zmieymi losowymi o tym samym rozkładzie oraz iech EX = 0 i V arx =. Wtedy X X d N 0,. Tw. 80. Niech X, X,... będą iezależymi zmieymi losowymi o tym samym rozkładzie, iech EX = µ i V arx = σ. Wtedy dla każdego ε X X µ σ ε Φε. Tw. 8 Lideberga-Levy ego. Jeżeli zmiee losowe X, X,... są iezależe o jedakowych rozkładach z parametrami EX k = µ, V arx k = σ dla k=,,..., to a < S µ σ b = Φb Φa, gdzie Φ jest dystrybuatą rozkładu ormalego N0,. Ozacza to, że suma S ma rozkład asymptotyczie ormaly Nµ, σ. Tw. 8 de Moivre a-laplace a. Jeżeli zmiee losowe X, X,... są iezależe o jedakowych rozkładach dwupuktowych Berp, to a < S p b = Φb Φa, pq gdzie Φ jest dystrybuatą rozkładu ormalego N0,. Ozacza to, że suma S ma rozkład asymptotyczie ormaly Np, pq. Tw. 83 Berry-Essée. Jeżeli X jest ciągiem iezależych zmieych losowych o tym samym rozkładzie i E X 3 < to, sup S ES t Φt V ars C E X EX 3 σ 3, t R gdzie σ = V arx oraz π C < 0, 8. Tw. 84 oissoa. Jeżeli zmiee losowe X, X,... są iezależe o rozkładach dwumiaowych Bi, p i jeśli p = dla =,,..., to X! = k = k!k! pk p k = k k! e. Def. 86 Waruek Lideberga. Ciąg zmieych losowych X spełia waruek Lideberga, jeśli dla każedo ε > 0 gdzie s = k= V arx k. s k= E[X k EX k { Xk EXk >εs}] 0, Def. 87 Waruek Lapuowa. Ciąg zmieych losowych X spełia waruek Lapuowa, jeśli dla wszystkich k aturalych i dla pewego δ > 0 jest E X k +δ < oraz s +δ E X k EX k +δ = 0. Lem. 85. Waruek Lapuowa pociąga za sobą waruek Lideberga. Tw. 86. Jeśli ciąg iezależych zmieych losowych X spełia waruek Lideberga, to S ES a Φa jedostajie względem a. s k=.. Rodzia rozkładów wykładiczych Def. Rodzia rozkładów wykładiczych. Rodzia rozkładów { θ : θ Θ} taka, że każdy rokład jest postaci k p θ x = e cjθtjx bθ j= hx i T,..., T k są liiowo iezależe, a c,..., c k tworzą k-wymiarowy zbiór Tw. 7. Dla rodziy wykładiczej T X,, T k X jest miimalą statystyką dostateczą oraz statystyką zupełą. Tw. 8. Dla próby z rodziy wykładiczej jest statystyką dostateczą zupełą.. Rozkłady iektórych statystyk Def. Średia. X = Xi i T X i,, i Jest ieobciążoym estymatorem wartości oczekiwaej Jest zgodym estymatorem wartości oczekiwaej Tw. 9. V arx = V arx Def. 3 Wariacja z próby. S = Xi X Jest obciążoym estymatorem wariacji S X = σ Tw. 0 Fisher. Jeżeli X,..., X iid Nm, σ to. X, S są iezależe. X m, σ 3. S σ χ Tw.. Jeżeli X,..., X k iid N0, to. X i χ k. E X i = k i= EX i = k Tw.. Jeżeli Y,..., Y m są iezależe Y i χ vi to Y i χ vi T k X i Tw. 3. Jeżeli X,..., X iid Nm, σ Y,..., Y iid Nm, σ to S σ + S σ χ + Tw. 4 Gosset. Jeżeli X, Y są iezależe X N0, Y χ v to. X Y t v v. v X m σ vs σ v = X m S v tv Tw. 5. Jeżeli X, Y są iezależe X χ Y v χ to v F = X v Y v F v,v 6 5

6 Lem. 6. Na mocy CTG Jeżeli X ma rozkład dwumiaowy to Tw. 7 SWL Markowa. Niech X będzie ciągiem zmieych losowych takich, że X p p p Np, p p Uwaga: Jeżeli ie zamy p to przy kostruowaiu przedziału ufości zakładamy ajgorszy przypadek p = Tw. 7. X,..., X iid Nm, σ S = Xi X Y,..., Y iid Nm, σ S = Yi Y Tw. 8 Rozkład k-tej statystyki pozycyjej..3 Estymatory.3. Defiicje F = F Xk: = X k: < x = S σ S σ i=k F,! m! m! F xi F x i = F x! = t k t k dt k! k! 0! f Xk: = X k: = x = k! k! F xk F x k fx Def. 4 Estymator. Statystyka T X, X,..., X, której rozkład zależy od pewego parametru θ rozkładu populacji, Dla X = x,..., X = x, liczbę T x, x,..., x azywamy wartością estymatora. Def. 5 Kwadratowa fukcja straty estymatora T. LT, θ = T x gθ Def. 6 Ryzyko estymatora T ; Błąd średiokwadratowy. R T θ = E θ LT, θ Tw. 9. Jeżeli T jest estymatorem θ to dla jego ryzyka zachodzi Def. 7 Najlepszy estymator. gdzie D - zbiór estymatorów R T θ = V art x + ET x θ T 0 : θ Θ T D R T0 θ R T θ Def. 8 Estymator zgody. Estymator U ω, θ = fx ω, X ω,..., X ; θ parametru θ jest zgody, gdy jest o zbieży według prawdopodobieństwa do parametru θ, tz. gdy ε > 0 {ω : U ω; θ θ > ε} = 0 Def. 9 Estymator ieobciążoy. Estymator U jest ieobciążoym estymatorem parametru θ N EU = θ Def. 30 Estymator asymptotyczie ieobciążoy. Estymator U jest asymptotyczie ieobciążoym estymatorem parametru θ EU = θ Tw. 0. Jeżeli E θ U = θ przyajmiej asymptotyczie ieobciążoy oraz D U = 0, to U jest zgodym estymatorem parametru θ. Def. 3 Obciążeie estymatora. EU θ Def. 3 Estymator NMW. Estymatorem ieobciążoym o miimalej wariacji parametru θ azywamy te spośród ieobciążoych estymatorów tego parametru, który ma ajmiejszą wariację. wtedy X spełia SWL. V ars = 0, Tw. 7 WL Czebyszewa lub Markowa. Niech X będzie ciągiem zmieych losowych iezależych o skończoych wariacjach σ = V arx, =,,.... Jeżeli σk = 0, to ciąg X spełia SWL. k= Tw. 73 SWL Czebyszewa. Jeśli X są iezależe lub parami ieskorelowae i mają wspólie ograiczoe wariację, tj. to ciąg X spełia SWL. K V ar X i < K i =,,... Tw. 74 WL Chiczya. Niech X będzie ciągiem iezależych zmieych losowych o tym samym rozkładzie i skończoej wartości oczekiwaej µ. Wtedy ciąg X spełia SWL, tz. S µ ε = Moce prawa wielkich liczb Def. 85 MWL. Mówimy, że ciąg X spełia moce prawo wilkich liczb, jeżeli ciąg zmieych losowych S ES jest zbieży do zera z prawdopodobieństwem, tz. dla kazdego ε > 0 S ES = 0 =. Tw. 75 MWL Beroulliego. Ozaczmy przez S liczbę sukcesów w schemacie Beroulliego prób z prawdopodobieństwem sukcesu w pojedyczej próbie rówym p. Wtedy dla każdego ε > 0 sup S k k p ε =. k Tw. 76 Twierdzeie Kołomogorowa. Jeśli X = jest ciągiem iezależych zmieych losowych takich, że V arx <, =,,..., przy czym V arx <, to z prawdopodobieństwem = S ES = 0. Tw. 77 MWL Kołomogorowa. Jeżeli X = jest ciągiem iezależych zmieych losowych o jedakowym rozkładzie, E X <, to X spełia MWL, czyli S = EX z prawdopodobieństwem. Lem. 78. Jeśli X, X,... takie, że EX = µ dla =,,... to jeśli X = 0 = 0 MWL ie zachodzi µ 6 5

7 d Jeżeli X EX EX to X L e Jeżeli X to istieje podciąg Xk taki, że X k Tw. 64. Jeżeli jest rozkładem dyskretym, to dla zmieych losowych określoych a przestrzei probabilistyczej Ω, F, zachodzi rówoważość: X X X Def. 8. Rodzię zmieych losowych {X t : t T } azywamy jedostajie całkowalą, jeżeli sup E X t I C { Xt >C} = 0. t T Lem. 65. Jeżeli X t Y dla t T, EY <, to rodzia zmieych losowych {X t : t T } jest jedostajie całkowala. Tw. 66. X L p X dla p wtedy i tylko wtedy, gdy i X ii Rodzia { X p } jest jedostajie całkowala. Def. 8. Niech µ = będzie ciągiem rozkładów prawdopodobieństwa a E, BE. Mówimy, że jest o słabo zbieży do rozkładu µ jeżeli dla każdej fukcji ciągłej i ograiczoej f : E R zachodzi fdµ = fdµ. E Def. 83. Niech X, X, X,... będą zmieymi losowymi o rozkładach µ, µ, µ,... odpowiedio. Mówimy, że ciąg X jest zbieży według rozkładu do X, jeżeli ciąg µ słabo zbiega do µ, co zapisujemy X d Tw. 67. Następujące waruki są rówoważe: a Ciąg µ słabo zbiega do µ, b sup µ F µf dla każdego domkiętego zbioru F, c if µ G µg dla każdego otwartego zbioru G, d µ B = µb dla każdego zbioru B takiego, że µ B = 0. Tw. 68 Scheffe. Niech µ będzie miarą σ-skończoą oraz fukcje f i f będą ieujeme i takie, że miary ν A = f dµ, νa = fdµ są miarami probabilistyczymi. Niech poadto f f p.. względem miary µ. Wówczas A E sup ν A νa 0. A Mówimy wtedy, że miary ν zbiegają do miary ν w ormie całkowitej wariacji. Tw. 69. Niech µ, µ będą rozkładami ciągłymi o gęstościach f, f odpowiedio. Jeżeli f f p.. względem miary Lebesgue a, to ciąg rozkładów µ słabo zbiega do rozkładu µ. 5.4 rawa wielkich liczb 5.4. Słabe prawa wielkich liczb Def. 84 SWL. Mówimy, że ciąg X spełia słabe prawo wielkich liczb, jeżeli ciąg zmieych losowych S ES jest zbieży według prawdopodobieństwa do zera, tz. dla kazdego ε > 0 S ES > ε = 0 S ES ε =. Tw. 70 WL Beroulliego. Jeżeli S = X + X X ma rozkład dwumiaowy Bi, p, to dla każdego ε > 0 S p ε =. A Tw. Rao-Blackwella. Jeżeli ĝ jest estymatorem ieobciążoym fukcji gθ i jeżeli T jest statystyką dostateczą dla rodziy rozkładów, to E θ ĝ T jest estymatorem ieobciążoym o wariacji jedostajie ie większej od wariacji ĝ. Tw. Lehmaa-Scheffego. Dla dowolego estymatora ieobciążoego SX parametru θ estymator postaci E θ SX T gdzie T jest statystyką dostateczą zupełą jest ENMW. Lem. 3. Dla dowolego estymatora ˆθ jego błąd średiokwadratowy jest sumą jego wariacji i kwadratu obciążeia, tj. Eˆθ θ = V arˆθ + Eˆθ θ. Lem. 4. Jeżeli estymator jest ieobciążoy to jego błąd średiokwadratowy ryzyko jest rówe wariacji. Def. 33 Fukcja iformacji Fishera. Iθ = E θ lfx, θ θ = E θ lfi X i, θ Lem. 5. rzy spełioych założeiach ierówości Rao-Cramera zachodzi: Iθ = E θ θ l f θx Tw. 6 Nierówość Rao-Cramera. V ar ˆθ Iθ Tw. 7. Niech będą spełioe założeia ierówości Rao-Cramera. Wtedy estymator ieobciążoy o wariacji Iθ istieje ] θ l f θx = aθ [ θx θ Wtedy θx jest ENMW dla θ oraz aθ = Iθ. Def. 34 Efektywość estymatora. Efektywością estymatora ˆθ azywamy fukcję V ar θ ˆθ ef θ ˆθ = = Iθ V ar θ ˆθ Iθ. Def. 35 Estymator ajefektywiejszy. ˆθ : θ ef θ ˆθ = Lem. 8. Jeśli estymator jest estymatorem ajefektywiejszym to jest o rówież ENMW. Implikacja odwrota jest ieprawdziwa Def. 36 Błąd stadardowy estymatora. Błędem stadardowym estymatora ˆθ parametru θ azywamy dowoly estymator jego odchyleia stadardowego σˆθ i ozaczamy go SEˆθ. Def. 37 Estymator studetyzoway. Niech ˆθ będzie ieobciążoym estymatorem parametru θ. Wówczas studetyzowaym estymatorem θ azywamy wielkość ˆθ θ SEˆθ. Def. 38 Fukcja cetrala. Fukcją cetralą azywamy fukcję tx, θ, której rozkład ie zależy od θ i która dla każdego X = x jest mootoiczą fukcją θ. Def. 39 Kostrukcja zbiorów ufości. Wyzaczamy stałe t, t takie, że θ t tx, θ t = α. θ t tx, θ t ˆθ X θ ˆθ X rzedział ˆθ X; ˆθ X jest przedziałem ufości dla θ a poziomie ufości α. Def. 40 rzedział ufości. ara statystyk LX, UX określa przedział ufości a poziomie ufości α, α 0, - ustaloe. Jeżeli θ [LX θ UX] α to [LX, UX] - przedział ufości dla θ a poziomie ufości α Jeżeli θ [LX θ] α to [LX, + ] - przedział ufości dla θ a poziomie ufości α 3 Jeżeli θ [θ UX] α to [, UX] - przedział ufości dla θ a poziomie ufości α Def. 4 Asymptotyczy przedział ufości. rzedział g ; g, gdzie g = gx,..., x i g = gx,..., x, jest asymptotyczym przedziałem ufości dla gθ a poziomie α, jeżeli g gθ g α θ Θ θ 4 7

8 .3. Metody wyzaczaia estymatorów Def. 4 Metoda mometów. Def. 43 Metoda ajwiększej wiarygodości. x = EX = fθ θ = f x fx,..., x, θ = Π i=fx i, θ ˆθ : l fx,..., x, θ = 0 θ 3 Testowaie hipotez statystyczych Def. 44 Test zradomizoway. Test H 0 : θ Θ 0 przeciw H : θ Θ utożsamiamy z fukcją ϕ: X 0; taką że jeżeli ϕx = 0 to ie odrzucamy H 0, jeżeli ϕx = to odrzucamy H 0, a jeżeli ϕx 0;, to uruchamiamy losowaie iezależe od próby losowej X, w którym odrzucamy H 0 z prawdopodobieństwem ϕx. Def. 45 Test iezradomizoway. Def. 46 Obszar krytyczy testu. Wtedy ϕx = χ W x ϕ: X {0; } W = {x X: ϕx = } Def. 47. Test hipotezy H 0 a poziomie istotości α jest to każdy test ϕ taki, że θ Θ E θ ϕx α Dla testu iezradomizowaego Def. 48 Błąd I rodzaju. Odrzuceie prawdziwego H 0 Def. 49 Błąd II rodzaju. rzyjęcie fałszywego H 0 E θ ϕx = θ X W Def. 50 oziom istotości; rozmiar testu. α = {x W H 0 } = I rodz. Def. 5. β = {x X \ W H } = II rodz. Def. 5 Moc testu. {x W H } = MW = β Def. 53. Fukcja mocy testu jest to fukcja π : Θ 0;, πθ = E θ ϕx, θ Θ Def. 54 Test ieobciążoy. Dla α 0, {x W H 0 } = α {x W H } > α Def. 55 Test zgody. {x W H } = Tw. 9 orówaie mocy testów. Założeia: W, W X {x W H 0 } {x W H 0 } Jeżeli MW = {x W H } {x W H } = MW to test oparty a W jest jedostajie mociejszy od testu opartego a W 3. Testy ajmociejsze Def. 56 Test ajmociejszy. Test, który miimalizuje β przy zadaym α Lem. 30 Neymaa - earsoa. Niech R będzie dowolym zbiorem w X takim, że θ0 R α. rzypuśćmy że istieje zbiór R X, gdzie R = {x: px p0x K}, dla którego θ0 R = α. Wtedy θ R θ R. Lem. 3 Wiosek z lematu Neymaa-earsoa. Jeśli β jest mocą testu ajmociejszego a poziomie α 0; dla H 0 : = 0 przeciw H : =, to β > α, chyba że 0 =. Tw. 56 O odwrotym przekształceiu Fouriera. Rozkład prawdopodobieństwa µ, który ma całkowalą fukcję charakterystyczą ϕ, ma także ograiczoą i ciągłą gęstość f, daą wzorem fx = π e isx ϕsds. Tw. 57. Jeżeli fukcja charakterystycza ϕ zmieej losowej X jest okresowa o okresie π, to X jest zmieą losową typu dyskretego, przyjmującą tylko wartości całkowite 5.3 Zbieżości probabilistycze X = k = π π π e itk ϕtdt. Def. 80. Ciąg zmieych losowych X = jest zbieży do zmieej losowej X: a prawie a pewo, jeżeli co ozaczamy X b według prawdopodobieństwa, jeżeli dla każdego ε > 0 co ozaczamy X {ω : X ω = Xω} =, X X > ε = 0, b według p-tego mometu w L p, 0 < p <, jeżeli E X p <, E X p < dla =,,... oraz co ozaczamy X L p Tw. 58 Waruek rówoważy zbieżości prawie a pewo. E X X p = 0, X X ε > 0 : N sup X k X ε k N Tw. 59. Jeżeli dla każdego ε > 0 = X X ε <, to X Tw. 60. Jeżeli EX <, EX < oraz = EX X <,to X Tw. 6 Twierdzeie o dwóch szeregach. Jeśli X - iezależe zmiee losowe oraz EX < V ar X < X zb. p.. Tw. 6 Waruki Cauchy ego. Zachodzą astępujące waruki Cauchy ego: a b Tw. 63. Zachodzą astępujące implikacje: a Jeżeli X to X b Jeżeli X L p to X X X ε > 0 : N,m N = 0 X X m < ε =, X X ε > 0 :,m X X m > ε = 0. c Jeżeli X L p p q to X L q 8 3

9 5. Fukcje zmieych losowych Tw. 48. Jeżeli zmiea losowa X : Ω a, b, a < b ma rozkład o gęstości f X oraz ϕ : a, b R jest klacy C oraz ϕ 0. to zmiea losowa Y = ϕx ma rozkład o gęstości gdzie h = ϕ. f Y y = f X hy h y I ϕa,b y, Tw. 49. Załóżmy, że zamy gęstość f X,Y wektora dwuwymiarowego X, Y oraz, że day jest wektor U, W = ϕ X, Y, ϕ X, Y. Zatem mamy u = ϕ x, y x = φ u, w w = ϕ x, y y = φ u, w wtedy Jakobia J wyraża się wzorem J = φ u φ u φ w φ w atomiast fukcja gęstości wektora losowego U, W wygląda astępująco f U,W u, w = J f X,Y φ u, w, φ u, w. Tw. 50 Addytywość rozkładu Gamma. Jeżeli X i Γ, s i = χ R++ s Γs xs e x to oraz dla sumy 5. Fukcje charakterystycze θx i Γ, θs i X i Γ, s i i Def. 78 Fukcja charakterystycza. Fukcją charakterystyczą zmieej losowej X : Ω R azywamy fukcję ϕ X : R C, daą wzorem ϕ X t = Ee itx t R. Tw. 5 Własości fukcji charakterystytczych. Niech ϕ X będzie fukcją charakterystyczą zmieej losowej X. Wtedy. ϕ X 0 =. ϕ X t 3. ϕ X t = ϕ X t 4. ϕ X t jest jedostajie ciągła Def. 79. Fukcję ϕ : R C azywamy dodatio określoą wtedy i tylko wtedy, gdy dla każdego aturalego, dla każdego ciągu t,..., t liczb rzeczywistych i zespoloych z,..., z mamy ϕt k t l z k z l 0. k,l Tw. 5 Bochera. Fukcja ϕ jest fukcją charakterystyczą pewego rozkładu prawdopodobieństwa wtedy i tylko wtedy, gdy jest ciągła, dodatio określoa i ϕ0 =. Tw. 53. Jeśli E X <, N, to -ta pochoda fukcji charakterystyczej ϕ X istieje i jest jedostajie ciągła, a poadto ϕ X 0 = i EX. Tw. 54. Jeśli X, Y są iezależymi zmieymi losowymi, to ϕ X+Y t = ϕ X tϕ Y t. Tw. 55. Jeśli rozkłady prawdopodobieństwa µ i ν a R, BR mają rówe fukcje charakterystycze, czyli ϕ µ t = ϕ ν t dla wszystkich t R, to µ = ν. Def. 57 Mootoiczy iloraz wiarygodości. Mówimy, że rodzia rozkładów { θ : θ Θ} jest rodzią rozkładów z mootoiczym ilorazem wiarygodości, jeżeli istieje taka fukcja T x, że dla θ > θ iloraz jest iemalejącą fukcją argumetu T x. p θ x p θ x Tw. 3. Rodzia rozkładów o fukcji prawdopodobieństwa p θ x = x θ x θ x, θ 0; jest rodzią o mootoiczym ilorazie wiarygodości. Tw. 33. Jedoparametrowa rodzia wykładicza p θ x = e cθtx bθ hx jest rodzią o mootoiczym ilorazie wiarygodości. Tw. 34. Rodzia rozkładów jedostajych U0; θ, θ > 0 jest rodzią o mootoiczym ilorazie wiarygodości. Tw. 35 Test JNM dla mootoiczego ilorazu wiarygodości. Niech H 0 : θ θ 0, H : θ > θ 0, a {p θ : θ Θ} jest rodzią rozkładów z mootoiczym ilorazem wiarygodości. Wówczas: a Dla weryfikacji H 0 przeciw H istieje test jedostajie ajmociejszy określoy jako: dla T x > k ϕx = c dla T x = k 0 dla T x < k gdzie stałe c, k są wyzaczoe z waruku E θ0 ϕx = α. b Fukcja βθ = E θ ϕx = θ T x > k jest ściśle rosąca w zbiorze w którym βθ <. c Dla każdego θ test zdefiioway w a jest jedostajie ajmociejszy dla H 0 : θ θ przeciw H : θ > θ a poziomie istotości α = βθ. d Dla dowolego θ < θ 0 test z a miimalizuje prawdopodobieństwo błędu I rodzaju βθ wśród wszystkich testów spełiających E θ0 X = α. Lem. 36 Wiosek. Jeżeli { θ : θ Θ} jest rodzią wykładiczą o gęstościach p θ x = e cθt x bθ hx i jeżeli cθ jest fukcją ściśle rosącą, to test JNM ϕx ma postać jak w pukcie a powyższego twierdzeia. Jeśli cθ jest fukcją ściśle malejącą to w defiicji testu ϕ zaki ierówości zmieiają się a przeciwe. 3. Testy ilorazowe Def. 58. Wiarogodością hipotezy H i i = 0; gdy zaobserwowao x azywamy liczbę Def. 59 Iloraz wiarogodości. x = LH x LH 0 x L Hi x = sup Lx; θ θ Θi Def. 60 Obszar krytyczy. W = {x: x > k} gdzie k jest takie, aby sup θ Θ0 θ x > k = α. Jeśli z powodu dyskretości rozkładu ie zachodzi powyższa rówość, wtedy ustala się k tak, aby θ x > k α < θ x > k Tw. 37 Rozkład ilorazu wiarogodości w dużych próbach. rzy astępujących założeiach: - X = X,..., X - próba losowa - Θ R s - Hipoteza H 0 oraz zbiór Θ 0 określoe przez układ liiowo iezależych waruków postaci h j θ = 0, j =,..., r - θ θ θ θ - LX, θ = p θ X dwukrotie różiczkowala w sposób ciągły względem θ - sup θ Θ0 LX, θ = LX, θ oraz spełioych warukach regularości z ierówości Rao-Cramera, dla zmieej losowej l X zachodzi: l X d χ r gdzie X = LX,ˆθNW LX, θ, a r jest liczbą rówań określających hipotezę H 0. Obszar krytyczy testu ma wówczas postać {x: l X > k}, gdzie k jest kwatylem rzędu α rozkładu χ r. 9

10