Marek Be±ka, Statystyka matematyczna, wykªad Wykªadnicze rodziny rozkªadów prawdopodobie«stwa

Transkrypt

1 Mare Be±a, Statystya matematycza, wyªad Statystyi zupeªe 3. Wyªadicze rodziy rozªadów prawdopodobie«stwa Zacziemy od deicji Deicja 3. Rodzi rozªadów {µ θ } θ Θ azywamy wyªadicz rodzi rozªadów - parametrow, je±li jej g sto±ci f θ, θ Θ wzgl dem pewej σ - so«czoej miary λ s postaci: 3. f θ x = Cθ exp Q j θt j x hx, x, gdzie C 0, h 0, Q i, T i, i =, 2,..., s fucjami rzeczywistymi. Przestrze«statystycz, B, P, gdzie P = {µ θ } θ Θ jest wyªadicz rodzi rozªadów azywamy wyªadicz przestrzei statystycz. Przyªad 3.2 i Rozwa»my rodzi rozªadów ormalych o g sto±ci f θ x = exp x m2 2πσ 2 2σ 2, x IR, gdzie θ = m, σ 2 Θ = IR 0,. G sto±ci te mo»emy zapisa w postaci f θ x = exp 2πσ 2 2σ 2 x2 + m σ 2 x m2 2σ 2 = exp m2 2πσ 2 2σ 2 exp 2σ 2 x2 + m σ 2 x = Cθ exp Q θt x+q 2 θt 2 x, x IR, gdzie h, Cθ = exp m2 2πσ 2 2σ 2, θ Θ, T x = x 2, T 2 x = x, x IR, Q θ = 2σ 2, Q 2θ = m σ 2 θ Θ. Zatem rozwa»aa rodzia rozªadów ale»y do dwuparametrowej rodziy rozªadów wyªadiczych. ii Rozwa»my rodzi rozªadów dwumiaowych f θ = θ θ, = 0,,...,,

2 Mare Be±a, Statystya matematycza, wyªad 3 39 gdzie θ Θ = 0,. Mamy f θ = exp lθ + l θ gdzie θ exp l θ θ = exp l θ θ + l θ = = Cθ exp Q θt h, = 0,,...,, Cθ = θ θ, Q θ = l θ, θ Θ, h =, T =, = 0,,...,. Zatem rozwa»aa rodzia rozªadów dwumiaowych ale»y do jedoparametrowej rodziy rozªadów wyªadiczych. Rodzi wyªadiczych ie tworz p. rozªady jedostaje czy Cauchy'ego. Uwaga. Niech =,..., b dzie prób losow prost z populacji w tórej rozªady cechy ale» do rodziy wyªdiczej 3.. Wtedy rozªad z próby mo»emy zapisa w postaci: f θ x = f θ x i = Cθ exp Q j θt j x i hx i = C θ exp Q j θ T j x i hx i, x = x,..., x. Zatem rozªad z próby ale»y rówie» do - parametrowej rodziy wyªadiczej. Poadto z rytrium fatoryzacji mamy Stwierdzeie 3.3 Niech =,..., b dzie prób losow prost z populacji w tórej rozªady cechy ale» do rodziy wyªdiczej 3.. Wtedy statystya T = T i, T 2 i,..., jest dostatecz statysty dla parametru θ Θ. T i Cz sto zmieia sie parametryzacj w 3. przyjmuj c ϑ i = Q i θ, i =, 2,..., i przedstawiaj c g sto± 3. w postaci wzgl dem miary λ = hλ 3.2 f ϑ x = Cϑ exp ϑ j T j x, x,

3 Mare Be±a, Statystya matematycza, wyªad 3 40 gdzie ϑ = ϑ,..., ϑ Θ = {Q θ,..., Q θ IR : θ Θ}. W tej parametryzacji parametr ϑ azywamy parametrem aturalym. Posta 3.2 osi azw postaci aoiczej rodziy wyªadiczej. Posta ta podobie ja 3. ie jest jedozacza. Odwzorowaie θ ϑ = Q θ,..., Q θ azywamy odwzorowaiem aoiczym parametryzacj aoicz. Przestrze«Θ azywamy aoicz przestrzei parametrów. Zbiór wszystich putów ϑ = ϑ,..., ϑ dla tórych fucja 3.2 jest g sto±ci tj. Θ 0 = { ϑ IR : } exp ϑ j T j x dλ < azywamy atural przestrzei parametrów rodziy wyªadiczej. Jest to mo»liwie ajwiesza przestrze«parametrów. Jest oa zbiorem wypuªym. Rzeczywi±cie, je±li ϑ, θ Θ 0 i a, b > 0 oraz a + b =, to z ierówo±ci Höldera dla p = /a i q = /b otrzymujemy exp aϑ j + bθ j T j x dλ = Zatem aϑ + bθ Θ 0. exp aϑ j T j x exp exp ϑ j T j x dλ a exp θ j T j x dλ b <. bθ j T j x dλ Twierdzeie 3.4 Je±li g sto±ci rodziy rozªadów P s postaci 3.2, to g sto±ci statystyi dostateczej T = T,..., T wzgl dem miary λ T s postaci fθ T t = Cθ exp θ j t j, t = t,..., t IR. Dowód. Niech A BIR. Mamy µ T θ A = µ θt A = T A Cθ exp θ j T j x dλx = A Cθ exp θ j t j dλ T t.

4 Mare Be±a, Statystya matematycza, wyªad Zupeªe rodziy rozªadów prawdopodobie«stwa Zacziemy od deicji Deicja 3.5 Rodzi rozªadów prawdopodobie«stwa P = {µ θ } θ Θ ore±lo a przestrzei prób, B azywamy zupeª ograiczeie zupeª je±li a»da B - mierzala i ograiczoa oraz P - caªowala rzeczywista statystya ϕ speªiaj ca warue 3.3 E θ ϕ = 0 dla a»dego θ Θ jest rówa zero P - p.w. Z powy»szej deicji wyia,»e je±li E θ ϕ = c dla θ Θ, to ϕ = c, P - p.w. Lemat 3.6 Niech, B, P b dzie przestrzei statystycz i iech P 0 P domiuje P. Je±li P 0 jest rodzia zupeª ograiczeie zupeª, to P jest rówie» rodzi zupeª ograiczeie zupeª. Dowód. Niech P = {µ θ } θ Θ oraz P 0 = {µ θ } θ Θ0, Θ 0 Θ. Niech ϕ b dzie rzeczywist statysty B - mierzal i P - caªowal ta,»e E θ ϕ = 0 dla a»dego θ Θ. Wtedy E θ ϕ = 0 dla θ Θ 0. Z zupeªo±ci P 0 mamy ϕ = 0, P 0 - p.w. St d i z domiowaia P przez P 0 mamy ϕ = 0, P - p.w. Przyªad 3.7 Niech P b dzie rodzi rozªadów dwumiaowych z ustaloym IN i parametrem θ Θ = 0,. Wtedy dla dowolej statystyi ϕ ore±loej a = {0,,..., } i taiej,»e ϕ θ θ = 0, dla a»dego θ Θ, mamy =0 θ ϕ = 0 dla a»dego θ Θ. θ =0 Ozaczmy t = θ/ θ. Wtedy t 0, dla θ Θ oraz ϕ t = 0, t > 0. =0 Z wªaso±ci wielomiaów wyia,»e ϕ = 0 dla = 0,, 2,...,. Zatem rodzia P rozªadów dwumiaowych jest zupeªa.

5 Mare Be±a, Statystya matematycza, wyªad 3 42 Przyªad 3.8 i Niech P = {Nm, σ 2 : θ = m, σ Θ = IR 0, } b dzie rodzi rozªadów gaussowsich. Niech ϕ b dzie fucj borelows, caªowal wzgl dem tej rodziy miar gaussowsich oraz iech σ x m2 ϕx exp 2π 2σ 2 dx = 0, dla m, σ Θ. R Po podiesieiu do wadratu w argumecie espoety oraz podzieliu stroami przez wyra»eia wyª czoe przed caª otrzymujemy R ϕx exp x2 m 2σ 2 exp σ 2 x dx = 0 dla m, σ Θ. Z wªaso±ci dwustroej trasformaty Laplace'a mamy St d ϕx exp x2 2σ 2 ϕ = 0, dla P p.w x IR. Zatem rodzia P rozªadów gaussowsich jest zupeªa. ii Niech P = {N, σ 2 : θ = σ Θ = 0, } b dzie rodzi wszystich rozªadów gaussowsich o warto±ci oczeiwaej m =. Rozwa»my fucj ϕx = x, x IR. Wtedy σ x 2 ϕx exp 2π R 2σ 2 dx = σ x 2 x exp 2π R 2σ 2 dx = 0, σ > 0, ale ϕx = x 0, Zatem rodzia wszystich rozªadów gaussowsich o warto±ci oczeiwaej m = ie jest zupeªa. Przyªad 3.9 Niech P = {µ θ } θ Θ b dzie rodzi rozªadów jedostajych µ θ a przedziale 0, θ, gdzie θ Θ = 0,. Zaªó»my,»e ϕ jest fucj borelows P - caªowal i ta,»e St d 0 = E θ [ϕ] = ϕx R θ I 0, θx dx = θ θ 0 θ 0 ϕx dx dla wszystich θ Θ. ϕx dx = 0 dla wszystich θ Θ.

6 Mare Be±a, Statystya matematycza, wyªad 3 43 Ró»iczuj c wzgl dem θ otrzymujemy Zatem ϕθ = 0 dla λ p.w. wszystich θ Θ = 0,. ϕ = 0, St d rodzia rozªadów jedostajych a przedziale 0, θ dla θ > 0 jest zupeªa. Stwierdzeie 3.0 Niech =,..., b dzie prób 2 losow prost z populacji w tórej badaa cecha ma rozªad µ θ, θ Θ. Wtedy rodzia rozªadów próby P = {µ θ } θ Θ ie jest zupeªa. Dowód. Ozaczmy P = {µ θ } θ Θ. Niech ϕ : IR b dzie taa,»e ϕ Cost., oraz E θ ϕ 2 = ϕx 2 dµ θ x <, θ Θ. Ore±lmy ψ : IR wzorem ψx = ψx,..., x = ϕx ϕx 2, x = x,..., x. Wtedy E θ ψ = E θ ϕ E θ ϕ = 0, θ Θ. Gdyby teraz ψ = 0, P - p.w., to = µ θ {x : ψx = 0} = µ 2 θ {x, x 2 2 : ϕx ϕx 2 = 0}. St d ϕx ϕx 2 dµ θ x dµ θ x 2 = 2 ϕx 2 dµ θ x dµ θ x 2 = 2 Z drugiej stroy ϕx ϕx 2 dµ θ x dµ θ x 2 = 2 Zatem Var θ ϕ = E θ [ ϕ Eθ ϕ ] 2 = St d ϕx dµ θ x 2. ϕx 2 dµ θ x. 2 ϕx 2 dµ θ x ϕx dµ θ x = 0, θ Θ. ϕ E θ ϕ, co daje sprzeczo±, bo ϕ Cost., P - p.w.

7 Mare Be±a, Statystya matematycza, wyªad 3 44 Deicja 3. Niech daa b dzie przestrze«statystycza, B, P. Da statysty T :, B Y, A azywamy statysty zupeª ograiczeie zupeª je±li rodzia rozªadów P T = {µ T θ } θ Θ jest zupeªa ograiczeia zupeªa. Twierdzeie 3.2 Niech daa b dzie przestrze«statystycza, B, P i statystya T :, B Y, A. Je±li rodzia rozªadów P jest zupeªa ograiczeie zupeªa, to rodzia rozªadów P T jest rówie» zupeªa ograiczeie zupeªa. Mówi c iaczej: Na zupeªej przestrzei statystyczej a»da statystya jest zupeªa. Dowód. Niech ϕ b dzie fucj rzeczywist ograiczo, A - mierzal, P T - caªowal i speªiaj c warue ϕt dµ T θ t = 0, θ Θ. St d Z zupeªo±ci P wyia,»e Poiewa» Y ϕt x dµ θ x = 0, θ Θ. µ θ {x : ϕt x 0} = 0, θ Θ. {x : ϕt x 0} = T {t Y : ϕt 0}, wi c [ {t Y : ϕt 0} = µθ T {t Y : ϕt 0} ] = µ θ {x : ϕt x 0} = 0 µ T θ dla θ Θ, co dowodzi zupeªo±ci P T. Zauwa»my,»e twierdzeie odwrote do powy»szego ie musi by prawdziwe tz. rodzia P T mo»e by zupeªa, a P ie. Przyªad 3.3 Niech =, 2 b dzie prób losow prost z populacji w tórej badaa cecha ma rozªad ormaly Nm, σ 2, θ = m, σ Θ = IR 0,. Ja wiadomo ze stwierdzeia 3.0 rodzia rozªadów próby ie jest zupeªa. Rozwa»my statysty T = + 2. Jej rodzi rozªadów jest rodzia rozªadów ormalych N2m, 2σ 2, θ = m, σ Θ. Ja wiadomo z przyªadu 3.8 i jest oa rodzi zupeª. Twierdzeie 3.4 Lehma Niech daa b dzie przestrze«statystycza, B, P, gdzie rodzia rozªadów P = {µ θ } θ Θ ma g sto±ci f θ wzgl dem pewej σ - so«czoej miary λ postaci f θ x = Cθ exp θ j T j x, x, gdzie θ = θ,..., θ ale» do aturalej przestrzei parametrów Θ IR. Je±li Θ zawiera przedziaª - wymiarowy, to statystya T = T,..., T jest zupeªa i dostatecza.

8 Mare Be±a, Statystya matematycza, wyªad 3 45 Przyªad 3.5 Niech =,..., b dzie prób losow prost z populacji w tórej badaa cecha ma rozªad ormaly Nm, σ 2, θ = m, σ Θ = IR 0,. G sto± z próby mo»a zapisa w postaci exp m2 2σ f θ x = 2 2π /2 σ m exp σ 2 x i 2σ 2 Przejd¹my do parametryzacji aoiczej ozaczaj c x 2 i, x = x,..., x IR. θ = m σ 2, θ 2 = 2σ 2, θ = θ, θ 2 Θ = IR, 0. G sto±ci z próby maj teraz posta f θ x = Cθ exp θ x i + θ 2 x 2 i, x = x,..., x IR. Poiewa» aturala przestrze«parametrów Θ zawiera przedziaª dwuwymiarowy, wi c z twierdzeia Lehmaa statystya T = T, T 2, gdzie T = i, T 2 = 2 i jest statysty zupeª. Zauwa»my,»e gdyby±my zaw zili Θ do Θ = {θ, θ 2 : θ =, θ 2 < 0}, to Θ ie zawiera przedziaªu dwuwymiarowego i statystya T, T 2 ie jest zupeªa dla Θ. Rzeczywi±cie, rozwa»my iezerow fucj gt, t 2 = t t 2 t2 0, t IR, t 2 > 0. Wtedy gt, T 2 = i [ i 2 2 ] i = i [ i 2 2 i ]. Poiewa» E 2 i = m2 + σ 2, i oraz i Nm, σ 2 /, wi c bo θ = m/σ2 =. EgT, T 2 = m [ m 2 + σ 2 m 2 + σ2 ] = m σ2 = m σ 2 = 0, dla a»dego σ > 0,

9 Mare Be±a, Statystya matematycza, wyªad 3 46 Twierdzeie 3.6 Niech daa b dzie przestrze«statystycza, B, P, gdzie rodzia rozªadów P = {µ θ } θ Θ jest domiowaa przez pew miar σ - so«czo λ. Je±li statystya T :, B Y, A jest dostatecza i ograiczeie zupeªa, to T jest miimal dostatecz statysty. Dowód. Niech ν b dzie wyró»ioym rozªadem rówowa»ym z P. Ozaczmy B 0 = T A. Z dostateczo±ci T twierdzeie 2.2 istieje dla a»dego θ Θ wersja g sto±ci f θ rozªadu µ θ wzgl dem ν, tóra jest mierzala wzgl dem B 0. Niech B 0 b dzie ajmiejsz σ - algebr wzgl dem tórej s mierzale g sto±ci f θ dla θ Θ. Niech A B. Wtedy µa B 0 µa B 0 jest B 0 - mierzala. St d ja wiadomo istieje fucja borelowsa ograiczoa g taa,»e gt = µa B 0 µa B 0. Zatem mamy Z ograiczoej zupeªo±ci T mamy E θ gt = E θ [ µa B0 µa B 0 ] = 0, θ Θ. gt = 0, St d w szczególo±ci, gdy A B 0 dostajemy 3.4 I A = µa B 0, Ozaczmy F = {x : µa B 0x = } B 0. Wtedy a mocy 3.4 mamy F A N P, bo F A {I A µa B 0 }. Poiewa» A = A \ F [F \ F \ A], wi c A B 0. Wyazali±my zatem zawieraie B 0 B 0, a poiewa» B 0 B 0, wi c mamy B 0 = B 0 Na mocy twierdzeia 2.24 B 0 jest miimal dostatecz σ - algebr tz. T jest miimal dostatecz statysty. Deicja 3.7 Niech daa b dzie przestrze«statystycza, B, P, gdzie P = {µ θ } θ Θ i statystya T :, B Y, A. Statysty T azywamy swobod dla θ Θ, je±li jej rozªad ie zale»y od parametru θ tz. dla pewego rozªadu ν mamy µ T θ = ν, θ Θ. Twierdzeie 3.8 Basu Niech T i V b d statystyami a przestrzei statystyczej, B, P, gdzie P = {µ θ } θ Θ. Je±li statystya T jest dostatecza i ograiczeie zupeªa, a statystya V jest statysty swobod, to T i V s iezale»e.

10 Mare Be±a, Statystya matematycza, wyªad 3 47 Dowód. Niech ϕ b dzie ograiczo rzeczywist fucj, mierzal i µ V θ θ Θ. Z dostateczo±ci T mamy - caªowal dla E θ [ ϕv T ] = E [ ϕv T ], θ Θ. Zatem V - swoboda E θ { E [ ϕv T ]} = Eθ ϕv = EϕV, θ Θ. Z ograiczoej zupeªo±ci T dostajemy E [ ϕv T ] = EϕV, St d V jest iezale»e od T. Przyªad 3.9 Niech =,..., b dzie prób losow z rozªadu ormalego Nm, σ 2, gdzie parametr σ jest zay. Zatem θ = m Θ = IR. Ja wiadomo przyªad statystya T = i jest statysty dostatecz i zupeª przyªad 3.8i. Statysta V = i T 2 jest swoboda. Zatem z twierdzeia Basu statystyi T i V s iezale»e.