Pojcie estymacji. Metody probabilistyczne i statystyka Wykład 9: Estymacja punktowa. Własnoci estymatorów. Rozkłady statystyk z próby.

Transkrypt

1 Pojcie estymacji Metody probabilistycze i statystyka Wykład 9: Estymacja puktowa. Własoci estymatorów. Rozkłady statystyk z próby. Szacowaie wartoci parametrów lub rozkładu zmieej losowej w populacji geeralej a podstawie rozkładu empiryczego, uzyskaego z próby losowej pobraej z tej populacji azywa si estymacj. Małgorzata Krtowska Wydział Iformatyki Politechika Białostocka f(x) populacja geerala N(µ,σ) 5 4 próba losowa mmac@ii.pb.bialystok.pl stroa www: liczosc 3 µ-σ µ µ+σ x Metody probabilistycze i statystyka, studia dziee Metody probabilistycze i statystyka, studia dziee Estymator Rodzaje estymacji Załómy, e rozkład zmieej losowej X w populacji geeralej zaley od iezaego parametru θ. Estymacja puktowa Wyzaczaa jest jeda warto Estymacja przedziałowa Wyzaczay jest przedział wartoci tzw. przedział ufoci Estymatorem parametru θ rozkładu zmieej X azywamy tak statystyk ˆ θ = g( X, X, X bdc fukcj próby losowej pobraej z tej populacji, której rozkład prawdopodobiestwa zaley od szacowaego parametru., ) Metody probabilistycze i statystyka, studia dziee 3 Metody probabilistycze i statystyka, studia dziee 4

2 Zgodo Nieobcioo Efektywo Dostateczo Własoci estymatorów Zgodo Estymator parametru θ azywamy zgodym, jeeli jest stochastyczie (w sesie prawdopodobiestwa) zbiey do szacowaego parametru ( ˆ θ θ < ε ) =, ε lim P > Iterpretacja: wraz ze wzrostem liczoci próby wzrasta dokłado oszacowaia parametru θ. Metody probabilistycze i statystyka, studia dziee 5 Metody probabilistycze i statystyka, studia dziee 6 Nieobcioo Estymator jest ieobcioy jeeli: Obciaie estymatora: E( ˆ θ ) = θ, dla kazdego B ˆ θ = ˆ ) E( θ ) θ ( Estymator asymptotyczie ieobcioy lim B ( ˆ θ ) = Iterpretacja Właso ieobciooci ozacza, e przy wielokrotym losowaiu próby redia z wartoci przyjmowaych przez estymator ieobcioy rówa si wartoci szacowaego parametru. Właso ta gwaratuje otrzymaie za jego pomoc oce wolych od błdu systematyczego. Metody probabilistycze i statystyka, studia dziee 7 Zgodo i ieobcioo Współzaleoci pomidzy własociami zgodoci i ieobciooci: jeeli estymator θ parametru jest zgody, to rówoczeie jest asymtotyczie ieobcioy; twierdzeie odwrote ie jest prawdziwe jeeli estymator θ parametru θ jest ieobcioy (lub asymptotyczie ieobcioy) oraz jeeli jego wariacja w miar wzrostu liczeboci próby zmierza do zera, to θ jest estymatorem zgodym Metody probabilistycze i statystyka, studia dziee 8

3 Efektywo Estymator ieobcioy θ parametru θ który ma ajmiejsz wariacj sporód wszystkich ieobcioych estymatorów daego parametru θ wyzaczoych z prób -elemetowych azywamy ajefektywiejszym. Miara efektywoci estymatora: * gdzie θˆ estymator ajefektywiejszy ef ( ˆ θ ) < V ˆ θ ef ( ˆ θ ) = V ˆ θ * Nierówo Rao-Cramera W przypadku estymowaia jedego parametru wariacja dowolego ieobcioego estymatora spełia astpujc ierówo ˆ θ E l f ( X, θ ) V gdzie f ozacza gsto prawdopodobiestwa zmieej losowej X cigłej lub fukcj rozkładu prawdopodobiestwa dla zmieej typu dyskretego. Jeeli w powyszym wzorze dla wariacji pewego ieobcioego estymatora zachodzi rówo, wtedy estymator te jest estymatorem efektywym. Estymator asymtotyczie ajefektywiejszy: lim ef ( ˆ θ ) = Metody probabilistycze i statystyka, studia dziee 9 Metody probabilistycze i statystyka, studia dziee Dostateczo Estymator θ parametru θ jest dostateczy, jeeli zawiera wszystkie iformacje, jakie a temat parametru θ wystpuj w próbie, i ade iy estymator ie moe da dodatkowych iformacji o szacowaym parametrze. Metody wyzaczaia estymatorów Metoda mometów estymatory zgode, ale przewaie obcioe i mało efektywe Metoda ajwikszej wiarogodoci estymatory zgode, asymptotyczie ieobcioe i asymptotyczie efektywe Metoda ajmiejszych kwadratów (estymacja parametrów wyraajcych róe zaleoci pomidzy zmieymi losowymi) estymatory zgode ieobcioe i ajefektywiejsze w klasie estymatorów liiowych Metody probabilistycze i statystyka, studia dziee Metody probabilistycze i statystyka, studia dziee

4 Metoda ajwikszej wiarogodoci Niech rozkład badaej cechy X zaley od k iezaych parametrów θ, θ,..., θ k, które chcemy oszacowa a podstawie -elemetowej próby losowej prostej X, X,..., X. Wyzaczamy tzw. fukcj wiarogodoci L: L = f x ; θ, θ,, θ ) f ( ; θ, θ,, θ ) ( k x k Metoda ajwikszej wiarogodoci utwórz fukcj wiarogodoci L = f ( x; θ, θ,, θ k ) f ( x ; θ, θ,, θ k ) policz logarytm aturaly z fukcji L ll policz pochode fukcji ll wzgldem poszczególych gdzie f( ) ozacza gsto prawdopodobiestwa (cecha cigła) lub fukcj rozkładu prawdopodobiestwa (cecha dyskreta). parametrów θ, θ,..., θ k l L i Estymatorami uzyskaym metod ajwikszej wiarogodoci azywamy takie estymatory, dla których fukcja wiarogodoci przyjmuje warto ajwiksz. przyrówaj otrzymae pochode do wartoci l L = i Metody probabilistycze i statystyka, studia dziee 3 Metody probabilistycze i statystyka, studia dziee 4 Estymatory parametrów rozkładu ormalego Próba elemetowa popraa z populacji o rozkładzie ormalym N( µ, σ ) Estymatory uzyskae metod ajwikszej wiarogodoci: ˆµ = x = σˆ = s = x i ( x i x) Metody probabilistycze i statystyka, studia dziee 5 Rozkłady statystyk z próby Statystyk azywamy zmie losow, bdc fukcj zmieych losowych X, X,..., X staowicych prób. Statystyka jako zmiea losowa posiada pewie rozkład, który azywamy rozkładem statystyki z próby. Zaley o przede wszystkim od rozkładu populacji, z której pochodzi próba oraz od liczeboci próby. Ze wzgldu a liczebo próby rozkłady statystyk dzielimy a dokłade - rozkłady prawdopodobiestwa wyzaczoe dla dowolej liczby aturalej, bdcej liczeboci próby. S oe wykorzystywae dla małych prób. graicze - rozkład prawdopodobiestwa statystyki, który otrzymuje si przy załoeiu ieograiczeie duej próby,. Nie ma jedej, okreloej wartoci od której uzajemy prób za du. W iektórych przypadkach rozkład dokłady ju dla >3 iewiele rói si od rozkładu graiczego, w iych przypadkach potrzebujemy >. Metody probabilistycze i statystyka, studia dziee 6

5 Rozkład rediej arytmetyczej z próby x = x i. Cecha X w populacji geeralej ma rozkład N(µ,σ), σ zae. Z populacji tej pobieramy prób -elemetow (X, X,..., X ). redia arytmetycza z próby ma rozkład: σ N ( µ, ) f(x) N(,) N(,.) Metody probabilistycze i statystyka, studia dziee 7 x sredia arytmetycza X Rozkład rediej arytmetyczej z próby w praktyce wykorzystujemy zmie stadaryzowa: która ma rozkład N(,). u = x m σ. Cecha X w populacji ma rozkład N(µ,σ), σ iezae, 3 Dokoujemy przekształceia zwaego studetyzacj: X m t = s = ( x i X ) s zmiea t ma rozkład t Studeta z - stopiami swobody. Liczba stopi swobody jest parametrem rozkładu t-studeta; jest oa rówa liczbie iezaleych obserwacji okrelajcych statystyk t. Ze wzgldu a zaleo: liczba iezaleych obserwacji w tym przypadku jest rówa -. ( x i x) = Metody probabilistycze i statystyka, studia dziee 8 Rozkład rediej arytmetyczej z próby 3. Cecha X w populacji ma rozkład dowoly, σ iezae, >3. Dla duych prób zakładamy, e σ s. Korzystamy ze statystyki: która ma rozkład N(,). x m u = s Metody probabilistycze i statystyka, studia dziee 9