( ) L 1. θ θ = M. Przybycień Rachunek prawdopodobieństwa i statystyka. = θ. min

Wielkość: px

Rozpocząć pokaz od strony:

Download "( ) L 1. θ θ = M. Przybycień Rachunek prawdopodobieństwa i statystyka. = θ. min"

Piotr Nowicki
8 lat temu
Przeglądów:

2 Fukca warogodośc Nech będze daa próba losowa prosta o lczebośc z rozkładu f (x;. Fukcą warogodośc dla próby x azywamy welkość: ( x; f ( x ; L Twerdzee (Cramera-Rao: Mmala wartość warac m dowolego eobcążoego estymatora parametru daa est przez: Uwaga: Fukca warogodośc to e to samo co łącza gęstość p-twa L( x; Poeważ: ( [ ] [ ] E l L( x, m E l L x, ( l L( x; l L( x; L( x; dx 0 L( x; dx E - l L( x; l L( x; L( x; dx L( x; dx M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-

3 Twerdzee Cramera-Rao Estymator o mmale warac azywamy efektywym (aefektyweszym Efektywoścą estymatora azywamy stosuek ego warac do m. W przypadku parametrów rozkładu (,..., erówość Cramera-Rao ma charakter macerzowy, a mmala waraca wyos: - l L ( ( ( x, m l L x, l L x, E E ( Twerdzee Cramera-Rao stwerdza, że m gdze cov, est macerzą dodato półokreśloą, w szczególośc [ ] m Uwaga: Często wykorzystuemy m ako przyblżee macerzy kowarac wstawaąc w drugch pochodych zamast parametru ego estymatę. - M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-3

4 Metoda awększe warogodośc Zasada awększe warogodośc: za estymatę ezaego parametru powśmy wybrać taką lczbę dla które fukca warogodośc osąga maksmum: A węc: L( x; max L( x; 0 przy waruku L( x; < 0 Często stosuemy astępuące rówae do zalezea estymaty MNW: l ( x; l f ( x; przy waruku l f ( x; < L 0 0 W przypadku k parametrów (,..., k musmy rozwązać układ k rówań: l L( x; l f ( x; 0 przy waruku ueme określoośc macerzy: l f ( x; k M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-4

5 Metoda awększe warogodośc Jeśl oszacowaa wartość parametru est blska wartośc prawdzwe, to oczekuemy dużego p-twa otrzymaa z eksperymetu daych takch ake rzeczywśce uzyskalśmy. Wygeerowaych 50 przypadków z rozkładu ormalego o µ Wyk otrzymae z maksymalzac fukc warogodośc µ 0.04 oraz 0.06 Odstępstwa od wartośc prawdzwych są marą błędów statystyczych. W przypadku estymat parametrów bardzo odbegaących od wartośc prawdzwych otrzymuemy zacze mesze wartośc fukc warogodośc. M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-5

6 Własośc estymatorów w MNW Przykład: Wyzaczee estymatora parametrów τ λ rozkładu wykładczego. t L( t; λ exp ll l τ t τ τ τ ll t + t t t + τ τ τ τ τ τ 0 Podobe wyzaczamy estymator parametru λ: ( L( t; λ λ exp λ t ll l λ λ t ll t t λ λ λ 0 λ t Wdać, że estymator est ezmeczy względem trasformac α(x /x Jest to ogóla cecha estymatorów MNW, tz. eśl zamy estymator parametru a teresue as fukca tego parametru α( to przy założeu, że α/ 0 mamy L L α L 0 0 α α t M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-6

7 Szacowae błęb łędów w estymatorów w MNW ( ( [ ] Poeważ w ogólośc E α α E (z wyątkem przekształcea lowego, wec oczekuemy, że estymatory MNW są z reguły obcążoe. Przykład: eobcążoy estymator parametru τ [ τ ] τ tylko asymptotycze eobcążoy estymator parametru λ: [ ] Waraca estymatora awększe warogodośc: [ ] ( x L x ; dx E ( ( E λ λ Waraca przymue postać fukc oceaego parametru. Aby uzyskać wartość lczbową musmy wstawć ego estymatę ( a węc est to przyblżee. W przypadku k parametrów musmy zaleźć macerz kowarac:, ( ( ( ( ( ; x x L x dx W te sposób moża wyzaczyć waracę estymatora tylko w prostych przypadkach. Naczęśce powyższe całk są trude/emożlwe do rozwązaa aaltycze musmy stosować bądź przyblżea, bądź metodę Mote Carlo. M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-7

8 Szacowae błęb łędów w estymatorów w MNW Przykład: Waraca estymatora parametru rozkładu wykładczego: t [ ] τ t τ exp dt τ τ 0 t t t t exp dt t exp dt exp dt τ + τ τ τ τ τ τ τ + ( τ τ τ τ τ τ τ + τ τ W przypadku duże próbk daych możemy zaleźć estymator warac estymatora parametru MNW korzystaąc z waruku erówośc Cramera-Rao: [ ] ll lub w przypadku wększe lczby parametrów: l, L τ M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-8

9 Zachowae asymptotycze ( Przykład: Estymator warac estymatora parametru rozkładu wykładczego. [ ] l L τ τ τ ττ [ ] ll λ λ λλ Uwaga: Estymatory metody awększe warogodośc są zgode. Zachowae fukc warogodośc ako fukc parametru w okolcach wartośc tego parametru określoe ego estymatą MNW: ( ( ( ( ( Fukca warogodośc ako fukca parametru ma w okolcach maksmum w przyblżeu kształt rozkładu Gaussa. λ ( ll ll ll ll O ll max 0 ( 3 ( [ ] ( l l ( L Lmax L Lmax exp [ ] M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-9

10 Szacowae błęb łędów w estymatorów w MNW Metoda grafcza szacowaa błędów statystyczych estymatorów MNW. ( ( ll ll ( max L ± ll max Przykład: Estymator warac estymatora parametru rozkładu wykładczego. τ. 06 τ 037. τ τ τ 05. τ + Odstępstwo od parabol ze względu a małą statystykę (50 M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-0

11 Metoda awększe warogodośc Przykład: Wyzaczee parametrów µ oraz rozkładu ormalego. ( x ( x L(x; µ, exp - exp - π π l l( π l L ( x Oblczamy pochode fukc warogodośc po parametrach µ oraz : ll ( ( x x µ x µ 0 ll ( x ( + ( + x x S Estymatory warac estymatorów parametrów µ oraz : l [ ] L µ µµ µµ µ M. Przybyceń Rachuek prawdopodobeństwa statystyka 4 l [ L ] ( Wykład 0- x

12 Metoda awększe warogodośc Przykład: Opór każdego z różych oporków zmerzoo ezależe razy. Dokładość każdego z pomarów est taka sama, a prawdzwe wartośc oporu e są zae. Przymuąc, że każdy z pomarów opsay est rozkładem Gaussa o te same dyspers, ale różych wartoścach oczekwaych µ (,,, odpowadaących różym oporom, zadź estymatory welkośc µ. ( x ( y L( x, y; µ, exp exp π π exp ( x exp ( y ( π ( π ll l π l ( x l π l ( y ll x x y y µ (x + y µ ll + ( x + ( y (x (y + (x y M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-

13 Metoda awększe warogodośc Przykład: Wyzaczee estymatora parametru rozkładu Possoa. k k µ ( k; e µ µ L µ ll l k l l k! k! k! µ ll k k 0 µ µ µ µ Wartość oczekwaa waraca: [ E µ ] k k µ µ k k [ ] µ µ ( L( k; µ µ µ µ µ k e (k e kl! kl! k 0 k 0 l k 0 l k µ (k + (k (k e µ kl! k 0 l k µ ( k e µ µ [k] kl! k 0 l k M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-3 3

14 Średa ważoa Daa est próbka prosta złożoa z elemetów x (,,, każdy z rozkładu ormalego o róże zae dyspers, ale ezae detycze wartośc oczekwae µ. (p. pomary dae welkośc za pomocą różych przyrządów. ( x L( x; µ, exp π ( x ll ( x ll l π l µ M. Przybyceń Rachuek prawdopodobeństwa statystyka ( x x x 0 µ µ / Średa ważoa: µ w x gdze w Wykład 0-4 4

15 Wartość oczekwaa waraca: [ µ ] w x µ w µ Średa ważoa exp ( ax ( a d x x exp x d x a π a π a ( x [ ] ( µ µ L( x; µ, dx w x exp dx π ( x w ( x exp dx π ( x w ( x + wwk ( x ( xk exp k π M. Przybyceń Rachuek prawdopodobeństwa statystyka π w w π dx Wykład 0-5 5

16 Metoda awększe warogodośc Przykład: Prędkość dźwęku merzoa w powetrzu dwema różym metodam wyos: v 340 ± 9 [m/s] oraz v 350 ± 8 [m/s]. Zadź alepszą estymatę prędkośc dźwęku. Oblczamy wag: v w wv + wv 34 w + w w 003. w Średa ważoa prędkość dźwęku oraz e błąd: [m/s] ( [m/s] w w + w 8 M. Przybyceń Rachuek prawdopodobeństwa statystyka Wykład 0-6 6

Podobne dokumenty

Funkcja wiarogodności

Funkcja wiarogodności Fukca warogodośc Defca: Nech będze daa próba losowa prosta o lczebośc z rozkładu f (x; θ. Fukcą warogodośc dla próby x azywamy welkość: ( x; θ f ( x ; θ L Uwaga: Fukca warogodośc to e to samo co łącza