styaca uktowa Podstawowe oęca estyac uktowe Nech B P={P :} będze zestzeą statystyczą. Na odstawe obsewac oszacować g Y gdze g: Y est zaą fukcą. Watość g est ezaa gdyż e zay. Rozwązae tego obleu będze ewa fukca ĝ: Y zwaa estyatoe. styato oże być uzay za doby estyato eżel fukca ĝ zyue watośc blske watośco g. Oczywśce e każdy estyato est doby estyatoe. Wowadza sę węc ewe oęca uożlwaące oówywae estyatoów w kosekwec wybó aleszego z ch. Załóży że daa est ewa fukca L: Y Y R zwaa fukcą stat któe watość Lgĝ= okeśla statę aką oos statystyk zyuąc ĝ za oszacowae ezae welkośc g. Wobec tego Lgĝ est dla dowolego ustaloego zeą losową okeśloą a zestze ób. Okeślay węc o le to ożlwe śedą oczekwaą statę będącą fukcą detestyczą. Def. Fukcę ĝ= Lgĝ aaetu dla dowolego ustaloego estyatoa ĝ azyway fukcą yzyka estyatoa ĝ dukowaą zez fukcę stat L. styatoy będzey oówywać ze sobą oówuąc ch fukce yzyka zy czy estyato est ty leszy ego fukca yzyka zyue esze watośc. Def. styato ĝ est e goszy od estyatoa ĝ w sese yzyka dukowaego zez fukcę staty L eżel ĝ ĝ. Def. styato ĝ est leszy ż ĝ w sese yzyka dukowaego zez fukcę staty L eżel ĝ est e goszy od estyatoa ĝ : ĝ < ĝ. Nech D ozacza wysecyfkoway zbó estyatoów. Zakładaąc że każdeu estyatoow z klasy D odowada fukca yzyka ożey okeślć w zboze D elacę quas oządkuącą zwotą zechodą ĝ ĝ ĝ est e goszy od ĝ Relaca taka w atualy sosób geeue elacę ówoważoścową w D ĝ ĝ ĝ ĝ ĝ ĝ Poadto w zboze loazowy klas ówoważośc okeśloa est w atualy sosób elaca oządku częścowego [ĝ ] [ĝ ] ĝ ĝ
Ne wszystke estyatoy właścwe ch klasy ówoważośc są oówywale w owyższy sese. Jeśl fukce yzyka daych estyatoów zecaą sę dla ewych ższe watośc zyue eda z ch a dla ych duga to estyatoy są eoówywale w owyższy sese. Def. styato ĝ azyway edouszczaly w D w sese yzyka dukowaego zez fukcę stat L eżel stee w zboze D estyato ĝ leszy od ĝ. Ze zbou D ozważaych estyatoów oża usuąć estyatoy edouszczale ogaczyć ozważaa edye do zbou estyatoów douszczalych D do. Nestety zwykle e udae sę dla ozważaego obleu schaakteyzować klasy estyatoów douszczalych. Czasa udae sę udowodć douszczalość koketego estyatoa uzyskaego z ozważań otyalzacyych lub heuystyczych. Nech =[ab]. Rozważy tóeleetowy zbó estyatoów D={ ĝ ĝ ĝ 3 } ewe welkośc g o fukcach yzyka zedstawoych a ysuku. RL gˆ gˆ gˆ 3 a b Wdać że estyato ĝ est edouszczaly gdyż leszy estyatoe est ĝ. Poówuąc estyatoy ozez oówywae ch fukc yzyka ożey odzucć ewe estyatoy edouszczale. Pozostałe estyatoy douszczale są eoówywale w owyższy sese gdyż ch fukce yzyka wzaee sę zecaą. Poadto aktyk wolałby otzyać akś ede estyato alee otyaly zaast zbou douszczalych estyatoów z któego tak w końcu us wybać ewe kokety estyato. Pokoać te tudośc oża a óże sosoby. Wyeć tu ależy : odeśce olegaące a utzyau kyteu oówywaa estyatoów ozez oówywae ch fukc yzyka ogaczau klasy ozważaych estyatoów. estyatoów eobcążoych. Ogaczae klasy estyatoów est koecze gdyż w klase wszystkch estyatoów osadaących fukce yzyka zy założoe fukc staty e stee estyato o edostae aly yzyku. Rzeczywśce eśl ako zbó D estyatoów ozważyy zbó wszystkch estyatoów dla któych otafy wyzaczyć fukce yzyka to tak otyaly estyato e stee gdyż wybeaąc estyato stały ĝ 0 = g 0 dla ewego 0 uzyskuey gˆ 0 0 w ukce 0. Tak węc dla estyatoa ĝ o edostae
aeszy yzyku us być 0 gˆ 0. Z dowolośc 0 wyka że otyaly estyato usałby eć yzyko stale ówe 0 co est oczywśce eożlwe gdyż wyaga zaoośc. Poeważ ozważaa klasa wszystkch estyatoów zawea tak ''bezsesowe'' estyatoy ak estyatoy stałe e wykozystuące obsewac wobec tego całke atuale est ogaczee klasy ozważaych estyatoów. Iteesuącą klasę staową tzw. estyatoy eobcążoe. Def. styato ĝ welkośc g azyway eobcążoy eżel seła wauek ĝ =g. Welkość b ĝ= b ĝ= ĝ -g azyway obcążee bas estyatoa ĝ. Neobcążoość estyatoa któa wyaża ego bezstoość eutalość wyażaącą sę w baku skłoośc do zeszacowywaa bądź edoszacowywaa estyowae welkośc zez estyato est ozytywą cechą estyatoa któe e ależy edak deozować. Neobcążoość est szczególe ceą własoścą doeo w zyadku gdy estyato a ewelką waacę. Rozważy ewe szczególy zyadek obleu estyac uktowe. Nech g: R będze daą fukcą zeczywstą któe watość g R ależy oszacować a odstawe obsewac =. Pzyy kwadatową fukcę stat Luv=v-u. Wobec tego Lg ĝ= ĝ- g est kwadate błędu oszacowaa g ozez ĝ est welkoścą losową. Fukca yzyka estyatoa ĝ est ówa gˆ gˆ g est azywaa błęde śedokwadatowy BSK ag.s ea squae eo estyatoa ĝ. Łatwo zauważyć że dla kwadatowe fukc staty gˆ = gˆ gˆ gˆ g gˆ g = V gˆ b gˆ Ryzyko estyatoa est suą ego waac kwadatu obcążea. Ta dekoozyca okazue że czasa wato oszezyć klasę estyatoów eobcążoych o estyatoy obcążoe gdyż ewelke obcążee oże zostać zekoesowae obżką waac tak że BSK estyatoa obcążoego oże być ższy od BSK aleszego estyatoa eobcążoego. styatoy eobcążoe o edostae ale waac azywae także estyatoa aefektyweszy zy kwadatowe fukc stat otafy efektywe kostuować tylko w ewych szczególych zyadkach. Jeżel e otafy ustalć czy stee estyato eobcążoy o edostae ale waac to otwea sę a ożlwość. Okazue sę że 3
zy ewych techczych założeach dotyczących egulaośc estyatoa oża odać oszacowae od dołu dokłade kes doly waac estyatoów eobcążoych. ożey wobec tego oówywać waacę ozważaego estyatoa eobcążoego uzyskaego a e dodze z watoścą kesu dolego waac czyl szacować ego efektywość. oże okazać sę że baday estyato a waacę ewele wększą od kesu dolego waac wszystkch egulaych estyatoów eobcążoych wobec tego est zadowalaący z aktyczego uktu wdzea. Twedzee Cae-Rao.Nech P ={P : } będze odzą ozkładów a zestze ób aących gęstośc x wzgląde ewe ustaloe ay ech będze zboe otwaty w R. Jeżel są sełoe ewe wauk egulaośc to waaca każdego estyatoa eobcążoego ĝ welkośc g seła eówość Caea-Rao Va [ĝ] dg d l. l Welkość I = Va aowk w eówośc Caea-Rao l = azyway foacą w sese Fshea o aaetze zawatą w óbe obsewowae zee losowe zwykle wektoowe. Jeżel egulay estyato eobcążoy a waacę dg d ówą doleu ogaczeu Caea-Rao D CR l to est o estyatoe aefektyweszy w klase estyatoów egulaych. fektywoścą w sese Caea-Rao estyatoa eobcążoego ĝ o waac Va ĝ azyway welkość D CR eff CR ĝ=. Va gˆ Pzykład. Nech będze cąge ezależych zeych losowych o ty say ozkładze d N.Wówczas est eobcążoy estyatoe aaetu w ty zyadku g= gdyż ówa. Waaca estyatoa est θ θ Vθ θ θ Cov 4
est ówa doleu ogaczeu Caea-Rao. Rzeczywśce / θ e l l θ l θ [ l ] wec I = - Cov a stąd Va = I =. θ odeśce aksowe olegaące a oówywau estyatoów ozez oówywae aksów globalych ch fukc yzyka ax gˆ zy czy estyato est ty leszy a esze aksu fukc yzyka. Def. styato ĝ est estyatoe aksowy welkośc g w ozważae klase estyatoów D ĝ D ax R gˆ ax gˆ. L Z uwag a to że e a geeale otzeby zakładaa złoślwośc atuy odeśce aksowe e ceszy sę zbyt owodzee wśód aktyków. odeśce bayesowske olegaące a oówywau ewych śedch watośc fukc yzyka dla oszczególych estyatoów. Zakłada sę tu że statystyk osada ewą wedzę a o o aaetze w ostac tak zwaego ozkładu a o okeśloego a ezale zestze aaetów. Każdeu estyatoow ĝ zysuey watość lczbową yzyka bayesowskego ĝ= [ ĝ] względe ozkładu a o któe est śedą względe ozkładu a o watoścą fukc yzyka estyato est ty leszy a esze yzyko bayesowske Zgodość oca zgodość estyatoów Nech = będze eleetową óbą ostą z ozkładu P P={ P : }. Nech ĝ będze estyatoe fukc g oaty a eleetowe óbe. Itucye oża sę sodzewać że owększae ozau óby owo skutkować ty że ĝ est coaz leszą oceą g. Iteesuące est gacze zachowae sę estyatoa ĝ gdy Def. Cąg ĝ estyatoów welkośc g azyway wg zgody gdy ĝ P g oco zgody gdy ĝ z. P g. 5
6 oety eycze Nech = będze eleetową óbą ostą z ozkładu P P={ P : } o skończoych oetach zwykłych do zędu k tz. k. Defca. Statystykę azyway oete eyczy óbkowy zwykły zędu oaty a eleetowe óbe oste. Fakty czyl oety eycze zwykłe są eobcążoy estyatoa oetów teoetyczych. Z PWL Kołogoowa zastosowaego do cągu... wyka że eżel stee to P z Podobe z CTG Ldebega Levy ego zastosowaego do cągu... wyka że eżel stee to statystyka a asytotycze ozkład oaly N0 Aalogcze fakty awdzwe są dla wyaowych wektoów losowych... gdze Jeżel stee to statystyka wektoowa P z. Jeżel stee to statystyka wektoowa a asytotycze ozkład N V 0 gdze Cov V Nech q k R R g : będze fukcą boelowsko ezalą awe wszędze cągłą. Jeżel steą oety k to. k P k g g awd. z. etoda delta. ozacza słabą zbeżość. Nech v -x 0 gdze wektoy losowe oaz elosowy wekto x 0 zwykle x 0 = zyuą watośc w zestze R k a cąg lczbowy v zwykle v fukca g :R k Otx 0 R q est óżczkowala w ukce x 0 Wówczas v g -gx 0 [g x 0 ]
Zadaa. Nech = Y=Y Y będą ezależy óba osty z ozkładów odowedo N N. Któy z dwóch astęuących estyatoów: x y T Y Y T Y Y ależy zyąć za oceę x y boąc BSK ako aę doboc 4 x y 4 estyatoa.od. V T V T - leszy estt x y. Nech k k+ będze óbą ostą z ozkładu N. Obsewuey zee k oadto zay śedą. Dobać tak stałą c k aby estyato T c był eobcążoy estyatoe waac. Od c k k k k 3. Wykoao 0 oaów ewe ezae welkośc edy zyząde oaowy a astęe 5 oaów y zyząde. Zakładay że wyk oaów są... 0 5 są ezależy zey losowy zy czy każda ze zeych... 0 a ozkład oaly N 0. odczas gdy każda ze zeych 5 a ozkład oaly N 0.. Dobać tak wsółczyk c c 5 aby estyato ˆ c był estyatoe eobcążoy o ale waac. Od. c c 0 = 454 c c 5 = 45 4. Pobao 00 ezależych obsewac z ozkładu oalego N. Oblczoo 0 su o 0 koleych obsewac a astęe zguboo dae źódłowe. Zaast ewotych obsewac 00 ay obsewace Y Y 0 gdze Y estyatoa ostac Od.c= 90 c 0 Y Y 9 0 0 5.Szacuey waacę używaąc Dobać tak stałą c aby estyato te był eobcążoy. 5. Nech będze óbą ostą z ozkładu edostaego U0. Rozważy dwa estyatoy ˆ g gˆ. Któy z tych estyatoów est leszy?. Od. R gˆ R gˆ leszy est ĝ 3. 7