Mkroekonometra 7 Mkołaj Czajkowsk Wktor Budzńsk
Testowane hpotez 4 podstawowe testy Przedzał ufnośc Parametry mają asymptotyczny rozkład normalny Znamy błąd standardowy Czy parametr jest statystyczne różny od k (np. od 0)? Test LR loraz wartośc funkcj najwększej warygodnośc Czy restrykcja prowadz do stotnego pogorszena LL? Test Walda Czy estymator z restrykcjam nadal jest statystyczne stotny? Test LM test mnożnków Lagrange a Czy estymator z restrykcjam jest blsko maksmum LL? Węc, czy nachylene funkcj LL w punkce restrykcj jest blske 0? Inaczej czy gradent dla estymatora z restrykcjam jest blsk 0?
Hpotezy proste, hpotezy złożone Hpotezą prostą nazywamy hpotezę w postac np.: Hpotezą złożoną natomast: 1 2 K 0 1 0 2 0 Testowane osobno klku hpotez prostych ne jest równoważne testowanu jednej hpotezy złożonej Np. jeśl statystyk testowe dla hpotez prostych są od sebe nezależne, to jeśl pozom stotnośc (p-stwo popełnena błędu I rodzaju) jest równe α dla każdej z hpotez prostych to dla hpotezy * K złożonej wynos ono: α = 1 1 α 1 ( ) * Różncę α α nazywa sę obcążenem Lovella H : β = 0, H : β = 0,, H : β = 0 Wybór modelu lepej operać o hpotezy złożone H : β = 0 1 0 1 K
Testowane hpotez
Istotność parametrów Istotność parametrów Błędy standardowe z AVC Wartość krytyczna z rozkładu standardowego normalnego A ne t-studenta jak w regresj lnowej MNK H 0 : Parametr = β 0 z = ˆ β β ˆ σ Duże wartośc absolutne statystyk z (małe p-value) => parametr jest stotne różny od β 0 (np. od 0) na zadanym pozome stotnośc W NLOGIT wynk podawane automatyczne po estymacj dla każdego parametru ˆ β 0
Test LR LR test LR lkelhood rato Iloraz wartośc funkcj najwększej warygodnośc ( ˆ ˆ R ln U) LR = 2lnL L Nakładamy jakeś restrykcje na parametry R U restrcted, unrestrcted (test tylko dla model zagneżdżonych) Model z restrykcjam zawsze jest ne lepszy nż model bez restrykcj, a węc LR > 0 Wartość krytyczna z rozkładu ch-kwadrat z lczbą stopn swobody równą lczbe restrykcj (w forme równań) H 0 : Restrykcje ne pogarszają stotne modelu Duże wartośc statystyk LR (małe p-value) odrzucamy restrykcje (bo stotne pogarszają model) Wymaga estymacj modelu bez z ogranczenam
Przykład eko-jabłka c.d. 1. Czy każdy parametr jest stotny na pozome 5%? 1%? 2. Czy wszystke parametry łączne są stotne? MODEL CALC MODEL CALC CALC ;... $ model bez restrykcj ; lu = logl$ ;... $ model z restrykcjam ; lr = logl$ ; lst ; chsq = 2*(lu-lr) ; 1-ch(chsq,r)$ Jeśl wartość < α, to można odrzucć hpotezę, że restrykcje ne pogarszają stotne modelu 3. Porównaj twój wynk z tym raportowanym przez NLOGIT po estymacj Można zastosować do dowolnych zagneżdżonych model Podobny do testu F z regresj lnowej
Test Walda Test Walda MVN J J Jeśl E ( X)= μ to wyrażene ma rozkład ch-kwadrat z J stopnam swobody Jeśl E ( X) μ to wyrażene ma necentralny rozkład ch-kwadrat Leży na prawo => daje wększe wartośc statystyk Idea: jeśl X ( μ, Σ ) to ( ) 1 2 X μ Σ ( X μ) χ cθ ( )= q Jeśl są prawdzwe, to ˆθ pownen je spełnać Jeśl ne, to cθ ( ˆ ) q będze dalej od 0 Dla zboru restrykcj H 0 : Statystyka testu Walda ( ( ) ) AVC ( ) ( ( )) 1 ( ( ) ) 2 χ J W = cθˆ q cθˆ q cθˆ q
Test Walda Intucyjne czy estymator z restrykcjam nadal jest statystyczne stotny? H 0 : Restrykcje ne pogarszają stotne modelu Duże wartośc statystyk W (małe p-value) odrzucamy restrykcje (bo stotne pogarszają model) Ne wymaga estymacj modelu z ogranczenam Choć trzeba wyznaczyć AVC dla estymatora z restrykcjam cθ ( ˆ ) ( ) ( ( ) ) cθˆ AVC cθˆ q= AVC ( θˆ) θˆ θˆ Dzała dla nelnowych restrykcj Dla lnowych Rθ = qproścej ( ) ( ) 1 Rθ ˆ q R AVCθˆR ( Rθ ˆ q) W =
Test Walda ( )= Jeśl cθˆ qjest pojedynczą restrykcją test Walda dzała tak samo jak statystyka z test przedzału ufnośc H0 : θ = θ H θ θ 0 1: 0 2 ( ˆ (( ) ) (( ) ) θ θ ) W = ˆ θ θ θ θ (( θ θ ) ) 0 0 AVC ˆ 0 0 ˆ 0 0 = = z AVC ˆ θ 1 0 2 ˆ θ θ0 ˆ σ Statystyka W ma rozkład ch-kwadrat z 1 stopnem swobody, czyl rozkład kwadratu statystyk standardowej normalnej Wada: test ne jest newrażlwy na sformułowane restrykcj Np. dla przetestowana, czy β ( 1 γ) = q jest równe q można testować β ( 1 γ) q = 0 lub β q( 1 γ) = 0 mają różne AVC Zaleta: ne wymaga dodatkowych założeń o rozkładach (jak statystyk LR LM) ( ) z = ˆ θ
Przykład eko-jabłka c.d. 1. Czy ceny zwykłych jabłek eko-jabłek mają tę samą słę oddzaływana (choć w przecwną stronę)? 2. Czy cena eko-jabłek ma nny wpływ na mężczyzn nż na kobety? Zbadaj wykorzystując test LR Zbadaj wykorzystując test Walda MODEL ;... ; rst: b1, b2, b2, 0, b5,... $ MODEL ;... ; test: x1 + x2 = c $? p-value tego, że x1 + x2 c? różne of zera WALD ; fn1 = b_x1 + b_x2 c $ WALD ; start = b ; var = varb (; labels =...) ; fn1 = b1 b2 c $ Wymuszane równośc lub określonej wartośc parametrów
Test LM Test LM Test mnożnków Lagrange a (Lagrange Multpler) Idea: maksymalzujemy funkcję LL z ogranczenam (restrykcjam) Funkcja Lagrange a: lnl ( θ) = lnl( θ) + λ ( c( θˆ ) q ) λ wektor mnożnków Lagrange a Rozwązane: lnl ( θ) lnl( θ) c( θ) = + λ = 0 θ θ θ lnl λ ( θ) ( ˆ ) = cθ q= 0 Jeśl restrykcje są uzasadnone, wartość funkcj LL ne pownna sę stotne pogorszyć => drug składnk w wyrażenu na pochodne funkcj LL po θ (a dokładnej λ) będze mały na tym polega test Inaczej gradent funkcj LL dla wektora z restrykcjam będze mały cθ ( ˆ ) q= 0
Test LM Statystyka testu LM N N 1 N LM = gvg = g ( ) X E h XX gx = 1 = 1 = 1 Gdze g macerz perwszych pochodnych (gradent) modelu bez restrykcj, wyznaczonych dla wektora parametrów z restrykcjam, a V macerz AVC (dla bardzej skomplkowanych model może być estymator macerzy AVC (np. BHHH), zamast wartośc oczekwanej) Test ma rozkład ch-kwadrat z lczbą stopn swobody równą lczbe restrykcj Ne wymaga estymacj modelu bez ogranczeń Choć trzeba wyznaczyć gradent dla wektora parametrów bez restrykcj H 0 : Restrykcje ne pogarszają stotne modelu Duże wartośc statystyk LM (małe p-value) odrzucamy restrykcje (bo stotne pogarszają model)
Przykład eko-jabłka c.d. 1. Przeprowadź LM test tego, że łączne: Wpływ ceny eko-jabłek zwykłych jabłek jest, co do wartośc bezwzględnej, tak sam Dochód gospodarstwa domowego ne ma znaczena Implementacja w NLOGIT: Przygotuj wektor parametrów z ogranczenam Dokonaj estymacj modelu bez restrykcj, wykorzystując wektor z restrykcjam jako punkt startowy; ograncz lczbę teracj do 0 (co automatyczne wywoła test LM) Wprowadzene ogranczeń lnowych do modelu: MODEL ;... ; CML: x1 + x2 = z, 0.3*x3 + x5-0.3 = 0 $ Ustawene wartośc startowych maksymalnej lczby teracj: MODEL ;... ; start = <wektor> ; maxt = <skalar>$ CALC ; lst; 1 ch(lmstat,k)$
Testowane hpotez zastosowana Test homogencznośc podprób Test homogencznośc podprób 2 χ lczba grup = 2 LLn LL n= 1 cała próba Statystyka testu ma rozkład ch-kwadrat z lczbą stopn swobody równą (lczbe parametrów) * (lczbe grup 1) To samo można uzyskać dodając do modelu nterakcje parametrów ze zmennym bnarnym dla grup testując ch łączną stotność (np. wykorzystując testy LR, LM lub Walda) 1. Sprawdź, czy mężczyźn mają nne preferencje nż kobety, jeśl chodz o decyzje dotyczące zakupu ekojabłek
Testowane hpotez zastosowana Testy homoskedastycznośc Testy homoskedastycznośc (stała warancja składnka losowego) Mogą wyłapywać także nne problemy (np. błędną specyfkację modelu), ch moc jest zatem wątplwa Można je zamplementować dodając zmenne objaśnające ε (co zrobmy dopero w przyszłośc ) wykorzystać jeden ze znanych testów dla model zagneżdżonych (LR, LM, Wald)
Nepoprawność założeń modelu bnarnego skutk W modelach regresj lnowej: Pomnęte zmenne (Z) o le X Z ne są ortogonalne, lub estymator β jest obcążony Heteroskedastyczność o le ε ne jest homoskedastyczny (warancja składnka losowego ne jest równa dla różnych obserwacj) estymator OLS jest nadal neobcążony zgodny, ale jest neefektywny W modelach bnarnych y = βx + γz + ε Pomnęte zmenne nawet jeśl pomnęte zmenne są neskorelowane z tym uwzględnonym w modelu estymator ML ne jest zgodny Heteroskedastyczność estymator ML ne jest zgodny A to problem, bo dane mkro często są heteroskedastyczne γ = 0
Test specyfkacj Testy specyfkacj (stotność pomnętych zmennych) Dość łatwe w mplementacj gdy modele zagneżdżone Dla model nezagneżdżonych H 0 : W modelu pownny być wykorzystane nne zmenne y* = βx + ε vs. y* = γz + ε Test Vuonga Dla probt test Davdsona-MacKnnona
Test Vuonga dla nezagneżdżonych model Mamy dwa rywalzujące, nezagneżdżone modele, oba oszacowane ML (LL 0, LL 1 ) Oba mogą być błędne test pozwala sprawdzć, który jest blższy 'prawdy' (zakładamy, że prawdzwy model stneje) Zakładamy, że obserwacje w próbe (odchylena) są warunkowo nezależne L ndywdualny wkład każdej obserwacj do funkcj L lnl N = = 1 lnl Typowy test LR (jeśl modele byłyby zagneżdżone) N N LR = 2 LL LL = 2 lnl lnl = 2 m = 2Nm ( 1 0 ) (,1,0) = 1 = 1 N Wtedy 1 m < 0, bo LL 1 model z restrykcjam (węc LL 1 < LL 0 ) =
Test Vuonga dla nezagneżdżonych model = 1 N Jeśl modele nezagneżdżone m ne mus być <0 Kryterum nformacyjne Kullbacka-Leblera Merzy dystans (w sense wartośc funkcj LL) mędzy prawdzwym hy ( X, α ), a nnym modelem f( Y X, β) KLIC = E ( ln h( Y X, α) h jest prawdzwe) E ( ln f ( Y X, β) h jest prawdzwe) Oczywśce ne znamy h( Y X, α), ale możemy porównać różncę KLIC dwóch model: 1 0 = ( ln ( Y X, β) jest prawdzwe) ( ln ( Y X, γ) jest prawdzwe) KLIC KLIC E f h E g h Nepotrzebna znajomość 'prawdzwego' modelu Przypomna statystykę LR, ale bez *-2 teraz może wyjść <0
Test Vuonga dla nezagneżdżonych model Test Vuonga wykorzystuje różncę KLIC dla 2 model, opsując zachowane następującej statystyk: 1 N N N 1 N = 1 Jeśl oba modele są ekwwalentne, to Jeśl 1 jest 'lepszy' to Jeśl 0 jest 'lepszy' to V = N = 1 ( m m) V V m 2, as.. + as.. m = lnl lnl,1,0 ( ) D V N 0,1 Duża lczba dodatna (>1,96) => model 1 lepszy Duża lczba ujemna (<-1,96) => model 0 lepszy Wartość pomędzy wynk nejednoznaczny
Test Vuonga przykład 1. Przetestuj, czy dla modelowana zakupu eko-jabłek bardzej poprawny jest model logt czy probt MODEL ;... $ CREATE ; l0 = logl_obs$ MODEL ;... $ CREATE ; l1 = logl_obs$ CREATE ; m = l1 l0$ CALC ; lst ; vtest = sqr(n)*xbr(m)/sdv(m)$ Jeśl modele mają różną lczbę parametrów: Korekta Schwarza (1978) oparta na BIC dodać wyrażene (p/2)*log(n) - (q/2)*log(n) Gdze p,q lczba parametrów w modelach 0 1
Inne testy dla probt* Test specyfkacj Davdsona-MacKnnona Porównuje 2 alternatywne (nezagneżdżone) specyfkacje dla probt Wartość krytyczna ze standardowego rozkładu normalnego Może dawać sprzeczne rezultaty Jak to zrobć w NLOGIT? NAMELIST; x = <lsta zmennych objaśnających> ; z = <lsta nnych zmennych objaśnających>$ PROBIT ; Lhs = y ; Rhs = x$ CREATE ; xbeta = x b ; fx = N01(xbeta) ; px = Ph(xbeta) ; v = Sqr(px*(1-px)) ; dev = (y - px) / v ; xv = fx*xbeta / v $ PROBIT ; Lhs = y ; Rhs = z $ CREATE ; pz = Ph(z b) I sprawdzć p-value ; test = (px - pz) / v $ dla 'test' REGRESS; Lhs = dev ; Rhs = xv,test$
Inne testy dla probt* Test poprawnośc założena o rozkładze normalnym probt Test poprawnośc założena o rozkładze normalnym dla modelu probt (Bera, Jarque Lee, 1984) Porównuje 3 4 moment zmennej z ch wartoścą oczekwaną, przy założenu normalnośc rozkładu N φ ( )( ( )) βx Y Φ βx = X, 3, 4 = Φ ( ) Φ ( ) 1 βx 1 βx LM m m N φ ( ) ( ) 2 φ ( βx) ( ) ( βx 1 Φ βx) ( βx ) Y Φ ( βx ) ( βx ) 1 Φ ( βx ) ( ) (, m3, m4 ) (, m3, m4 ) E ( h ) ( ) ( ) ( ) X, 3, 4 m m = 1 Φ = 1 N Φ = 1 Na szczęśce mplementacja ne jest taka straszna: N X X X X 1
Inne testy dla probt* Test poprawnośc założena o rozkładze normalnym probt Test poprawnośc założena o rozkładze normalnym dla modelu probt (Bera, Jarque Lee, 1984) Jak to zrobć w NLOGIT? NAMELIST; x = one,...$ PROBIT ; lhs = y Jak to zrobć w NLOGIT? ; rhs = x$ CREATE ; a = b'x ; f = Ph(a) ; df = N01(a) ; d = (y-f) * df /(f*(1-f)) ; c = df^2 /(f*(1-f)) ; m3 = -1/2*(a^2-1) ; m4 = 1/4*(a*(a^2+3))$ NAMELIST; z = x,m3,m4$ MATRIX ; Lst ; LM = d z * <z'[c]z> * z'd$ I sprawdzć p-value dla statystyk LM (czy można odrzucć hpotezę normalnośc)
Praca domowa ME.7 1. Posłuż sę dowolne wybranym zborem danych dla wybranych przez sebe (ale neprzetestowanych na zajęcach) hpotez zastosuj następujące testy : Test przedzału ufnośc LR test Test Walda LM test Test Vuonga Test homogencznośc podprób 2. Znterpretuj uzyskane wynk Do przygotowana w grupach dwuosobowych 2015-11-11 22:15:18