Stochastické modelování v ekonomii a financích Konzistence odhadu LWS. konzistence OLS odhadu. Předpoklady pro konzistenci LWS

Transkrypt

1 Whitův pro heteroskedasticitě pro heteroskedasticitě Stochastické modelování v ekonomii a financích

2 Obsah Whitův pro heteroskedasticitě pro heteroskedasticitě 1 Whitův 2 pro 3 heteroskedasticitě pro heteroskedasticitě

3 Whitův pro heteroskedasticitě pro heteroskedasticitě

4 Whitův pro heteroskedasticitě pro heteroskedasticitě Uvažujme lineární regresní model tj. y 1. y T y = Xβ + e, 1 x x 1p = x T1... x Tp β 0. β p + e 1. e T, kde y 1,...,y T jsou náhodné veličiny příslušné pozorovaným hodnotám, X je náhodná matice, e 1,...,e T jsou náhodná rezidua, β R p+1 je vektor neznámých parametrů. Označme x t = (1,x t1,...,x tp ).

5 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad K1 (nezávislost X a e): Vektory x t a rezidua e s jsou nezávislé pro všechna t, s. Poznámky: Předpoklad (K1) lze oslabit: prvky x t a e s jsou současně nekorelované, tj. E[x tj e t ] = 0, t = 1, 2,..., j = 1,...,p {x t e t } t=1 je posloupnost martingalových diferencí {x t e t } t=1 je L 1-mixingal

6 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad K2 (momenty): Posloupnost {e t } je iid(0,σ 2 ), E[e 4 t ] < t.

7 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad K3 (konvergence): (a) Matice E[x t x t ] je pozitivně definitní (> 0) a jestliže označíme Σ T := 1 T [ ] T E x t x t, pak Σ T > 0. t=1 (b) Platí Σ T Σ, kde Σ > 0. 1 (c) Platí T T t=1 x tx t Σ. T Poznámky: (K3a): existence (Σ T > 0 detσ T > 0), (K3b): kvůli asymptotické normalitě (K3c): stačilo by T 1 t x tx t Σ T 0 lze nahradit momentovými podmínkami (SZVČ)

8 Whitův pro heteroskedasticitě pro heteroskedasticitě Tvrzení Věta: ( ) V lineárním regresním modelu s platností předpokladů (K1), (K2) a (K3) existuje OLS odhad β T, který je konzistentní. Důkaz: Lze psát Platí, že ( ) 1 ( ) 1 T β T β = T x t x 1 T t T x t e t. ( 1 T T x t x t t=1 t=1 ) 1 P Σ 1 a t=1 ( ) 1 T T P x t e t 0. t=1

9 Whitův pro heteroskedasticitě pro heteroskedasticitě (White) Předpoklad { W1 (ortogonalita Xe): (x t,e t ) } je posloupnost nezávislých nestejně rozdělených t=1 (inid) náhodných vektorů a platí t: E[x t e t ] = 0. Poznámky: Předpoklad (W1) zahrnuje: předpoklad nenáhodných regresorů s heteroskedasticitou, předpoklad tvaru E[e t x t ] = 0, předpoklad nezávislosti x t a e t s E[e t ] = 0.

10 Whitův pro heteroskedasticitě pro heteroskedasticitě (White) Předpoklad W2 (momenty): Existují konstanty 0 < δ < a 0 < M < takové, že [ [ E et 2 1+δ] < M a E x tj x tk 1+δ] < M, pro všechna t = 1, 2,... a pro všechna j,k = 1,...,p. Poznámky: V předpokladu (W2) jsou rozptyly chyb stejnoměrně omezené prvky prům. kov. matice regresorů stejnoměrně omezené (kvůli stejnoměrné integrovatelnosti a použití SZVČ)

11 (White) Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad W3 (regularita): Matice Σ T := 1 T T t=1 [ ] E x t x t je regulární pro všechna dost velká T taková, že detσ T > δ. Poznámky: V předpokladu (W3) je zahrnuta existence a stejnoměrná ohraničenost prvků inverze Σ T pro velká T.

12 Tvrzení Whitův pro heteroskedasticitě pro heteroskedasticitě Věta (White, 1980): ( ) V lineárním regresním modelu s platností předpokladů (W1), (W2), (W3) existuje OLS odhad β T, který je konzistentní. Dokonce platí β s.j. T β. Důkaz: β T existuje díky (W3) pro T velká a díky (W1) lze psát β T = β + ( ) 1 X X X e T T.

13 Whitův pro heteroskedasticitě pro heteroskedasticitě Tvrzení Díky (W2) - E [ x tj x tk 1+δ] < M, (W1) - vzájemné nezávislosti x t, ze SZVČ, předpokladu (W3) a spojitosti inverzního zobrazení vyplývá, že platí (po prvcích) pro T ( ) 1 X X Σ 1 s.j. T T 0.

14 Whitův pro heteroskedasticitě pro heteroskedasticitě Tvrzení Díky (W2) - E [ x tj x tk 1+δ] < M, (W1) - vzájemné nezávislosti x t, ze SZVČ, předpokladu (W3) a spojitosti inverzního zobrazení vyplývá, že platí (po prvcích) pro T ( ) 1 X X Σ 1 s.j. T T 0. Dále z Hölderovy nerovnosti a předpokladu (W2) [ E x tj e t 1+δ] E x tj 2(1+δ) E e t 2(1+δ) < M.

15 Whitův pro heteroskedasticitě pro heteroskedasticitě Protože x t e t jsou nezávislé, plyne se SZVČ X e T 1 T s.j. E[x t e t ] 0. T t=1 Tvrzení

16 Whitův pro heteroskedasticitě pro heteroskedasticitě Protože x t e t jsou nezávislé, plyne se SZVČ X e T 1 T s.j. E[x t e t ] 0. T t=1 Tvrzení Protože Σ 1 T má stejnoměrně omezené prvky pro dostatečně velké T z (W3) a E[x t e t ] má stejnoměrně omezené prvky, dostáváme ze stejnoměrné spojitosti ( ) 1 X X X e T T Σ 1 T 1 T s.j. E[x t e t ] T 0. t=1

17 Tvrzení Whitův pro heteroskedasticitě pro heteroskedasticitě Jelikož z (W1) je pak platí a tedy β T s.j. β. t = 1, 2,...,T : E[x t e t ] = 0, ( ) 1 X X X e T T s.j. 0

18 Whitův pro heteroskedasticitě pro heteroskedasticitě

19 Op a op notace Whitův pro heteroskedasticitě pro heteroskedasticitě Definice (O p ): Jestliže pro náhodnou posloupnost {X n } n=1 platí ( ε > 0) ( M = M ε < ) : sup {P[ X n > M]} < ε, n N pak píšeme, že X n = O p (1). Značení X n = O p (Y n ) znamená, že X n je nejvýše řádu Y n v prsti, tj. X n /Y n = O p (1). Definice (o p ): Jestliže pro náhodnou posloupnost {X n } n=1 platí ε > 0 : lim n P[ X n > ε] = 0, pak píšeme, že X n = o p (1). Značení X n = o p (Y n ) znamená, že X n je řádu menšího než Y n v prsti, tj. X n /Y n = o p (1).

20 Whitův pro heteroskedasticitě pro heteroskedasticitě Poznámka: Fakt, že platí X n = o p (1) lze ekvivalentně vyjádřit X n P 0, resp. plim n X n = 0. Značení: V = x 11. x T1... x 1p x Tp, v t = x t1. x tp. To jest X = (1 T,V) a x t = (1,v t ). Dále označme r t (β) = y t x t β, F β (u) := P[ r 1 (β) < u], F (T) β (u) := 1 T T t=1 I { r t(β) <u}. Platí, že F (T) β ( r t(β) ) = (pořadí t-tého rezidua 1)/T.

21 Whitův pro heteroskedasticitě pro heteroskedasticitě LWS odhad Necht r(1) 2 (β)... r2 (T)(β), jsou pořádkové statistiky čtverců reziduí rt 2(β) = y t x t β a necht w : [0,1] [0,1] je váhová funkce. Pak odhad LWS definujeme jako Platí β (LWS) T β (LWS) T := argmin β R p+1 = argmin β R p+1 { T { T ( } t 1 w )r 2(t) T (β). t=1 t=1 ( w F (T) β ) } ( r t(β) ) rt 2 (β).

22 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V1 (distribuce): (a) Posloupnost { (vt, e t ) } je posloupnost nezávislých t=1 p-dimenzionálních náhodných veličin rozdělených podle distribuční funkce F V,e (v,r), která je absolutně spojitá, její hustota f V,e (v,r) je omezená. (b) Pro marginální hustotu f V (v) platí M := sup{ v : f V (v) > 0} <.

23 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V2 (momenty): (a) t platí: E[e t ] = 0, E[v t ] = 0. (b) t existují druhé momenty náhodných veličin v t a e t.

24 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V3 (váhová funkce): Váhová funkce w : [0,1] [0,1] je absolutně spojitá, nerostoucí, w(0) = 1, α [0,1] existuje derivace w (α) a w (α) L <, [ ] E w(f β (0)( e 1 ))x 1 x 1 je pozitivně definitní.

25 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V4 (jednoznačnost řešení): Existuje právě jedno řešení β (0) vektorové rovnice ] β E [w (F β ( r 1 (β) )) x 1 (e 1 x 1 β) = 0 v neznámé β.

26 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V5 (Vlastnosti hustoty reziduí): Derivace hustoty f e(r) existuje a je omezená konstantou U e.

27 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V6 (Lipschitz. derivace váhové funkce): Derivace w (α) váhové funkce w je Lipschitzovská 1. řádu s konstantou J w, tj. α, α [0,1] : w (α) w ( α) J w α α.

28 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V7 (Nezávislost): Posloupnosti {v t } t=1 a {e t} t=1 jsou nezávislé. Dále ( a R + ) ( a > 0) : kde g(z) je hustota G(z) := P [ e 2 1 < z]. inf {g(z)} > L > 0, {z (a,a+ a)}

29 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V8 (Moment): Existuje q > 1 tak, že E[ e 1 2q ] <.

30 Whitův pro heteroskedasticitě pro heteroskedasticitě Tvrzení Věta (Víšek, 2008): ( LWS odhadu) Necht jsou [ splněny předpoklady ] (V1) - (V8) a necht Q = E w(f β (0)( e 1 ))x 1 x 1. Potom Poznámka: Označme T ( β(lws) T β (0)) = = Q 1 1 T w(f T β (0)( e t ))x t e t + o p (1). W 0 := diag t=1 { ( ) ( )} w F β (0)( e 1 ),...,w F β (0)( e T ).

31 Whitův pro heteroskedasticitě pro heteroskedasticitě při V maticové podobě lze předchozí přepsat do tvaru Platí, že T ( β(lws) T β (0)) = Q 1 X W 0 e T + o p (1). β (LWS) T β (0) P Q 1 X W 0 e. T Z předpokladů (V1)(a) - nezávislost v čase a (V7) - nezávislost chyb a procesu vysvětlujících proměnných, plyne, že E [ X W 0 e ] = 0. Dále ze SZVČ plyne β (LWS) T 1 T X W 0 e P 0, nebot matice W 0 má díky (V3) omezené prvky. Protože Q je P regulární, platí β (0).

32 Whitův pro heteroskedasticitě pro heteroskedasticitě heteroskedasticitě

33 Whitův pro heteroskedasticitě pro heteroskedasticitě Uvažujme lineární regresní model y = Xβ (0) + e, kde platí e t inid, Ee t = 0, vare t = σt 2 (0,K), K <, t. Označme Σ = diag{σ1 2,...,σ2 T } a nalezneme skeletní rozklad matice Σ, tj. matici P takovou, že Pak model PP = Σ 1, resp. PΣP = I T T Py = PXβ (0) + Pe, tj. y = X β (0) + e, je model s homoskedasticitou, nebot vare = E [ Pee P ] = I.

34 Whitův pro heteroskedasticitě pro heteroskedasticitě Odhad LWS je tvaru β (LWS) T = argmin β R p+1 { T t=1 ( w F (T) β Odhad LWS ) } ( r t(β) ) rt 2 (β). V maticové podobě má teoretický odhad LWS tvar kde β (LWS) = = ( X WX ) 1 X Wy = ( 1 X P WPX) X P WPy, { ( W = diag w t=1,...,t F (T) β )} ( r t(β) ).

35 Whitův pro heteroskedasticitě pro heteroskedasticitě Odhad LWS je tvaru β (LWS) T = argmin β R p+1 { T t=1 ( w F (T) β Odhad LWS ) } ( r t(β) ) rt 2 (β). V maticové podobě má teoretický odhad LWS tvar kde β (LWS) = = ( X WX ) 1 X Wy = ( 1 X P WPX) X P WPy, { ( W = diag w t=1,...,t Problém: Zbývá vhodně odhadnout P a W. F (T) β )} ( r t(β) ).

36 Whitův pro heteroskedasticitě pro heteroskedasticitě β (LWS) T = = Ŵ T = diag t=1,...,t Finální odhad LWS ( X ) 1 Ŵ T X X Ŵ T ŷ = ( X P T ŴT P ) 1 T X X P T ŴT P T y, kde X = P T X, ŷ = P T y, dále { ( w F (T) a kde P T je odhad P. β (LWS) T Předpokládejme, (viz později...), že )} ( r t ( β (LWS) T ) ) P T P P a Ŵ T P W,

37 Whitův pro heteroskedasticitě pro heteroskedasticitě Problém: Rezidua nejsou stejně rozdělená, pro další účely zavedeme následující značení: kde F β,t (u) := 1 T T F β,t (u) t=1 ] F β,t (u) = P [ y t x t β < u.

38 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V1 (distribuce): (a) Posloupnost { (vt, e t ) } je posloupnost nezávislých t=1 p-dimenzionálních náhodných veličin rozdělených podle distribuční funkce F V,e (v,r), která je absolutně spojitá, její hustota f V,e (v,r) je omezená. (b) Pro marginální hustotu f V (v) platí M := sup{ v : f V (v) > 0} <.

39 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V2 (momenty): (a) t platí: E[e t ] = 0, E[v t ] = 0. (b) t existují druhé momenty náhodných veličin v t a e t.

40 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V3 (váhová funkce): Váhová funkce w : [0,1] [0,1] je absolutně spojitá, nerostoucí, w(0) = 1, α [0,1] existuje derivace w (α) a w (α) L <, [ E w ( F β (0),t ( e t ) ) ] x t x t je pozitivně definitní pro všechna t a dále existují konstanty 0 < δ <,0 < M < takové, že pro každé t, j, k platí [ w ( E F β,t ( e t ) ) ] x tj x tk 1+δ < M, další předpoklad typu E dále. [ w ( F β,t ( e t ) ) et 2 1+δ] < viz

41 Whitův pro heteroskedasticitě pro heteroskedasticitě Dále platí M T = 1 T T t=1 [ E w ( F β,t ( e t ) ) ] x t x t je regulární pro dostatečně velká T a detm T > δ > 0.

42 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V4 (jednoznačnost řešení): Pro každé t existuje právě jedno řešení β (0) vektorové rovnice β E [w ( F β,t ( r t (β) ) ) ] x t (e t x t β) = 0 v neznámé β.

43 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V5 (Vlastnosti hustoty reziduí): Dále f e(r) existuje a je omezená konstantou U e.

44 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V6 (Lipschitz. derivace váhové funkce): Derivace w (α) váhové funkce w je Lipschitzovská 1. řádu s konstantou J w, tj. α, α [0,1] : w (α) w ( α) J w α α.

45 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V7 (Nezávislost): Posloupnosti {v t } t=1 a {e t} t=1 jsou nezávislé. Dále platí ( a R + ) ( a > 0) : ( t) : kde g t (z) je hustota G t (z) := P [ e 2 t < z]. inf {g t(z)} > L > 0, {z (a,a+ a)}

46 Whitův pro heteroskedasticitě pro heteroskedasticitě Předpoklad V8 (Moment): Existuje q > 1 tak, že pro všechna t je E[ e t 2q ] <. Z toho vyplývá, že pro všechna t platí [ w ( E F β,t ( e t ) ) et 2 1+δ] E[ e t 2q ] <, nebot funkce w je omezená.

47 Whitův pro heteroskedasticitě pro heteroskedasticitě Tvrzení Věta: ( LWS odhadu) Necht jsou splněny předpoklady (V1) - (V8) a necht Q = T 1 ] T t=1 [w(f E β (0),t ( e t ))x t x t. Potom Důkaz: Platí T ( β(lws) T β (0)) = = Q 1 1 T w(f T β (0),t ( e t ))x t e t + o p (1). 1 T T t=1 t=1 ( ( w F (T) β (LWS) T ) ) ( r t ( β (LWS) T ) ) x t x t P Q.

48 Reference Chung K. L. (2001): A Course in Probability Theory. Academic Press (3ed), New York. Hyashi F. (2000): Econometrics. Princeton University Press, Princeton. Víšek J. Á. (2008): Asymptotic Representation of Least Weighted Squares. Preprint. Víšek J. Á. (2008): Empirical Distribution Function Under Heteroskedasticity. Statistics (submitted).

49 Reference White H. (1980): A Heteroskedasticity-consistent Covariance Matrix Estimator and a Direct Test for Heteroskedasticity. Econometrica, Vol. 48, No. 4, pp

50 KONEC. (připomínky, otázky...?)