$y = XB KLASYCZNY MODEL REGRESJI LINIOWEJ Z WIELOMA ZMIENNYMI NIEZALEŻNYMI



Podobne dokumenty
N ( µ, σ ). Wyznacz estymatory parametrów µ i. Y które są niezależnymi zmiennymi losowymi.

Wykład 6. Klasyczny model regresji liniowej

Prognozowanie- wiadomoci wstpne

( ) ( ) ( ) ( ) ( )( ) ( ) ( ) 2. r s. ( i. REGRESJA (jedna zmienna) e s = + Y b b X. x x x n x. cov( (kowariancja) = (współczynnik korelacji) = +

Weryfikacja modelu. ( ) Założenia Gaussa-Markowa. Związek pomiędzy zmienną objaśnianą a zmiennymi objaśniającymi ma charakter liniowy

Teoria i praktyka. Wyższa Szkoła Turystyki i Ekologii. Fizyka. WSTiE Sucha Beskidzka Fizyka

Służą opisowi oraz przewidywaniu przyszłego kształtowania się zależności gospodarczych.

CHARAKTERYSTYKI LICZBOWE STRUKTURY ZBIOROWOŚCI (c.d.) MIARY ZMIENNOŚCI

Metody numeryczne. Różniczkowanie. Wykład nr 6. dr hab. Piotr Fronczak

Ćwiczenia 11_12 KLASYCZNY MODEL REGRESJI LINIOWEJ

16, zbudowano test jednostajnie najmocniejszy dla weryfikacji hipotezy H

Instrukcja dodawania reklamy

UWAGI O ROZKŁADZIE FUNKCJI ZMIENNEJ LOSOWEJ.

opisać wielowymiarową funkcją rozkładu gęstości prawdopodobieństwa f(x 1 , x xn

Pienińskich Portali Turystycznych

Materiały do wykładu 7 ze Statystyki

(liniowy model popytu), a > 0; b < 0

Testy oparte na ilorazie wiarygodności

Analiza Matematyczna Ćwiczenia. J. de Lucas

FUNKCJE DWÓCH ZMIENNYCH

JEDNOWYMIAROWA ZMIENNA LOSOWA

Tw: (O promieniu zbieżności R szeregu potęgowego ) Jeżeli istnieje granica. to R = ) ciąg liczb zespolonych

Rozkład normalny (Gaussa)

Teoria Sygnałów. III rok Informatyki Stosowanej. Wykład 7 [ ] ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) Analiza częstotliwościowa dyskretnych sygnałów cyfrowych

Miary statystyczne. Katowice 2014

Józef Beluch Akademia Górniczo-Hutnicza w Krakowie. Wpływ wag współrzędnych na wyniki transformacji Helmerta

Rozkład normalny (Gaussa)

Pojęcie modelu. Model ekonometryczny. Przykład modelu ekonometrycznego. Klasyfikacja modeli ekonometrycznych. Etapy analizy ekonometrycznej


( ) O k k k. A k. P k. r k. M O r 1. -P n W. P 1 P k. Rys Redukcja dowolnego przestrzennego układu sił

Indukcja matematyczna

przegrody (W ) Łukasz Nowak, Instytut Budownictwa, Politechnika Wrocławska, lukasz.nowak@pwr.wroc.pl 1

Rachunek różniczkowy funkcji wielu zmiennych

STATYSTYKA I stopień ZESTAW ZADAŃ

5. OPTYMALIZACJA NIELINIOWA

METODY KOMPUTEROWE 1

3. OPTYMALIZACJA NIELINIOWA

XXX OLIMPIADA FIZYCZNA ETAP I Zadania teoretyczne

ANALIZA FOURIEROWSKA szybkie transformaty Fouriera

Sprzedaż finalna - sprzedaż dóbr i usług konsumentowi lub firmie, którzy ostatecznie je zużytkują, nie poddając dalszemu przetworzeniu.

Wnioskowanie statystyczne dla korelacji i regresji.

k k M. Przybycień Rachunek Prawdopodobieństwa i Statystyka Wykład 13-2

Analiza spektralna stóp zwrotu z inwestycji w akcje

Rachunek różniczkowy funkcji wielu zmiennych

W loterii bierze udział 10 osób. Regulamin loterii faworyzuje te osoby, które w eliminacjach osiągnęły lepsze wyniki:

ZMIENNA LOSOWA JEDNOWYMIAROWA POJĘCIE ZMIENNEJ LOSOWEJ

BADANIE WSPÓŁZALEśNOŚCI DWÓCH CECH - ANALIZA KORELACJI PROSTEJ

Wykład 4 Testy zgodności. dystrybuanta rozkładu populacji dystrybuanty rozkładów dwóch populacji rodzaj rozkładu wartości parametrów.

Przykład 2.6. Przekrój złożony z trzech kształtowników walcowanych.

ma rozkład normalny z nieznaną wartością oczekiwaną m

Niepewności pomiarów. DR Andrzej Bąk

INFORMATYKA W CHEMII Dr Piotr Szczepański

BQR FMECA/FMEA. czujnik DI CPU DO zawór. Rys. 1. Schemat rozpatrywanego systemu zabezpieczeniowego PE

Teoria Sygnałów. II rok Geofizyki III rok Informatyki Stosowanej. Wykład 4. iωα. Własności przekształcenia Fouriera. α α

Wiek statku a prawdopodobieństwo wystąpienia wypadku na morzu analiza współzależności

System finansowy gospodarki

ZESTAW ZADAŃ Z INFORMATYKI

Prawdopodobieństwo i statystyka r.

Półprzewodniki (ang. semiconductors).

STATYSTYKA PODSTAWOWE WZORY DOZWOLONE NA EGZAMINIE NA STUDIACH LICENCJACKICH

Regresja wielokrotna. Przygotowano w oparciu o Applied Linear Regression Models Neter, Wasserman, Kutner

STATYSTYKA OPISOWA. Państwowa Wyższa Szkoła Zawodowa w Koninie. Materiały pomocnicze do ćwiczeń. Materiały dydaktyczne 17 ARTUR ZIMNY

25. RÓWNANIA RÓŻNICZKOWE PIERWSZEGO RZĘDU. y +y tgx=sinx

Pozycjonowanie bazujące na wielosensorowym filtrze Kalmana. Positioning based on the multi-sensor Kalman filter

L.Kowalski zadania z rachunku prawdopodobieństwa-zestaw 4 ZADANIA - ZESTAW 4

Portfel. Portfel pytania. Portfel pytania. Analiza i Zarządzanie Portfelem cz. 2. Katedra Inwestycji Finansowych i Zarządzania Ryzykiem

Planowanie eksperymentu pomiarowego I

Linie regresji II-go rodzaju

Dane modelu - parametry

Stanisław Cichocki Natalia Nehrebecka. Zajęcia 7-8

TESTY NORMALNOŚCI. ( Cecha X populacji ma rozkład normalny). Hipoteza alternatywna H1( Cecha X populacji nie ma rozkładu normalnego).

Zadanie 1. Rzucamy symetryczną monetą tak długo, aż w dwóch kolejnych rzutach pojawią się,,reszki. Oblicz wartość oczekiwaną liczby wykonanych rzutów.

Stanisław Cichocki. Natalia Nehrebecka. Wykład 10

ZMIENNE LOSOWE WIELOWYMIAROWE

wydanie 3 / listopad 2015 znaków ewakuacji i ochrony przeciwpożarowej PN-EN ISO 7010 certyfikowanych pr zez C N B O P

L.Kowalski zadania ze statystyki opisowej-zestaw 5. ZADANIA Zestaw 5

SELEKCJA: JAK JEDNA POPULACJA (STRATEGIA) WYPIERA INNĄ

ZAGADNIENIE TRANSPORTOWE

Portfel złożony z wielu papierów wartościowych

Laboratorium Metod Statystycznych ĆWICZENIE 2 WERYFIKACJA HIPOTEZ I ANALIZA WARIANCJI

MODEL SHARP A - MIARY WRAŻLIWOŚCI

( ) ( ) ( ) ( ) ( ) ( )

WYZNACZANIE STAŁ YCH MATERIAŁ OWYCH DREWNA METODĄ HOMOGENIZACJI

Statystyczna analiza miesięcznych zmian współczynnika szkodowości kredytów hipotecznych

Ekstrema funkcji dwóch zmiennych

Zabezpieczenie ziemnozwarciowe admitancyjne Yo>, Go>, Bo>.

Granica funkcji - Lucjan Kowalski GRANICA FUNKCJI

LABORATORIUM SYMSE Układy liniowe

Jego zależy od wysokości i częstotliwości wypłat kuponów odsetkowych, ceny wykupu, oczekiwanej stopy zwrotu oraz zapłaconej ceny za obligację.

STATYSTYKA PODSTAWOWE WZORY DOZWOLONE NA EGZAMINIE NA STUDIACH LICENCJACKICH

Przykładowe zadania dla poziomu rozszerzonego

y Y : r R ; n Dobór zmiennych objaśniających do modelu ekonometrycznego Oznaczenia: Y - zmienna objaśniana, Postać macierzowa:

Rachunek prawdopodobieństwa i statystyka W 11: Analizy zależnościpomiędzy zmiennymi losowymi Model regresji wielokrotnej

1. ZASADA DZIAŁANIA SCHEMAT FUNKCJONALNY PARAMETRY...

termodynamika fenomenologiczna p, VT V, teoria kinetyczno-molekularna <v 2 > termodynamika statystyczna n(v) to jest długi czas, zachodzi

SZKOLENIE Świadectwo charakterystyki energetycznej budynku

Monika Jeziorska - Pąpka Uniwersytet Mikołaja Kopernika w Toruniu

MODEL EKONOMETRYCZNY KLASYFIKACJA MODELI EKONOMETRYCZNYCH

Teoria Sygnałów. II Inżynieria Obliczeniowa. Wykład 13

Transkrypt:

KASYCZNY ODE REGRESJI INIOWEJ Z WIEOA ZIENNYI NIEZAEŻNYI. gdz: wtor obsrwacj a zmj Y, o wmarach ( macrz obsrwacj a zmch zalżch, o wmarach ( ( wtor paramtrów struturalch (wtor współczów, o wmarach (( wtor sładów losowch, o wmarach (. Statstcz aalzując: losow losow obsrwowal obsrwowal o założ mów, ż lascz modl oomtrcz jst modlm lowm względm paramtrów struturalch. rz ( < Założ mów, ż mędz zmm objaśającm ma zalżośc tpu lowgo, co jst warum oczm dla stmacj a moc twrdza, ż rząd daj macrz rów jst rzędow utworzoj z j macrz Grama. m samm jst top założ gwaratując st stmatora KNK, z uwag a gwarację osoblwośc macrz. W jęzu tchczm jst to założ gwaratując bra współlowośc algbraczj (lowgo sorlowaa zmch objaśającch w modlu. Podrśla rówż, ż lczba obsrwacj powa bć mjsza ż lczba paramtrów. A. E( Założ mów, ż ażd sład losow ma wartość oczwaą rówą zru. Jst oo gwaratm obcążoośc stmatora Gausa-arowa, tj. stmatora paramtrów struturalch dago KNK.. V( E σ I, gdz I jst macrzą jdostową stopa. o założ (macrz waracj-owaracj sładów losowch modlu mów, ż E σ dla wszstch, co jst założm o stałośc waracj (tchcz: homoscdastczośc oraz to, ż E s t dla wszstch s t, co jst założm o sorlowau sładów losowch (tchcz: brau autoorlacj sładów losowch modlu.. ~N (; σ I Założ o ormalośc rozładu sładów losowch modlu. WIERDZENIE GAUSSA-ARKOWA W Klasczm odlu Rgrsj owj ajftwjszm obcążom stmatorm lowm wtora paramtrów struturalm jst wtor otrzma mtodą ajmjszch wadratów ( o macrz waracj owaracj V ( σ ( Uwag: czasam dla stmatora wtora paramtrów struturalch użwa sę ozacza $. malzacj podlga wraż S, a bzpośrdo poprzdzającm uzsa stmatora wrażm jst rówa: (. Estmator uzsujm możąc lwostro rówa przz (. Wtor pozwala a wzacz wtora $ tortczch wartośc zmj losowj Y: $

Różca $ pozwala a oblcz tzw. wtora rszt. W oparcu o rsztową sumę wadratów odchlń t rówą, buduj sę stmator waracj sładów losowch σ, tór po wprowadzu wos: b S ( ( ( Jst o stmatorm obcążom, a moc założa V( E σ I m samm: S E E ( S σ, gdż ( ( ( E S ( σ ( ( ( Dzę mu moża zbudować stmator macrz waracj-owaracj wtora stmatorów, co astępuj poprzz wstaw S zamast σ w wzorz a macrz waracj-owaracj wtora stmatorów dach KNK: V( σ ( σ Zatm stmatorm tj macrz (obcążom jst: V $ (b S ( Elmt stojąc a główj przątj tj macrz są ocam waracj stmatorów, dlatgo stadardow błąd oc paramtru j możm wrazć wzorm: S ( j S d jj, gdz d jj jst j-tm dagoalm lmtm macrz(. arą dopasowaa hprpłaszczz rgrsj, wzaczoj mtoda ajmjszch wadratów, do dach mprczch jst tzw. współcz dtrmacj ozacza R. Orśla sę go wzorm: R rsztowa suma wadratów odchlń ogóla suma wadratów odchlń co w zaps macrzowm przjmuj postać: R ( / b ( / b Wraż ( / często bwa azwa współczm zbżośc ϕ. Współcz t mrz zbżość dach mprczch z dam tortczm, a doładj: jaa część całowtj zaobsrwowaj zmośc zmj jst dzłm przpadu. Współcz dtrmacj (cz aczj: orśloośc R orśla atomast jaa część zmośc zmj objaśaj jst wjaśaa przz modl. Jgo wartość zawra sę w przdzal <,>. Jśl R, wszst put mprcz lżą a hprpłaszczź rgrsj, a węc dopasowa jst dosoał. Jśl atomast R, to zm zalż uwzględo w modlu woszą żadch formacj oczch do wjaśa zmośc zmj. Dzj sę ta dlatgo, ż prz dopasowau dosoałm hprpłaszczza otrzmaa prz pomoc KNK przchodz przz wszst put mprcz, atomast jżl jst oo dobr, to w rańcowm przpadu ta hprpłaszczza jst ułożoa pozomo przchodz przz.

DOÓR ZIENNYCH OJAŚNIAJĄCYCH DO ODEU Zm objaśając w modlu oomtrczm pow bć przpadow. W ch orślu pomaga p. tora oom, tóra dzę opsow procsów gospodarczch (do czgo jst powołaa, dostarcza tm samm gotowch propozcj w zars lst zmch objaśającch dla ortch przpadów. Jda tora oom zajmuj sę ocą ortch tpów zmch w ortch przpadach badawczch. Często bwa ta, ż tora oom prczuj w jas sposób, tór zm alż brać pod uwagę w orślom otśc badawczm. Dla tworzącgo modl oomtrcz pozostaj zatm problm tago doboru zmch objaśającch do modlu, ab ja ajlpj scharatrzować fucją zalżość pomędz zmą objaśaą, a zmm objaśającm. W pratc t problm sprowadza sę do zrduowaa lst zmch dostarczach prz torę oom (lub au szczgółowo aalzując problm pośrdo bada przz oomtra prz zachowau pwch rguł. Najważjsz z ch to: alż pozostawć w modlu zm sl sorlowa z zmą objaśaą, prz jdoczsm słabm sorlowau zmch objaśającch mędz sobą; pozostawo zm pow sl rprztować zm, tór zalazł sę w zborz zmch objaśającch modlu (choćb z powodu oczośc ogracza lczb tch zmch, a pommo to mają jaś wpłw a zmą objaśaą; Wśród procdur statstczch, tór wszczgóla sę jao mtod rducj zboru zmch objaśającch do modlu, wróża sę tzw. mtodę wsaźów pojmośc formacjj Hllwga (obo p. mtod aalz grafów, mtod aalz macrz współczów orlacj. Ida badaa pojmośc ośów formacj mtodą Hllwga (ta orśl rówż spota jst w ltraturz sprowadza sę do ustala lst zmch, tór są sl sorlowa z zmą objaśającą prz jdoczsm słabm sorlowau wzajmm. Kro. udujm wtor orlacj R, tórgo lmtam są współcz r, orlacj poszczgólch ralzacj zmj objaśaj Y oraz potcjalch zmch objaśającch,,..., m, oblczo wdług wzoru: r t ( ( t ( ( t t t t t gdz m jst lczbą potcjalch zmch objaśającch modlu, jst lczbą pomarów atomast,,..., m. Kro. udujm macrz orlacj R, tóra obrazuj współcz orlacj mędz potcjalm zmm objaśającm,,..., m. Elmt sładow macrz oblczo są wdług wzoru: r j t ( ( t tj j ( ( t t t acrz R jst smtrcza (r j r j wgląda astępująco: tj r... r m r... r m R............ rm rm... Kro. Rozpatrwa są wszst ombacj zboru potcjalch zmch objaśającch, tórch lczba rówa jst: m. Dla ażdj ombacj potcjalch zmch objaśającch oblcza sę tzw. dwdual wsaź pojmośc formacjj h j, zdfowa: j

r h lj j m l j r j gdz l,,..., (l ozacza umr ombacj oraz j,,..., m l (j ozacza umr zmj w ombacj, atomast m l ozacza lczbę zmch w rozpatrwaj ombacj ( m l j r j wsazuj a sumę bzwzględch wartośc współczów orlacj j-tj zmj objaśającj z pozostałm wstępującm w rozpatrwaj ombacj. Kro. Oblczoa zostaj tgrala pojmość ośów formacj, tóra zdfowaa jst jao suma pojmośc dwdualch w ramach ażdj z ombacj: H l m l h lj j (l,,...,. Idwdual oraz tgral wsaź są uormowa w przdzal [;] oraz przjmują tm węsz wartośc, m sljsza jst orlacja mędz zmm objaśającm zmą objaśaą, a taż m słabsza jst orlacja wzajma mędz zmm objaśającm. Po przjęcu wartośc masmalj dla oblczoch wsaźów tgralj pojmośc formacjj, odrzuca sę t zm, tórch charatrst jj osągają. Przład: W przstrzj aalz poptu a żwc wołow wzęto pod uwagę dw zm objaśając: przcęt dochod a głowę mszańca -tgo wojwództwa, przcętą cę żwca wołowgo w -tm wojwództwa. Dooaj wboru zmj objaśającj woszącj węcj formacj o badam w modlu zjawsu, wdząc ż:,, 6 R, R, 8,. Samodzl odlowao ształtowa sę producj żwca przpadającj a ha użtów rolch (Y w pwm gospodarstw. Propoowa zm objaśając są astępując: plo uurdz przzaczoj a paszę udzał wartośc producj roślj w wartośc producj globalj śrd c supu żwca zużc pasz trścwch Na podstaw dach zbudowao,, 6,,, 8,, wtor R oraz macrz R, 8,, 6 Worzstując mtodę wsaźów pojmośc formacjj Hllwga dooać rducj zmch objaśającch zapsać postać modlu (dw zm.

DOPASOWANIE ODEU DO DANYCH USAENIA WSĘPNE Założa modlu:.. rz ( <, jst macrzą daą, losową. E( E σ I, gdz I jst macrzą jdostową stopa. ając macrz zmch objaśającch orśloą powżj (modl z zmą wolą możm orślć macrz : Po wmożu taj macrz z wtorm olumowm o odpowdch wmarach (p. paramtrów otrzmam: Nalż pamętać, ż macrz ta jst w róż sposób dfowaa (problm dsacj, z wszstm oswcjam tgo fatu w późjszch rozważaach. Np. czasm dfowaa jst w sposób A, m razm w sposób. A, gdz... (tutaj gdz...

OCENA DOPASOWANIA ODEU DO DANYCH (WSPÓŁCZYNNIK DEERINACJI Rozważam Klascz modl oomtrcz, z paramtrm wolm. Za już rówa (patrz: stmacja paramtrów modlu za pomocą KNK: Y dfuj uład rówań ormalch, tór możm zapsać doładj w astępując sposób: Rozważm prwsz rówa:... oża j zapsać:, gdz jst wtorm o wmarach (t Przstawając rówa stroam ( oraz pamętając o tm, ż, możm zauważć, ż: (suma wartośc tortczch jst rówa sum wartośc mprczch zmj czgo bzpośrdą oswcją jst rówość odpowdch śrdch artmtczch:. Jżl wtor rszt, to z uwag a ( (suma rszt wos adając doładość dopasowaa alż zbadać sumę wadratów rszt (formuj o waracj rszt. ( ( ( ( ( Zatm, co moża zapsać rówż astępująco:, gdż ( ( ( Stąd tż wa wos, ż: (aczj:. Odjmując od obu stro rówaa salar: ( otrzmujm ( ( ( ( ( (v acrz jdostowa

( ( Poważ prawdzwa jst rówość: ( ( oraz, rówa moża zapsać astępująco: ( ( ogóla suma wadratów rgrsja suma wadratów odchlń rsztowa suma wadratów odchlń od śrdj (OSK, od śrdj (RSK, (SK, ZIENNOŚĆ CAŁKOWIA ZIENNOŚĆ OJAŚNIONA ODEE ZIENNOŚĆ NIEOJAŚNIONA waracja wartośc mprczch waracja wartośc tortczch waracja rszt Jst to tzw. DEKOPOZYCJA WARIANCJI ZIENNEJ OJAŚNIANEJ Zmość obsrwowach wartośc opsaa jst jao suma zmośc tortczch wartośc zmośc rszt. Dzląc stroam powższ rówa przz OSK otrzmujm: ( ( ( ( ( m samm otrzmujm mar dopasowaa modlu do dach mprczch: ( ( współcz dtrmacj R ( współcz zbżośc ϕ gdz ϕ w zaps macrzowm. ( UWAGI NA EA WSPÓŁCZYNNIKA DEERINACJI. Współcz dtrmacj R ustala, jaa część zaobsrwowaj zmośc zmj objaśaj jst wjaśoa przz modl. Natomast ϕ ustala tą część zmośc zmj zalżj, tóra została wjaśoa przz modl (została przpsaa dzałau czów objętch modlm.. Obdwa współcz: R oraz ϕ, przjmują wartośc z przdzału [, ]. Dopasowa modlu do dach mprczch jst tm lpsz, m blższa jdośc jst wartość współcza dtrmacj.. Z prat wadomo, ż dla modl, tórch paramtr został oszacowa w oparcu o da w postac roczch szrgów czasowch współcz dtrmacj przraczają wartość,9. Jda w modlach oszacowach a podstaw dach przrojowch R jst zacz ższ.. Problm z trprtacją współcza dtrmacj: Powższ ustala załadają, ż w modlu wstępuj wraz wol. Jżl ta jst, to suma rszt jst rówa, a współcz R moż przbrać wartośc z przdzału (, ]. Umożlwa to jgo poprawą trprtację. Próbą rozwązaa problmu jst wprowadz współcza: ~ R Wartość współcza R wzrasta, d do modlu dodawaa jst owa zma objaśająca. Dzj sę ta awt wtd, d jst oa stot sorlowaa z zmą objaśaą. m samm doda stotj zmj objaśającj moż wpłąć a poprawę oc dopasowaa modlu do dach, pommo ż w rzczwstośc dopasowa sę poprawło. Próbą przzwcęża tj trudośc jst wprowadz tzw. sorgowago współcza dtrmacj: R ( R, gdz ozacza lczbę zmch ( objaśającch.