Ekonometria Bayesowska
|
|
- Karol Socha
- 7 lat temu
- Przeglądów:
Transkrypt
1 Ekonometria Bayesowska Wykªad 9: Metody numeryczne: MCMC Andrzej Torój 1 / 17
2 Plan wykªadu Wprowadzenie 1 Wprowadzenie 3 / 17
3 Plan prezentacji Wprowadzenie 1 Wprowadzenie 3 3 / 17
4 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
5 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
6 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
7 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
8 Efekty zastosowania metod numerycznych 1 Metody numeryczne powinny prowadzi do otrzymania wyników S-krotnego losowania z rozkªadu a posteriori powinny, bo nie mamy gwarancji,»e tak b dzie). Dysponuj c tymi wynikami oznaczmy je θ 1), θ ),..., θ S) ) mo»emy naszkicowa histogram rozkªadów brzegowych pojedynczych parametrów lub, o ile to zasadne, analizowa rozkªady wielowymiarowe podzbiorów wektora parametrów. Mo»emy równie» oszacowa warto± oczekiwan dowolnej S funkcji parametrów gθ) jako 1 S g θ s)). s=1 Istnieje wiele metod numerycznych. Poznamy dzi± dwie metody klasy MCMC Monte Carlo Markov chain): próbnik Gibbsa i algorytm Metropolisa-Hastingsa. 5 / 17
9 Plan prezentacji Wprowadzenie 1 Wprowadzenie 3 6 / 17
10 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
11 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
12 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
13 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
14 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
15 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
16 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
17 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
18 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
19 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
20 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
21 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
22 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
23 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
24 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
25 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
26 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
27 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
28 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
29 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
30 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
31 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
32 Plan prezentacji Wprowadzenie 1 Wprowadzenie 3 11 / 17
33 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
34 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
35 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
36 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
37 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
38 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
39 Algorytm MH wybór wektora startowego 1 Arbitralne wskazanie przez u»ytkownika. Losowanie z brzegowych rozkªadów a priori, je»eli mo»liwe. 3 Wielokrotne wybory z analiz wra»liwo±ci. W ka»dym przypadku odcinamy pewn liczb pocz tkowych warto±ci jako burn-in. Przy prawidªowej zbie»no±ci oraz odpowiednio wysokiej liczbie iteracji S) nie powinno to mie znaczenia. 13 / 17
40 Algorytm MH g sto± generuj ca kandydatów 1 W ogólnym przypadku zakªadamy,»e jest zale»na od bie» cego punktu θ s). Najcz stsz implementacj ) jest Random Walk MH, gdzie losujemy ε N θ s), Σ i rozwa»amy kandydata: θ = θ s) + ε Nie musi tak jednak by. Wówczas mówimy o implementacji Independence Chain MH. Wówczas losujemy kandydatów θ za pomoc g sto±ci q θ θ s)) = q θ) 14 / 17
41 Algorytm MH g sto± generuj ca kandydatów 1 W ogólnym przypadku zakªadamy,»e jest zale»na od bie» cego punktu θ s). Najcz stsz implementacj ) jest Random Walk MH, gdzie losujemy ε N θ s), Σ i rozwa»amy kandydata: θ = θ s) + ε Nie musi tak jednak by. Wówczas mówimy o implementacji Independence Chain MH. Wówczas losujemy kandydatów θ za pomoc g sto±ci q θ θ s)) = q θ) 14 / 17
42 Algorytm MH prawdopodobie«stwo akceptacji α 1 Poniewa» q to funkcja umowna, korzystanie z niej bez dodatkowych korekt nie gwarantuje nam uzyskania sekwencji losowa«przybli»aj cych rozkªad a posteriori. 1 Algorytm bez korekt zbyt cz sto pozostaje w obszarach o wysokiej g sto±ci a posteriori. W zwi zku z tym musimy go skorygowa, by dostatecznie dobrze zwiedzi caª dziedzin parametrów. Korekta polega na nieakceptowaniu wszystkich kandydatów wylosowanych na podstawie g sto±ci q. W przypadku braku akceptacji, kolejnym elementem ªa«cucha jest kopia poprzedniego. 1 Ogólny wzór na prawdopodobie«stwo akceptacji zale»y od g sto±ci a posteriori p) oraz g sto±ci generuj cej kandydatów q) dla wektorów: poprzedniego θ s) ) oraz kandydata θ ). Szczegóªy: Koop roz. 5.5). W implementacji Independence Chain: tylko od p i q kandydata 3 W implementacji Random Walk: tylko od p, ale nie q ) [ ] α θ, θ 0) pθ = min y) pθ s 1) y), 1 15 / 17
43 Algorytm MH prawdopodobie«stwo akceptacji α 1 Poniewa» q to funkcja umowna, korzystanie z niej bez dodatkowych korekt nie gwarantuje nam uzyskania sekwencji losowa«przybli»aj cych rozkªad a posteriori. 1 Algorytm bez korekt zbyt cz sto pozostaje w obszarach o wysokiej g sto±ci a posteriori. W zwi zku z tym musimy go skorygowa, by dostatecznie dobrze zwiedzi caª dziedzin parametrów. Korekta polega na nieakceptowaniu wszystkich kandydatów wylosowanych na podstawie g sto±ci q. W przypadku braku akceptacji, kolejnym elementem ªa«cucha jest kopia poprzedniego. 1 Ogólny wzór na prawdopodobie«stwo akceptacji zale»y od g sto±ci a posteriori p) oraz g sto±ci generuj cej kandydatów q) dla wektorów: poprzedniego θ s) ) oraz kandydata θ ). Szczegóªy: Koop roz. 5.5). W implementacji Independence Chain: tylko od p i q kandydata 3 W implementacji Random Walk: tylko od p, ale nie q ) [ ] α θ, θ 0) pθ = min y) pθ s 1) y), 1 15 / 17
44 Algorytm MH α versus q Miar jako±ci wyników jest m.in. ±rednie prawdopodobie«stwo akceptacji ᾱ. Okazuje si,»e optymalne warto±ci ᾱ [0, ; 0, 4]. Dostatecznie niskie prawdopodobie«stwo akceptacji oznacza,»e dziedzina g sto±ci a posteriori zostaªa dobrze wyeksplorowana. ᾱ to jednak warto± wynikowa i nie mo»emy jej wprost wybra. Zale»y ona przede wszystkim od doboru g sto±ci generuj cej kandydatów q. W przypadku Random Walk MH, sprowadza si to do odpowiedniego ustalenia wariancji kroku ε, czyli Σ. Relacj mi dzy ᾱ a Σ nale»y zbada w ramach dodatkowej procedury iteracyjnej. Zaczynamy w niej od Σ 0) = c 0) I. W przypadku zbyt wysokiego ᾱ 0) zbyt cz sto akceptujemy, a wi c jeste±my zbyt konserwatywni w zwiedzaniu dziedziny, czyli powinnismy ustali c 1) > c 0). 16 / 17
45 Rozrzedzanie i zwielokrotnienie ªa«cucha Aby unikn efektu silnej autokorelacji w wygenerowanej sekwencji θ 1), θ ),..., θ S) decydujemy si czasami na jej rozrzedzanie thinning), czyli wybór co m-tego elementu. Eliminacja autokorelacji jest istotna, bo pozwala i) pracowa z równie dªugimi ªa«cuchami ale o lepszej zawarto±ci informacyjnej, ii) uªatwia kalkulacj miar zwi zanych z diagnostyk zbie»no±ci ªa«cucha o tym nast pnym razem). Zasadno± tego zabiegu jest jednak czasami przedmiotem kontrowersji w literaturze. Cz sto decydujemy si na u»ycie wi kszej liczby ªa«cuchów ni» tylko jeden to równie» przydaje si w diagnostyce zbie»no±ci MCMC). Pytanie Generujemy 3 ªa«cuchy po 15 tys. obserwacji dla 4-elementowego wektora parametrów θ. Poªow odrzucamy jako burn-in. Stosujemy dodatkowo rozrzedzanie z m=5. Ile otrzymamy liczb i jakie wymiary powinna mie macierz wyników? 17 / 17
Ekonometria bayesowska: szybki start
Ekonometria bayesowska: szybki start Wprowadzenie do reguª wnioskowania i oblicze«w R SKN Ekonometrii 12.12.2016 r. Andrzej Torój 1 / 23 Plan wykªadu 1 Podstawowe zasady wnioskowania bayesowskiego 2 3
Bardziej szczegółowoWst p do ekonometrii II
Wst p do ekonometrii II Wykªad 4: Wprowadzenie do ekonometrii bayesowskiej (4) WdE II 1 / 41 Plan wykªadu 1 Podstawowe zasady wnioskowania bayesowskiego 2 Zastosowania ekonometrii bayesowskiej 3 Metody
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 6: Bayesowskie ª czenie wiedzy (6) Ekonometria Bayesowska 1 / 21 Plan wykªadu 1 Wprowadzenie 2 Oczekiwana wielko± modelu 3 Losowanie próby modeli 4 wiczenia w R (6) Ekonometria
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 10: Symulacje a posteriori w R (10) Ekonometria Bayesowska 1 / 23 Plan wykªadu 1 Przykªad: model ze skªadnikiem losowym o grubych ogonach 2 Wykorzystanie pakietu rjags 3 Diagnostyka
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 10: Symulacje a posteriori w R Andrzej Torój 1 / 23 Plan wykªadu 1 Przykªad: model ze skªadnikiem losowym o grubych ogonach 2 3 4 2 / 23 Plan prezentacji 1 Przykªad: model
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 8: Restrykcje na parametry w postaci nierówno±ci: analiza bayesowska (8) Ekonometria Bayesowska 1 / 21 Plan wykªadu 1 Restrykcje nierówno±ciowe: podej±cie klasyczne a bayesowskie
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 2: Bayesowska estymacja równania ze staª. Elementy j zyka R (2) Ekonometria Bayesowska / 24 Plan wykªadu Model ze staª 2 Podstawy j zyka R 3 Bayesowska analiza modelu ze staª
Bardziej szczegółowoBiostatystyka, # 5 /Weterynaria I/
Biostatystyka, # 5 /Weterynaria I/ dr n. mat. Zdzisªaw Otachel Uniwersytet Przyrodniczy w Lublinie Katedra Zastosowa«Matematyki i Informatyki ul. Gª boka 28, bud. CIW, p. 221 e-mail: zdzislaw.otachel@up.lublin.pl
Bardziej szczegółowoCAŠKOWANIE METODAMI MONTE CARLO Janusz Adamowski
III. CAŠKOWAIE METODAMI MOTE CARLO Janusz Adamowski 1 1 azwa metody Podstawowym zastosowaniem w zyce metody Monte Carlo (MC) jest opis zªo-»onych ukªadów zycznych o du»ej liczbie stopni swobody. Opis zªo»onych
Bardziej szczegółowo5. (8 punktów) EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach
Matematyka w ekonomii i ubezpieczeniach ( Niezale»ne szkody maja rozkªady P (X i = k) = exp( 1)/k!, P (Y i = k) = 4+k ) k (1/3) 5 (/3) k, k = 0, 1,.... Niech S = X 1 +... + X 500 + Y 1 +... + Y 500. Skªadka
Bardziej szczegółowoIn»ynierskie zastosowania statystyki wiczenia
Uwagi: 27012014 poprawiono kilka literówek, zwi zanych z przedziaªami ufno±ci dla wariancji i odchylenia standardowego In»ynierskie zastosowania statystyki wiczenia Przedziaªy wiarygodno±ci, testowanie
Bardziej szczegółowoEGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach
EGZAMIN MAGISTERSKI, 12.09.2018r Matematyka w ekonomii i ubezpieczeniach Zadanie 1. (8 punktów) O rozkªadzie pewnego ryzyka S wiemy,»e: E[(S 20) + ] = 8 E[S 10 < S 20] = 13 P (S 20) = 3 4 P (S 10) = 1
Bardziej szczegółowo1 Bª dy i arytmetyka zmiennopozycyjna
1 Bª dy i arytmetyka zmiennopozycyjna Liczby w pami ci komputera przedstawiamy w ukªadzie dwójkowym w postaci zmiennopozycyjnej Oznacza to,»e s one postaci ±m c, 01 m < 1, c min c c max, (1) gdzie m nazywamy
Bardziej szczegółowoModele wielorównaniowe. Estymacja parametrów
Modele wielorównaniowe. Estymacja parametrów Ekonometria Szeregów Czasowych SGH Estymacja 1 / 47 Plan wykªadu 1 Po±rednia MNK 2 Metoda zmiennych instrumentalnych 3 Podwójna MNK 4 Estymatory klasy k 5 MNW
Bardziej szczegółowoModele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 6
Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 6 Tomasz Suchocki Uniwersytet Przyrodniczy we Wrocªawiu Katedra Genetyki i Ogólnej Hodowli Zwierz t Plan wykªadu Model mieszany
Bardziej szczegółowoEkonometria. wiczenia 2 Werykacja modelu liniowego. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 2 Werykacja modelu liniowego (2) Ekonometria 1 / 33 Plan wicze«1 Wprowadzenie 2 Ocena dopasowania R-kwadrat Skorygowany R-kwadrat i kryteria informacyjne 3 Ocena istotno±ci zmiennych
Bardziej szczegółowoEkonometria - wykªad 8
Ekonometria - wykªad 8 3.1 Specykacja i werykacja modelu liniowego dobór zmiennych obja±niaj cych - cz ± 1 Barbara Jasiulis-Goªdyn 11.04.2014, 25.04.2014 2013/2014 Wprowadzenie Ideologia Y zmienna obja±niana
Bardziej szczegółowo1 Metody iteracyjne rozwi zywania równania f(x)=0
1 Metody iteracyjne rozwi zywania równania f()=0 1.1 Metoda bisekcji Zaªó»my,»e funkcja f jest ci gªa w [a 0, b 0 ]. Pierwiastek jest w przedziale [a 0, b 0 ] gdy f(a 0 )f(b 0 ) < 0. (1) Ustalmy f(a 0
Bardziej szczegółowoMetody probablistyczne i statystyka stosowana
Politechnika Wrocªawska - Wydziaª Podstawowych Problemów Techniki - 011 Metody probablistyczne i statystyka stosowana prowadz cy: dr hab. in». Krzysztof Szajowski opracowanie: Tomasz Kusienicki* κ 17801
Bardziej szczegółowoEkonometria. wiczenia 1 Regresja liniowa i MNK. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 1 Regresja liniowa i MNK (1) Ekonometria 1 / 25 Plan wicze«1 Ekonometria czyli...? 2 Obja±niamy ceny wina 3 Zadania z podr cznika (1) Ekonometria 2 / 25 Plan prezentacji 1 Ekonometria
Bardziej szczegółowoElementy Modelowania Matematycznego Wykªad 1 Prawdopodobie«stwo
Spis tre±ci Elementy Modelowania Matematycznego Wykªad 1 Prawdopodobie«stwo Romuald Kotowski Katedra Informatyki Stosowanej PJWSTK 2009 Spis tre±ci Spis tre±ci 1 2 3 4 5 Spis tre±ci Spis tre±ci 1 2 3 4
Bardziej szczegółowoWstęp do sieci neuronowych, wykład 12 Łańcuchy Markowa
Wstęp do sieci neuronowych, wykład 12 Łańcuchy Markowa M. Czoków, J. Piersa 2012-01-10 1 Łańcucha Markowa 2 Istnienie Szukanie stanu stacjonarnego 3 1 Łańcucha Markowa 2 Istnienie Szukanie stanu stacjonarnego
Bardziej szczegółowoWielowymiarowy próbnik Gibbsa
29.05.2006 Seminarium szkoleniowe 30 maja 2006 Plan prezentacji Slgorytm MH i PG przypomnienie wiadomości Wielowymiarowy PG Algorytm PG z dopełnieniem Odwracalny PG Modele hierarchiczne Modele hybrydowe
Bardziej szczegółowoRozwini cia asymptotyczne dla mocy testów przybli»onych
Rozwini cia asymptotyczne dla mocy testów przybli»onych Piotr Majerski, Zbigniew Szkutnik AGH Kraków Wisªa 2010 P. Majerski, Z. Szkutnik, AGH () Rozwini cia mocy testów przybli»onych Wisªa 2010 1 / 22
Bardziej szczegółowoREGRESJA LINIOWA Z UOGÓLNIONĄ MACIERZĄ KOWARIANCJI SKŁADNIKA LOSOWEGO. Aleksander Nosarzewski Ekonometria bayesowska, prowadzący: dr Andrzej Torój
1 REGRESJA LINIOWA Z UOGÓLNIONĄ MACIERZĄ KOWARIANCJI SKŁADNIKA LOSOWEGO Aleksander Nosarzewski Ekonometria bayesowska, prowadzący: dr Andrzej Torój 2 DOTYCHCZASOWE MODELE Regresja liniowa o postaci: y
Bardziej szczegółowoEGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach. a) (6 pkt.) oblicz intensywno± pªaconych skªadek;
EGZAMIN MAGISTERSKI, 26.06.2019r Matematyka w ekonomii i ubezpieczeniach 1. (8 punktów) Dwa niezale»ne portfele S 1, S 2 maj zªo»one rozkªady Poissona. S 1 CP oisson(2, F ), S 2 CP oisson(2, G), gdzie
Bardziej szczegółowoElementarna statystyka Dwie próby: porównanie dwóch proporcji (Two-sample problem: comparing two proportions)
Elementarna statystyka Dwie próby: porównanie dwóch proporcji (Two-sample problem: comparing two proportions) Alexander Bendikov Uniwersytet Wrocªawski 25 maja 2016 Elementarna statystyka Dwie próby: porównanie
Bardziej szczegółowoEkonometria. wiczenia 8 Modele zmiennej jako±ciowej. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 8 Modele zmiennej jako±ciowej (8) Ekonometria 1 / 25 Plan wicze«1 Modele zmiennej jako±ciowej 2 Model logitowy Specykacja i interpretacja parametrów Dopasowanie i restrykcje 3 Predykcja
Bardziej szczegółowoAlgorytmy MCMC i ich zastosowania statystyczne
Algorytmy MCMC i ich zastosowania statystyczne Wojciech Niemiro Uniwersytet Mikołaja Kopernika, Toruń i Uniwersytet Warszawski Statystyka Matematyczna Wisła, grudzień 2010 Wykład 1 1 Co to jest MCMC? 2
Bardziej szczegółowoNumeryczne zadanie wªasne
Rozdziaª 11 Numeryczne zadanie wªasne W tym rozdziale zajmiemy si symetrycznym zadaniem wªasnym, tzn. zadaniem znajdowania warto±ci i/lub wektorów wªasnych dla macierzy symetrycznej A = A T. W zadaniach
Bardziej szczegółowoJanusz Adamowski METODY OBLICZENIOWE FIZYKI Zastosowanie eliptycznych równa«ró»niczkowych
Janusz Adamowski METODY OBLICZENIOWE FIZYKI 1 Rozdziaª 9 RÓWNANIA ELIPTYCZNE 9.1 Zastosowanie eliptycznych równa«ró»niczkowych cz stkowych 9.1.1 Problemy z warunkami brzegowymi W przestrzeni dwuwymiarowej
Bardziej szczegółowoMatematyka z elementami statystyki
Matematyka z elementami statystyki Šukasz Dawidowski Instytut Matematyki, Uniwersytet l ski Korelacja Zale»no± funkcyjna wraz ze wzrostem jednej zmiennej nast puje ±ci±le okre±lona zmiana druiej zmiennej.
Bardziej szczegółowoANALIZA NUMERYCZNA. Grzegorz Szkibiel. Wiosna 2014/15
ANALIZA NUMERYCZNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Metoda Eulera 3 1.1 zagadnienia brzegowe....................... 3 1.2 Zastosowanie ró»niczki...................... 4 1.3 Output do pliku
Bardziej szczegółowoStatystyka matematyczna - ZSTA LMO
Statystyka matematyczna - ZSTA LMO Šukasz Smaga Wydziaª Matematyki i Informatyki Uniwersytet im. Adama Mickiewicza w Poznaniu Wykªad 1 Šukasz Smaga (WMI UAM) ZSTA LMO Wykªad 1 1 / 28 Kontakt Dr Šukasz
Bardziej szczegółowoAlgorytm Metropolisa-Hastingsa
Seminarium szkoleniowe, 25 kwietnia 2006 Plan prezentacji 1 Problem Metoda MCMC 2 Niezależny algorytm Metropolisa-Hastingsa Bła dzenie losowe Zbieżność procedury Metropolisa-Hastingsa Problem Metoda MCMC
Bardziej szczegółowoWst p do ekonometrii II
Wst p do ekonometrii II Wykªad 1: Modele ADL. Analiza COMFAC. Uogólniona MNK (1) WdE II 1 / 36 Plan wykªadu 1 Restrykcje COMFAC w modelach ADL ADL(1,1) ADL(2,2) 2 Uogólniona MNK Idea UMNK Znajdowanie macierzy
Bardziej szczegółowoPodstawy statystycznego modelowania danych - Wykªad 7
Podstawy statystycznego modelowania danych - Wykªad 7 Tomasz Suchocki ANOVA Plan wykªadu Analiza wariancji 1. Rys historyczny 2. Podstawy teoretyczne i przykªady zastosowania 3. ANOVA w pakiecie R Tomasz
Bardziej szczegółowo3. (8 punktów) EGZAMIN MAGISTERSKI, Biomatematyka
EGZAMIN MAGISTERSKI, 26.06.2017 Biomatematyka 1. (8 punktów) Rozwój wielko±ci pewnej populacji jest opisany równaniem: dn dt = rn(t) (1 + an(t), b gdzie N(t) jest wielko±ci populacji w chwili t, natomiast
Bardziej szczegółowo5 Błąd średniokwadratowy i obciążenie
5 Błąd średniokwadratowy i obciążenie Przeprowadziliśmy 200 powtórzeń przebiegu próbnika dla tego samego zestawu parametrów modelowych co w Rozdziale 1, to znaczy µ = 0, s = 10, v = 10, n i = 10 (i = 1,...,
Bardziej szczegółowoStatystyka matematyczna - ZSTA LMO
Statystyka matematyczna - ZSTA LMO Šukasz Smaga Wydziaª Matematyki i Informatyki Uniwersytet im. Adama Mickiewicza w Poznaniu Wykªad 4 Šukasz Smaga (WMI UAM) ZSTA LMO Wykªad 4 1 / 18 Wykªad 4 - zagadnienia
Bardziej szczegółowoDynamiczne wªasno±ci algorytmu propagacji przekona«
BP propagacji przekona«4. Interdyscyplinarne Warsztaty Matematyczne Wydziaª Fizyki Politechnika Warszawska B dlewo, 26 maja, 2013 BP 1 2 3 4 5 6 BP Rysunek: Zbiór zmiennych losowych. BP Rysunek: Zbiór
Bardziej szczegółowoMODELE LINIOWE i MIESZANE
MODELE LINIOWE i MIESZANE WYKŠAD 5 13 kwiecie«2018 1 / 48 Plan wykªadu 1. Metody Monte Carlo we wnioskowaniu statystycznym 2. Pakiet R 2 / 48 Metody Monte Carlo we wnioskowaniu statystycznym 3 / 48 Zaªó»my,»e
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 5: Narz dzia wnioskowania w ekonometrii bayesowskiej (5) Ekonometria Bayesowska 1 / 8 Plan wykªadu 1 Przedziaªy ufno±ci HPDI Werykacja hipotez podej±cie bayesowskie 3 Werykacja
Bardziej szczegółowoE. Sadowska-Owczorz Statystyka i probabilistyka - zadania kwiecie«2018
1. Jest 50 pyta«egzaminacyjnych. Na ka»dej wylosowanej przez zdaj cego kartce napisane s trzy pytania. (a) Ile mo»e by ró»nych kartek? (b) Oblicz prawdopodobie«stwo,»e zdajacy odpowie co najmniej na jedno
Bardziej szczegółowoMaszyny Turinga i problemy nierozstrzygalne. Maszyny Turinga i problemy nierozstrzygalne
Maszyny Turinga Maszyna Turinga jest automatem ta±mowym, skª da si z ta±my (tablicy symboli) potencjalnie niesko«czonej w prawo, zakªadamy,»e w prawie wszystkich (tzn. wszystkich poza sko«czon liczb )
Bardziej szczegółowoLekcja 9 - LICZBY LOSOWE, ZMIENNE
Lekcja 9 - LICZBY LOSOWE, ZMIENNE I STAŠE 1 Liczby losowe Czasami spotkamy si z tak sytuacj,»e b dziemy potrzebowa by program za nas wylosowaª jak ± liczb. U»yjemy do tego polecenia: - liczba losowa Sprawd¹my
Bardziej szczegółowoPrawdopodobieństwo i statystyka r.
Zadanie. Niech (X, Y) ) będzie dwuwymiarową zmienną losową, o wartości oczekiwanej (μ, μ, wariancji każdej ze współrzędnych równej σ oraz kowariancji równej X Y ρσ. Staramy się obserwować niezależne realizacje
Bardziej szczegółowoBiostatystyka, # 4 /Weterynaria I/
Biostatystyka, # 4 /Weterynaria I/ dr n. mat. Zdzisªaw Otachel Uniwersytet Przyrodniczy w Lublinie Katedra Zastosowa«Matematyki i Informatyki ul. Gª boka 28, bud. CIW, p. 221 e-mail: zdzislaw.otachel@up.lublin.pl
Bardziej szczegółowoModele wielorównaniowe. Problem identykacji
Modele wielorównaniowe. Problem identykacji Ekonometria Szeregów Czasowych SGH Identykacja 1 / 43 Plan wykªadu 1 Wprowadzenie 2 Trzy przykªady 3 Przykªady: interpretacja 4 Warunki identykowalno±ci 5 Restrykcje
Bardziej szczegółowoMetodydowodzenia twierdzeń
1 Metodydowodzenia twierdzeń Przez zdanie rozumiemy dowolne stwierdzenie, które jest albo prawdziwe, albo faªszywe (nie mo»e by ono jednocze±nie prawdziwe i faªszywe). Tradycyjnie b dziemy u»ywali maªych
Bardziej szczegółowoWykªad 6: Model logitowy
Wykªad 6: Model logitowy Ekonometria Stosowana SGH Model logitowy 1 / 18 Plan wicze«1 Modele zmiennej jako±ciowej idea 2 Model logitowy Specykacja i interpretacja parametrów Dopasowanie i restrykcje 3
Bardziej szczegółowoWstęp do sieci neuronowych, wykład 11 Łańcuchy Markova
Wstęp do sieci neuronowych, wykład 11 Łańcuchy Markova M. Czoków, J. Piersa 2010-12-21 1 Definicja Własności Losowanie z rozkładu dyskretnego 2 3 Łańcuch Markova Definicja Własności Losowanie z rozkładu
Bardziej szczegółowoMonte Carlo Optimization
Monte Carlo Optimization Seminarium szkoleniowe Eliza Bujnowska 28 lutego 2006 Eliza Bujnowska () Monte Carlo Optimization 28 lutego 2006 1 / 38 Zagadnienia optymalizacji metod Monte Carlo Przeszukiwanie
Bardziej szczegółowoPakiety statystyczne - Wykªad 8
Pakiety statystyczne - Wykªad 8 Tomasz Suchocki Uniwersytet Przyrodniczy we Wrocªawiu Katedra Genetyki i Ogólnej Hodowli Zwierz t Plan wykªadu Analiza wariancji 1. Rys historyczny 2. Podstawy teoretyczne
Bardziej szczegółowoZadania z rachunku prawdopodobie«stwa
STATYSTYKA 2 rok, informatyka,. Zadania z rachunku prawdopodobie«stwa 1. Niech A B C = Ω, P (B) = 2P (A), P (C) = 3P (A), P (A B) = P (A C) = P (B C). Pokaza,»e 1 P (A) 1. Pokaza,»e oba ograniczenia mog
Bardziej szczegółowoModele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 1
Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 1 Tomasz Suchocki Uniwersytet Przyrodniczy we Wrocªawiu Katedra Genetyki i Ogólnej Hodowli Zwierz t Plan wykªadu Analiza wariancji
Bardziej szczegółowoEkonometria Przestrzenna
Ekonometria Przestrzenna Wykªad 8: w modelach przestrzennych (8) Ekonometria Przestrzenna 1 / 23 Plan wykªadu 1 Modele proste Modele zªo»one 2 Wnioskowanie statystyczne dla mno»ników przestrzennych i ±rednich
Bardziej szczegółowoEkonometria. wiczenia 5 i 6 Modelowanie szeregów czasowych. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 5 i 6 Modelowanie szeregów czasowych (5-6) Ekonometria 1 / 30 Plan prezentacji 1 Regresja pozorna 2 Testowanie stopnia zintegrowania szeregu 3 Kointegracja 4 Modele dynamiczne (5-6)
Bardziej szczegółowoNiech X i Y będą niezależnymi zmiennymi losowymi o rozkładach wykładniczych, przy czym Y EX = 4 i EY = 6. Rozważamy zmienną losową Z =.
Prawdopodobieństwo i statystyka 3..00 r. Zadanie Niech X i Y będą niezależnymi zmiennymi losowymi o rozkładach wykładniczych, przy czym Y EX 4 i EY 6. Rozważamy zmienną losową Z. X + Y Wtedy (A) EZ 0,
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 1: Twierdzenie Bayesa, rozkªad a priori i a posteriori Andrzej Torój 1 / 35 Plan wykªadu 1 Przykªad UEFA Euro 2016 2 3 4 2 / 35 Plan prezentacji Polska na Euro 2016 Ocena
Bardziej szczegółowoGranular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY
Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY PB 2 PB 1 Projekt z wyznaczania reduktów zbioru Liczba osób realizuj cych projekt: 1-2 osoby 1. Wczytanie danych w formatach arf,
Bardziej szczegółowoRozkªady i warto± oczekiwana
Rozkªady i warto± oczekiwana Piotr Wilkin Zmienne losowe i rozkªady. Wst p Zmienn losow nazywamy zmienn X przyjmuj c dowolne warto±ci z pewnego zbioru D, która speªnia wªasno± y D P (X = y) = (innymi sªowy
Bardziej szczegółowoWYKŁAD 4 PLAN WYKŁADU. Sieci neuronowe: Algorytmy uczenia & Dalsze zastosowania. Metody uczenia sieci: Zastosowania
WYKŁAD 4 Sieci neuronowe: Algorytmy uczenia & Dalsze zastosowania PLAN WYKŁADU Metody uczenia sieci: Uczenie perceptronu Propagacja wsteczna Zastosowania Sterowanie (powtórzenie) Kompresja obrazu Rozpoznawanie
Bardziej szczegółowoLab. 02: Algorytm Schrage
Lab. 02: Algorytm Schrage Andrzej Gnatowski 5 kwietnia 2015 1 Opis zadania Celem zadania laboratoryjnego jest zapoznanie si z jednym z przybli»onych algorytmów sªu» cych do szukania rozwi za«znanego z
Bardziej szczegółowoEkonometria. wiczenia 4 Prognozowanie. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 4 Prognozowanie (4) Ekonometria 1 / 18 Plan wicze«1 Prognoza punktowa i przedziaªowa 2 Ocena prognozy ex post 3 Stabilno± i sezonowo± Sezonowo± zadanie (4) Ekonometria 2 / 18 Plan
Bardziej szczegółowoStacjonarne szeregi czasowe
e-mail:e.kozlovski@pollub.pl Spis tre±ci 1 Denicja 1 Szereg {x t } 1 t N nazywamy ±ci±le stacjonarnym (stacjonarnym w w»szym sensie), je»eli dla dowolnych m, t 1, t 2,..., t m, τ ª czny rozkªad prawdopodobie«stwa
Bardziej szczegółowoJAO - J zyki, Automaty i Obliczenia - Wykªad 1. JAO - J zyki, Automaty i Obliczenia - Wykªad 1
J zyki formalne i operacje na j zykach J zyki formalne s abstrakcyjnie zbiorami sªów nad alfabetem sko«czonym Σ. J zyk formalny L to opis pewnego problemu decyzyjnego: sªowa to kody instancji (wej±cia)
Bardziej szczegółowoLiniowe zadania najmniejszych kwadratów
Rozdziaª 9 Liniowe zadania najmniejszych kwadratów Liniowe zadania najmniejszych kwadratów polega na znalezieniu x R n, który minimalizuje Ax b 2 dla danej macierzy A R m,n i wektora b R m. Zauwa»my,»e
Bardziej szczegółowoRozdziaª 4. Jednowymiarowe modele szeregów czasowych
Rozdziaª 4. Jednowymiarowe modele szeregów czasowych MODELOWANIE POLSKIEJ GOSPODARKI z R MPGzR (rozdz. 4) Modele ARMA 1 / 24 Jednowymiarowe modele szeregów czasowych Jednowymiarowe modele szeregów czasowych:
Bardziej szczegółowoPROBABILISTYKA I STATYSTYKA - Zadania do oddania
PROBABILISTYKA I STATYSTYKA - Zadania do oddania Parametr k = liczba trzycyfrowa, dwie ostatnie cyfry to dwie ostatnie cyfry numeru indeksu, pierwsza cyfra to pierwsza cyfra liczby liter pierwszego imienia.
Bardziej szczegółowoEkonometria Bayesowska
Ekonometria Bayesowska Wykªad 1: Twierdzenie Bayesa, rozkªad a priori i a posteriori (1) Ekonometria Bayesowska 1 / 35 Plan wykªadu 1 Przykªad UEFA Euro 2016 2 Podstawowe poj cia ekonometrii bayesowskiej
Bardziej szczegółowoARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15
ARYTMETYKA MODULARNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Denicja kongruencji i jej podstawowe wªasno±ci 3 2 Systemy pozycyjne 8 3 Elementy odwrotne 12 4 Pewne zastosowania elementów odwrotnych
Bardziej szczegółowoPOLITECHNIKA WROCŠAWSKA WYDZIAŠ ELEKTRONIKI PRACA DYPLOMOWA MAGISTERSKA
POLITECHNIKA WROCŠAWSKA WYDZIAŠ ELEKTRONIKI Kierunek: Specjalno± : Automatyka i Robotyka (AIR) Robotyka (ARR) PRACA DYPLOMOWA MAGISTERSKA Podatny manipulator planarny - budowa i sterowanie Vulnerable planar
Bardziej szczegółowoGranular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY
Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY PB 2 PB 1 Projekt z grupowania danych - Rough k-medoids Liczba osób realizuj cych projekt: 1 osoba 1. Wczytanie danych w formatach
Bardziej szczegółowoRozdziaª 7. Modele klasy ARCH
Rozdziaª 7. Modele klasy ARCH MODELOWANIE POLSKIEJ GOSPODARKI z R MPGzR (rozdz. 7) Modele ARCH 1 / 24 Modele klasy ARCH Charakterystyki wi kszo±ci szeregów nansowych: Grupowanie wariancji (volatility clustering):
Bardziej szczegółowoMetody dowodzenia twierdze«
Metody dowodzenia twierdze«1 Metoda indukcji matematycznej Je±li T (n) jest form zdaniow okre±lon w zbiorze liczb naturalnych, to prawdziwe jest zdanie (T (0) n N (T (n) T (n + 1))) n N T (n). 2 W przypadku
Bardziej szczegółowoAlgorytmy zrandomizowane
Algorytmy zrandomizowane www.qed.pl/ai/nai2003 PLAN WYKŁADU Inne zadania optymalizacyjne grupowanie Generowanie liczb losowych Metody Monte Carlo i Las Vegas przykłady zastosowa Przeszukiwanie losowe metoda
Bardziej szczegółowoARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15
ARYTMETYKA MODULARNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Denicja kongruencji i jej podstawowe wªasno±ci 3 2 Systemy pozycyjne 8 3 Elementy odwrotne 12 4 Pewne zastosowania elementów odwrotnych
Bardziej szczegółowoSTATYSTYKA MATEMATYCZNA WYKŁAD stycznia 2010
STATYSTYKA MATEMATYCZNA WYKŁAD 14 18 stycznia 2010 Model statystyczny ROZKŁAD DWUMIANOWY ( ) {0, 1,, n}, {P θ, θ (0, 1)}, n ustalone P θ {K = k} = ( ) n θ k (1 θ) n k, k k = 0, 1,, n Geneza: Rozkład Bernoulliego
Bardziej szczegółowoEkonometria Przestrzenna
Ekonometria Przestrzenna Wykªad 6: Zªo»one modele regresji przestrzennej (6) Ekonometria Przestrzenna 1 / 21 Plan wykªadu 1 Modele zªo»one 2 Model SARAR 3 Model SDM (Durbina) 4 Model SDEM 5 Zadania (6)
Bardziej szczegółowoInterpolacja funkcjami sklejanymi
Interpolacja funkcjami sklejanymi Funkcje sklejane: Zaªó»my,»e mamy n + 1 w zªów t 0, t 1,, t n takich,»e t 0 < t 1 < < t n Dla danej liczby caªkowitej, nieujemnej k funkcj sklejan stopnia k nazywamy tak
Bardziej szczegółowoElementarna statystyka Test Istotno±ci (Tests of Signicance)
Elementarna statystyka Test Istotno±ci (Tests of Signicance) Alexander Bendikov Uniwersytet Wrocªawski 16 kwietnia 2016 Elementarna statystyka Test Istotno±ci (Tests of Signicance) 16 kwietnia 2016 1 /
Bardziej szczegółowoEkstremalnie maªe zbiory
Maªe jest pi kne Instytut Matematyki Uniwersytetu Warszawskiego Nadarzyn, 27.08.2011 Zbiory silnie miary zero Przypomnienie Zbiór X [0, 1] jest miary Lebesgue'a zero, gdy dla ka»dego ε > 0 istnieje ci
Bardziej szczegółowo1 Granice funkcji wielu zmiennych.
AM WNE 008/009. Odpowiedzi do zada«przygotowawczych do czwartego kolokwium. Granice funkcji wielu zmiennych. Zadanie. Zadanie. Pochodne. (a) 0, Granica nie istnieje, (c) Granica nie istnieje, (d) Granica
Bardziej szczegółowo1. Symulacje komputerowe Idea symulacji Przykład. 2. Metody próbkowania Jackknife Bootstrap. 3. Łańcuchy Markova. 4. Próbkowanie Gibbsa
BIOINFORMATYKA 1. Wykład wstępny 2. Bazy danych: projektowanie i struktura 3. Równowaga Hardyego-Weinberga, wsp. rekombinacji 4. Analiza asocjacyjna 5. Analiza asocjacyjna 6. Sekwencjonowanie nowej generacji
Bardziej szczegółowoEkonometria Przestrzenna
Ekonometria Przestrzenna Wykªad 4: Model autoregresji przestrzennej. Dane GIS: punkty i siatki (4) Ekonometria Przestrzenna 1 / 24 Plan wykªadu 1 Model czystej autoregresji przestrzennej (pure SAR) Specykacja
Bardziej szczegółowoZad. 1 Zad. 2 Zad. 3 Zad. 4 Zad. 5 SUMA. W obu podpunktach zakªadamy,»e kolejno± ta«ców jest wa»na.
Zad. 1 Zad. 2 Zad. 3 Zad. 4 Zad. 5 SUMA Zadanko 1 (12p.) Na imprezie w Noc Kupaªy s 44 dziewczyny. Nosz one 11 ró»nych imion, a dla ka»dego imienia s dokªadnie 4 dziewczyny o tym imieniu przy czym ka»da
Bardziej szczegółowo1 0 Je»eli wybierzemy baz A = ((1, 1), (2, 1)) to M(f) A A =. 0 2 Daje to znacznie lepszy opis endomorzmu f.
GAL II 2012-2013 A Strojnowski str1 Wykªad 1 Ten semestr rozpoczniemy badaniem endomorzmów sko«czenie wymiarowych przestrzeni liniowych Denicja 11 Niech V b dzie przestrzeni liniow nad ciaªem K 1) Przeksztaªceniem
Bardziej szczegółowoStrategie zabezpieczaj ce
04062008 Plan prezentacji Model binarny Model Black Scholesa Bismut- Elworthy -Li formuła Model binarny i opcja call Niech cena akcji w chwili pocz tkowej wynosi S 0 = 21 Zaªó»my,»e ceny akcji po trzech
Bardziej szczegółowoTwierdzenie Wainera. Marek Czarnecki. Warszawa, 3 lipca Wydziaª Filozoi i Socjologii Uniwersytet Warszawski
Twierdzenie Wainera Marek Czarnecki Wydziaª Filozoi i Socjologii Uniwersytet Warszawski Wydziaª Matematyki, Informatyki i Mechaniki Uniwersytet Warszawski Warszawa, 3 lipca 2009 Motywacje Dla dowolnej
Bardziej szczegółowoEdyta Juszczyk. Akademia im. Jana Dªugosza w Cz stochowie. Lekcja 1Wst p
Lekcja 1 Wst p Akademia im. Jana Dªugosza w Cz stochowie Baltie Baltie Baltie jest narz dziem, które sªu»y do nauki programowania dla dzieci od najmªodszych lat. Zostaª stworzony przez Bohumira Soukupa
Bardziej szczegółowoStatystyka matematyczna
Statystyka matematyczna Aleksandra Ki±lak-Malinowska akis@uwm.edu.pl http://wmii.uwm.edu.pl/ akis/ Czym zajmuje si statystyka? Statystyka zajmuje si opisywaniem i analiz zjawisk masowych otaczaj cej czªowieka
Bardziej szczegółowoMatematyka wykªad 1. Macierze (1) Andrzej Torój. 17 wrze±nia 2011. Wy»sza Szkoªa Zarz dzania i Prawa im. H. Chodkowskiej
Matematyka wykªad 1 Macierze (1) Andrzej Torój Wy»sza Szkoªa Zarz dzania i Prawa im. H. Chodkowskiej 17 wrze±nia 2011 Plan wykªadu 1 2 3 4 5 Plan prezentacji 1 2 3 4 5 Kontakt moja strona internetowa:
Bardziej szczegółowoSTATYSTYCZNE MODELOWANIE DANYCH BIOLOGICZNYCH
STATYSTYCZNE MODELOWANIE DANYCH BIOLOGICZNYCH WYKŠAD 3 29 pa¹dziernik 2015 1 / 39 Plan wykªadu 1. Test log-rank dla wi cej ni» dwóch grup 2. Test Mantela-Haenszela dla wi cej ni» dwóch grup 3. Wst p do
Bardziej szczegółowo1 Lista 6 1. LISTA Obliczy JSN renty z doªu dla (30)-latka na 3 lata w wysoko±ci Obliczenia zrobi dla TT -PL97m oraz i = 4%.
1. LISTA 6 1 1 Lista 6 1.1 Obliczy JSN renty z doªu dla (30)-latka na 3 lata w wysoko±ci 3000. Obliczenia zrobi dla TT -PL97m oraz i = 4%. 1.2 Obliczy JSN dla nast puj cej renty dla (30)-latka: je±li»yje
Bardziej szczegółowoEkonometria. wiczenia 3 Autokorelacja, heteroskedastyczno±, wspóªliniowo± Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 3 Autokorelacja, heteroskedastyczno±, wspóªliniowo± (3) Ekonometria 1 / 29 Plan wicze«1 Wprowadzenie 2 Normalny rozkªad 3 Autokorelacja 4 Heteroskedastyczno± Test White'a Odporne bª
Bardziej szczegółowoFunkcje wielu zmiennych
dr Krzysztof yjewski Informatyka I rok I 0 in» 12 stycznia 2016 Funkcje wielu zmiennych Informacje pomocnicze Denicja 1 Niech funkcja f(x y) b dzie okre±lona przynajmniej na otoczeniu punktu (x 0 y 0 )
Bardziej szczegółowoARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15
ARYTMETYKA MODULARNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Denicja kongruencji i jej podstawowe wªasno±ci 3 2 Systemy pozycyjne 8 3 Elementy odwrotne 12 4 Pewne zastosowania elementów odwrotnych
Bardziej szczegółowox y x y x y x + y x y
Algebra logiki 1 W zbiorze {0, 1} okre±lamy dziaªania dwuargumentowe,, +, oraz dziaªanie jednoargumentowe ( ). Dziaªanie x + y nazywamy dodawaniem modulo 2, a dziaªanie x y nazywamy kresk Sheera. x x 0
Bardziej szczegółowoStatystyka w przykładach
w przykładach Tomasz Mostowski Zajęcia 10.04.2008 Plan Estymatory 1 Estymatory 2 Plan Estymatory 1 Estymatory 2 Własności estymatorów Zazwyczaj w badaniach potrzebujemy oszacować pewne parametry na podstawie
Bardziej szczegółowo