Ekonometria Bayesowska
|
|
- Karol Socha
- 8 lat temu
- Przeglądów:
Transkrypt
1 Ekonometria Bayesowska Wykªad 9: Metody numeryczne: MCMC Andrzej Torój 1 / 17
2 Plan wykªadu Wprowadzenie 1 Wprowadzenie 3 / 17
3 Plan prezentacji Wprowadzenie 1 Wprowadzenie 3 3 / 17
4 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
5 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
6 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
7 Zastosowanie metod numerycznych w ekonometrii bayesowskiej Poza dwoma wyj tkami wycena BMW i wybory prezydenckie w USA), dotychczas w peªni analitycznie podchodzili±my do nast puj cych problemów: wyznaczenie funkcji g sto±ci a posteriori : f θ X ) f X θ) f θ); wyznaczanie brzegowych g sto±ci a posteriori: f θ 1 X, θ ), czyli caªki g sto±ci a posteriori ze wzgl du na cz ± parametrów; wyznaczenia wiarygodno±ci brzegowej modelu, czyli caªki licznika g sto±ci a posteriori ze wzgl du na wszystkie parametry; wyznaczenia rozkªadu predykcyjnego, czyli caªki wzgl dem wszystkich parametrów) warunkowej g sto±ci nieznanej obserwacji pomno»onej przez g sto± a posteriori. Poza nielicznymi przypadkami nie umiemy losowa z g sto±ci a posteriori ani analitycznie jej caªkowa. 4 / 17
8 Efekty zastosowania metod numerycznych 1 Metody numeryczne powinny prowadzi do otrzymania wyników S-krotnego losowania z rozkªadu a posteriori powinny, bo nie mamy gwarancji,»e tak b dzie). Dysponuj c tymi wynikami oznaczmy je θ 1), θ ),..., θ S) ) mo»emy naszkicowa histogram rozkªadów brzegowych pojedynczych parametrów lub, o ile to zasadne, analizowa rozkªady wielowymiarowe podzbiorów wektora parametrów. Mo»emy równie» oszacowa warto± oczekiwan dowolnej S funkcji parametrów gθ) jako 1 S g θ s)). s=1 Istnieje wiele metod numerycznych. Poznamy dzi± dwie metody klasy MCMC Monte Carlo Markov chain): próbnik Gibbsa i algorytm Metropolisa-Hastingsa. 5 / 17
9 Plan prezentacji Wprowadzenie 1 Wprowadzenie 3 6 / 17
10 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
11 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
12 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
13 idea Czy potramy losowa z tych rozkªadów? f x, y) e xy µ) σ f x y) e xy µ) σ f y x) e xy µ) σ x µ y ) = e σ y ) = e y µ x ) σ x ) 7 / 17
14 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
15 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
16 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
17 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
18 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
19 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
20 przypadek dwuwymiarowy Rozwa»my wektor parametrów θ = θ 1, θ ) o nieznanej g sto±ci a posteriori p θ 1, θ y). 1 Wybieramy startow warto± θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0), 3 Losujemy θ 1) z rozkªadu warunkowego p θ θ 1), 1 4 Losujemy θ ) 1 z rozkªadu warunkowego p θ 1 θ 1), 5 Losujemy θ ) z rozkªadu warunkowego p θ θ ), 1 6 Powtarzamy kroki 4 i 5 naprzemiennie S razy, ka»dorazowo warunkuj c wynikiem poprzedniego losowania. 7 Otrzymujemy θ 1), θ ),..., θ S). 8 / 17
21 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
22 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
23 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
24 uzasadnienie p θ 1, θ y) = p θ 1 θ, y) p θ y) Losowanie θ 1, θ ) z rozkªadu ª cznego mo»na zast pi losowaniem θ 1 z rozkªadu warunkowego wzgl dem θ ) oraz θ z rozkªadu brzegowego. Nie znamy jednak rozkªadu brzegowego! Nasz wybór θ 0) nie jest wi c losowaniem. Nie wpªywa to jednak na rozkªad, o ile liczba losowa«s jest odpowiednio dªuga cz sto odrzucamy S 0 pierwszych losowa«jako tzw. burn-in i zostawiamy S 1 = S S 0 pozostaªych. 9 / 17
25 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
26 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
27 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
28 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
29 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
30 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
31 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o g sto±ci a posteriori p θ y). 1 Wybieramy wektor warto±ci startowych θ 0). Losujemy θ 1) 1 z rozkªadu warunkowego p θ 1 θ 0) θ θ 1) 3 Losujemy θ 1) z rozkªadu warunkowego p 4 Losujemy θ 1) 3 z rozkªadu warunkowego p θ 3 θ 1) 1, θ1), θ0) 4,..., θ0) K )., y, θ0) 3 1, θ0) 3,..., θ0) K )., y,..., θ0) K )., y 5 Kontynuujemy a» do kroku K, czyli uzyskania caªego wektora θ 1). 6 Powtarzamy kroki 1-5 z θ 1) jako wektorem warto±ci startowych. 7 Powtarzamy t sekwencj S razy. 10 / 17
32 Plan prezentacji Wprowadzenie 1 Wprowadzenie 3 11 / 17
33 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
34 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
35 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
36 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
37 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
38 przypadek ogólny Rozwa»my wektor parametrów θ = θ 1, θ,..., θ K ) o nieznanej g sto±ci a posteriori p θ y). Nie mo»emy równie» ustali rozkªadów warunkowych. 1 Wybieramy wektor startowy θ 0) = θ 1, θ,..., θ K ). Losujemy kandydata θ korzystaj c z g sto±ci generuj cej kandydatów, q θ θ 0)). 3 Obliczamy prawdopodobie«stwo akceptacji kandydata, α θ, θ 0)). θ z prawdopodobieństwem α θ, θ 0)) 4 θ 1) = θ 0) z prawdopodobieństwem 1 α θ, θ 0)) 5 Powtarzamy kroki 1-4 z wektorem startowym θ 1). 6 Powtarzamy sekwencj S razy. 1 / 17
39 Algorytm MH wybór wektora startowego 1 Arbitralne wskazanie przez u»ytkownika. Losowanie z brzegowych rozkªadów a priori, je»eli mo»liwe. 3 Wielokrotne wybory z analiz wra»liwo±ci. W ka»dym przypadku odcinamy pewn liczb pocz tkowych warto±ci jako burn-in. Przy prawidªowej zbie»no±ci oraz odpowiednio wysokiej liczbie iteracji S) nie powinno to mie znaczenia. 13 / 17
40 Algorytm MH g sto± generuj ca kandydatów 1 W ogólnym przypadku zakªadamy,»e jest zale»na od bie» cego punktu θ s). Najcz stsz implementacj ) jest Random Walk MH, gdzie losujemy ε N θ s), Σ i rozwa»amy kandydata: θ = θ s) + ε Nie musi tak jednak by. Wówczas mówimy o implementacji Independence Chain MH. Wówczas losujemy kandydatów θ za pomoc g sto±ci q θ θ s)) = q θ) 14 / 17
41 Algorytm MH g sto± generuj ca kandydatów 1 W ogólnym przypadku zakªadamy,»e jest zale»na od bie» cego punktu θ s). Najcz stsz implementacj ) jest Random Walk MH, gdzie losujemy ε N θ s), Σ i rozwa»amy kandydata: θ = θ s) + ε Nie musi tak jednak by. Wówczas mówimy o implementacji Independence Chain MH. Wówczas losujemy kandydatów θ za pomoc g sto±ci q θ θ s)) = q θ) 14 / 17
42 Algorytm MH prawdopodobie«stwo akceptacji α 1 Poniewa» q to funkcja umowna, korzystanie z niej bez dodatkowych korekt nie gwarantuje nam uzyskania sekwencji losowa«przybli»aj cych rozkªad a posteriori. 1 Algorytm bez korekt zbyt cz sto pozostaje w obszarach o wysokiej g sto±ci a posteriori. W zwi zku z tym musimy go skorygowa, by dostatecznie dobrze zwiedzi caª dziedzin parametrów. Korekta polega na nieakceptowaniu wszystkich kandydatów wylosowanych na podstawie g sto±ci q. W przypadku braku akceptacji, kolejnym elementem ªa«cucha jest kopia poprzedniego. 1 Ogólny wzór na prawdopodobie«stwo akceptacji zale»y od g sto±ci a posteriori p) oraz g sto±ci generuj cej kandydatów q) dla wektorów: poprzedniego θ s) ) oraz kandydata θ ). Szczegóªy: Koop roz. 5.5). W implementacji Independence Chain: tylko od p i q kandydata 3 W implementacji Random Walk: tylko od p, ale nie q ) [ ] α θ, θ 0) pθ = min y) pθ s 1) y), 1 15 / 17
43 Algorytm MH prawdopodobie«stwo akceptacji α 1 Poniewa» q to funkcja umowna, korzystanie z niej bez dodatkowych korekt nie gwarantuje nam uzyskania sekwencji losowa«przybli»aj cych rozkªad a posteriori. 1 Algorytm bez korekt zbyt cz sto pozostaje w obszarach o wysokiej g sto±ci a posteriori. W zwi zku z tym musimy go skorygowa, by dostatecznie dobrze zwiedzi caª dziedzin parametrów. Korekta polega na nieakceptowaniu wszystkich kandydatów wylosowanych na podstawie g sto±ci q. W przypadku braku akceptacji, kolejnym elementem ªa«cucha jest kopia poprzedniego. 1 Ogólny wzór na prawdopodobie«stwo akceptacji zale»y od g sto±ci a posteriori p) oraz g sto±ci generuj cej kandydatów q) dla wektorów: poprzedniego θ s) ) oraz kandydata θ ). Szczegóªy: Koop roz. 5.5). W implementacji Independence Chain: tylko od p i q kandydata 3 W implementacji Random Walk: tylko od p, ale nie q ) [ ] α θ, θ 0) pθ = min y) pθ s 1) y), 1 15 / 17
44 Algorytm MH α versus q Miar jako±ci wyników jest m.in. ±rednie prawdopodobie«stwo akceptacji ᾱ. Okazuje si,»e optymalne warto±ci ᾱ [0, ; 0, 4]. Dostatecznie niskie prawdopodobie«stwo akceptacji oznacza,»e dziedzina g sto±ci a posteriori zostaªa dobrze wyeksplorowana. ᾱ to jednak warto± wynikowa i nie mo»emy jej wprost wybra. Zale»y ona przede wszystkim od doboru g sto±ci generuj cej kandydatów q. W przypadku Random Walk MH, sprowadza si to do odpowiedniego ustalenia wariancji kroku ε, czyli Σ. Relacj mi dzy ᾱ a Σ nale»y zbada w ramach dodatkowej procedury iteracyjnej. Zaczynamy w niej od Σ 0) = c 0) I. W przypadku zbyt wysokiego ᾱ 0) zbyt cz sto akceptujemy, a wi c jeste±my zbyt konserwatywni w zwiedzaniu dziedziny, czyli powinnismy ustali c 1) > c 0). 16 / 17
45 Rozrzedzanie i zwielokrotnienie ªa«cucha Aby unikn efektu silnej autokorelacji w wygenerowanej sekwencji θ 1), θ ),..., θ S) decydujemy si czasami na jej rozrzedzanie thinning), czyli wybór co m-tego elementu. Eliminacja autokorelacji jest istotna, bo pozwala i) pracowa z równie dªugimi ªa«cuchami ale o lepszej zawarto±ci informacyjnej, ii) uªatwia kalkulacj miar zwi zanych z diagnostyk zbie»no±ci ªa«cucha o tym nast pnym razem). Zasadno± tego zabiegu jest jednak czasami przedmiotem kontrowersji w literaturze. Cz sto decydujemy si na u»ycie wi kszej liczby ªa«cuchów ni» tylko jeden to równie» przydaje si w diagnostyce zbie»no±ci MCMC). Pytanie Generujemy 3 ªa«cuchy po 15 tys. obserwacji dla 4-elementowego wektora parametrów θ. Poªow odrzucamy jako burn-in. Stosujemy dodatkowo rozrzedzanie z m=5. Ile otrzymamy liczb i jakie wymiary powinna mie macierz wyników? 17 / 17
Ekonometria bayesowska: szybki start
Ekonometria bayesowska: szybki start Wprowadzenie do reguª wnioskowania i oblicze«w R SKN Ekonometrii 12.12.2016 r. Andrzej Torój 1 / 23 Plan wykªadu 1 Podstawowe zasady wnioskowania bayesowskiego 2 3
Wst p do ekonometrii II
Wst p do ekonometrii II Wykªad 4: Wprowadzenie do ekonometrii bayesowskiej (4) WdE II 1 / 41 Plan wykªadu 1 Podstawowe zasady wnioskowania bayesowskiego 2 Zastosowania ekonometrii bayesowskiej 3 Metody
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 6: Bayesowskie ª czenie wiedzy (6) Ekonometria Bayesowska 1 / 21 Plan wykªadu 1 Wprowadzenie 2 Oczekiwana wielko± modelu 3 Losowanie próby modeli 4 wiczenia w R (6) Ekonometria
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 10: Symulacje a posteriori w R (10) Ekonometria Bayesowska 1 / 23 Plan wykªadu 1 Przykªad: model ze skªadnikiem losowym o grubych ogonach 2 Wykorzystanie pakietu rjags 3 Diagnostyka
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 10: Symulacje a posteriori w R Andrzej Torój 1 / 23 Plan wykªadu 1 Przykªad: model ze skªadnikiem losowym o grubych ogonach 2 3 4 2 / 23 Plan prezentacji 1 Przykªad: model
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 8: Restrykcje na parametry w postaci nierówno±ci: analiza bayesowska (8) Ekonometria Bayesowska 1 / 21 Plan wykªadu 1 Restrykcje nierówno±ciowe: podej±cie klasyczne a bayesowskie
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 2: Bayesowska estymacja równania ze staª. Elementy j zyka R (2) Ekonometria Bayesowska / 24 Plan wykªadu Model ze staª 2 Podstawy j zyka R 3 Bayesowska analiza modelu ze staª
Biostatystyka, # 5 /Weterynaria I/
Biostatystyka, # 5 /Weterynaria I/ dr n. mat. Zdzisªaw Otachel Uniwersytet Przyrodniczy w Lublinie Katedra Zastosowa«Matematyki i Informatyki ul. Gª boka 28, bud. CIW, p. 221 e-mail: zdzislaw.otachel@up.lublin.pl
CAŠKOWANIE METODAMI MONTE CARLO Janusz Adamowski
III. CAŠKOWAIE METODAMI MOTE CARLO Janusz Adamowski 1 1 azwa metody Podstawowym zastosowaniem w zyce metody Monte Carlo (MC) jest opis zªo-»onych ukªadów zycznych o du»ej liczbie stopni swobody. Opis zªo»onych
5. (8 punktów) EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach
Matematyka w ekonomii i ubezpieczeniach ( Niezale»ne szkody maja rozkªady P (X i = k) = exp( 1)/k!, P (Y i = k) = 4+k ) k (1/3) 5 (/3) k, k = 0, 1,.... Niech S = X 1 +... + X 500 + Y 1 +... + Y 500. Skªadka
In»ynierskie zastosowania statystyki wiczenia
Uwagi: 27012014 poprawiono kilka literówek, zwi zanych z przedziaªami ufno±ci dla wariancji i odchylenia standardowego In»ynierskie zastosowania statystyki wiczenia Przedziaªy wiarygodno±ci, testowanie
EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach
EGZAMIN MAGISTERSKI, 12.09.2018r Matematyka w ekonomii i ubezpieczeniach Zadanie 1. (8 punktów) O rozkªadzie pewnego ryzyka S wiemy,»e: E[(S 20) + ] = 8 E[S 10 < S 20] = 13 P (S 20) = 3 4 P (S 10) = 1
1 Bª dy i arytmetyka zmiennopozycyjna
1 Bª dy i arytmetyka zmiennopozycyjna Liczby w pami ci komputera przedstawiamy w ukªadzie dwójkowym w postaci zmiennopozycyjnej Oznacza to,»e s one postaci ±m c, 01 m < 1, c min c c max, (1) gdzie m nazywamy
Modele wielorównaniowe. Estymacja parametrów
Modele wielorównaniowe. Estymacja parametrów Ekonometria Szeregów Czasowych SGH Estymacja 1 / 47 Plan wykªadu 1 Po±rednia MNK 2 Metoda zmiennych instrumentalnych 3 Podwójna MNK 4 Estymatory klasy k 5 MNW
Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 6
Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 6 Tomasz Suchocki Uniwersytet Przyrodniczy we Wrocªawiu Katedra Genetyki i Ogólnej Hodowli Zwierz t Plan wykªadu Model mieszany
Ekonometria. wiczenia 2 Werykacja modelu liniowego. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 2 Werykacja modelu liniowego (2) Ekonometria 1 / 33 Plan wicze«1 Wprowadzenie 2 Ocena dopasowania R-kwadrat Skorygowany R-kwadrat i kryteria informacyjne 3 Ocena istotno±ci zmiennych
Ekonometria - wykªad 8
Ekonometria - wykªad 8 3.1 Specykacja i werykacja modelu liniowego dobór zmiennych obja±niaj cych - cz ± 1 Barbara Jasiulis-Goªdyn 11.04.2014, 25.04.2014 2013/2014 Wprowadzenie Ideologia Y zmienna obja±niana
1 Metody iteracyjne rozwi zywania równania f(x)=0
1 Metody iteracyjne rozwi zywania równania f()=0 1.1 Metoda bisekcji Zaªó»my,»e funkcja f jest ci gªa w [a 0, b 0 ]. Pierwiastek jest w przedziale [a 0, b 0 ] gdy f(a 0 )f(b 0 ) < 0. (1) Ustalmy f(a 0
Metody probablistyczne i statystyka stosowana
Politechnika Wrocªawska - Wydziaª Podstawowych Problemów Techniki - 011 Metody probablistyczne i statystyka stosowana prowadz cy: dr hab. in». Krzysztof Szajowski opracowanie: Tomasz Kusienicki* κ 17801
Ekonometria. wiczenia 1 Regresja liniowa i MNK. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 1 Regresja liniowa i MNK (1) Ekonometria 1 / 25 Plan wicze«1 Ekonometria czyli...? 2 Obja±niamy ceny wina 3 Zadania z podr cznika (1) Ekonometria 2 / 25 Plan prezentacji 1 Ekonometria
Elementy Modelowania Matematycznego Wykªad 1 Prawdopodobie«stwo
Spis tre±ci Elementy Modelowania Matematycznego Wykªad 1 Prawdopodobie«stwo Romuald Kotowski Katedra Informatyki Stosowanej PJWSTK 2009 Spis tre±ci Spis tre±ci 1 2 3 4 5 Spis tre±ci Spis tre±ci 1 2 3 4
Wstęp do sieci neuronowych, wykład 12 Łańcuchy Markowa
Wstęp do sieci neuronowych, wykład 12 Łańcuchy Markowa M. Czoków, J. Piersa 2012-01-10 1 Łańcucha Markowa 2 Istnienie Szukanie stanu stacjonarnego 3 1 Łańcucha Markowa 2 Istnienie Szukanie stanu stacjonarnego
Wielowymiarowy próbnik Gibbsa
29.05.2006 Seminarium szkoleniowe 30 maja 2006 Plan prezentacji Slgorytm MH i PG przypomnienie wiadomości Wielowymiarowy PG Algorytm PG z dopełnieniem Odwracalny PG Modele hierarchiczne Modele hybrydowe
Rozwini cia asymptotyczne dla mocy testów przybli»onych
Rozwini cia asymptotyczne dla mocy testów przybli»onych Piotr Majerski, Zbigniew Szkutnik AGH Kraków Wisªa 2010 P. Majerski, Z. Szkutnik, AGH () Rozwini cia mocy testów przybli»onych Wisªa 2010 1 / 22
REGRESJA LINIOWA Z UOGÓLNIONĄ MACIERZĄ KOWARIANCJI SKŁADNIKA LOSOWEGO. Aleksander Nosarzewski Ekonometria bayesowska, prowadzący: dr Andrzej Torój
1 REGRESJA LINIOWA Z UOGÓLNIONĄ MACIERZĄ KOWARIANCJI SKŁADNIKA LOSOWEGO Aleksander Nosarzewski Ekonometria bayesowska, prowadzący: dr Andrzej Torój 2 DOTYCHCZASOWE MODELE Regresja liniowa o postaci: y
EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach. a) (6 pkt.) oblicz intensywno± pªaconych skªadek;
EGZAMIN MAGISTERSKI, 26.06.2019r Matematyka w ekonomii i ubezpieczeniach 1. (8 punktów) Dwa niezale»ne portfele S 1, S 2 maj zªo»one rozkªady Poissona. S 1 CP oisson(2, F ), S 2 CP oisson(2, G), gdzie
Elementarna statystyka Dwie próby: porównanie dwóch proporcji (Two-sample problem: comparing two proportions)
Elementarna statystyka Dwie próby: porównanie dwóch proporcji (Two-sample problem: comparing two proportions) Alexander Bendikov Uniwersytet Wrocªawski 25 maja 2016 Elementarna statystyka Dwie próby: porównanie
Ekonometria. wiczenia 8 Modele zmiennej jako±ciowej. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 8 Modele zmiennej jako±ciowej (8) Ekonometria 1 / 25 Plan wicze«1 Modele zmiennej jako±ciowej 2 Model logitowy Specykacja i interpretacja parametrów Dopasowanie i restrykcje 3 Predykcja
Algorytmy MCMC i ich zastosowania statystyczne
Algorytmy MCMC i ich zastosowania statystyczne Wojciech Niemiro Uniwersytet Mikołaja Kopernika, Toruń i Uniwersytet Warszawski Statystyka Matematyczna Wisła, grudzień 2010 Wykład 1 1 Co to jest MCMC? 2
Numeryczne zadanie wªasne
Rozdziaª 11 Numeryczne zadanie wªasne W tym rozdziale zajmiemy si symetrycznym zadaniem wªasnym, tzn. zadaniem znajdowania warto±ci i/lub wektorów wªasnych dla macierzy symetrycznej A = A T. W zadaniach
Janusz Adamowski METODY OBLICZENIOWE FIZYKI Zastosowanie eliptycznych równa«ró»niczkowych
Janusz Adamowski METODY OBLICZENIOWE FIZYKI 1 Rozdziaª 9 RÓWNANIA ELIPTYCZNE 9.1 Zastosowanie eliptycznych równa«ró»niczkowych cz stkowych 9.1.1 Problemy z warunkami brzegowymi W przestrzeni dwuwymiarowej
Matematyka z elementami statystyki
Matematyka z elementami statystyki Šukasz Dawidowski Instytut Matematyki, Uniwersytet l ski Korelacja Zale»no± funkcyjna wraz ze wzrostem jednej zmiennej nast puje ±ci±le okre±lona zmiana druiej zmiennej.
ANALIZA NUMERYCZNA. Grzegorz Szkibiel. Wiosna 2014/15
ANALIZA NUMERYCZNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Metoda Eulera 3 1.1 zagadnienia brzegowe....................... 3 1.2 Zastosowanie ró»niczki...................... 4 1.3 Output do pliku
Statystyka matematyczna - ZSTA LMO
Statystyka matematyczna - ZSTA LMO Šukasz Smaga Wydziaª Matematyki i Informatyki Uniwersytet im. Adama Mickiewicza w Poznaniu Wykªad 1 Šukasz Smaga (WMI UAM) ZSTA LMO Wykªad 1 1 / 28 Kontakt Dr Šukasz
Algorytm Metropolisa-Hastingsa
Seminarium szkoleniowe, 25 kwietnia 2006 Plan prezentacji 1 Problem Metoda MCMC 2 Niezależny algorytm Metropolisa-Hastingsa Bła dzenie losowe Zbieżność procedury Metropolisa-Hastingsa Problem Metoda MCMC
Wst p do ekonometrii II
Wst p do ekonometrii II Wykªad 1: Modele ADL. Analiza COMFAC. Uogólniona MNK (1) WdE II 1 / 36 Plan wykªadu 1 Restrykcje COMFAC w modelach ADL ADL(1,1) ADL(2,2) 2 Uogólniona MNK Idea UMNK Znajdowanie macierzy
Podstawy statystycznego modelowania danych - Wykªad 7
Podstawy statystycznego modelowania danych - Wykªad 7 Tomasz Suchocki ANOVA Plan wykªadu Analiza wariancji 1. Rys historyczny 2. Podstawy teoretyczne i przykªady zastosowania 3. ANOVA w pakiecie R Tomasz
3. (8 punktów) EGZAMIN MAGISTERSKI, Biomatematyka
EGZAMIN MAGISTERSKI, 26.06.2017 Biomatematyka 1. (8 punktów) Rozwój wielko±ci pewnej populacji jest opisany równaniem: dn dt = rn(t) (1 + an(t), b gdzie N(t) jest wielko±ci populacji w chwili t, natomiast
5 Błąd średniokwadratowy i obciążenie
5 Błąd średniokwadratowy i obciążenie Przeprowadziliśmy 200 powtórzeń przebiegu próbnika dla tego samego zestawu parametrów modelowych co w Rozdziale 1, to znaczy µ = 0, s = 10, v = 10, n i = 10 (i = 1,...,
Statystyka matematyczna - ZSTA LMO
Statystyka matematyczna - ZSTA LMO Šukasz Smaga Wydziaª Matematyki i Informatyki Uniwersytet im. Adama Mickiewicza w Poznaniu Wykªad 4 Šukasz Smaga (WMI UAM) ZSTA LMO Wykªad 4 1 / 18 Wykªad 4 - zagadnienia
Dynamiczne wªasno±ci algorytmu propagacji przekona«
BP propagacji przekona«4. Interdyscyplinarne Warsztaty Matematyczne Wydziaª Fizyki Politechnika Warszawska B dlewo, 26 maja, 2013 BP 1 2 3 4 5 6 BP Rysunek: Zbiór zmiennych losowych. BP Rysunek: Zbiór
MODELE LINIOWE i MIESZANE
MODELE LINIOWE i MIESZANE WYKŠAD 5 13 kwiecie«2018 1 / 48 Plan wykªadu 1. Metody Monte Carlo we wnioskowaniu statystycznym 2. Pakiet R 2 / 48 Metody Monte Carlo we wnioskowaniu statystycznym 3 / 48 Zaªó»my,»e
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 5: Narz dzia wnioskowania w ekonometrii bayesowskiej (5) Ekonometria Bayesowska 1 / 8 Plan wykªadu 1 Przedziaªy ufno±ci HPDI Werykacja hipotez podej±cie bayesowskie 3 Werykacja
E. Sadowska-Owczorz Statystyka i probabilistyka - zadania kwiecie«2018
1. Jest 50 pyta«egzaminacyjnych. Na ka»dej wylosowanej przez zdaj cego kartce napisane s trzy pytania. (a) Ile mo»e by ró»nych kartek? (b) Oblicz prawdopodobie«stwo,»e zdajacy odpowie co najmniej na jedno
Maszyny Turinga i problemy nierozstrzygalne. Maszyny Turinga i problemy nierozstrzygalne
Maszyny Turinga Maszyna Turinga jest automatem ta±mowym, skª da si z ta±my (tablicy symboli) potencjalnie niesko«czonej w prawo, zakªadamy,»e w prawie wszystkich (tzn. wszystkich poza sko«czon liczb )
Lekcja 9 - LICZBY LOSOWE, ZMIENNE
Lekcja 9 - LICZBY LOSOWE, ZMIENNE I STAŠE 1 Liczby losowe Czasami spotkamy si z tak sytuacj,»e b dziemy potrzebowa by program za nas wylosowaª jak ± liczb. U»yjemy do tego polecenia: - liczba losowa Sprawd¹my
Prawdopodobieństwo i statystyka r.
Zadanie. Niech (X, Y) ) będzie dwuwymiarową zmienną losową, o wartości oczekiwanej (μ, μ, wariancji każdej ze współrzędnych równej σ oraz kowariancji równej X Y ρσ. Staramy się obserwować niezależne realizacje
Biostatystyka, # 4 /Weterynaria I/
Biostatystyka, # 4 /Weterynaria I/ dr n. mat. Zdzisªaw Otachel Uniwersytet Przyrodniczy w Lublinie Katedra Zastosowa«Matematyki i Informatyki ul. Gª boka 28, bud. CIW, p. 221 e-mail: zdzislaw.otachel@up.lublin.pl
Modele wielorównaniowe. Problem identykacji
Modele wielorównaniowe. Problem identykacji Ekonometria Szeregów Czasowych SGH Identykacja 1 / 43 Plan wykªadu 1 Wprowadzenie 2 Trzy przykªady 3 Przykªady: interpretacja 4 Warunki identykowalno±ci 5 Restrykcje
Metodydowodzenia twierdzeń
1 Metodydowodzenia twierdzeń Przez zdanie rozumiemy dowolne stwierdzenie, które jest albo prawdziwe, albo faªszywe (nie mo»e by ono jednocze±nie prawdziwe i faªszywe). Tradycyjnie b dziemy u»ywali maªych
Wykªad 6: Model logitowy
Wykªad 6: Model logitowy Ekonometria Stosowana SGH Model logitowy 1 / 18 Plan wicze«1 Modele zmiennej jako±ciowej idea 2 Model logitowy Specykacja i interpretacja parametrów Dopasowanie i restrykcje 3
Wstęp do sieci neuronowych, wykład 11 Łańcuchy Markova
Wstęp do sieci neuronowych, wykład 11 Łańcuchy Markova M. Czoków, J. Piersa 2010-12-21 1 Definicja Własności Losowanie z rozkładu dyskretnego 2 3 Łańcuch Markova Definicja Własności Losowanie z rozkładu
Monte Carlo Optimization
Monte Carlo Optimization Seminarium szkoleniowe Eliza Bujnowska 28 lutego 2006 Eliza Bujnowska () Monte Carlo Optimization 28 lutego 2006 1 / 38 Zagadnienia optymalizacji metod Monte Carlo Przeszukiwanie
Pakiety statystyczne - Wykªad 8
Pakiety statystyczne - Wykªad 8 Tomasz Suchocki Uniwersytet Przyrodniczy we Wrocªawiu Katedra Genetyki i Ogólnej Hodowli Zwierz t Plan wykªadu Analiza wariancji 1. Rys historyczny 2. Podstawy teoretyczne
Zadania z rachunku prawdopodobie«stwa
STATYSTYKA 2 rok, informatyka,. Zadania z rachunku prawdopodobie«stwa 1. Niech A B C = Ω, P (B) = 2P (A), P (C) = 3P (A), P (A B) = P (A C) = P (B C). Pokaza,»e 1 P (A) 1. Pokaza,»e oba ograniczenia mog
Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 1
Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 1 Tomasz Suchocki Uniwersytet Przyrodniczy we Wrocªawiu Katedra Genetyki i Ogólnej Hodowli Zwierz t Plan wykªadu Analiza wariancji
Ekonometria Przestrzenna
Ekonometria Przestrzenna Wykªad 8: w modelach przestrzennych (8) Ekonometria Przestrzenna 1 / 23 Plan wykªadu 1 Modele proste Modele zªo»one 2 Wnioskowanie statystyczne dla mno»ników przestrzennych i ±rednich
Ekonometria. wiczenia 5 i 6 Modelowanie szeregów czasowych. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 5 i 6 Modelowanie szeregów czasowych (5-6) Ekonometria 1 / 30 Plan prezentacji 1 Regresja pozorna 2 Testowanie stopnia zintegrowania szeregu 3 Kointegracja 4 Modele dynamiczne (5-6)
Niech X i Y będą niezależnymi zmiennymi losowymi o rozkładach wykładniczych, przy czym Y EX = 4 i EY = 6. Rozważamy zmienną losową Z =.
Prawdopodobieństwo i statystyka 3..00 r. Zadanie Niech X i Y będą niezależnymi zmiennymi losowymi o rozkładach wykładniczych, przy czym Y EX 4 i EY 6. Rozważamy zmienną losową Z. X + Y Wtedy (A) EZ 0,
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 1: Twierdzenie Bayesa, rozkªad a priori i a posteriori Andrzej Torój 1 / 35 Plan wykªadu 1 Przykªad UEFA Euro 2016 2 3 4 2 / 35 Plan prezentacji Polska na Euro 2016 Ocena
Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY
Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY PB 2 PB 1 Projekt z wyznaczania reduktów zbioru Liczba osób realizuj cych projekt: 1-2 osoby 1. Wczytanie danych w formatach arf,
Rozkªady i warto± oczekiwana
Rozkªady i warto± oczekiwana Piotr Wilkin Zmienne losowe i rozkªady. Wst p Zmienn losow nazywamy zmienn X przyjmuj c dowolne warto±ci z pewnego zbioru D, która speªnia wªasno± y D P (X = y) = (innymi sªowy
WYKŁAD 4 PLAN WYKŁADU. Sieci neuronowe: Algorytmy uczenia & Dalsze zastosowania. Metody uczenia sieci: Zastosowania
WYKŁAD 4 Sieci neuronowe: Algorytmy uczenia & Dalsze zastosowania PLAN WYKŁADU Metody uczenia sieci: Uczenie perceptronu Propagacja wsteczna Zastosowania Sterowanie (powtórzenie) Kompresja obrazu Rozpoznawanie
Lab. 02: Algorytm Schrage
Lab. 02: Algorytm Schrage Andrzej Gnatowski 5 kwietnia 2015 1 Opis zadania Celem zadania laboratoryjnego jest zapoznanie si z jednym z przybli»onych algorytmów sªu» cych do szukania rozwi za«znanego z
Ekonometria. wiczenia 4 Prognozowanie. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 4 Prognozowanie (4) Ekonometria 1 / 18 Plan wicze«1 Prognoza punktowa i przedziaªowa 2 Ocena prognozy ex post 3 Stabilno± i sezonowo± Sezonowo± zadanie (4) Ekonometria 2 / 18 Plan
Stacjonarne szeregi czasowe
e-mail:e.kozlovski@pollub.pl Spis tre±ci 1 Denicja 1 Szereg {x t } 1 t N nazywamy ±ci±le stacjonarnym (stacjonarnym w w»szym sensie), je»eli dla dowolnych m, t 1, t 2,..., t m, τ ª czny rozkªad prawdopodobie«stwa
JAO - J zyki, Automaty i Obliczenia - Wykªad 1. JAO - J zyki, Automaty i Obliczenia - Wykªad 1
J zyki formalne i operacje na j zykach J zyki formalne s abstrakcyjnie zbiorami sªów nad alfabetem sko«czonym Σ. J zyk formalny L to opis pewnego problemu decyzyjnego: sªowa to kody instancji (wej±cia)
Liniowe zadania najmniejszych kwadratów
Rozdziaª 9 Liniowe zadania najmniejszych kwadratów Liniowe zadania najmniejszych kwadratów polega na znalezieniu x R n, który minimalizuje Ax b 2 dla danej macierzy A R m,n i wektora b R m. Zauwa»my,»e
Rozdziaª 4. Jednowymiarowe modele szeregów czasowych
Rozdziaª 4. Jednowymiarowe modele szeregów czasowych MODELOWANIE POLSKIEJ GOSPODARKI z R MPGzR (rozdz. 4) Modele ARMA 1 / 24 Jednowymiarowe modele szeregów czasowych Jednowymiarowe modele szeregów czasowych:
PROBABILISTYKA I STATYSTYKA - Zadania do oddania
PROBABILISTYKA I STATYSTYKA - Zadania do oddania Parametr k = liczba trzycyfrowa, dwie ostatnie cyfry to dwie ostatnie cyfry numeru indeksu, pierwsza cyfra to pierwsza cyfra liczby liter pierwszego imienia.
Ekonometria Bayesowska
Ekonometria Bayesowska Wykªad 1: Twierdzenie Bayesa, rozkªad a priori i a posteriori (1) Ekonometria Bayesowska 1 / 35 Plan wykªadu 1 Przykªad UEFA Euro 2016 2 Podstawowe poj cia ekonometrii bayesowskiej
ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15
ARYTMETYKA MODULARNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Denicja kongruencji i jej podstawowe wªasno±ci 3 2 Systemy pozycyjne 8 3 Elementy odwrotne 12 4 Pewne zastosowania elementów odwrotnych
POLITECHNIKA WROCŠAWSKA WYDZIAŠ ELEKTRONIKI PRACA DYPLOMOWA MAGISTERSKA
POLITECHNIKA WROCŠAWSKA WYDZIAŠ ELEKTRONIKI Kierunek: Specjalno± : Automatyka i Robotyka (AIR) Robotyka (ARR) PRACA DYPLOMOWA MAGISTERSKA Podatny manipulator planarny - budowa i sterowanie Vulnerable planar
Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY
Granular Computing 9999 pages 15 METODY SZTUCZNEJ INTELIGENCJI - PROJEKTY PB 2 PB 1 Projekt z grupowania danych - Rough k-medoids Liczba osób realizuj cych projekt: 1 osoba 1. Wczytanie danych w formatach
Rozdziaª 7. Modele klasy ARCH
Rozdziaª 7. Modele klasy ARCH MODELOWANIE POLSKIEJ GOSPODARKI z R MPGzR (rozdz. 7) Modele ARCH 1 / 24 Modele klasy ARCH Charakterystyki wi kszo±ci szeregów nansowych: Grupowanie wariancji (volatility clustering):
Metody dowodzenia twierdze«
Metody dowodzenia twierdze«1 Metoda indukcji matematycznej Je±li T (n) jest form zdaniow okre±lon w zbiorze liczb naturalnych, to prawdziwe jest zdanie (T (0) n N (T (n) T (n + 1))) n N T (n). 2 W przypadku
Algorytmy zrandomizowane
Algorytmy zrandomizowane www.qed.pl/ai/nai2003 PLAN WYKŁADU Inne zadania optymalizacyjne grupowanie Generowanie liczb losowych Metody Monte Carlo i Las Vegas przykłady zastosowa Przeszukiwanie losowe metoda
ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15
ARYTMETYKA MODULARNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Denicja kongruencji i jej podstawowe wªasno±ci 3 2 Systemy pozycyjne 8 3 Elementy odwrotne 12 4 Pewne zastosowania elementów odwrotnych
STATYSTYKA MATEMATYCZNA WYKŁAD stycznia 2010
STATYSTYKA MATEMATYCZNA WYKŁAD 14 18 stycznia 2010 Model statystyczny ROZKŁAD DWUMIANOWY ( ) {0, 1,, n}, {P θ, θ (0, 1)}, n ustalone P θ {K = k} = ( ) n θ k (1 θ) n k, k k = 0, 1,, n Geneza: Rozkład Bernoulliego
Ekonometria Przestrzenna
Ekonometria Przestrzenna Wykªad 6: Zªo»one modele regresji przestrzennej (6) Ekonometria Przestrzenna 1 / 21 Plan wykªadu 1 Modele zªo»one 2 Model SARAR 3 Model SDM (Durbina) 4 Model SDEM 5 Zadania (6)
Interpolacja funkcjami sklejanymi
Interpolacja funkcjami sklejanymi Funkcje sklejane: Zaªó»my,»e mamy n + 1 w zªów t 0, t 1,, t n takich,»e t 0 < t 1 < < t n Dla danej liczby caªkowitej, nieujemnej k funkcj sklejan stopnia k nazywamy tak
Elementarna statystyka Test Istotno±ci (Tests of Signicance)
Elementarna statystyka Test Istotno±ci (Tests of Signicance) Alexander Bendikov Uniwersytet Wrocªawski 16 kwietnia 2016 Elementarna statystyka Test Istotno±ci (Tests of Signicance) 16 kwietnia 2016 1 /
Ekstremalnie maªe zbiory
Maªe jest pi kne Instytut Matematyki Uniwersytetu Warszawskiego Nadarzyn, 27.08.2011 Zbiory silnie miary zero Przypomnienie Zbiór X [0, 1] jest miary Lebesgue'a zero, gdy dla ka»dego ε > 0 istnieje ci
1 Granice funkcji wielu zmiennych.
AM WNE 008/009. Odpowiedzi do zada«przygotowawczych do czwartego kolokwium. Granice funkcji wielu zmiennych. Zadanie. Zadanie. Pochodne. (a) 0, Granica nie istnieje, (c) Granica nie istnieje, (d) Granica
1. Symulacje komputerowe Idea symulacji Przykład. 2. Metody próbkowania Jackknife Bootstrap. 3. Łańcuchy Markova. 4. Próbkowanie Gibbsa
BIOINFORMATYKA 1. Wykład wstępny 2. Bazy danych: projektowanie i struktura 3. Równowaga Hardyego-Weinberga, wsp. rekombinacji 4. Analiza asocjacyjna 5. Analiza asocjacyjna 6. Sekwencjonowanie nowej generacji
Ekonometria Przestrzenna
Ekonometria Przestrzenna Wykªad 4: Model autoregresji przestrzennej. Dane GIS: punkty i siatki (4) Ekonometria Przestrzenna 1 / 24 Plan wykªadu 1 Model czystej autoregresji przestrzennej (pure SAR) Specykacja
Zad. 1 Zad. 2 Zad. 3 Zad. 4 Zad. 5 SUMA. W obu podpunktach zakªadamy,»e kolejno± ta«ców jest wa»na.
Zad. 1 Zad. 2 Zad. 3 Zad. 4 Zad. 5 SUMA Zadanko 1 (12p.) Na imprezie w Noc Kupaªy s 44 dziewczyny. Nosz one 11 ró»nych imion, a dla ka»dego imienia s dokªadnie 4 dziewczyny o tym imieniu przy czym ka»da
1 0 Je»eli wybierzemy baz A = ((1, 1), (2, 1)) to M(f) A A =. 0 2 Daje to znacznie lepszy opis endomorzmu f.
GAL II 2012-2013 A Strojnowski str1 Wykªad 1 Ten semestr rozpoczniemy badaniem endomorzmów sko«czenie wymiarowych przestrzeni liniowych Denicja 11 Niech V b dzie przestrzeni liniow nad ciaªem K 1) Przeksztaªceniem
Strategie zabezpieczaj ce
04062008 Plan prezentacji Model binarny Model Black Scholesa Bismut- Elworthy -Li formuła Model binarny i opcja call Niech cena akcji w chwili pocz tkowej wynosi S 0 = 21 Zaªó»my,»e ceny akcji po trzech
Twierdzenie Wainera. Marek Czarnecki. Warszawa, 3 lipca Wydziaª Filozoi i Socjologii Uniwersytet Warszawski
Twierdzenie Wainera Marek Czarnecki Wydziaª Filozoi i Socjologii Uniwersytet Warszawski Wydziaª Matematyki, Informatyki i Mechaniki Uniwersytet Warszawski Warszawa, 3 lipca 2009 Motywacje Dla dowolnej
Edyta Juszczyk. Akademia im. Jana Dªugosza w Cz stochowie. Lekcja 1Wst p
Lekcja 1 Wst p Akademia im. Jana Dªugosza w Cz stochowie Baltie Baltie Baltie jest narz dziem, które sªu»y do nauki programowania dla dzieci od najmªodszych lat. Zostaª stworzony przez Bohumira Soukupa
Statystyka matematyczna
Statystyka matematyczna Aleksandra Ki±lak-Malinowska akis@uwm.edu.pl http://wmii.uwm.edu.pl/ akis/ Czym zajmuje si statystyka? Statystyka zajmuje si opisywaniem i analiz zjawisk masowych otaczaj cej czªowieka
Matematyka wykªad 1. Macierze (1) Andrzej Torój. 17 wrze±nia 2011. Wy»sza Szkoªa Zarz dzania i Prawa im. H. Chodkowskiej
Matematyka wykªad 1 Macierze (1) Andrzej Torój Wy»sza Szkoªa Zarz dzania i Prawa im. H. Chodkowskiej 17 wrze±nia 2011 Plan wykªadu 1 2 3 4 5 Plan prezentacji 1 2 3 4 5 Kontakt moja strona internetowa:
STATYSTYCZNE MODELOWANIE DANYCH BIOLOGICZNYCH
STATYSTYCZNE MODELOWANIE DANYCH BIOLOGICZNYCH WYKŠAD 3 29 pa¹dziernik 2015 1 / 39 Plan wykªadu 1. Test log-rank dla wi cej ni» dwóch grup 2. Test Mantela-Haenszela dla wi cej ni» dwóch grup 3. Wst p do
1 Lista 6 1. LISTA Obliczy JSN renty z doªu dla (30)-latka na 3 lata w wysoko±ci Obliczenia zrobi dla TT -PL97m oraz i = 4%.
1. LISTA 6 1 1 Lista 6 1.1 Obliczy JSN renty z doªu dla (30)-latka na 3 lata w wysoko±ci 3000. Obliczenia zrobi dla TT -PL97m oraz i = 4%. 1.2 Obliczy JSN dla nast puj cej renty dla (30)-latka: je±li»yje
Ekonometria. wiczenia 3 Autokorelacja, heteroskedastyczno±, wspóªliniowo± Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej
Ekonometria wiczenia 3 Autokorelacja, heteroskedastyczno±, wspóªliniowo± (3) Ekonometria 1 / 29 Plan wicze«1 Wprowadzenie 2 Normalny rozkªad 3 Autokorelacja 4 Heteroskedastyczno± Test White'a Odporne bª
Funkcje wielu zmiennych
dr Krzysztof yjewski Informatyka I rok I 0 in» 12 stycznia 2016 Funkcje wielu zmiennych Informacje pomocnicze Denicja 1 Niech funkcja f(x y) b dzie okre±lona przynajmniej na otoczeniu punktu (x 0 y 0 )
ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15
ARYTMETYKA MODULARNA Grzegorz Szkibiel Wiosna 2014/15 Spis tre±ci 1 Denicja kongruencji i jej podstawowe wªasno±ci 3 2 Systemy pozycyjne 8 3 Elementy odwrotne 12 4 Pewne zastosowania elementów odwrotnych
x y x y x y x + y x y
Algebra logiki 1 W zbiorze {0, 1} okre±lamy dziaªania dwuargumentowe,, +, oraz dziaªanie jednoargumentowe ( ). Dziaªanie x + y nazywamy dodawaniem modulo 2, a dziaªanie x y nazywamy kresk Sheera. x x 0
Statystyka w przykładach
w przykładach Tomasz Mostowski Zajęcia 10.04.2008 Plan Estymatory 1 Estymatory 2 Plan Estymatory 1 Estymatory 2 Własności estymatorów Zazwyczaj w badaniach potrzebujemy oszacować pewne parametry na podstawie