5 Błąd średniokwadratowy i obciążenie

Transkrypt

1 5 Błąd średniokwadratowy i obciążenie Przeprowadziliśmy 200 powtórzeń przebiegu próbnika dla tego samego zestawu parametrów modelowych co w Rozdziale 1, to znaczy µ = 0, s = 10, v = 10, n i = 10 (i = 1,..., l = 20). Podobnie jak poprzednio, zastosowaliśmy niewłaściwy, nieinformacyjny rozkład a priori z następującymi parametrami. p = 0, λ = 0, q = 0, κ = 0, m = 0, τ 2 = 0. W każdym z 200 powtórzeń, badaliśmy przebieg kroków próbnika Gibbsa, przy czym odrzucaliśmy początkowy odcinek długości b = 500 kroków w celu redukcji obciążenia. Za punkt startowy wybieraliśmy za każdym razem modelowe wartości s, v, µ. Skupiliśmy uwagę na badaniu estymatorów µ i (θ i ) typu Rao-Blackwella. Rysunek 28 przedstawia histogram estymatorów parametru µ dla dwóch długości trajektorii 1000 i kroków. Widzimy wyraźnie, że dla długiej trajektorii rozkład średniej z trajektorii jest znacznie bardziej skoncentrowany wokół prawdziwej wartości średniej a posteriori. Ten efekt będzie jeszcze lepiej zobrazowany w dalszej części rozdziału za pomocą sekwencji wykresów pudełkowych. 45

2 Rozklad estymatorow mu typu R B srednie z trajektorii dlugosci 1000 Gestosc Wartosc estymatora Rozklad estymatorow mu typu R B srednie z trajektorii dlugosci Gestosc Wartosc estymatora Rys. 28. Rozkłady estymatorów parametru µ dla dwóch długości trajektorii. Następnie przedstawimy zależność błędów średniokwadratowych estymatorów od długości trajektorii. Należy podkreślić, że przedmiotem naszych badań jest tu (i w całym tym opracowaniu) dokładność obliczeń charakterystyk a posteriori metodą MCMC przy pomocy próbnika Gibbsa. Innymi słowy interesuje nas jakość aproksymacji wartości średniej a posteriori µ post := E(µ y) przez obliczone w kolejnych krokach próbnika wartości µ R B b,n (a nie jakość aproksymacji modelowej wielkości µ przez estymator bayesowski µ post ). Wobec tego interesującą nas wielkością jest błąd średniokwadratowy zdefiniowany następująco. R B BSK := E ( µ b,n µ post) 2. 46

3 Oczywiście, wartość oczekiwana w powyższym wzorze była obliczana metodą Monte Carlo na podstawie 200 niezależnych powtórzeń doświadczenia. Pierwiastek z BSK dla srednich mu wzdluz trajektorii pierwiastek z BSK liczba iteracji Odwrotnosc pierwiastka z BSK dla srednich mu wzdluz trajekto wraz z dopasowana funkcja liniowa 1/pierwiastek z BSK pierwiastek z liczby iteracji Rys. 29. BŚK estymatorów parametru µ w zależności od długości trajektorii. Jak widzimy z pierwszego z rys. 29, błąd średniokwadratowy zmierza dość szybko do zera wraz z liczbą iteracji próbnika (każde kólko na rysunku odpowiada błędowi średniokwadratowemu obliczonemu na podstawie 200 estymatorów średniej a postriori µ. Wyniki symulacji wykazują zaskakująco dużą zgodność z asymptotycznymi twierdzeniami teorii łańcuchów Markowa. Centralne Twierdzenie Graniczne mówi, że n ( µ R B b,n µ post) N (0, b 2 ), 47

4 gdzie b 2 jest tzw. wariancją asymptotyczną i zależy w skomplikowany sposób nie tylko od rozkładu docelowego (a posteriori) ale i od prawdopodobieństwa przejścia łańcucha Markowa, czyli od konstrukcji algorytmu MCMC. Tak więc CTG sugeruje liniową zależność 1/ BSK od n. Taka zależność jest wyraźnie widoczna na dolnym rysunku. Nachylenie linii prostej dopasowanej do danych na tym rysunku jest w istocie estymatorem odwrotności wariancji asymptotycznej. W naszym przykładzie b 2 = Pokazane poniżej wykresy pudełkowe dla kolejnych średnich µ wzdłuż trajektorii (co 1000 kroków próbnika) pokazują jak rozkład tych średnich zbliża się do rozkładu skupionego wokół prawdziwej wartości a posteriori. Próbnik działa dobrze. Wykresy pudelkowe estymatorow mu typu R B mu

5 Rys. 30. Wykresy pudełkowe dla średniej parametru µ. Podobnie jest dla predyktorów wartości θ i dla kolejnych małych obszarów. Na rysunku poniżej przedstawiono ten efekt dla czterech pierwszych małych obszarów. Obszar nr. 1 Obszar nr Obszar nr. 3 Obszar nr Rys. 31. Wykresy pudełkowe dla średnich parametru θ i, i = 1, 2, 3, 4. 49

6 Na poniższym rysunku obserwujemy, że również obciążenie średniej wzdłuż trajektorii dla średniej a posteriori parametru µ jest niewielki i szybko staje się wręcz znikome. Obciazenie dla srednich mu wzdluz trajektorii obciazenie liczba iteracji Rys. 32. Obciążenie dla średnich wzdłuż trajektorii parametru µ. Wyniki liczbowe dla estymatora parametru µ wyglądają nastepująco: µ = i=1 ˆµ(i) 500,10000 = średnia z 200 symulacji ze średnich wzdłuż trajektorii. 200 i=1 (ˆµ(i) 500,10000 µ) 2 = odchylenie standardowe śred nich z 200 symulacji. 50

7 Analogiczne wartości dla parametrów małych obszarów (θ i ) podane są w poniższej tabelce. mały obszar mod. θ m śr. est. θ m odch. stand. θ m Tabela 4: Wartości modelowe, średnie i odchylenia standardowe rozkładów a posteriori zmiennych (θ m ). 51