CAŠKOWANIE METODAMI MONTE CARLO Janusz Adamowski



Podobne dokumenty
ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

Ekonometria Bayesowska

Biostatystyka, # 5 /Weterynaria I/

Metody probablistyczne i statystyka stosowana

Wykªad 7. Ekstrema lokalne funkcji dwóch zmiennych.

ANALIZA NUMERYCZNA. Grzegorz Szkibiel. Wiosna 2014/15

1 Metody iteracyjne rozwi zywania równania f(x)=0

Statystyka. Šukasz Dawidowski. Instytut Matematyki, Uniwersytet l ski

Biostatystyka, # 4 /Weterynaria I/

Lekcja 9 - LICZBY LOSOWE, ZMIENNE

1 Bª dy i arytmetyka zmiennopozycyjna

Caªkowanie numeryczne - porównanie skuteczno±ci metody prostokatów, metody trapezów oraz metody Simpsona

In»ynierskie zastosowania statystyki wiczenia

Funkcje wielu zmiennych

Janusz Adamowski METODY OBLICZENIOWE FIZYKI Zastosowanie eliptycznych równa«ró»niczkowych

XVII Warmi«sko-Mazurskie Zawody Matematyczne

Statystyka opisowa. Wykªad II. Elementy statystyki opisowej. Edward Kozªowski.

Arkusz maturalny. Šukasz Dawidowski. 25 kwietnia 2016r. Powtórki maturalne

Rachunek caªkowy funkcji wielu zmiennych

Przeksztaªcenia liniowe

Metodydowodzenia twierdzeń

wiczenie nr 3 z przedmiotu Metody prognozowania kwiecie«2015 r. Metodyka bada«do±wiadczalnych dr hab. in». Sebastian Skoczypiec Cel wiczenia Zaªo»enia

Modele liniowe i mieszane na przykªadzie analizy danych biologicznych - Wykªad 6

Metody numeryczne i statystyka dla in»ynierów

3. (8 punktów) EGZAMIN MAGISTERSKI, Biomatematyka

5. (8 punktów) EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach

Zagadnienia na wej±ciówki z matematyki Technologia Chemiczna

EGZAMIN MAGISTERSKI, r Matematyka w ekonomii i ubezpieczeniach

Ekstremalnie fajne równania

Lekcja 9 Liczby losowe, zmienne, staªe

Funkcje, wielomiany. Informacje pomocnicze

A = n. 2. Ka»dy podzbiór zbioru sko«czonego jest zbiorem sko«czonym. Dowody tych twierdze«(elementarne, lecz nieco nu» ce) pominiemy.

Elementarna statystyka Wnioskowanie o regresji (Inference 2 czerwca for regression) / 13

Informatyka. z przedmiotu RACHUNEK PRAWDOPODOBIE STWA

E. Sadowska-Owczorz Statystyka i probabilistyka - zadania kwiecie«2018

Metody numeryczne. Wst p do metod numerycznych. Dawid Rasaªa. January 9, Dawid Rasaªa Metody numeryczne 1 / 9

Rozwi zanie równania ró»niczkowego metod operatorow (zastosowanie transformaty Laplace'a).

Interpolacja funkcjami sklejanymi

Metody numeryczne i statystyka dla in»ynierów

Metody dowodzenia twierdze«

Elementy Modelowania Matematycznego Wykªad 1 Prawdopodobie«stwo

ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

Zastosowania matematyki

Elementarna statystyka Dwie próby: porównanie dwóch proporcji (Two-sample problem: comparing two proportions)

Informacje pomocnicze

Zadania z rachunku prawdopodobie«stwa

Macierze. 1 Podstawowe denicje. 2 Rodzaje macierzy. Denicja

Vincent Van GOGH: M»czyzna pij cy li»ank kawy. Radosªaw Klimek. J zyk programowania Java

2. L(a u) = al( u) dla dowolnych u U i a R. Uwaga 1. Warunki 1., 2. mo»na zast pi jednym warunkiem: L(a u + b v) = al( u) + bl( v)

Matematyka z elementami statystyki

ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

Statystyka matematyczna - ZSTA LMO

Ukªady równa«liniowych - rozkªady typu LU i LL'

Wektory w przestrzeni

Ekonometria Bayesowska

Twierdzenie Wainera. Marek Czarnecki. Warszawa, 3 lipca Wydziaª Filozoi i Socjologii Uniwersytet Warszawski

O pewnym zadaniu olimpijskim

r = x x2 2 + x2 3.

JAO - J zyki, Automaty i Obliczenia - Wykªad 1. JAO - J zyki, Automaty i Obliczenia - Wykªad 1

ELEMENTARNA TEORIA LICZB. 1. Podzielno±

Spis tre±ci. Plan. 1 Pochodna cz stkowa. 1.1 Denicja Przykªady Wªasno±ci Pochodne wy»szych rz dów... 3

Ekonometria. wiczenia 2 Werykacja modelu liniowego. Andrzej Torój. Instytut Ekonometrii Zakªad Ekonometrii Stosowanej

Równania ró»niczkowe I rz du (RRIR) Twierdzenie Picarda. Anna D browska. WFTiMS. 23 marca 2010

Liniowe równania ró»niczkowe n tego rz du o staªych wspóªczynnikach

Wykªad 4. Funkcje wielu zmiennych.

Modele wielorównaniowe. Problem identykacji

Relacj binarn okre±lon w zbiorze X nazywamy podzbiór ϱ X X.

Zbiory i odwzorowania

ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

Statystyka matematyczna

Kurs z matematyki - zadania

1 Przypomnienie wiadomo±ci ze szkoªy ±redniej. Rozwi zywanie prostych równa«i nierówno±ci

Listy Inne przykªady Rozwi zywanie problemów. Listy w Mathematice. Marcin Karcz. Wydziaª Matematyki, Fizyki i Informatyki.

WST P DO TEORII INFORMACJI I KODOWANIA. Grzegorz Szkibiel. Wiosna 2013/14

Matematyka wykªad 1. Macierze (1) Andrzej Torój. 17 wrze±nia Wy»sza Szkoªa Zarz dzania i Prawa im. H. Chodkowskiej

Elementy geometrii analitycznej w przestrzeni

Wska¹niki, tablice dynamiczne wielowymiarowe

det A := a 11, ( 1) 1+j a 1j det A 1j, a 11 a 12 a 21 a 22 Wn. 1 (Wyznacznik macierzy stopnia 2:). = a 11a 22 a 33 +a 12 a 23 a 31 +a 13 a 21 a 32

Zadania z PM II A. Strojnowski str. 1. Zadania przygotowawcze z Podstaw Matematyki seria 2

Ekonometria Bayesowska

2 Liczby rzeczywiste - cz. 2

ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

PRAWA ZACHOWANIA. Podstawowe terminy. Cia a tworz ce uk ad mechaniczny oddzia ywuj mi dzy sob i z cia ami nie nale cymi do uk adu za pomoc

Matematyka dyskretna dla informatyków

Elementy geometrii w przestrzeni R 3

Zadania z analizy matematycznej - sem. II Ekstrema funkcji wielu zmiennych, twierdzenia o funkcji odwrotnej i funkcji uwikªanej

Matematyka 1. Šukasz Dawidowski. Instytut Matematyki, Uniwersytet l ski

Całkowanie metodami Monte Carlo

1 Ró»niczka drugiego rz du i ekstrema

1 Poj cia pomocnicze. Przykªad 1. A A d

Materiaªy do Repetytorium z matematyki

Ukªady równa«liniowych

Wyznaczanie krzywej rotacji Galaktyki na podstawie danych z teleskopu RT3

Funkcja kwadratowa, wielomiany oraz funkcje wymierne

Strategia czy intuicja?

ARYTMETYKA MODULARNA. Grzegorz Szkibiel. Wiosna 2014/15

I Rok LOGISTYKI: wykªad 2 Pochodna funkcji. iloraz ró»nicowy x y x

1 0 Je»eli wybierzemy baz A = ((1, 1), (2, 1)) to M(f) A A =. 0 2 Daje to znacznie lepszy opis endomorzmu f.

Lab. 02: Algorytm Schrage

Indeksowane rodziny zbiorów

Transkrypt:

III. CAŠKOWAIE METODAMI MOTE CARLO Janusz Adamowski 1

1 azwa metody Podstawowym zastosowaniem w zyce metody Monte Carlo (MC) jest opis zªo-»onych ukªadów zycznych o du»ej liczbie stopni swobody. Opis zªo»onych ukªadów zycznych musi mie charakter statystyczny (stochastyczny). Bazuje on wi c na poj ciach prawdopodobie«stwa, rozkªadu prawdopodobie«stwa oraz generatorach liczb losowych. Odpowiednie metody opisu nazywane s metodami Monte Carlo (od nazwy sªynnego kasyna gier w Monaco). Zgodnie z obecn mod niektóre spo±ród metod stochastycznych nazywane s metodami Las Vegas. azwy te ma na celu podkre±lenie przypadkowego (stochastycznego) charakteru metod. Prawdopodobnie wynalazc nazwy metoda Monte Carlo byª polski matematyk Stanisªaw Ulam. Obecna klasykacja algorytmów stochastycznych: (1) algorytmy Monte Carlo: szybkie, cho nie zawsze dokªadne, (2) algorytmy Las Vegas: dokªadne, cho nie zawsze szybkie. Klasykacja ta jest zbyt ostra i raczej deprecjonuj ca warto± tych metod. Wi kszo± zastosowa«w zyce tych metod polega na obliczaniu caªek wielowymiarowych z u»yciem ró»nych rozkªadów statystycznych. W tej cz ±ci wst pnej zajmiemy si obliczaniem caªek metodami Monte Carlo/Las Vegas. 2 Caªkowanie funkcji jednej zmiennej Idea metod MC mo»e by zobrazowana na nast puj cym przykªadzie. Powiedzmy,»e chcemy wyznaczy powierzchni stawu dysponuj c w tym celu jedynie stosem kamieni. iech staw o nieznanym polu powierzchni X znajduje si wewn trz ogrodu, np. w ksztaªcie prostok ta, o znanym polu powierzchni A (Rys. 3.1). Czy mo»na u»y stosu kamieni do oszacowania powierzchni stawu? Tak, mo»na. ale»y w tym celu rzuca kamienie do ogrodu w sposób przypadkowy i liczy liczb plusków. Powierzchni stawu szacujemy nast puj co. Je»eli jest liczb rzuconych kamieni, a p liczb plusków, to X A = p (1) Bezpo±rednie zastosowanie tego pomysªu do obliczania caªek prowadzi do tzw. metody Monte Carlo chybiªtraª (hitormiss Monte Carlo).

3.1. Ilustracja idei metody Monte Carlo. Rys. 2

3 Metoda Monte Carlo chybiªtraª Chcemy obliczy caªk z funkcji f(x) w przedziale [a, b], czyli I = iech f(x) w tym przedziale speªnia nierówno±ci b a f(x)dx, (2) c f(x) d. U»ywamy generatora liczb losowych o rozkªadzie jednorodnym i losujemy par niezale»nych od siebie liczb pseudoprzypadkowych (x i, y i ) takich,»e speªnione s nast puj ce nierówno±ci: oraz a x i b c y i d. ast pnie wyznaczamy liczb par p speªniaj cych warunek y i f(x i ). (3) Zgodnie z ide metody Monte Carlo oszacowaniem Monte Carlo caªki (2), czyli pola pod krzyw y = f(x), jest liczba gdzie A = (b a)(d c). Oszacowanie Monte Carlo caªki (2) jest tym dokªadniejsze, im wi ksze jest. 3.1 Podstawowa metoda Monte Carlo I = p A + c(b a), (4) I I, (5) W celu oszacowania caªki (2) opieramy si na twierdzeniu o warto±ci ±redniej, zgodnie z którym I = (b a) f, (6) gdzie f jest warto±ci ±redni funkcji f(x). Warto± ±redni liczymy metod MC jako f = 1 f(x i ), (7) gdzie x i (i = 1,..., ) jest ci giem liczb przypadkowych o rozkªadzie jednorodnym w przedziale [a, b]. 3

3.2. Ilustracja do metody Monte Carlo chybiªtraª. Punkt (x 1, y 1) speªnia warunek (3), punkt (x 2, y 2) tego warunku nie speªnia. Rys. Otrzymujemy w ten sposób oszacowanie Monte Carlo caªki (2) I I = b a f(x i ). (8) W metodzie MC punkty x i s przypadkowo rozrzucone w przedziale [a, b] zgodnie z rozkªadem jednorodnym, a jest liczb losowa«. Dla porównania wzór prostok tów dla caªki (2) ma posta I b a 1 i=0 f(x i ), (9) przy czym h = (b a)/ oraz x i = x 0 + ih, a f(x i ) jest warto±ci funkcji f(x) na pocz tku ka»dego podprzedziaªu. W odró»nieniu od metody MC, w metodzie prostok tów punkty x i s roz- ªo»one wewn trz przedziaªu [a, b] w sposób równomierny. Bª d metody prostok tów w podprzedziaªach [x i 1, x i ] jest rz du O(h 2 ), a w przedziale [a, b] jest rz du O(h), czyli O( 1 ). Oszacowaniem bª du metod MC zajmiemy si pó¹niej. 4

3.2 Metoda ±redniej wa»onej Metoda ta posiada nazw angielsk importance sampling. Wprowadzimy j na przykªadzie obliczania caªki jednowymiarowej (2). Zgodnie z t metod wprowadzamy funkcj wagow w(x) tak,»e w(x) 0 oraz b a dx w(x) = 1. (10) Funkcja w(x) okre±la pewien rozkªad prawdopodobie«stwa w przedziale [a, b]. Przeksztaªcamy caªk (2) do postaci I = Oszacowaniem Monte Carlo caªki (11) jest b a I = b a dx w(x) f(x) w(x). (11) f(x i ) w(x i ), (12) przy czym ci g liczb przypadkowych x i podlega rozkªadowi prawdopodobie«- stwa w(x) w przedziale [a, b]. Otrzymujemy w ten sposób mo»liwo± redukcji wariancji, czyli bª du caªkowania metod Monte Carlo, poniewa» rozkªad w(x) mo»na wybra tak, aby przybli»aª przebieg funkcji f(x), a zatem redukowaª wariancj. 4 Caªkowanie funkcji wielu zmiennych Rozwa»my funkcj f(x) zale»n od d zmiennych X = (x 1,..., x d ), czyli f(x) = f(x 1,..., x d ). Ka»da ze zmiennych x j (j = 1,..., d) przyjmuje warto±ci z przedziaªu [a j, b j ]. Szukamy oszacowania caªki d-wymiarowej I = b 1 a 1 dx 1... b d za pomoc metody MC. Oszacowaniem Monte Carlo caªki (13) jest I = Ω a d dx d f(x 1,..., x d ). (13) f(x 1i,..., x di ), (14) gdzie Ω = (b 1 a 1 )... (b d a d ) jest d-wymiarow obj to±ci, a (x 1i,..., x di ) s wybrane losowo wedªug rozkªadu jednorodnego z przedziaªów [a n, b n ], przy czym n = 1,..., d. 5

rozkªad masy. Rys. 3.3. Dwuwymiarowy Przykªad zastosowania metody Monte Carlo Obliczmy wspóªrz dne ±rodka masy i moment bezwªadno±ci bryªy sztywnej dla d = 2. Zakªadamy pewien dwuwymiarowy rozkªad masy ϱ(x, y). Masa elementu powierzchni da = dxdy dana jest wzorem dm = ϱ(x, y)dxdy, gdzie ϱ(x, y) jest dwuwymiarow g sto±ci masy. Caªkowita masa bryªy M = dxdyϱ(x, y), Ω gdzie Ω jest obj to±ci bryªy. Wspóªrz dne (X, Y ) ±rodka masy wyra»aj si wzorami X = 1 dxdyxϱ(x, y), M Y = 1 M Ω Ω dxdyyϱ(x, y). Moment bezwªadno±ci bryªy wzgl dem osi z przechodz cej przez ±rodek masy dany jest wzorem Iz CM = dx dy(x 2 + y 2 )ϱ(x, y). Dla dowolnego rozkªadu masy ϱ(x, y) ka»d z powy»szych caªek mo»na obliczy metod MC. 6

p. oszacowaniem momentu bezwªadno±ci jest I CM z I = (b 1 a 1 )(b 2 a 2 ) 1 (x 2 i + yi 2 )ϱ(x i, y i ), gdzie a 1 x i b 1 oraz a 2 y i b 2, (x i, y i ) jest par niezale»nych od siebie liczb przypadkowych generowanych zgodnie z rozkªadem jednorodnym w przedziaªach [a 1, b 1 ] i [a 2, b 2 ], a jest liczb losowa«tych par. 5 Analiza bª dów caªkowania numerycznego Metoda prostok tów w dwóch wymiarach Obliczamy caªk z funkcji f(x, y) po powierzchni A za pomoc dwuwymiarowej wersji metody prostok tów. Odpowiednim oszacowaniem tej caªki jest suma obj to±ci prostopadªo±cianów o polu podstawy x y i wysoko±ciach f(x i, y i ), czyli 1 I = dxdyf(x, y) x y f(x i, y i ). (15) A W celu oszacowania bª du caªkowania rozwijamy funkcj f(x, y) w szereg Taylora wokóª punktu (x i, y i ). Otrzymujemy i=0 f(x, y) = f(x i, y i ) + f x (x i, y i ) (x x i) + f y (x i, y i ) (y y i) +... (16) Bª d caªkowania dla elementu powierzchni σ i = x y wyznaczony jest przez ró»nic δ i = dxdyf(x, y) f(x i, y i ) x y, (17) σ i przy czym powierzchnia σ i okre±lona jest przez nierówno±ci x i x x i + x i y i y y i + y. Podstawiamy (16) do (17) i caªkujemy analitycznie δ i = f(x i, y i ) x y + 1 f 2 x (x i, y i ) ( x)2 y + 1 f 2 y (x i, y i ) ( y)2 x f(x i, y i ) x y. (18) 7

Otrzymujemy st d δ i = 1 2 [ f x (x i, y i ) ( x)2 y + f y (x i, y i ) ( y)2 x ] (19) Korzystaj c z faktu,»e y = O( x) s niesko«czenie maªymi tego samego rz du dostajemy oszacowanie bª du caªkowania metod prostok tów zwi zanego z pojedynczym prostopadªo±cianem δ i O[( x) 3 ]. (20) Je»eli caªkowita liczba prostopadªo±cianów wynosi, przy czym A ( x) 2, to oszacowanie globalnego bª du caªkowania po powierzchni A za pomoc metody prostok tów w dwóch wymiarach ma posta δ = δ i O[( x)] O( 1/2 ). (21) Dla porównania oszacowany bª d metody prostok tów w jednym wymiarze wynosi δ O( 1 ). (22) Wyniki (22) i (21) mo»emy uogólni na przypadek caªki po przestrzeni d- wymiarowej δ O( 1/d ) (23) Bª dy caªkowania w innych metodach klasycznych Przypomnijmy,»e metoda trapezów dla caªki funkcji jednej zmiennej prowadzi do bª du δ O( 2 ), (24) natomiast metoda Simpsona daje bª d δ O( 4 ). (25) Wyra»enia na bª dy (23), (24) i (25) mo»emy uogólni na przypadek caªkowania po przestrzeni d-wymiarowej. W przypadku caªkowania funkcji d zmiennych szacowany bª d wynosi δ O( m/d ), (26) gdzie m opisuje bª d caªkowania w jednym wymiarze. Je»eli d, to δ O( 0 ) = O(1), a wi c bª d caªkowania metodami klasycznymi staje si rz du warto±ci funkcji podcaªkowej. 8

6 Bª d caªkowania metod Monte Carlo Je»eli X = (x 1,..., x d ) oznacza wektor w przestrzeni d-wymiarowej, to oszacowaniem MC caªki po przestrzeni d-wymiarowej I = d d Xf(X) (27) jest Ω I = Ω f(x i ), (28) gdzie punkty X i = (x 1i,..., x di ) zostaªy wylosowane w sposób przypadkowy wedªug d-wymiarowego rozkªadu jednorodnego. Wzór (28) mo»na przepisa w postaci I = 1 ξ i, (29) gdzie wielko±ci ξ i = Ωf(X i ) (30) s zmiennymi losowymi podlegaj cymi pewnemu rozkªadowi, który niekoniecznie jest rozkªadem jednorodnym. Warto±ci zmiennych losowych ξ i b dziemy traktowa jako wyniki serii losowa«( prób) b d¹ wyniki serii pomiarów. Aby oszacowa bª d serii pomiarów, trzeba przeprowadzi kolejne serie pomiarów po pomiarów ka»da. Oznaczmy przez M S liczb serii zªo»onych z pomiarów (losowa«) w ka»dej serii. Wtedy M S jest caªkowit liczb pojedynczych pomiarów (losowa«). iech ξ si b dzie wynikiem i-tego pomiaru w s-tej serii pomiarów, przy czym s = 1,..., M S oraz i = 1,...,. Obliczamy warto± ±redni dla s-tej serii pomiarów ξ s = 1 ξ si (31) oraz warto± ±redni dla caªkowitej liczby (równej M S ) pomiarów ξ = 1 M S M S ξ s = 1 M S s=1 M S s=1 ξ si. (32) Uwaga Ci g warto±ci ±rednich arytmetycznych ξ s podlega rozkªadowi Gaussa, poniewa» jest to ci g sum liczb przypadkowych. Wªasno± ta wynika z centralnego twierdzenia granicznego. 9

Ró»nica pomi dzy ±redni (31) dla s-tej serii pomiarów a ±redni (32) wszystkich pomiarów wynosi s = ξ s ξ, (33) natomiast ró»nica pomi dzy wynikiem pojedynczego pomiaru a ±redni (32) dana jest wzorem δ si = ξ si ξ. (34) Obliczmy teraz wariancj dla ci gu ±rednich arytmetycznych ξ s, przy czym s = 1,..., M S, σs 2 = 1 M S 2 s, (35) M S atomiast wariancj wszystkich M S pomiarów (M S serii po pomiarów ka»da) obliczamy jako σ 2 = 1 M S δsi 2. (36) M S Zgodnie z (33) s=1 s=1 s = 1 ξ si ξ = 1 (ξ si ξ ), (37) poniewa» ξ = ξ. Ostatecznie s = 1 δ si. (38) Podstawiamy (38) do (35) i otrzymujemy σ 2 S = = 1 M S M S s=1 1 M S M S 2 ( 1 2 s=1 δ si ) j=1 δ sj δsi 2 + 1 M S M S 2 s=1 i,j=1 δ si δ sj. (39) Drugi wyraz w (39) zeruje si, poniewa» jest on proporcjonalny do ±redniej δ si δ sj, gdzie odst pstwa od ±redniej δ si podlegaj podobnie jak ξ si rozkªadowi przypadkowemu o ±redniej δ = 0. W zwi zku z tym (39) prowadzi do nast puj cego wzoru na wariancj σ 2 S = σ2. (40) 10

Miar bª du dla pojedynczej serii pomiarów jest odchylenie standardowe, czyli pierwiastek kwadratowy z wariancji (40) σ S = σ. (41) Wynika st d,»e niezale»nie od liczby wymiarów przestrzeni bª d caªkowania za pomoc metody Monte Carlo jest rz du O( 1/2 ). (42) Uwaga Przyjmuj c poziom ufno±ci α = 0.997 dla rozkªadu Gaussa ±rednich arytmetycznych ξ s otrzymujemy nast puj ce oszacowanie bª du metody Monte Carlo σ S = 3σ. (43) Jest to tzw. reguªa trzech sigma. Otrzymane wyniki mo»na uj w tabeli podaj cej porównanie bª dów caªkowania otrzymanych za pomoc ró»nych metod. Tabela 3.1. Porównanie bª dów caªkowania za pomoc ró»nych metod. Dla d d 0 metoda MC prowadzi do mniejszego bª du. metoda bª d d 0 Monte Carlo 1/2 prostok tów 1/d 3 trapezów 2/d 5 Simpsona 4/d 9 Z Tabeli 3.1 wynika,»e metoda MC staje si dokªadniejsza od ka»dej z metod klasycznych, gdy wymiar przestrzeni, po której caªkujemy, przekracza d 0. Dodatkow zalet metody MC jest mo»liwo± zmniejszenia bª du caªkowania przez redukcj odchylenia standardowego σ [por. wzór (41)]. 11