Metody numeryczne i statystyka dla in»ynierów

Transkrypt

1 Kierunek: Automatyka i Robotyka, II rok Konwersje, bª dy przetwarzania numerycznego PWSZ Gªogów, 2009

2 Dlaczego modelujemy... systematyczne rozwi zywanie problemów, eksperymentalna eksploracja wielu rozwi za«, dostarczanie abstrakcyjnych metod zarz dzania zªo»ono±ci, redukcja czasu wdro»enia dla aplikacji biznesowych, zmniejszenie kosztów produkcji, zarz dzanie ryzykiem bª du,...

3 ... numerycznie? szybkie i efektywne narz dzia rozwi zywania problemów, uniwersalno± i szeroka u»yteczno±, cz sto, jedyna alternatywa dla nieistniej cych rozwi za«analitycznych, liczne istniej ce efektywne programy i biblioteki, idealne do nauki obsªugi maszyn cyfrowych, zmieniaj rozumienie metod matematycznych (redukcja skomplikowanych technik do podstawowych operacji arytmetycznych)

4 In»ynierskie rozwi zywanie problemów Era prekomputerowa SFORMUŁOWANIE Fundamentalne prawa wyjaśnione w dużym uproszczeniu ROZWIĄZANIE Skomplikowana i czasochłonna metoda do rozwiązania problemu INTERPRETACJA Analiza ograniczona przez czasochłonne rozwiązywanie Era komputerowa SFORMUŁOWANIE Głęboka ekspozycja relacji pomiędzy problemem a prawami fundamentalnymi ROZWIĄZANIE Łatwa i efektywna metoda obliczeniowa INTERPRETACJA Czas obliczeń pozwala na głębszą analizę; można przestudiować wrażliwość i dynamikę systemu

5 ródªa bª dów 1 Modelowanie matematyczne, np. najprostszy model przyrostu populacji N(t) = N 0 e kt jest prawidªowy tylko przy zaªo»eniu,»e posiada nieograniczone zasoby, 2 Bª dy grube i pomyªki, np. bª dy programistyczne, 3 Bª dy pomiarowe, np. pr dko± ±wiatªa w pró»ni wynosi c = ( ε) 10 8 m/sek, ε Bª dy maszynowe bª dy przetwarzania numerycznego np. bª dy zaokr glania lub odrzucania w arytmetyce zmiennoprzecinkowej, 5 Bª dy przybli»ania matematycznego, np. obliczaj c caªk 1 1 I = e x 2 dx 0 0 ) (1 + x 2 + x 4 2! + x 6 3! + x 8 4! dx

6 Bª d wzgl dny i bezwzgl dny Bª d bezwzgl dny E abs = α ˆα gdzie: α warto± dokªadna ˆα warto± przybli»ona (obliczona) Bª d wzgl dny E rel = α ˆα α lub E rel = α ˆα α 100% Wniosek: α jest najcz ±ciej niedost pna a priori, st d E rel = α ˆα ˆα lub nawet E rel = α ˆα α

7 Przykªad 1 Rozwa»my zadanie pomiaru dªugo±ci mostu oraz nita u»ytego do jego budowy. W wyniku pomiaru otrzymano odpowiednio 9999 i 9 cm. Je»eli prawdziwe warto±ci to oraz 10 cm, policzy (a) bª d bezwzgl dny i (b) procentowy bª d wzgl dny w ka»dym z przypadków. a) Bª d bezwzgl dny dla dªugo±ci mostu wynosi oraz dla dªugo±ci nita E m abs = = 1 cm E n abs = 10 9 = 1 cm b) Bª d wzgl dny dla dªugo±ci mostu wynosi E m = 1 100% = 0.01% rel oraz dla nita E n = 1 100% = 10% rel 10

8 Reprezentacja danych przetwarzanych przez komputer Powszechnie u»ywamy systemu dziesi tnego: L (10) = s n i= m e i 10 i gdzie: s znak liczby (±1), e i {0, 1, 2, 3, 4, 5, 6, 7, 8, 9} cyfry reprezentacji dziesi tnej np.: 24, 56 = Komputer przetwarza dane zapisane w systemie binarnym (dwójkowym): L (2) = s n i= m gdzie: s znak liczby (±1), e i {0, 1} cyfry reprezentacji dwójkowej np.: 10, 75 (10) = (2) = 1010, 11 (2) e i 2 i

9 Reprezentacja danych przetwarzanych przez komputer UWAGA - nie wszystkie liczby rzeczywiste zapisane w systemie dziesi tnym posiadaj sko«czone rozwini cie w systemie dwójkowym, np. 0, 325 (10) = 0, 0101(0011) (2) Zapis w systemie szesnastkowym (heksadecymalnym): L (16) = s n i= m e i 16 i gdzie: s znak liczby (±1), e i {0 9, A, B, C, D, E, F } cyfry reprezentacji heksadecymalnej np.: 175, 75 (10) = 1010 }{{} 1111 }{{}, 1100 }{{} (2) = AF, C (16) A (16) F (16) C (16) Cz sto u»ywany jest tak»e zapis oktalny (ósemkowy)

10 Cyfrowy zapis liczb caªkowitych baza 10 konwersja baza 2 baza 8 baza = = = C = C = = CA

11 Posta staªoprzecinkowa Liczba caªkowita mo»e by dokªadnie reprezentowana w systemie dwójkowym jako n l = s e i 2 i gdzie: s { 1, 1} znak e i {0, 1}, i = 0,..., n 1 oraz e n = 1 cyfry reprezentacji binarnej i=0 s e n e... n-1 e 0 d bitów

12 Przykªad 2 Okre±li zakres liczb caªkowitych, które mog by reprezentowane na 16-bitowym komputerze. Pierwszy bit przechowuje znak. Pozostaªe 15 bitów mo»e sªu»y do przechowania liczb binarnych od 0 do St d, górna granica wynosi = = W ten sposób zakres to [ ,32 767]. Ale istnieje nadmiarowo± dla warto±ci zero, tj oraz , dlatego druga z kombinacji zazwyczaj jest u»ywana do reprezentacji dodatkowej liczby ujemnej: 32768, st d prawdziwy zakres jest od do Wniosek: W ogólno±ci, dla d bitów zakres wynosi Z = [ 2 d,2 d 1] O ile wynik nale»y do Z, dokªadnie wykonywane: dodawanie odejmowanie mno»enie

15 Posta zmiennoprzecinkowa Numeryczne warto±ci z niezerow cz ±ci uªamkow s przechowywane jako liczby zmiennoprzecinkowe. gdzie: s { 1, 1} znak l = s 2 c m c cecha (wykªadnik) (d c -bitowa liczba caªkowita) m mantysa (d m -bitowa liczba), m [0.5, 1), m dm = dm e 1 = 1, e i {0, 1} dla i > 1 e i 2 i i=1 s s e... d-t--2 e 1 e... c 0 e -1 e -2 e -t d c bitów cechy dm bitów mantysy

16 Cyfrowy zapis liczb zmiennoprzecinkowych Standardy IEEE 754 formatów liczb zmiennoprzecinkowych Precyzja Sign Bity mantysy Bity cechy Suma Single Double Quadruple d m decyduje o precyzji reprezentacji, d c = d d m decyduje o zakresie reprezentacji, znormalizowana notacja naukowa, tzn. bez nieznacz cych zer, np }{{} 10 3, mantissa czyli mantysa zawsze nale»y do przedziaªu [ 1, 1), gdzie t-baza t systemu zapisu liczby.

17 Przykªad 3 Utworzy hipotetyczny zbiór liczb zmiennoprzecinkowych, które przechowuj informacj o 8 bitowych sªowach (1 bit na znak, 3 na cech ze znakiem i pozostaªe 4 na mantys ). Zakres cechy wynosi [ 2 2, 2 2 1]. Zatem, najmniejsza warto± dodatnia to: }{{}}{{} 100 = = , a najwi ksza warto± dodatnia to m min c min }{{}}{{} 011 =( ) 2 3 = 7.5. Czyli, zakres m max c max rozwa»anego systemu to 7.5 x lub x = 0 lub x 7.5 Wniosek: W ogólno±ci mamy: m min 2 c min x m max 2 cmax dc x (1 2 dm ) 2 2dc 1 1 2

18 Przykªad 3 Utworzy hipotetyczny zbiór liczb zmiennoprzecinkowych, które przechowuj informacj o 8 bitowych sªowach (1 bit na znak, 3 na cech ze znakiem i pozostaªe 4 na mantys ). Zakres cechy wynosi [ 2 2, 2 2 1]. Zatem, najmniejsza warto± dodatnia to: }{{}}{{} 100 = = , a najwi ksza warto± dodatnia to m min c min }{{}}{{} 011 =( ) 2 3 = 7.5. Czyli, zakres m max c max rozwa»anego systemu to 7.5 x lub x = 0 lub x 7.5 Wniosek: W ogólno±ci mamy: m min 2 c min x m max 2 cmax dc x (1 2 dm ) 2 2dc 1 1 2

19 Zbiór liczb zmiennoprzecinkowych Rzeczywiste Zakres Niesko«czony: istniej dowolnie du»e i dowolnie maªe liczby rzeczywiste. Precyzja Niesko«czona: jest niesko«czenie wiele liczb rzeczywistych pomi dzy dwoma dowolnymi l. rzeczywistymi. Zmiennoprzecinkowe Sko«czony: liczba bitów cechy ogranicza amplitud liczb zmiennoprzecinkowych. Sko«czona: istnieje sko«czona liczba (czasami nawet równa zero) liczb zmiennoprzecinkowych pomi dzy dwoma dowolnymi l. zmiennoprzecinkowymi. Wniosek: Linia liczb zmiennoprzecinkowych jest podzbiorem linii liczb rzeczywistych.

20 Zbiór liczb zmiennoprzecinkowych Rzeczywiste Zakres Niesko«czony: istniej dowolnie du»e i dowolnie maªe liczby rzeczywiste. Precyzja Niesko«czona: jest niesko«czenie wiele liczb rzeczywistych pomi dzy dwoma dowolnymi l. rzeczywistymi. Zmiennoprzecinkowe Sko«czony: liczba bitów cechy ogranicza amplitud liczb zmiennoprzecinkowych. Sko«czona: istnieje sko«czona liczba (czasami nawet równa zero) liczb zmiennoprzecinkowych pomi dzy dwoma dowolnymi l. zmiennoprzecinkowymi. Wniosek: Linia liczb zmiennoprzecinkowych jest podzbiorem linii liczb rzeczywistych.

21 Linia liczb zmiennoprzecinkowych Arytmetyka zmiennoprzecinkowa Wynik operacji arytmetycznych pomi dzy dwoma liczbami zmiennoprzecinkowymi: najcz ±ciej nie mo»e by reprezentowany przez inn warto± zmiennoprzecinkow (potencjalnie wyst pi tzw. bª d zaokr glenia), ma ograniczony zakres i precyzj.

22 Bª dy zaokr glenia w obliczeniach (1) Przykªad 4 Obliczy r = x 2 y 2, gdzie x = oraz y = z 4-cyfrow precyzj. Przez bezpo±rednie podstawienie mamy r = x 2 y 2 = 16.04(0025) 16.03(2016) = 0.01 Prawdziwa warto± r to Zatem bª d wzgl dny wynosi E rel = % = %!!! Z drugiej strony, stosuj c znany wzór skróconego mno»enia r = (x y)(x + y) mamy: r = ( )( ) = = Wynik jest dokªadny i bª d wzgl dny E rel = 0%!!!

25 Bª dy zaokr glenia w obliczeniach (2) Ograniczona precyzja prowadzi do zaokr gle«w pojedynczych kalkulacjach Efekty zaokr gle«akumuluj si powoli Bª dy zaokr gle«s nieuniknione, sposobem jest tworzenie lepszych algorytmów Odejmowanie niemal równych warto±ci prowadzi do powa»nych strat precyzji

26 Bª dy kasowania (1) Dla dodawania: Bª dy w c = a + b b d du»e kiedy a b lub a b. Przykªad 5 Rozwa»my c = a + b z a = x.xxx , b = y.yyy oraz z = x + y < 10. osi galna precyzja {}}{ x.xxx xxxx xxxx xxxx yyyy yyyy yyyy yyyy = x.xxx xxxx zzzz zzzz yyyy yyyy }{{} stracone cyfry

27 Bª dy kasowania (2) Dla odejmowania: Bª d w c = a b b dzie znaczny dla a b. Przykªad 6 Wyznaczy c = a b w arytmetyce zmiennoprzecinkowej dla a = x.xxxxxxxxxxxxxx1 oraz b = x.xxxxxxxxxxxxxxx0. { osi galna precyzja }} { x.xxx xxxx xxxx xxx1 x.xxx xxxx xxxx xxx0 = uuuu } uuuu {{ uuuu uuu } nieokre±lone cyfry = 1.uuu uuuu uuuu uuuu Wynik posiada tylko jedn (!) cyfr znacz c.

28 Bª dy kasowania (3) Podsumowanie wyst puj w dodawaniu: a + b kiedy a b lub a b, wyst puj w odejmowaniu: a b kiedy a b, ogromne bª dy w pojedynczych operacjach, a nie powolna akumulacja, cz sto mog zosta zminimalizowane przez algebraiczne przeksztaªcenie wra»liwej formuªy.

29 Precyzja maszyny Amplituda bª dów zaokr glania jest okre±lona przez tzw. precyzj maszyny ε m, tzn. 1 + δ = 1, δ ε m Dla podwójnej precyzji (64 bity) ε m = Wyznaczanie precyzji maszyny eps=1 do if (eps+1 <= 1) exit eps = eps/2 end do eps=2*eps Porównywanie liczb zmiennoprzec. if x==y % bª dnie!!! if abs(x-y) < eps

30 Bª d obci cia Rozwa»my rozwini cie w szereg sin(x) sin(x) = x x 3 3! + x 5 5!... Dla maªych x, tylko kilka wyrazów szeregu jest potrzebnych do dokªadnego przybli»enia sin(x). Wyrazy wy»szego rz du s obcinane (ang. truncated) f true = f sum + bª d obci cia Rozmiar bª du obci cia zale»y od x oraz liczby wyrazów wª czonych w f sum.

31 Szereg Taylora (1) Dla odpowiednio ci gªej funkcji f (x) okre±lonej na przedziale x [a, b] deniujemy wyraz n-tego rz du szeregu Taylora P n (x) jako f (x) =f (x 0 ) + (x x 0 ) df (x x 0) n n! dx x=x 0 + d n f dx n (x x0)2 2! + R n (x) x=x 0 gdzie istnieje warto± ξ speªniaj ca x 0 ξ x taka,»e R n (x) = (x x 0) n+1 d (n+1) f (n + 1)! dx n+1 x=ξ d 2 f dx 2 x=x 0

32 Szereg Taylora(2) Przykªad 7 U»y rozwini cia w szereg Taylora n = 4 rz du do przybli»enia f (x) = cos(x) w punkcie x 1 = π/6 na podstawie warto±ci f (x) i jej pochodnych w x 0 = 0. Przybli»enie 4-go rz du cos(π/6) = 1 (π/6)2 2 + (π/6)4 24 = Warto± dokªadna to 3/2 =

33 Szereg Taylora(3) Przyblizenia cos(x) exact P 2 (x) P 4 (x) P 6 (x) x