Metody numeryczne, III rok Informatyki, 2013/2014

Transkrypt

1 Metody numeryczne, III rok Informatyk, 2013/ Rozwązywane równań nelnowych 2. Arytmetyka zmennopozycyjna 3. Błędy w oblczenach. Uwarunkowane zadana. Numeryczna poprawność stablność algorytmu 4. Rozwązywane układów równań lnowych. Metody bezpośredne teracyjne 5. Lnowe zadana najmnejszych kwadratów 6. Algebraczne zagadnene własne 7. Interpolacja welomanowa 8. Interpolacja funkcjam sklejanym 9. Interpolacja trygonometryczna. Algorytm FFT 10. Aproksymacja funkcj 11. Numeryczne oblczane całek 12. Wybrane środowska bblotek dla oblczeń numerycznych Zasady zalczana przedmotu Na zalczene przedmotu składają sę: zalczene ćwczeń zdane egzamnu. Połowa ćwczeń ma mejsce w laboratorum, pozostałe ćwczena są w sal przy tablcy. Na końcową ocenę składają sę punkty, którym prowadzący ćwczena ocenł prace domowe, tj. rozwązana zadań na kartce, punkty za rozwązana zadań programstycznych, punkty zdobyte na egzamne psemnym. Po egzamne psemnym będą wystawone propozycje ocen, w których zadana domowe, zadana programstyczne egzamn psemny mają udzały odpowedno 25%, 25% 50%, przy czym z każdego z tych elementów trzeba zdobyć co najmnej 25% punktów, a w sume co najmnej 50%. Otrzymaną propozycję oceny uczestnk zajęć może przyjąć, lub wystawć na ryzyko zmany na egzamne ustnym. Lteratura Kncad D., Cheney W.: Analza numeryczna, WNT, Warszawa, Krzyżanowsk P.: Oblczena nżynerske naukowe, PWN, Warszawa, Jankowska J., Jankowsk M., Dryja M: Przegląd metod algorytmów numerycznych cz. 1 2, WNT, Warszawa, Dahlqust G., Björck Å: Metody numeryczne, PWN, Warszawa, 1983.

2 Egzamn z Metod Numerycznych, III rok Inf. (Ścśle tajne przed godz. 14:30 28 styczna 2012.) Proszę bardzo uważne przeczytać treść zadań. Na ocenę bardzo duży wpływ będze mała czytelność rozwązań poprawność uzasadnena każdej odpowedz. 1. Wykonaj dwe teracje metody Newtona dla układu równań { x 3 +x xy 2y 2 = 4, y 3 y = 6, dla punktu startowego (x 0,y 0 ) = (2, 2). 2. Wartość wyrażena w = a 3 b 3 została oblczona przy użycu następującego algorytmu, zrealzowanego za pomocą arytmetyk zmennopozycyjnej: x1 = a*a+b*b; x2 = a+b; x3 = 0.5*(x1+x2*x2); w = x3*(a-b); Napsz wyrażene, którego wartoścą jest błąd (bezwzględny) otrzymanego wynku, jeśl w żadnym z dzałań ne wystąpł nadmar an nedomar. 3. Wartośc f 1,...,f N pewnej funkcj rzeczywstej f są podane w punktach x 1,...,x N. Funkcja ta ma być przyblżona przez weloman w stopna co najwyżej n < N tak, aby wyrażene N =1 (f w(x )) 2 było jak najmnejsze. Napsz układ równań lnowych, tak że rozwązane powyższego zadana aproksymacj można sprowadzć do lnowego zadana najmnejszych kwadratów dla tego układu. Podaj algorytm rozwązywana tego zadana za pomocą odbć Householdera. Jak jest koszt tego algorytmu w zależnośc od lczb n N? 4. Skonstruuj odpowedną bazę Newtona rozwąż przy użycu algorytmu różnc dzelonych zadane nterpolacyjne Hermte a dla danych przedstawonych w tabelce: x 1 3 f(x ) 4 8 f (x ) f (x ) 8 5. Rozważamy konstrukcję nterpolacyjnej funkcj sklejanej drugego stopna, s(x) = N 3 =0 d N 2 (x), której węzły są lczbam naturalnym, u = dla = 0,...,N, reprezentowanej za pomocą funkcj B-sklejanych N 2. Warunk nterpolacyjne (tj. wartośc funkcj, s k = s(v k )) są zadane w punktach v 0 = 2, v k = k+1 1 dla k = 1,...,N 4 v 2 N 3 = N 2. Wedząc, że N 2 (+x) = N2 0 (x) dla każdego x R oraz {0,...,N 3}, a ponadto N 2 0 (x) = 0 jeśl x 0 lub x 3, oraz N 2 0 (1) = 2 N2 0 (21) = 1, 2 8 N2 0 (1) = N2 0 (2) = 1 2 N2 0 (11) = 3, napsz układ równań, 2 4 którego rozwązane jest wektorem współczynnków d poszukwanej funkcj. 6. Które z podanych na wykładze metod rozwązywana układów równań lnowych mogą być użyte do rozwązana układu równań lnowych: a) Z poprzednego zadana. b) Układu równań normalnych dla regularnego lnowego zadana najmnejszych kwadratów z lczbą newadomych ne przekraczającą 100. c) Układu równań z welką macerzą (n n, gdze n > 10 4 ) symetryczną dodatno określoną, która ma w każdym werszu mnej nż 20 nezerowych współczynnków rozmeszczonych neregularne. W każdym przypadku napsz, z uzasadnenem, która z tych metod wydaje sę najbardzej odpowedna. 7. Podaj najmnejsze n, take że błąd aproksymacj jednostajnej funkcj f(x) = snx w przedzale [ 4π,4π] przez optymalne dobrany weloman stopna n jest mnejszy nż 1. Odpowedź uzasadnj, powołując sę na stosowne twerdzene. 8. Całkę I(f) = 1 1 f(x) dx, chcemy przyblżać kwadraturą o postac Q(f) = A 0 ( f( 1)+f(1) ) +A1 ( f( a)+f(a) ). Doberz lczbę a współczynnk A 0, A 1 tak, aby otrzymać kwadraturę o najwększym rzędze. Podaj oszacowane błędu tej kwadratury, jeśl funkcja f ma w przedzale [ 1,1] cągłą pochodną czwartego rzędu stneje stała M 4, taka że dla każdego x [ 1,1] zachodz nerówność f (4) (x) M 4.

3 Egzamn poprawkowy z Metod Numerycznych, III rok Inf. (Ścśle tajne przed godz. 15:15 1 marca 2012.) Proszę bardzo uważne przeczytać treść zadań. Na ocenę bardzo duży wpływ będze mała czytelność rozwązań poprawność uzasadnena każdej odpowedz. 1. Metodą odbć Householdera rozwąż lnowe zadane najmnejszzych kwadratów dla układu równań Ax = b, gdze A = 1 1, b = Podaj odpowedną bazę Newtona znajdź metodą różnc dzelonych weloman nterpolacyjny dla danych w tabelce: x 0 1 f(x ) 0 0 f (x ) 1 0 f (x ) 6 3. Znajdź lczbę a współczynnk A 0, A 1, take że kwadratura Q(f) = A 0 f( a)+a 1 f(0)+a 0 f(a), przyblżająca całkę I(f) = 1 1 f(x)dx ma maksymalny rząd. Podaj oszacowane błędu tej kwadratury, przy założenu, że funkcja f ma cągłą pochodną rzędu r, który jet rzędem tej kwadratury. 5. Oblcz wskaźnk uwarunkowana macerzy A 1 = w normach 1. Na jaką dokładność wynku rozwązywana układu równań lnowych z tą macerzą można lczyć, jeśl współczynnk wektora prawej strony są znane z błędem ne wększym nż 0.01%? 6. Nech f oznacza funkcję wypukłą klasy C 2, która ma w przedzale [a,b] mejsce zerowe α o krotnośc 2. Jak, mając do dyspozycj podprogram oblczana wartośc funkcj pochodnej, można znaleźć lczbę α która z metod: Newtona, secznych, czy bsekcj, jest do tego odpowedna. Odpowedź uzasadnj. 7. Macerz A jest symetryczna ma wartośc własne w przedzale [1,9] (w szczególnośc lczby 1 9 też są wartoścam własnym tej macerzy). Doberz parametr τ tak, aby zbeżność metody Rchardsona rozwązywana układu równań Ax+b: x k+1 = x k τ(ax k b) była najszybsza. 8. Jak jest koszt rozwązywana metodą elmnacj Gaussa układów równań lnowych z neosoblwą macerzą n n a) trójdagonalną (a j = 0 dla j > 1), b) Hessenberga (a j = 0 dla j > 1), c) blokowo-dagonalną, zbudowaną z bloków k k, gdze n/k jest lczbą naturalną, d) jak wyżej, blokowo-dagonalną, przy czym wszystke blok dagonalne są jednakowe. 4. Znajdź weloman h stopna co najwyżej 1, który jest optymalnym rozwązanem zadana aproksymacj jednostajnej dla funkcj f(x) = snx w przedzale [0,π]. Uzasadnj poprawność rozwązana, powołując sę na odpowedne twerdzene.

4 Egzamn z Metod Numerycznych, III rok Inf. (Ścśle tajne przed godz. 14:30 2 lutego 2013.) Proszę bardzo uważne przeczytać treść zadań. Na ocenę bardzo duży wpływ będze mała czytelność rozwązań poprawność uzasadnena każdej odpowedz. 1. Wykonaj dwe teracje metody Newtona dla układu równań x 3 y 2 = 0, y 3 +yz = 0, z 2 +z = 2 dla punktu startowego (x 0,y 0,z 0 ) = (1,1, 2). 2. Znajdź wyrażena, których wartośc są wskaźnkam uwarunkowana zadana oblczana lczby w = a 4 b 4 ze względu na dane a, b. Dla jakch danych zadane to jest dobrze, a dla jakch źle uwarunkowane? 3. Wartośc f 1,...,f M pewnej funkcj rzeczywstej f są podane w punktach x 1,...,x M. Należy skonstruować taką kubczną funkcję sklejaną N 4 s(x) = d N 3 (x), =0 aby wyrażene M =1 (f s(x )) 2 było jak najmnejsze. a) Napsz układ równań lnowych, tak że powyższe zadane aproksymacj jest równoważne lnowemu zadanu najmnejszych kwadratów dla tego układu równań. Co można powedzeć o macerzy tego układu? b) Podaj warunek, który mus spełnać cąg węzłów użyty do zdefnowana funkcj B-sklejanych, aby zadane było regularne. c) Jakch metod można użyć do rozwązana tego LZNK, przy założenu, że lczby M N są rzędu 10 2? 4. Podaj najmnejsze n, take że błąd aproksymacj jednostajnej funkcj f(x) = snx w przedzale [0,π/2] przez weloman nterpolacyjny z węzłam Czebyszewa jest mnejszy nż W oszacowanu możesz skorzystać z nerównośc π 2 < 10 (dokładnej, jest ). 5. Skonstruuj odpowedną bazę Newtona rozwąż przy użycu algorytmu różnc dzelonych zadane nterpolacyjne Hermte a dla danych przedstawonych w tabelce: x f(x ) f (x ) 0 33 f (x ) 2 6. Które z podanych na wykładze metod rozwązywana układów równań lnowych mogą być użyte do rozwązana układu równań lnowych: a) Układu z macerzą o postac I 2vv T, gdze v jest danym wektorem spełnającym warunek v 2 = 1. b) Układu dualnych równań normalnych dla dualnego lnowego zadana najmnejszych kwadratów z lczbą równań ne przekraczającą 100. c) Układu równań z welką macerzą (n n, gdze n > 10 4 ) nesymetryczną dagonalne domnującą, która ma w każdym werszu mnej nż 20 nezerowych współczynnków rozmeszczonych neregularne. W każdym przypadku napsz, z uzasadnenem, która z tych metod wydaje sę najbardzej odpowedna. 7. Wedząc, że dla każdego n {0,1,2,3,...} 0 x n e x dx = n!, znajdź perwsze cztery welomany ortogonalne Laguerre a, tj. welomany stopna 0, 1, 2, 3, ortogonalne w sense loczynu skalarnego f,g = 0 f(x)g(x)e x dx, za pomocą ortogonalzacj Grama-Schmdta lub formuły trójczłonowej. 8. Korzystając ze wskazówk wynków poprzednego zadana, znajdź węzły współczynnk kwadratury Gaussa-Laguerre a czwartego rzędu.

5 Egzamn z Metod Numerycznych, III rok Inf. (Ścśle tajne przed godz. 14:30 3 lutego 2014.) Proszę uważne przeczytać treść zadań. Bardzo duży wpływ na ocenę będze mała czytelność rozwązań poprawność uzasadnena każdej odpowedz oraz użyce dobrych praktyk przedstawonych na wykładze. 1. Przy założenu, że punkt startowy x 0 2 leży w kul zbeżnośc rozwązana α = 2 dla każdego z równań a) f(x) = 0, gdze f(x) def = x 3 5x 2 +8x 4, b) g(x) = 0, gdze g(x) def = x 3 4x 2 +5x 2, jaka będze szybkość zbeżnośc metody Newtona? Odpowedź uzasadnj. 2. Dane są wektory b 1,b 2,c 1,c 2,v R n, lczba rzeczywsta d, oraz macerz trójdagonalna T o wymarach n n, symetryczna dodatno określona. Wektor v jest jednostkowy, tj. v 2 = 1, określa macerz H = I 2vv T. Podaj algorytm, który kosztem proporcjonalnym do n rozwąże układ równań lnowych H 0 c 1 0 T c 2 c T 1 c T 2 0 x y z = b 1 b 2 d (z newadomym x,y R n, z R) lub stwerdz, że rozwązane ne stneje lub jest nejednoznaczne. 3. Nech A będze macerzą 4 2, taką że H 1 A = 0 2, przy czym H 2 1 = I v 1 v T 1 v v T 1 1, gdze v 1 = Oblcz: a) macerz A, b) macerz trójkątną górną R wymaru 4 2 wektor v 2 wyznaczający odbce Householdera o macerzy H 2 takej, że macerze Q = H 1 H 2 R są czynnkam rozkładu QR macerzy A, c) Rozwązane LZNK dla układu z macerzą A wektorem prawej strony b = [4, 2,1, 3] T. 4. Nech ε > 0. Oblcz wskaźnk uwarunkowana w norme 1 macerzy ε ε ε M ε = Zbadaj, które z wektorów: [1,1, 1] T, [1,1,0] T, [ 1,1,0] T, [0, 1,1] T, [0,0,1] T, są wektoram własnym macerzy A = Znajdź wszystke jej wartośc własne. Czy (prosta) metoda potęgowa rozwązywana zagadnena własnego byłaby dla tej macerzy skuteczna? 6. Należy znaleźć weloman nterpolacyjny Hermte a dla trzech węzłów, za pomocą algorytmu różnc dzelonych. Ktoś utworzył częścowo wypełnł następującą tabelkę różnc dzelonych: ? 2? Odczytaj z tabelk nałożone na weloman warunk nterpolacyjne. Sprawdź, czy oblczone (a ne wpsane!) elementy tabelk zostały oblczone poprawne jeśl ne, to je skoryguj. Wypełnj tabelkę do końca, a następne podaj współczynnk welomanu Hermte a w baze Newtona zwązanej z tym węzłam (z krotnoścam w kolejnośc z tabelk). 7. Funkcję f(x) = snx na odcnku [0,π] przyblżamy nterpolacyjną funkcją sklejaną perwszego stopna, s(x), opartą na N+1 równoodległych węzłach (będących zarówno węzłam nterpolacyjnym, jak węzłam funkcj sklejanej): x k = kπ/n dla k = 0,..., N. Jake N wystarczy, aby błąd aproksymacj jednostajnej funkcj f przez s był mnejszy nż 10 3? 8. Udowodnj, że jeśl kwadratura nterpolacyjna przyblżająca całkę I(f) = a a f(x)ρ(x) dx z parzystą funkcją wagową ρ ma neparzystą lczbę węzłów rozmeszczonych w przedzale [ a,a] symetryczne względem zera, to rząd tej kwadratury jest wększy od lczby węzłów. Podaj (przynajmnej dwa) przykłady takch kwadratur.

6 Rozwązywane równań nelnowych Rozważamy zadane znalezena lczby x, takej że f(x) = 0, przy czym mamy do dyspozycj podprogram oblczający wartość funkcj f dla argumentu x podanego jako parametr. To dla programu. Natomast aby tak program napsać, lub wybrać gotowy do rozwązana konkretnego zadana, zawsze musmy wedzeć coś węcej o funkcj f. Przede wszystkm trzeba wedzeć, czy rozwązane stneje. Czy stneje węcej nż jedno? A może neskończene wele? To oczywśce zależy od funkcj f. Dalej, jeśl rozwązań jest węcej, to czy mamy znaleźć wszystke, klka, czy tylko jedno, obojętne które, albo spełnające jakś dodatkowy warunek? Znajdujemy mejsce zerowe δ welomanu w k przyjmujemy x k+1 = x k +δ. Mamy stąd formułę x k+1 = x k f(x k) f (x k ). Interpretacja geometryczna jest taka: wykres funkcj f jest gładką krzywą, przechodzącą przez punkt (x k,f(x k )). Konstruujemy prostą styczną do wykresu w tym punkce przyjmujemy za x k+1 punkt przecęca stycznej z osą x. y x k x k+1 y = f(x) x Aby wybrać algorytm, musmy wedzeć też w jakm zborze ta funkcja jest określona czy jest cągła, przyda sę też wedza np. czy cągła jest jej pochodna rzędu 1, 2 być może dalsze. W nektórych metodach oprócz podprogramu oblczającego f(x) będze też potrzebny podprogram oblczający f (x), a nawet dalsze pochodne. Metoda Newtona Nech A oznacza ogranczony przedzał domknęty, w którym jest określona funkcja rzeczywsta f klasy C 2. Chcemy znaleźć w tym przedzale mejsce zerowe funkcj f (założymy, że stneje jest tylko jedno, w każdym praktycznym zastosowanu to założene oczywśce trzeba sprawdzć). Napszemy wzór Taylora: f(x+h) = f(x) 0! + f (x) 1! h+ f (ξ) h 2. 2! Rozumemy go tak: jeśl lczby x oraz x+h należą do przedzału A, w którym funkcja f jest klasy C 2, to stneje lczba ξ, leżąca pomędzy x oraz x+h, taka że powyższa równość zachodz. Metoda Newtona (często w lteraturze nazywana metodą stycznych lub metodą Newtona-Raphsona, wersja współczesna różn sę od wersj podanych przez nch obu) jest następująca: wyberamy lczbę x 0, która jest przyblżenem mejsca zerowego funkcj f, a następne konstruujemy rekurencyjne elementy cągu x 1,x 2,..., w tak sposób: mając x k, określamy weloman w k (h) = f(x k )+f (x k )h. Zbadamy, jake warunk wystarczy spełnć, aby cąg (x k ) k N dla dowolnego x 0 A zbegał do rozwązana, które oznaczymy lterą α. Przede wszystkm zauważamy, że w żadnym punkce tego cągu pochodna funkcj f ne może być zerowa. Naturalne jest założene, że w przedzale A pochodna znaku ne zmena, co węcej, zachodz nerówność f (x) K dla pewnej stałej K > 0. Dalej, poneważ f jest klasy C 2 (A), stneje stała M, taka że f (x) M dla każdego x A. Oznaczmy ε k = x k α jest to (bezwzględny) błąd aproksymacj rozwązana przez k-ty element cągu. Na podstawe wzoru Taylora pszemy 0 = f(α) = f(x k )+f (x k )(α x k )+ 1 2 f (ξ k )(α x k ) 2. Lczba ξ k leży mędzy α x k. Dzelmy strony przez f (x k ): 0 = f(x k) f (x k ) +α x k + f (ξ k ) 2f (x k ) ε2 k = f(x k) f (x k ) +α x k+1 +x k+1 x k + f (ξ k ) 2f (x k ) ε2 k. Poneważ x k+1 x k = f(x k) f (x k, mamy stąd ) ε k+1 = f (ξ k ) 2f (x k ) ε2 k. (*)

7 Możemy oszacować ε k+1 M 2K ε k 2. Aby zachodzła nerówność ε k+1 < ε k, wystarczy, że M 2K ε k < 1, czyl ε k < 2K M. Jeśl błąd przyblżena rozwązana przez punkt x 0, z którego zaczynamy, spełna tę nerówność, to każdy następny błąd ma mnejszą wartość bezwzględną nż poprzedn, co węcej, cąg błędów zbega do zera. Mamy zatem warunek dostateczny zbeżnośc metody, ale zbadajmy jeszcze szybkość tej zbeżnośc. Wyberzmy dowolną podstawę logarytmu wększą nż 1 oznaczmy a k = log ε k, g(k) = log f (ξ k 1 ) 2f (x k 1. Na podstawe równośc (*) możemy ) napsać równane różncowe a k = 2a k 1 +g(k). Nech G = log M. Jeśl rozważymy równane uproszczone, 2K ã k = 2ã k 1 +G, dla którego przyjmemy ã 0 = a 0 < G, to dla każdego k mamy a k ã k = (a 0 +G) 2 k G. Cąg (ã k ) k N dąży wykładnczo do, a cąg (a k ) k N dąży do co najmnej tak samo szybko. To zaś oznacza, że jeśl x k jest przyblżenem rozwązana, które ma n cyfr dokładnych, to x k+1 będze meć w przyblżenu 2n cyfr dokładnych. Zatem zbeżność jest bardzo szybka. Na podstawe powyższej nerównośc, znając oszacowane ε 0 G oraz tolerancję błędu, można oszacować lczbę teracj wystarczającą do otrzymana rozwązana z błędem w grancach tej tolerancj. Uwaga. Można udowodnć zbeżność metody przy słabszych założenach, np. że funkcja f nekoneczne jest klasy C 2, ale jej pochodna spełna warunek Lpschtza. Podstawowe pojęca w numerycznym rozwązywanu równań Równana nelnowe ( ch układy) są rozwązywane za pomocą metod teracyjnych przykładem jest przedstawona wyżej metoda Newtona. Powód jest tak, że rozwązana na ogół ne dają sę wyrazć za pomocą czterech dzałań algebracznych to dotyczy nawet równań drugego stopna (oczywśce, mamy do dyspozycj perwastek kwadratowy, ale jego też oblcza sę teracyjne, za pomocą odpowednego mkroprogramu procesora). Aby meć ogólne spojrzene na metody teracyjne, wprowadzmy klka pojęć. Funkcja teracyjna jest to funkcja, która elementow x k, będącemu przyblżenem rozwązana, przyporządkowuje kolejne przyblżene, x k+1. W metodze Newtona funkcja teracyjna jest określona wzorem ϕ N (x) = x f(x) f (x). Jest jasne, że funkcja teracyjna pownna być tak skonstruowana, aby rozwązane α było jej punktem stałym, tj. aby było ϕ(α) = α. Istneje neskończene wele możlwośc przerobena równana f(x) = 0 na równoważne równane x = ϕ(x). W najprostszym przypadku możemy wząć ϕ(x) = x τf(x), z jakmś parametrem rzeczywstym τ. Oczywśce, ne zawsze otrzymana w ten sposób funkcja ϕ prowadz do otrzymana cągu zbeżnego. Aby zbeżność mała mejsce, trzeba, by w otoczenu rozwązana α funkcja ϕ była odwzorowanem zwężającym (może meć np. pochodną o wartośc bezwzględnej mnejszej od 1). Funkcje teracyjne dla pewnych metod są bardzej skomplkowane. Po perwsze, argumentem funkcj teracyjnej oprócz ostatnego przyblżena może być także jedno lub węcej poprzednch (czasam take metody nazywa sę metodam z pamęcą). Na przykład w metodze secznych, o której będze mowa dalej, potrzebne są dwa ostatne przyblżena, które ne mogą być jednakowe. Funkcja teracyjna ma w tym przypadku postać ϕ S (x,y) = x f(x) f(x) f(y), gdze f[x,y] =, f[x,y] x y zatem w kolejnych teracjach oblczamy x k+1 = ϕ S (x k,x k 1 ). Wreszce, funkcja teracyjna może w jawny sposób zależeć od numeru teracj, k w tym przypadku mówmy o metodze nestacjonarnej. Kula zbeżnośc rozwązana α jest to najwększa kula B o środku α (w przypadku równań z jedną newadomą jest to przedzał symetryczny względem α), taka że jeśl wyberzemy dowolny punkt startowy x 0 wewnątrz tej kul, to cąg (x k ) k N zbega do α. Znalezene kul zbeżnośc jest na ogół bardzo trudne, węc tego ne

8 robmy, ale na podstawe własnośc funkcj f defncj metody możemy szacować jej promeń r. Na przykład, dla metody Newtona znaleźlśmy oszacowane r 2K M. Jest oczywste, że jeśl równane ma klka rozwązań, to każde z nch ma własną kulę zbeżnośc wszystke te kule są rozłączne. Kule zbeżnośc pewnych rozwązań mogą być zborem pustym może sę zdarzyć, że dana metoda ne jest w stane takch rozwązań znaleźć. Warto natomast zwrócć uwagę, że jeśl punkt startowy ne należy do kul zbeżnośc żadnego rozwązana, to metoda może znaleźć rozwązane, jeśl otrzymany po pewnej lczbe teracj punkt wpadł do kul zbeżnośc. Tylko, że ne należy lczyć na tak przypadek. Twerdzenem o ogromnym znaczenu praktycznym, a zwłaszcza w metodach numerycznych, jest twerdzene Banacha o punkce stałym: jeśl zbór X z metryką ρ jest zupełną przestrzeną metryczną, a funkcja ϕ: X X jest przekształcenem zwężającym (tj. stneje stała L < 1, taka że a,b X ρ(ϕ(a),ϕ(b)) Lρ(a,b)), to funkcja ϕ ma jeden punkt stały w zborze X. Wykazane, że metoda dzała, tj. wytwarza cąg zbeżny do rozwązana, często sprowadza sę do znalezena (wykazana stnena lub oszacowana promena) kul X, zawartej w kul zbeżnośc, w której funkcja teracyjna ϕ jest przekształcenem zwężającym. Wykładnk zbeżnośc metody opsuje asymptotyczną szybkość zbeżnośc cągu (x k ) k N do rozwązana. Przeprowadzony rachunek dla metody Newtona dowódł, że jeśl funkcja f spełna uczynone założena, to wykładnk zbeżnośc jest ne mnejszy nż 2. Formalna defncja jest taka: wykładnk zbeżnośc metody jest to najwększa lczba p, taka że stneją stałe K C < +, take że dla każdego k K zachodz nerówność ma błędów w oblczenach, tj. zarówno wartośc funkcj f pochodnej w x k są oblczane dokładne, jak w końcowych dzałanach oblczena wartośc funkcj teracyjnej ne ma błędów. Oblczena wykonujemy jednak z błędam zaokrągleń, które ogranczają możlwą do uzyskana dokładność rozwązana. Wartość funkcj f jest oblczana z pewnym błędem, dalsze dzałana w oblczanu funkcj teracyjnej też są nedokładne. Za rozwązane metoda może zatem przyjąć dowolny punkt przedzału, w którym błąd oblczonej wartośc funkcj f jest wększy lub równy 100%. Jeśl pochodna funkcj jest blska 0, to ten przedzał może być dług. Metoda secznych Wadą metody Newtona jest koneczność oblczana wartośc pochodnej funkcj f. Metoda secznych jest modyfkacją metody Newtona, w której pochodna została zastąpona przez różncę dzeloną (albo loraz różncowy, jak kto wol), czyl pewne przyblżene pochodnej. Mając dwa różne przyblżena rozwązana, x k x k 1, prowadzmy prostą przez punkty (x k,f(x k )) (x k 1,f(x k 1 )). Prosta ta przecna (secze) wykres funkcj f w tych punktach, w tym sense jest jego seczną. y x k x k+1 x k 1 y = f(x) x ε k+1 C ε k p, czyl log ε k+1 logc+plog ε k. Wykładnk zbeżnośc pownen być wększy lub równy 1, przy czym jeśl p = 1, to oczywśce mus być C < 1. Przykładem metody o wykładnku zbeżnośc 1 jest metoda bsekcj: w każdej teracj otrzymujemy przyblżene rozwązana z oszacowanem błędu mnejszym o połowę. Równeż metoda Newtona ma wykładnk zbeżnośc 1, jeśl ne jest spełnone założene, że pochodna funkcj f w otoczenu rozwązana jest nezerowa. Jeśl p > 1, to dla ustalonego K stneją stałe a b, take że dla każdego k > K log ε k a+(log ε K +b)p k K. Skonstruowana seczna jest wykresem welomanu perwszego stopna. Punkt x k+1 jest mejscem zerowym tego welomanu. W metodze secznych należy podać dwa początkowe przyblżena rozwązana, x 0 x 1, a następne w każdej teracj oblczać x k+1 = x k f(x k) f[x k,x k 1 ], gdze f[x k,x k 1 ] = f(x k) f(x k 1 ) x k x k 1. Ostatne przedstawane tu pojęce podstawowe to maksymalna granczna dokładność. Analza metody Newtona była przeprowadzona przy założenu, że ne Aby dokonać analzy metody secznych, użyjemy pewnego uogólnena wzoru

9 Taylora: f(z) = f(x)+f[x,y](z x)+ f (ξ) (z x)(z y). 2! Wzór ten jest szczególnym przypadkem wzoru opsującego resztę nterpolacyjną Hermte a, który podam (z dowodem) na jednym z dalszych wykładów. Podany wyżej wzór rozumemy w ten sposób, że jeśl lczby x, y, z leżą w przedzale A, w którym funkcja f jest klasy C 2, to stneje ξ A, take że podana wyżej równość zachodz (lczba ξ leży mędzy najmnejszą najwększą spośród tych trzech lczb). Jak poprzedno, α oznacza poszukwane rozwązane, zaś ε k = x k α. Lczymy 0 = f(α) = f(x k )+f[x k,x k 1 ](α x k )+ f (ξ k ) (α x k )(α x k 1 ) 2 dzelmy stronam przez f[x k,x k 1 ]: 0 = f(x k) f[x k,x k 1 ] +α x k+1 +x k+1 x k + f (ξ k ) 2f[x k,x k 1 ] (α x k)(α x k 1 ), skąd, po skrócenu podkreślonych składnków, otrzymujemy 0 = α x k+1 + f (ξ k ) 2f[x k,x k 1 ] (α x k)(α x k 1 ), a po uporządkowanu uwzględnenu faktu, że stneje lczba η k położona mędzy x k x k 1, taka że f[x k,x k 1 ] = f (η k ), mamy stąd równość ε k+1 = f (ξ k ) 2f (η k ) ε kε k 1. (**) Jeśl, jak poprzedno, możemy oszacować f (x) K > 0 f (x) M dla każdego x A, to mamy ε k+1 M 2K ε k ε k 1. Jeśl oba błędy, ε k ε k 1, mają wartośc bezwzględne mnejsze nż 2K, to wartośc M bezwzględne kolejnych błędów będą coraz mnejsze w ten sposób mamy oszacowany promeń kul zbeżnośc. Zbadajmy jeszcze rząd zbeżnośc. W tym celu oznaczmy a k = log ε k oraz g(k) = log f (ξ k 1 ) f (η k 1 G = log M. ) 2K Na podstawe (**) możemy napsać równane różncowe drugego rzędu, a k = a k 1 +a k 2 +g(k), jego uproszczoną wersję ã k = ã k 1 +ã k 2 +G. Dla ustalonych wyrazów początkowych, ã 0 = a 0 ã 1 = a 1, stneją lczby a, b, c (mnejsza o dokładne wzory, ale zachęcam do ch znalezena dla wprawy), take że ã k = aλ k 1 +bλ k 2 +c, gdze λ 1 = 1 5 2, λ 2 = 1+ 5, 2 jeśl lczby a 0 a 1 są dostateczne małe, to b < 0. Składnk bλ k 2 domnuje wtedy cąg (ã k ) k N zbega wykładnczo do. Zachodz też nerówność a k ã k dla każdego k, w zwązku z czym, dla dostateczne dużych k, jeśl przyblżene x k rozwązana α ma n cyfr dokładnych, to przyblżene x k+1 będze ch mało około λ 2 n. Wykładnk zbeżnośc metody secznych, λ , jest ułamkem. Metoda secznych ma mnejszy wykładnk zbeżnośc nż metoda Newtona, ale jedna jej teracja jest tańsza odpada oblczane pochodnej. Okazuje sę, że jeśl zadamy tolerancję ε dopuszczalnego błędu, to metoda secznych może znaleźć dostateczne dokładne rozwązane szybcej (w wększej lczbe teracj, z których każda zajmuje mnej czasu). Z tego punktu wdzena, jeśl koszt oblczana różncy dzelonej uznamy za nestotny, to metoda Newtona jest opłacalna, gdy koszt oblczana pochodnej ne przewyższa ok kosztu oblczana wartośc funkcj f. Metoda Newtona dla układu równań Rozważamy teraz zadane znalezena wspólnego mejsca zerowego n rzeczywstych funkcj skalarnych, których argumentam jest n zmennych rzeczywstych. Możemy zatem napsać układ w postac rozwnętej: f 1 (x 1,...,x n ) = 0, lub zwnętej. f n (x 1,...,x n ) = 0, f(x) = 0. Funkcja f jest określona w pewnym obszarze A przestrzen R n ma wartośc w R n. Nech h = [h 1,...,h n ] T. Dla funkcj skalarnej f klasy C 2 (A), możemy napsać wzór Taylora: f (x+h) = 1 0! f (x)+ 1 1! Df x (h)+ 1 2! D2 f ξ (h,h). Rozumemy go tak: jeśl obszar A zawera odcnek o końcach x x+h, to stneje punkt ξ na tym odcnku, tak że powyższa równość zachodz. Symbol Df x

10 oznacza różnczkę funkcj f w punkce x, czyl przekształcene lnowe, które dowolnemu wektorow h przyporządkowuje lczbę Df x (h) = f x 1 x h f x n x h n. Wartoścą tego przekształcena jest zatem loczyn skalarny gradentu funkcj f w punkce x wektora h. Symbol D 2 f ξ oznacza różnczkę drugego rzędu, tj. przekształcene dwulnowe, którego wartoścą dla pary wektorów (g, h) jest lczba D 2 f ξ (g,h) = n n j=1 k=1 2 f x j x k ξ g j h k. Drobny kłopot (o którym ne należy zapomnać) jest tak, że punkt ξ dla każdego może być różny, dlatego ne można tak prosto zapsać odpowednego wzoru dla funkcj wektorowej f. Nemnej, ze wzoru Taylora wynka, że jeśl obszar A zawera odcnek x,x+h, to dla wektorowej funkcj f klasy C 2 (A) zachodz równość f(x+h) = f(x)+df x (h)+r, (* * *) przy czym Df x jest różnczką przekształcena f w punkce x, a ponadto stneje macerz B (zależna od x h) o wymarach n n współczynnkach wektorowych b jl = [ 2 f 1 ξ1 x j x l,..., 2 f n ] T ξn x j x l R n, taka że reszta we wzorze (**) jest równa * r = h T Bh = n j=1 spełna oszacowane n l=1 b jl h j h l, (**) ** zwaną jakobanem, która reprezentuje różnczkę funkcj f w punkce x k, a następne rozwązać układ równań lnowych J k δ = f k oblczyć x k+1 = x k +δ. Oczywśce, aby to oblczene było wykonalne, macerz J k mus być neosoblwa. Ilustrację jednego kroku metody dla pewnego układu dwóch równań z dwema newadomym mamy na rysunkach. Każda z dwóch funkcj skalarnych, f 1 f 2, jest przyblżana przez weloman perwszego stopna, który w punkce x k ma tę samą wartość pochodne cząstkowe, co ta funkcja. Punkt x k+1 jest przecęcem zborów mejsc zerowych tych welomanów. y f 2 (x) = 0 x k f 1 (x) = 0 α x x z z = f 1 (x) x k α z = f 2 (x) y r M 2 h 2 dla pewnej stałej M (stała ta jest określona przez pochodne drugego rzędu funkcj f w obszarze A przez używaną normę). Metoda Newtona polega na tym, że mając przyblżene x k rozwązana α, konstruujemy przekształcene afnczne R n R n, określone przez perwsze dwa składnk po prawej strone wzoru (* * *), a następne przyjmujemy za x k+1 mejsce zerowe tego przekształcena. Czyl y f 1 (x) = 0 z z = f 1 (x) x k+1 = x k (Df xk ) 1( f(x k ) ). Aby oblczyć x k+1, należy oblczyć wektor f k = f(x k ) oraz macerz pochodnych cząstkowych perwszego rzędu f 1 xk f x xk x n J k =.. x k x x x k y f n x 1 xk... f n x n xk

11 y z z = f 2 (x) Dalej postępujemy dentyczne, jak w przypadku skalarnym. Oznaczamy ε k = x k α. Strony równośc mnożymy 1 przez J 1 k, oraz odejmujemy dodajemy x k+1 skracamy: 0 = J 1 k f(x ( ) ( ) k)+α x k+1 +x k+1 x k +J 1 k ε T k B k ε k = α xk+1 +J 1 k ε T k B k ε k. f 2 (x) = 0 Stąd welkość błędu kolejnego przyblżena rozwązana, x k x x x k y ( ) ε k+1 = J 1 k ε T k B k ε k, możemy oszacować tak: ε k+1 M 2K ε k 2. z Jeśl funkcja f spełna przyjęte założena, to wykładnk zbeżnośc metody Newtona jest równy 2 końcowy rachunek (z rozwązywanem równana różncowego) jest dentyczny jak dla równana z jedną newadomą. y Modyfkacje f 2 (x) = 0 x k f 1 (x) = 0 α xk+1 x x x k α x k+1 y Metoda Newtona dla układu równań może być dość kosztowna: oprócz wartośc funkcj f, składającej sę z n lczb, trzeba oblczyć macerz J k, tj. w ogólnośc n 2 lczb, a następne rozwązać układ równań, co może wymagać wykonana Θ(n 3 ) dzałań zmennopozycyjnych. Ze wzrostem lczby równań newadomych koszty te mogą stać sę zaporowe. Dla bardzo dużych n często macerz J k jest rzadka, tj. ma znaczne mnej nż n 2 współczynnków nezerowych. W takm przypadku należy po perwsze oblczać tylko współczynnk nezerowe (ch rozmeszczene w macerzy należy wyznaczyć zawczasu), a ponadto użyć metody rozwązywana układu równań lnowych dostosowanej do macerzy rzadkej. Przyjmemy założene, że stneje taka stała K, że dla każdego punktu x w rozpatrywanym obszarze A różnczka przekształcena f spełna warunek (Df x ) 1 K 1. Zatem, dla x k A jest J 1 k K 1. Na podstawe wzorów (**) * ( ** **), mamy 0 = f(α) = f(x k )+J k (α x k )+(α x k ) T B k (α x k ), Często stosuje sę rozmate modyfkacje metody Newtona. Po perwsze, zamast oblczać współczynnk macerzy J k na podstawe dokładnych wzorów, które mogą być znaczne bardzej skomplkowane (czyl droższe) nż wzory opsujące funkcje f, można oblczać różnce dzelone; w tym celu trzeba oblczyć wartośc funkcj f w n+1 punktach. Jeśl punkty x k n,...,x k są w położenu ogólnym, tj. wektory x j x k dla j = k n,...,k 1 są lnowo nezależne, to można oblczyć przyblżene J k 1 We wzorach ponżej wyrażene ε T k B kε k jest w nawase, poneważ tak zapsane mnożene macerzy ne jest łączne ne mnożymy J 1 k εt k, bo to ne ma sensu. Ten sam wynk moglbyśmy otrzymać, mnożąc (z lewej strony) wektorowe współczynnk (zobacz wzór (**)) macerzy B ** k przez J 1 k, a następne otrzymany loczyn z lewej prawej strony odpowedno przez εt k ε k.

12 macerzy J k na podstawe wartośc funkcj f w tych punktach. W ten sposób powstaje welowymarowa metoda secznych. Różnczka przekształcena afncznego f: R n R n, które w punktach x k n,...,x k przyjmuje wartośc f k n,...,f k, jest taka sama w każdym punkce przestrzen spełna warunek Df(x x k ) = f(x) f k, z którego wynka równość J k X = F, gdze J k oznacza jakoban przekształcena f, zaś X = [x k n x k,...,x k 1 x k ], F = [f k n f k,...,f k 1 f k ]. Jeśl węc macerze X F są neosoblwe, to mamy J = FX 1 oraz J 1 = XF 1. W k+perwszym kroku metody secznych rozwązujemy układ równań Fβ = f k, po czym oblczamy δ = Xβ x k+1 = x k +δ. Koszt tego oblczena w ogólnym przypadku jest rzędu n 3 operacj. Wadą welowymarowej metody secznych jest bardzo mały wykładnk zbeżnośc (blsk 1) dla dużych n. Kolejna modyfkacja polega na wykorzystanu macerzy J k w klku kolejnych teracjach. To równeż obnża wykładnk zbeżnośc, ale dodatkowe teracje z tą samą macerzą są bardzo tane: ne trzeba oblczać pochodnych można skorzystać z gotowych czynnków (np. trójkątnych) rozkładu macerzy. Koszt rzędu n 3 w rozwązywanu układów równań lnowych jest zwązany z rozkładanem macerzy na te czynnk, mając je, można rozwązać układ kosztem Θ(n 2 ) dzałań. z odpowedno wybranym parametrem λ. Metoda ta może być też skuteczna w pewnych przypadkach, gdy macerz J k jest osoblwa. Parametr λ doberamy tak, aby otrzymać jak najmnejsze resduum układu, tj. aby zmnmalzować normę wektora f k+1. Po pewnej lczbe teracj możemy otrzymać przyblżene rozwązana należące do kul zbeżnośc metody Newtona od tej chwl przyjmować λ = 0. Krytera stopu Ważną decyzją w oblczenach jest, kedy je przerwać. Na przykład wykonywane kolejnych teracj po osągnęcu maksymalnej grancznej dokładnośc jest stratą czasu. Dlatego w pętl, realzującej teracje, mus sę pojawć jedna lub węcej nstrukcj przerywających oblczena po spełnenu pewnego warunku. Po perwsze, można dać lmt lczby teracj, np. określony przez parametr procedury. W welu typowych zastosowanach, jeśl metoda Newtona ne znalazła rozwązana (z granczną dokładnoścą) po sedmu 2 teracjach, to już ne znajdze (bo funkcja ne spełna warunków konecznych dzałana metody, zaczęlśmy od złego przyblżena startowego, lub w ogóle ne ma rozwązana). Druge kryterum stopu jest resdualne. Resduum równana w punkce x k jest to lczba f(x k ) (lub wektor f(x k )). Jeśl resduum ma dostateczne małą wartość bezwzględną (lub normę, dla układu równań), na przykład porównywalną z oszacowanem błędu, z jakm oblczamy wartośc funkcj f, to przerywamy oblczena. Wreszce jest kryterum przyrostowe. Oblczena przerywamy, gdy wartość bezwzględna (lub norma) przyrostu δ = x k+1 x k jest mnejsza nż pewna welkość progowa. Dla welu metod długość przyrostu w danym kroku jest górnym oszacowanem błędu rozwazana przyblżonego x k (ale to zależy także od funkcj f). Istneją modyfkacje metody Newtona, mające na celu powększene kul zbeżnośc poszukwanych rozwązań. Dla ne dość dobrego punktu x k często zdarza sę, że przyrost δ, otrzymany przez rozwązane układu równań J k δ = f k jest za duży. Wtedy można przyjąć x k+1 = x k +βδ, dla odpowedno wybranego parametru β (0,1). Metoda skutecznejsza, choć bardzej kosztowna, polega na wyznaczenu przyrostu przez rozwązane układu równań (J k +λi)δ = f k, 2 Proszę ne sugerować sę, że zawsze tak lmt jest dobry!

13 Zadana problemy 1. Wykaż, że algorytm w = a[n]; p = 0.0; for ( = n-1; >= 0; -- ) { p = p*x + w; w = w*x + a[]; } dla n > 0 oblcza wartość welomanu w(x) = a n x n + +a 1 x+a 0 jego pochodnej w punkce x. 2. Znajdź wzór opsujący funkcję teracyjną dla oblczana perwastka stopna n z lczby rzeczywstej a przy użycu metody Newtona. Naszkcuj wykres tej funkcj oblcz perwsze trzy przyblżena lczby 2, jeśl x 0 = Znajdź wykładnk zbeżnośc metody teracyjnej, w której funkcja teracyjna ϕ, taka że ϕ(α) = α, ma w punkce α pochodne rzędu 1,...,n równe 0 ( nezerową pochodną rzędu n+1). 4. Znajdź wzór opsujący funkcję teracyjną dla metody Newtona zastosowanej do funkcj f(x) = a 1/x. Czy można oblczyć loraz x = a/b ne wykonując operacj dzelena? 5. Nech f(x) = (x a) n, dla pewnego n > 1. Jak dzała metoda Newtona w tym przypadku (ne znamy a, startujemy z x 0 a)? Jak dzała metoda zmodyfkowana (zakładamy, że znamy n), określona wzorem x k+1 = x k n f(x k) f (x k )? 6. Dla funkcj f jak w poprzednm zadanu określamy funkcję g(x) = f(x)/f (x). Jak dzała metoda Newtona, zastosowana do funkcj g? Napsz funkcję teracyjną dla tego przypadku wzorem, w którym występują tylko wartośc pochodne funkcj f. 7. Przypuśćmy, że pochodna funkcj f klasy C 3 jest nezerowa. Określamy funkcję g wzorem g(x) = f(x)/ f (x). Oblcz pochodną drugego rzędu funkcj g w punkce α, takm że f(α) = 0. Co można stąd wywnoskować o zbeżnośc metody Newtona zastosowanej do funkcj g? Zastąpene funkcj f przez określoną wyżej funkcję g daje metodę zwaną metodą Halleya (tak, tego, który odkrył kometę). Napsz wzór opsujący funkcję teracyjną dla metody Halleya. 8. Zbadaj, jak zachowuje sę metoda Newtona, jeśl funkcja f, której mejsce zerowe należy znaleźć, jest określona wzorem f(x) = sgnx x dla dowolnego punktu startowego x Przypuśćmy, że w metodze secznych początkowe przyblżena rozwązana są końcam przedzału, w którym funkcja f zmena znak. Metodę modyfkujemy w ten sposób, że po wyznaczenu kolejnego przyblżena odrzucamy to, w którym funkcja f ma ten sam znak, co w nowym punkce (ta metoda nazywa sę regula fals). Jak jest wykładnk zbeżnośc tej metody, jeśl funkcja f jest ścśle wypukła albo ścśle wklęsła? 10. Zbadaj rząd zbeżnośc metody Steffensena, w której funkcja teracyjna jest dana wzorem ϕ(x) = x f(x) f[x,x+f(x)], przy takch samych założenach, jak dla metod Newtona secznych w wykładze. Wskazówka: Użyj wzoru na resztę nterpolacyjną (jak dla metody secznych) weź pod uwagę fakt, że dla funkcj f klasy C 2 (A) stneje górne oszacowane wartośc bezwzględnej pochodnej perwszego rzędu. 11. (zadane z ksążk Kncada Cheneya) Wykonaj jeden lub dwa krok metody Newtona dla układów równań { { xy z 2 = 1 xyz x 2 +y 2 = 2 e x e y +z = 3, x 0 = 0 0, 1 [ ] 4x 2 y 2 = 0 4xy x = 1, x 0 0 =, 1 [ ] xy 2 +x 2 y+x 4 = 3 x 3 y 5 2x 5 y x 2 = 2, x 1 0 =. 1

14 Przypomnena 1. Równane różncowe lnowe rzędu n o stałych współczynnkach ma postać a k = c n 1 a k 1 + +c 0 a k n +f(k), (*) gdze lczby rzeczywste c 0,...,c n 1 funkcja f są ustalone (przy czym c 0 0 c n 0). Jeśl określmy warunek początkowy, tj. podamy lczby a 0,...,a n 1 (albo ogólnej a j,...,a j+n 1 dla jakegoś j), to powyższe równane różncowe określa jednoznaczne cąg neskończony a n,a n+1,... (albo a j+n,a j+n+1,...). Równana różncowe były użyte w wykładze do znalezena rzędów zbeżnośc metod Newtona secznych. Można ch używać do analzy zbeżnośc nnych metod numerycznych, ale są one także wygodnym środkem do badana kosztów złożonośc welu algorytmów (ne tylko numerycznych). Ponżej przypomnam ogólny sposób rozwązywana takch równań z funkcjam f o pewnej postac klasa równań, które można rozwązać tym sposobem, ma wele zastosowań. 2. Na początek rozważmy równane jednorodne, tj. z zerową funkcją f: a k = c n 1 a k 1 + +c 0 a k n. (**) Jeśl równane to jest spełnone przez pewne cąg neskończone, to jego rozwązanem jest też każda kombnacja lnowa tych cągów. Natomast znając dowolne rozwązane równana (*), możemy otrzymać każde nne jego rozwązane, dodając pewne rozwązane równana jednorodnego. 3. Każde jednorodne równane różncowe o stałych współczynnkach jest spełnone przez pewen cąg geometryczny, a k = λ k, należy węc znaleźć λ. Podstawając do równana wyrażene opsujące tak cąg, dostajemy λ k = c n 1 λ k 1 + +c 0 λ k n. Po podzelenu stron przez λ k n uporządkowanu, dostajemy tzw. równane charakterystyczne λ n c n 1 λ n 1 c 0 = 0. Każdy weloman stopna n > 0 ma (rzeczywste lub zespolone) mejsce zerowe. Cąg złożony z kolejnych potęg tego mejsca zerowego spełna równane (**), co łatwo sprawdzć. Tak węc każdemu perwastkow welomanu charakterystycznego w(λ) = λ n c n 1 λ n 1 c 0 odpowada cąg geometryczny, który jest rozwązanem. 4. Jeśl wszystke mejsca zerowe welomanu charakterystycznego mają krotność 1, tj. jest n różnych lczb λ 1,...,λ n, takch że w(λ j ) = 0, to mamy n lnowo nezależnych cągów geometrycznych, które spełnają równane jednorodne. Jeśl pewne mejsce zerowe, λ j, jest lczbą zespoloną, to lczba λ j też jest mejscem zerowym. Z dwóch zespolonych cągów geometrycznych, (λ k j ) k (λ k j) k, możemy otrzymać dwa nezależne lnowo cąg rzeczywste, które spełnają równane (**): (λ k j +λk j ) k oraz (λ k j λk j ) k. 5. Jeśl pewne mejsce zerowe, λ j, ma krotność r > 1, to rozwązanam równana (**) są cąg (λ k j ) k,(kλ k j ) k,...,(k r 1 λ k j ) k, zatem dla równana jednorodnego możemy zawsze znaleźć n (nezależnych lnowo) cągów neskończonych będących rozwązanam. Z rozwązanam określonym przez zespolone mejsca zerowe o krotnośc wększej nż 1 radzmy sobe podobne, jak z zespolonym cągam geometrycznym. 6. Jeśl funkcja f w równanu (*) ma postać f(k) = p(k)µ k, gdze p(k) jest welomanem stopna s, zaś lczba µ jest perwastkem równana charakterystycznego o krotnośc m (w szczególnośc jeśl w(µ) 0, to m = 0) ma rozwązane o postac k m q(k)µ k, gdze q(k) jest pewnym welomanem stopna s. Dla funkcj o nnej postac trzeba kombnować, czasam można coś zgadnąć. 7. Metoda rozwązywana (na paperze) równana (*) z funkcją f jak wyżej: Uff. Układamy rozwązujemy równane charakterystyczne (tzn. wyznaczamy wszystke perwastk oraz ch krotnośc), Znajdujemy dowolne rozwązane równana (*). W tym celu określamy m w mejsce a k,...,a k n podstawamy do równana wyrażena k m (q s k s + +q 1 k+q 0 )µ k,...,(k n) m( q s (k n) s + +q 1 (k n)+q 0 ) µ k n. Osobno grupujemy składnk różnące sę wykładnkem przy k. Suma składnków w każdej grupe jest równa 0. Otrzymujemy stąd układ równań lnowych, którego rozwązanem są współczynnk q 0,...,q s welomanu q. Oblczamy je, rozwązując układ. Postać ogólną rozwązana (tj. np. k m q(k)µ k +b 1 λ k 1 + +b nλ k n, jeśl wszystke perwastk są jednokrotne; w tym przypadku może być m = 0 lub m = 1), gdze q(k) jest znalezonym w poprzednm kroku welomanem, podstawamy w mejsce a k do równana (*). Następne, borąc k = 0,...,n 1 korzystając z warunku początkowego, pszemy rozwązujemy układ równań lnowych z newadomym b 1,...,b n. W ten sposób otrzymujemy współczynnk opsujące cąg, który spełna równane (*) warunek początkowy.

15 Arytmetyka zmennopozycyjna Lczb rzeczywstych jest neskończene (a nawet neprzelczalne) wele, a pamęć choćby najwększego komputera jest skończona. Dlatego w oblczenach numerycznych musmy sę zadowolć poruszanem sę w pewnym skończonym zborze, którego elementy tylko przyblżają wszelke lczby rzeczywste, jake mogłyby sę pojawć w tych oblczenach. Rzędy welkośc tych lczb mogą być różne błędy ch przyblżena też mogą być różne. Zwykle m wększa lczba, tym wększy jej błąd nam ne przeszkadza. Na przykład, jeśl dowemy sę, że jakś obekt ma długość 147 km, to nformację, że w rzeczywstośc ma o 1 mm mnej, jesteśmy skłonn zgnorować. Co nnego, jeśl obekt ma tylko 0.5 mm długośc błąd rzędu 1 mm jesteśmy wtedy skłonn potraktować z całą powagą stanowczoścą. Naturalne jest zatem używane takego sposobu reprezentowana lczb, który umożlwa przyblżane tych lczb rzeczywstych, które ne mają dokładnej reprezentacj, z małym błędem względnym. Na przykład, jeśl długość 147 km jest podana z błędem ne wększym nż 0.1%, to wemy, że błąd bezwzględny jest mnejszy nż 150 m, taka dokładność neraz nam wystarczy. Reprezentacja zmennopozycyjna Powszechne używana reprezentacja zmennopozycyjna lczb rzeczywstych jest kompromsem mędzy dokładnoścą złożonoścą czasową pamęcową. Jej głównym celem jest masowe przetwarzane lczb, czemu służy stosunkowo mała lość mejsca zajmowanego przez tę reprezentację możlwość szybkego wykonywana dzałań przez specjalne opracowane w tym celu podukłady procesorów. Błędy tej reprezentacj są dostateczne małe na potrzeby znakomtej wększośc zastosowań. Istneją nne reprezentacje, umożlwające prowadzene oblczeń ze znaczne wększą dokładnoścą, ale znaczne wolnej w wększej pamęc. Te nne reprezentacje są poza zakresem tego wykładu. Jeszcze jedno: reprezentacje zmennopozycyjne mają powszechne przyjęty standard, który ułatwa m.n. wymanę danych. Reprezentacje nestandardowe tak fajne ne mają. Idea reprezentacj zmennopozycyjnej wąże sę z tzw. półlogarytmcznym zapsem lczby. Każdą dodatną lczbę rzeczywstą możemy przedstawć za pomocą lczby z przedzału [1,10) całkowtej potęg lczby 10, na przykład = W komputerach zamast podstawy 10 dzesęcu różnych cyfr, wygodnej jest używać podstawy 2 btów. Podstawowa reprezentacja określona przez standard IEEE-754 (opracowany w 1985r.) składa sę z btu znaku, s, po którym następuje cecha c mantysa m: s c m }{{}}{{} d t Mantysa jest lczbą rzeczywstą; jeśl reprezentuje ją cąg btów b t 1 b t 2...b 1 b 0, to m = t 1 k=0 b k2 k t, a zatem zawsze 0 m < 1. Cecha jest lczbą całkowtą (bez znaku), reprezentowaną za pomocą d btów, która wpływa na sposób nterpretacj całego cągu btów. Lczba reprezentowana przez tak cąg, w zależnośc od cechy, jest równa x = ( 1) s 2 c b (1+m) dla 0 < c < 2 d 1, x = ( 1) s 2 1 b m dla c = 0, x = ( 1) s dla c = 2 d 1, m = 0, x = NaN ( ne-lczba ) dla c = 2 d 1, m 0. Lczby d, t b są ustalone dla konkretnej reprezentacj. Cechą charakterystyczną reprezentacj z użycem perwszego wzoru jest tzw. normalzacja. Mając dowolną lczbę rzeczywstą x 0, przedstawoną w układze dwójkowym, doberamy cechę c (czyl równoważne czynnk 2 c b ) tak, że czynnk (1+m) w wyrażenu opsującym x jest lczbą z przedzału [1,2). Jeśl otrzymana w ten sposób cecha jest za duża (wększa lub równa 2 d 1), to mamy nadmar zmennopozycyjny (ang. floatng pont overflow), czyl newykonalne zadane reprezentowana lczby o za dużej wartośc bezwzględnej, zwykle będące powodem do przerwana oblczeń. Jeśl ne ma nadmaru, to perwszy wzór opsuje lczbę w ten sposób, że najbardzej znacząca jedynka w rozwnęcu dwójkowym ne jest jawne pamętana właśne to jest normalzacja. Dzęk nej każdy cąg btów reprezentuje nną lczbę, co m.n. umożlwa optymalne wykorzystane btów do zmnejszena błędów. Nech x oznacza dowolną lczbę rzeczywstą. Jej reprezentację, tj. położoną najblżej nej lczbę zmennopozycyjną, oznaczymy symbolem rd(x) (z ang. roundng). Jeśl lczbę x możemy przedstawć w postac x = ( 1) s 2 c b (1+f), doberając cechę c tak, aby meć f [0,1) oraz 0 < c < 2 d 1, to (z jednym rzadkm wyjątkem, gdy f trzeba zaokrąglć w górę do jedynk) będzemy mel rd(x) = ( 1) s 2 c b (1+m),

16 przy czym f m 2 t 1. Błąd względny reprezentacj spełna nerówność x rd(x) x = ( 1)s 2 c b (1+f) ( 1) s 2 c b (1+m) ( 1) s 2 c b (1+f) f m 2 t 1. Co cekawe, nerówność ta jest spełnona też w specjalnym przypadku wspomnanym wcześnej (bo w manownku 1+f 2). Zatem, maksymalny błąd względny reprezentacj zmennopozycyjnej, jeśl ne ma nedomaru an nadmaru, jest na pozome 2 t 1, gdze t jest lczbą btów mantysy. Jeśl kerunek zaokrąglana wyberamy mnej staranne (np. zawsze obcnamy w kerunku zera), to błąd względny może być dwa razy wększy, czyl rzędu ν = 2 t. Bardzej skomplkowana sytuacja zdarza sę w przypadku, gdy cecha jest za mała (tj. gdy w perwszym wzorze należałoby przyjąć c 0). Wtedy korzystamy z drugego wzoru, w którym występuje czynnk m (przypomnam, że m [0,1)). Jeśl c = m = 0, to mamy reprezentację zera; lczba 0 jako jedyna ma dwe reprezentacje, różnące sę btem znaku. Jeśl c = 0 m 0, to mamy do czynena z nedomarem zmennopozycyjnym, czyl reprezentowanem lczby x za pomocą mantysy o mnejszej lczbe btów stotnych (jeśl w użycu jest perwszy wzór, to stotne są wszystke bty mantysy, jeśl drug, to tylko bty od pozycj najmnej znaczącej, do najbardzej znaczącej pozycj, na której jest jedynka). Najdokładnejszą reprezentacją lczb o bardzo małej wartośc bezwzględnej (mnejszej nż 2 b t ) jest 0. Nedomar wąże sę zatem ze (stopnową) utratą dokładnośc reprezentacj. Dla x 0 błąd względny reprezentacj dąży do 100%, a błąd bezwzględny jest ogranczony. W analze błędów najczęścej ne berzemy tego przypadku pod uwagę. Reprezentacja umożlwa używane neskończonośc, także w rachunkach (np. wynk dzelena dowolnej lczby przez neskończoność jest równy 0). Ne-lczby są wykorzystywane do sygnalzowana błędów, np. próby oblczena perwastka kwadratowego z lczby ujemnej. Można je też wykorzystać do odpluskwana programu, np. nadając zmennym take wartośc początkowe, a następne śledząc, czy ne ma do nch odwołań przed przypsanem właścwej wartośc lczbowej. W standardze IEEE-754 są zdefnowane formaty lczb pojedynczej podwójnej precyzj, a także lczb pojedynczej podwójnej rozszerzonej precyzj. Lczby pojedynczej rozszerzonej precyzj jakoś sę ne przyjęły, procesory w komputerach PC ch ne obsługują. Dane na temat standardowych formatów są w tabelce: pojedyncza, float pojed. rozszerzona podwójna double podw. rozszerzona long double B d t b M S ν µ (96, 128) Oznaczena: B całkowta lczba btów, d lczba btów cechy, t lczba btów mantysy, b stała odejmowana od cechy w celu otrzymana wykładnka. Stała b jest równa 2 d 1 1, dzęk czemu jeśl lczba x ma reprezentację znormalzowaną, to 1/x na ogół też. Lczby M = 2 2d b 2 (2 2 t ) najwększa lczba zmennopozycyjna, S = 2 1 b najmnejsza dodatna lczba reprezentowana w postac znormalzowanej (tj. bez nedomaru), ν = 2 t oszacowane maksymalnego błędu względnego reprezentacj znormalzowanej, oraz µ = 2 1 b t najmnejsza zmennopozycyjna lczba dodatna, są podane w przyblżenu (tylko rząd welkośc). Reprezentacje rozszerzonej precyzj ne wymuszają normalzacj (mantysa ma t + 1 btów jest lczbą z przedzału [0,2), jej najbardzej znaczący bt ma wartość 1), ale wynk dzałań, jeśl ne ma nedomaru, są normalzowane przez procesor. Jeszcze jedno: w 32-btowych systemach operacyjnych zmenna rozszerzonej podwójnej precyzj zajmuje 96 btów (12 bajtów), z których 16 (2 bajty) jest neużywanych. W systemach 64-btowych taka zmenna zajmuje 128 btów (16 bajtów), z których 48 (tj. 6 bajtów) jest neużywanych 3. To utrudna m.n. przenoszene danych mędzy komputeram w postac bnarnej. Jeśl ne ma stotnego powodu, to najlepej ne używać tej reprezentacj lczb. Oprócz standardu IEEE-754 stneje też standard IEEE-854, który defnuje reprezentacje lczb zmennopozycyjnych z podstawam Standard ten służy do wymany danych mędzy komputeram, natomast określone przezeń reprezentacje ne są przetwarzane bezpośredno przez jednostk zmennopozycyjne procesorów (w każdym raze znanych m). Jeśl ne ma ważnych powodów do używana reprezentacj określonych w tym standardze, to można sę nm ne przejmować. 3 Powodem jest oczywśce czas dostępu do pamęc aby go skrócć, komplator przydzela zmennym adresy podzelne przez rozmar słowa maszynowego.

17 Do celów specjalnych bywają używane reprezentacje nestandardowe; stneje np. dość rzadko spotykany format poczwórnej precyzj, w którym reprezentacja lczby zajmuje 128 btów (cecha ma w nm 15 btów, mantysa 112). Ne słyszałem o procesorach z rejestram zmennopozycyjnym o takej długośc, zatem dzałana na takch lczbach muszą być wykonywane przez odpowedne podprogramy, co zabera sporo czasu. Z drugej strony, reprezentacje btowe (bt znaku może być neobecny, cecha ma 5 btów, a mantysa 10, 6 albo 5) są używane przez nektóre karty grafczne podczas wykonywana obrazów, gdy dokładność ma małe znaczene, zaś najważnejsza jest szybkość oblczeń oszczędność mejsca. Wspomnane karty grafczne mają specjalzowane podukłady do wykonywana dzałań na takch lczbach. Arytmetyka błędy zaokrągleń Na potrzeby analzy błędów dzałane procesora podczas wykonywana operacj arytmetycznych można sobe wyobrazć tak: dokładny wynk dzałana jest poddawany normalzacj (tj. doberana jest cecha), a następne zaokrąglenu neskończony cąg btów mantysy jest obcnany ewentualne zaokrąglany w górę. Ne wyznacza sę oczywśce neskończonego cągu btów mantysy, zamast tego wykorzystuje sę trzy bty dodatkowe ( wystające poza format), z których perwsze dwa są zwykłe, a trzec lepk bt ten otrzymuje wartość 1, jeśl dowolny dalszy bt neskończene długej mantysy jest nezerowy. Te trzy bty zawsze wystarczą do poprawnego zaokrąglena lczby. Wyboru kerunku zaokrąglana można dokonać, ustawając odpowedne bty w rejestrze sterującym procesora (zwykle zostawamy domyślne zaokrąglane do najblższej lczby zmennopozycyjnej). Istotne jest, że oprócz reprezentacj lczb, standard IEEE-754 określa własnośc dzałań, w tym wymagana dotyczące dokładnośc wynków dotyczy to czterech dzałań arytmetycznych, perwastka kwadratowego, oraz konwersj reprezentacj całkowtej zmennopozycyjnej. Istneją procesory, które wprawdze przetwarzają lczby w standardowym formace, ale realzowane przez ne dzałana ne spełnają wszystkch warunków określonych w standardze. Najbardzej rozpowszechnonym sprzętem tego rodzaju są karty grafczne, które mogą m.n. ne obsługwać lczb neznormalzowanych (tj. zapsanych przy użycu drugego wzoru podanego w opse formatu; w raze nedomaru wynkem dzałana jest zero) lub zaokrąglać wynk dzałań w arbtralne określony sposób (standard nakazuje umożlwać dokonane wyboru). Pownen o tym pamętać każdy, kto zajmuje sę tzw. GPGPU (general programmng on graphcs processng unt). Jeśl x jest lczbą rzeczywstą, a rd(x) jest jej znormalzowanym zmennopozycyjnym przyblżenem (bez nadmaru nedomaru), to mamy x rd(x) x 2 1 t, skąd wynka, że stneje lczba ε, taka że rd(x) = x(1+ε) oraz ε 2 1 t. Sposób zaokrąglana (do najblższej lczby zmennopozycyjnej, zawsze w stronę zera, zawsze w przecwną stronę, zawsze w górę albo zawsze w dół) może być ustawony różne, przez co błąd względny może być dwa razy wększy. Jeśl zatem oznacza dowolne z czterech dzałań arytmetycznych, to zamast wynku x = a b, po zaokrąglenu, otrzymamy lczbę x = fl(a b) = (a b)(1+ε), dla pewnego ε ( ν,ν) (pszemy fl(a b) zamast rd(a b), bo ten ostatn symbol oznacza u nas wynk zaokrąglena do najblższej lczby zmennopozycyjnej). Wynk dzałań są najczęścej argumentam dalszych dzałań, zatem podczas oblczeń numerycznych ma mejsce zjawsko zwane kumulacją błędów. W szczególnych przypadkach może ono doprowadzć do otrzymana bardzo nedokładnych wynków końcowych, mmo że poszczególne błędy zaokrągleń są małe. Ponadto wskutek zaokrągleń zbór lczb zmennopozycyjnych z dzałanam dodawana mnożena ne jest całem (z punktu wdzena algebry). Przede wszystkm, ne jest zamknęty ze względu na dzałana (bo może wystąpć nadmar) są w nm dzelnk zera (np. jeśl lczba x 0 jest dostateczne mała, to fl(x x) = 0). Po druge, dodawane mnożene ne są dzałanam łącznym dodawane ne jest rozdzelne względem mnożena. W konsekwencj, algorytmy oparte na różnych wzorach algebraczne równoważnych (w cele R), mogą produkować różne wynk (czasem bardzo od sebe odległe). Analza algorytmów ma na celu mędzy nnym badane, na jaką dokładność wynków oblczeń wykonywanych z błędam zaokrągleń można lczyć ( może sę przydać do wybrana najlepszego algorytmu, albo przynajmnej do odrzucena najgorszego). Arytmetyka zmennopozycyjna zespolona W różnych zadanach występują lczby zespolone. W oblczenach ch częśc rzeczywste urojone są reprezentowane w postac zmennopozycyjnej. Jeśl zatem zamast lczby z = (a,b) 0 mamy lczbę z = (ã, b) = (a(1+ε a ),b(1+ε b )), gdze ε a, ε b < ν, to lczbę z reprezentujemy z błędem względnym z z z = a2 ε 2 a +b 2 ε 2 b a2 +b 2 < a2 ν 2 +b 2 ν 2 a2 +b 2 = ν.