METODY ILOŚCIOWE W BADANIACH EKONOMICZNYCH Tom XII/2, 211, str. 357 364 TEORETYCZNE PODSTAWY METODY NEWTONA PRZYBLIŻONEGO ROZWIĄZYWANIA RÓWNAŃ NIELINIOWYCH Alesader Strasburger, Wacława Tempczy Katedra Zastosowań Matematyi, Szoła Główa Gospodarstwa Wiejsiego w Warszawie e-mails: alesader_strasburger@sggw.pl; waclawa_tempczy@sggw.pl Streszczeie: Artyuł przedstawia podstawowe pojęcia teoretycze i sformułowaia leżące u podstaw wielowymiarowej metody Newtoa ostruowaia przybliżoych rozwiązań uładu rówań ieliiowych, a użytej w pracach [Strasburger i ii (29), Strasburger i ii (211)] dla modelowaia pewych aspetów teorii osumpcji. Metoda ta orzysta ze stosuowo prostych pojęć matematyczych i staowi bardzo elastycze arzędzie zarówo do rozważań teoretyczych ja i obliczeń umeryczych. Metoda ta z pewością zasługuje a to, by być lepiej zaą w społeczości eoomistów matematyczych. Słowa luczowe: wielowymiarowa metoda Newtoa, metoda olejych przybliżeń, aprosymacja umerycza. WSTĘP W opubliowaych iedawo dwóch pracach [Strasburger i i. 29, Strasburger i i. 211] jede z autorów (A.S.) razem z A. Zembrzusim przedstawili umerycze symulacje pewych zagadień teorii osumpcji, oparte a wyorzystaiu wielowymiarowej metody Newtoa rozwiązywaia rówań ieliiowych. Jedaże w pracach tych acis był położoy a procedurę obliczeiową, atomiast teoretycze podstawy samej metody Newtoa ie zostały tam omówioe. Obecy artyuł ma charater przeglądowy i jego zamierzeiem jest opisaie podstaw tej metody i przedstawieie waruów umożliwiających jej zastosowaie.
358 Alesader Strasburger, Wacława Tempczy Metoda Newtoa (azywaa czasami metodą Newtoa-Raphsoa) polega a ostruowaiu przybliżoych rozwiązań rówaia f ( =, gdzie f ( jest zadaą fucją jedej zmieej, algebraiczą lub awet trascedetą. Metoda ta jest podawaa w więszości podręcziów aalizy matematyczej. Pomimo że jest oa względie prostym zastosowaiem podstawowych idei aalizy, jest oa jedocześie metodą bardzo suteczą i mającą wiele zastosowań. Mówiąc w srócie, metoda polega a iteracyjej ostrucji ciągu ( x ) przybliżeń tego pierwiasta za pomocą astępującej procedury: w ażdym rou ostrucji fucję f ( zastępujemy przez jej liiowe przybliżeie l ( = a x + b ze środiem w pucie x będącym atualym przybliżeiem, a jao astępe przybliżeie x + 1 pierwiasta rówaia f ( =, obieramy pierwiaste rówaia l ( =. Mówiąc doładiej, przypomijmy, że dla różiczowalej fucji f ( jej liiowe przybliżeie ze środiem w pucie x dae jest wzorem l( = f ( + f '( ( x (1) gdzie f ' ozacza pochodą fucji f. Ciąg olejych przybliżeń rozwiązaia zaday jest przez wybór początowej wartości x za pomocą reurecyjej formuły 1 x+ 1 = x f ( x ) (2) f '( x ) Jest oczywiste, że fucja f musi spełiać odpowiedie warui, aby ciąg iteracji był oreśloy i zbieży do pierwiasta rówaia f ( =. Możliwych jest wiele wyborów waruów zapewiających tę zbieżość podamy sformułowaie zaczerpięte z podręczia [Walter 1992]. Twierdzeie 1 [Walter (1992)] Załóżmy, że fucja f jest oreśloa i trzyrotie różiczowala w sposób ciągły a przedziale [ a, b] osi rzeczywistej. Jeżeli pochoda f '( ie zia a przedziale [ a, b] i pierwiaste ξ rówaia f ( = jest zawarty wewątrz przedziału [ a, b], to ciąg iteracji ( x ) jest zbieży do pierwiasta ξ iezależie od wyboru putu początowego x z pewego otoczeia putu ξ. Kwestią szczególej wagi, ie wspomiaą w tym sformułowaiu, jest wybór dopuszczalej iteracji początowej, gwaratujący zbieżość ciągu iteracji. Późiej odiesiemy się do tego problemu ieco szerzej.
Teoretycze podstawy metody Newtoa 359 Na zaończeie tych wstępych rozważań dodajmy uwagę o szybiej zbieżości metody Newtoa w porówaiu z iymi metodami przybliżoymi. Jest to osewecją wadratowego oszacowaia dla błędu przybliżeia, 2 ξ x + 1 cost ξ x tóre wyia po iesompliowaych rachuach ze wzoru (2). Doładość, o tórej mowa, moża zaobserwować a załączoym rysuu, tóry przedstawia 3 ila początowych przybliżeń pierwiasta rówaia x 2x 5 =, tóre było rozpatrywae przez samego Newtoa w ieopubliowaym ręopisie datowaym a 1669 r. 3 Rysue 1 Ilustracja olejych przybliżeń pierwiasta rówaia x 2x 5 = 12 1 x,f x 8 6 4 stycza 2 x1,f x1 stycza1,x2,x1,x x -2 1.5 2 2.5 3 3.5 Źródło: obliczeia włase w programie Mathematica ver. 5. WIELOWYMIAROWA METODA NEWTONA Samo sformułowaie problemu w przypadu wielowymiarowym iewiele się różi od przypadu jedowymiarowego. Przy daym uładzie fucji zależych
36 Alesader Strasburger, Wacława Tempczy od zmieych, φ ( x, x2, x ), i = 1, i 1, poszuiway jest tai put ( x 1, x2,..., ), że ażda z fucji przyjmuje w tym pucie wartość, φ i ( x1, x2,..., ) =, i = 1,2, 3) Użycie w tym miejscu odpowiediej termiologii, bazującej a pojęciu fucji przyjmującej wartości w przestrzei, pozwala sformułować problem w sposób formalie idetyczy, co w przypadu jedowymiarowym. Wprowadźmy w tym celu odwzorowaie (fucję o wartościach wetorowych) Φ : zdefiiowae wzorem φ1( x1, x2, ) ϕ1( Φ( x1, x2, ) = =, ( 1, 2,, ) ( ) φ x x ϕ x gdzie x = x, x,... x ) ( 1 2 Wówczas powiedzieć, że ( x 1, x2,..., ) jest wspólym miejscem zerowym uładu rówań (3) ozacza doładie tyle, co powiedzieć, że w tym pucie fucja Φ przyjmuje wartość (oczywiście, tutaj ). Szuać pierwiasta czy putu stałego? Pratycze zastosowaia, szczególie w problemach eoomiczych, prowadzą częściej do zagadieia wyzaczeia putu stałego odwzorowaia iż do problemu wyzaczeia pierwiasta rówaia. Z tego względu orzystiej zastąpić problem poszuiwaia pierwiasta rówaia (uładu rówań) przez rówoważy mu problem wyzaczaia putu stałego odpowiediego odwzorowaia, tym bardziej, że to podejście stawia do dyspozycji poaźy zapas efetywych arzędzi wypracowaych w teorii putów stałych, w szczególości ta dopasowaych do stosowaia metod umeryczych, ja metoda olejych przybliżeń. W dalszej dysusji będziemy używać astępującej termiologii w odiesieiu do odwzorowaia Φ : U U : Putem stałym Φ azywa się tai put ξ U, że Φ ( ξ ) = ξ. Dla dowolej liczby aturalej > 1 -rote złożeie Φ = Φ Φ... Φ odwzorowaia Φ azywamy iteracją stopia. W teorii uładów dyamiczych ciąg x o elemetach oreśloych reurecyjie przez zadaie jaiegoś elemetu początowego x U i przyjęcie 1 x = Φ( x ) = Φ ( x ) dla aturalych 1, azywa się orbitą putu x
Teoretycze podstawy metody Newtoa 361 używaa jest też azwa ciąg iteroway o pierwszym elemecie (lub początowej iteracji) x. Będziemy mówili, że odwzorowaieφ jest otracją (odwzorowaiem zbliżającym) ze współczyiiem α, gdzie 1 > α jest stałą, jeśli dla wszystich putów x, y U zachodzi ierówość Φ( Φ( y) α x y Łatwo zauważyć, że dowola otracja ie może mieć dwóch różych putów stałych, a zae twierdzeie Baacha o odwzorowaiach zbliżających podaje warue dostateczy istieia putu stałego. Dla aszej aalizy wystarczający jest astępujący szczególy przypade tego twierdzeia. Twierdzeie 2. Niech U będzie zbiorem domiętym oraz Φ : U U otracją ze współczyiiem α, α < 1. W zbiorze U istieje doładie jede put stałyξ odwzorowaia Φ i jest o graicą orbity dowolego putu x U, Iaczej mówiąc, dla dowolego putu x U ciąg iteracji o elemecie początowym x i wyrazach oreśloych zależością + 1 x = Φ( x ), =,1, jest zbieży do putu stałego ξ odwzorowaia Φ, lim x = ξ. Szybość zbiegaia ciągu iteracji ( x ) do graicy moża oszacować za pomocą ierówości 1 + 1 ( α ) 1 x ξ x x x x (4) 1 α 1 α Wielowymiarowa metoda Newtoa w pigułce Przypomijmy w tym miejscu elemety współczesej otacji rachuu różiczowego wielu zmieych, tóra sprawia, że zapis metody Newtoa w przypadu wielowymiarowym prawie ie odbiega od sposobu zapisu w przypadu jedowymiarowym. Jeśli x = ( x1, x2, ) jest wetorem przestrzei wymiarowej, (we wzorach zapisujemy wetory w postaci wetora olumowego) i Φ : U U jest odwzorowaiem o ciągłych pochodych cząstowych, to symbolem Φ '( ozaczaa jest pochoda (macierz Jacobiego pochodych cząstowych odwzorowaia Φ ). Stosując dla pochodych cząstowych srótowe ozaczeie ϕ j i ϕ j ( = (, gdzie i, j = 1,2,, xi zapisujemy pochodą odwzorowaia Φ w postaci astępującej macierzy (macierzy Jacobiego)
362 Alesader Strasburger, Wacława Tempczy 1ϕ 1(... ϕ1( Φ'( = 1ϕ (... ϕ ( Dla ozaczeia iloczyu macierzy i wetora olumowego a ogół ie będziemy używać specjalego symbolu, a jedyie w przypadach wątpliwych będziemy rozdzielać je ropą jao zaiem możeia. Jeśli Φ' ( jest macierzą odwracalą, tj. det( Φ'( x )), to macierz do iej odwrotą ozaczamy 1 symbolem ( Φ'( x )). Załóżmy teraz, że pochoda Φ '( jest odwracala a zbiorze U. Wówczas odwzorowaie 1 Ψ : x x ( Φ'( ) Φ( (IN) jest dobrze oreśloe, a rówaie dla putu stałego tego odwzorowaia jest rówoważe rówaiu Φ( x ) = dla pierwiastów Φ, czyli wspólych miejsc zerowych uładu rówań (3). W te sposób problem wyzaczeia pierwiastów uładu ieliiowych rówań (3) zostaje sprowadzoy do problemu wyzaczeia putów stałych odwzorowaia Ψ oreśloego powyżej. Możliwość zastosowaia przedstawioego powyżej twierdzeia o pucie stałym otracji do rozważaego problemu wyzaczeia pierwiasta rówaia Φ( = zależy od dwóch czyiów: wyboru iezmieiczej dziedziy dla odwzorowaia Ψ ; wyazaia dość przecież restrytywego założeia o zbliżaiu dla Ψ. Te pierwszy wymaga oreśleia, dzięi umiejętemu wyborowi lub odpowiediej ostrucji, domiętego zbioru U, taiego, że Ψ ( U ) U, gdyż tylo wtedy moża uruchomić procedurę reurecyją. Iaczej mówiąc, przy taim założeiu moża w dowolym rou iteracji, wychodząc od sostruowaego już -tego elemetu ciągu x, oreślić astępy elemet ciągu wzorem + 1 1 x = Ψ( x ) = x ( Φ'( x )) Φ( x ). Te drugi warue zależy od aalityczych własości odwzorowaia Φ, tóre są iejao dae z góry w sformułowaiu zadaia i tórymi ie daje się maipulować trzeba je przyjąć z dobrodziejstwem iwetarza. W pratyce rzado się zdarza, aby bez dodatowych zabiegów warui te były spełioe oba a raz, lub awet jede z ich. Dlatego dostępe w literaturze przedmiotu rezultaty dotyczące wielowymiarowej metody Newtoa mają przeważie loaly charater i zapewiają zbieżość ciągu Newtoa jedyie pod waruiem odpowiediego wyboru putu początowego ciągu iteracji. Dodatowe utrudieie, szczególie ze względu a oszt umeryczych obliczeń, przyosi oieczość wyzaczaia pochodej Φ '( x ) przy ażdym olejym rou
Teoretycze podstawy metody Newtoa 363 iteracji. Dlatego często stosuje się ta zwaą modyfiowaą metodę Newtoa, w tórej zastępuje się we wzorze (IN) zależą od putu pochodą Φ '( przez stałą macierz J = Φ' ( rówą pochodej obliczoej w odpowiedio dobraym pucie x. Przytoczymy tu sformułowaie oparte a dysusji z moografii [Walter 1992] i [Strag 1986]. Twierdzeie 3. Niech x U będzie ta dobraym putem, że macierz J = Φ' ( jest odwracala. Niech dalej odwzorowaie Ψ : x x J Φ( 1 będzie otracją ze współczyiiem α = w otwartej uli K r ( U o środu 2 1 w x i promieiu r. Jeśli J Φ( < r, to odwzorowaie Φ ma w uli K r ( 2 doładie jede pierwiaste ξ. Ciąg iteracyjy Newtoa + 1 x = Ψ( x ) = x J Φ( x ), =,1,2, jest dobrze oreśloy dla dowolego putu początowego x Kr ( i zbiega do pierwiasta ξ rówaia Φ( x ) =, lim x = ξ. BIBLIOGRAFIA Dude H. (211) Sale ewiwaletości estymacja a podstawie ompletych modeli popytu, Wydawictwo SGGW, Warszawa. Kelley C. T. (23) Solvig oliear equatios with Newto s method, SIAM, Philadelphia. Kratz S. G., Pars H. R. (22) The Implicit Fuctio Theorem: History, Theory, ad Applicatios, Birhäuser, Bosto. Pae E. (2) Eoomia matematycza, Aademia Eoomicza w Pozaiu, Pozań. Strag, G. (1986) Itroductio to Applied Mathematics, Wellesley-Cambridge Press, Wellesley. Strasburger A., Zembrzusi A. (29) O applicatio of Newto's method to solve optimizatio problems i the cosumer ad productio theories, Polish J. of Evirometal Studies, 29, Vol. 18, 5B, pp. 198 22. Strasburger A., Zembrzusi A. (211) O applicatio of Newto s method to solve optimizatio problems i the cosumer theory. Expasio s paths ad Egel curves Metody Ilościowe w Badaiach Eoomiczych, No 1, pp. 135-146. Walter, W., (1991), Aalysis 1 & 2 (w jęz. iemiecim), Grudwisse Mathemati, Spriger Verlag, Berli.
364 Alesader Strasburger, Wacława Tempczy ON THEORETICAL FOUNDATIONS OF NEWTON S METHOD OF SOLVING NONLINEAR EQUATIONS Abstract: The paper surveys basic theoretical cocepts ad formulatios uderlyig the multidimesioal Newto s method of costructig approximate solutios to systems of oliear equatios., which was used i the papers [Strasburger et al. (29), Strasburger et al. (211)] for modelig certai aspects of cosumer s theory. This method is based o relatively simple mathematical cocepts ad is a very flexible tool for both theoretical argumets as well as for umerical computatios. It certaily deserves to be better ow i the commuity of mathematical ecoomists. Key words: multidimesioal Newto s method, method of successive approximatios, umerical approximatios