MONIKA BUDZYŃSKA AUTOREFERAT

Transkrypt

1 MONIKA BUDZYŃSKA AUTOREFERAT Lublin 2014

2 Spis treści Informacje o autorze 2 Wokół twierdzenia Wolffa-Denjoya Cykl publikacji habilitacyjnych powi azanych tematycznie 3 Wstȩp 4 1. Podstawowe oznaczenia i informacje 5 2. Problemy zwi azane z twierdzeniem Wolffa-Denjoya - rys historyczny Wokół twierdzenia Wolffa-Denjoya - opis osi agniȩcia naukowego Inne osi agniȩcia naukowo-badawcze 56 Literatura 76 1

3 2 Informacje o autorze Imię i nazwisko: Monika Budzyńska Dyplomy i stopnie naukowe: Doktor nauk matematycznych rozprawa: Ciągi asymptotycznie regularne i ich zastosowania w metrycznej teorii punktów stałych promotor: dr hab. Tadeusz Kuczumow recenzenci: dr hab. A. Idzik i dr hab. A. Stachura Uniwersytet Marii Curie-Skłodowskiej, Lublin, Magister matematyki Uniwersytet Marii Curie-Skłodowskiej, Lublin, Studia magisterskie z matematyki, Wydział Matematyki i Fizyki UMCS, Lublin, Zatrudnienie w jednostkach naukowych: Instytut Matematyki Uniwersytet Marii Curie-Skłodowskiej, Lublin asystent od 1 października 1994 do 30 września 2001, adiunkt od 1 października 2001, Państwowa Wyższa Szkoła Zawodowa, Chełm wykładowca od 1 października 2002 do 7 stycznia 2005 (drugi etat), Państwowa Wyższa Szkoła Zawodowa, Zamość wykładowca od 1 października 2009 (drugi etat).

4 Wokół twierdzenia Wolffa-Denjoya Cykl publikacji habilitacyjnych powia zanych tematycznie 3 B 1) M. Budzyńska, S. Reich, Intersections of holomorphic retracts in Banach spaces, J. Aust. Math. Soc 89 (2010), B 2) M. Budzyńska, The Denjoy-Wolff theorem in C n, Nonlinear Analysis 75 (2012), B 3) M. Budzyńska, T. Kuczumow, S. Reich, A Denjoy-Wolff theorem for compact holomorphic mappings in reflexive Banach spaces, J. Math. Anal. Appl. 396 (2012), B 4) M. Budzyńska, T. Kuczumow, S. Reich, Theorems of Denjoy-Wolff type, Ann. Mat. Pura Appl. 192 (2013), B 5) M. Budzyńska, T. Kuczumow, S. Reich, A Denjoy-Wolff theorem for compact holomorphic mappings in complex Banach spaces, Ann. Acad. Sci. Fenn. Math. 38 (2013), B 6) M. Budzyńska, The Denjoy-Wolff theorem for condensing mappings in a bounded and strictly convex domain in a complex Banach space, Ann. Acad. Sci. Fenn. Math. 39 (2014), B 7) M. Budzyńska, T. Kuczumow, S. Reich, Theorems of Denjoy-Wolff type for families of holomorphic retracts, J. Nonlinear Conv. Anal. 15, (2014).

5 4 Wstȩp Autoreferat składa siȩ ze wstȩpu i z czterech rozdziałów. W rozdziałach pierwszym i drugim przypominam podstawowe pojȩcia i fakty (dla wygody czytelnika nawet te ogólnie znane), które s a użyte w moim osi agniȩciu naukowym, przy czym w rozdziale drugim przedstawiȩ również historyczny rozwój problemów zwi azanych z twierdzeniem Wolffa- Denjoya. Podzieliłam tutaj uogólnienia tego twierdzenia na dwie czȩści - na czȩść zwi azan a z odwzorowaniami kuli w kulȩ i na czȩść zwi azan a z odwzorowaniami ograniczonego i wypukłego obszaru w C k w siebie. Wynika to z tego, że zdecydowanie lepsze wyniki były osi agniȩte dla odwzorowań określonych w kuli, a jednym z moich celów w przedstawionym tutaj osi agniȩciu naukowym jest podanie twierdzenia ł acz acego tego typu wyniki (patrz rozdział trzeci, twierdzenie 3.7) - uważam, że jest to mój najważniejszy rezultat i idea jego dowodu należy całkowicie do mnie. W rozdziale drugim przypomnȩ też zwi azki miȩdzy półgrupami holomorficznych (lub ogólniej k D -nieoddalaj acych) odwzorowań, a równaniami różniczkowymi. Te zwi azki s a zreszt a głównym powodem badania własności tych półgrup, ich generatorów i rezolwent. Kończȩ rozdział drugi informacjami o rodzinach holomorficznych (k D - nieoddalaj acych) retrakcji, podane w nastȩpnym rozdziale twierdzenia o zachowaniu siȩ rodziny retrakcji z pustym przeciȩciem i z własności a skończonego przeciȩcia nie były wcześniej zauważone. We wspomnianym już rozdziale trzecim przedstawiam wyniki wchodz ace w skład mojego osi agniȩcia naukowego, a w rozdziale czwartym omawiam mój pozostały dorobek naukowy. Zakończȩ wstȩp nastȩpuj ac a uwag a. W trakcie mojej rozmowy z prof. Marco Abate podczas konferencji w Izraelu w 2013 roku zwrócił mi on uwagȩ, że poprawn a nazw a jest twierdzenie Wolffa-Denjoya, a nie twierdzenie Denjoya-Wolffa. Dlatego w moim autoreferacie używam już poprawnej nazwy tego twierdzenia.

6 1. Podstawowe oznaczenia i informacje Zanim przejdȩ do omawiania moich wyników, z których składa siȩ moje osi agniȩcie naukowe przedstawione do oceny, podam w tym rozdziale podstawowe oznaczenia i informacje używane w głównej czȩści mojego autoreferatu - w rozdziale trzecim. Maksymalne ci agi uogólnione s a jednym z podstawowych narzȩdzi w dowodach moich wyników. Ponieważ nie s a czȩsto stosowane w teorii funkcji holomorficznych, to przypomnȩ najpierw definicjȩ oraz własności ci agu uogólnionego (inaczej nazywanego ci agiem Moore a-smitha). Definicja 1.1. ( [117]) Niech I bȩdzie zbiorem skierowanym i niech X bȩdzie dowolnym niepustym zbiorem. Każde odwzorowanie u : I X nazywamy ci agiem uogólnionym i oznaczamy symbolem (u, I). Podobnie jak w przypadku ci agów bȩdziemy pisać u(i) = x i oraz {x i } i I = {x i } i zamiast (u, I). Definicja 1.2. ( [79]) Niech bȩdzie dany ci ag uogólniony {x i } i I w zbiorze X i niech C bȩdzie niepustym podzbiorem zbioru X. Bȩdziemy mówić, że prawie wszystkie wyrazy ci agu {x i } i I leż a w zbiorze C, jeśli istnieje ĩ I, takie że dla każdego i ĩ mamy x i C. Definicja 1.3. ( [17], [79]) Niech (X, T ) bȩdzie przestrzeni a topologiczn a i niech (u, I) bȩdzie ci agiem uogólnionym w zbiorze X. Mówimy, że ci ag uogólniony (u, I) jest zbieżny do x X, gdy dla każdego otoczenia U T punktu x prawie wszystkie wyrazy ci agu uogólnionego (u, I) leż a w U. Definicja 1.4. ( [116]) Jeżeli (u, I) jest ci agiem uogólnionym w zbiorze X, (J, 1 ) zbiorem skierowanym i f : J I odwzorowaniem spełniaj acym warunek dla każdego i I istnieje j J, takie że f(j) i dla każdego j 1 j, to ci ag uogólniony (u f, J) nazywamy podci agiem ci agu uogólnionego (u, I). Definicja 1.5. ( [116]) Niech (u, I) bȩdzie ci agiem uogólnionym w zbiorze X. Jeżeli dla każdego podzbioru C zbioru X albo prawie wszystkie wyrazy tego ci agu uogólnionego leż a w C albo prawie wszystkie wyrazy tego ci agu uogólnionego leż a w dopełnieniu X \ C zbioru C, to ci ag uogólniony (u, I) nazywamy maksymalnym ci agiem uogólnionym lub uniwersalnym ci agiem uogólnionym. Maksymalny ci ag uogólniony ma kilka bardzo dobrych własności (patrz np. [54], [57], [80], [140]). Lemat 1.1. Każdy ci ag uogólniony ma podci ag, który jest maksymalnym ci agiem uogólnionym. 5

7 6 Lemat 1.2. Jeżeli (u, I) = {x i } i I jest maksymalnym ci agiem uogólnionym w zbiorze X, Y jest niepustym zbiorem i odwzorowanie f przekształca X w Y, to ci ag uogólniony (f u, I) = {f(x i )} i I jest także maksymalnym ci agiem uogólnionym. Lemat 1.3. Każdy maksymalny ci ag uogólniony w zwartej przestrzeni topologicznej (X, T ) jest zbieżny. Przejdȩ teraz do istotnej w moich badaniach definicji przestrzeni metrycznie wypukłej. Definicja 1.6. ( [113], patrz także [18] i [28]) Niech (X, d) bȩdzie przestrzeni a metryczn a. Jeżeli dla każdych dwóch różnych punktów x, y X istnieje punkt z X \ {x, y}, taki że d(x, z) + d(z, y) = d(x, y), to mówimy, że przestrzeń metryczna (X, d) jest przestrzeni a metrycznie wypukł a. Muszȩ też mieć definicjȩ odcinka metrycznego. Definicja 1.7. ( [113], patrz także [18] i [28]) Niech (X, d) bȩdzie przestrzeni a metryczn a i niech x, y bȩd a dwoma różnymi punktami w X. Jeżeli podzbiór [x, y] d zbioru X spełnia nastȩpuj ace warunki (i) x, y [x, y] d ; (ii) dla każdego 0 < β < d(x, y) istnieje jedyny punkt z [x, y] d, taki że d(x, z) = β i d(x, y) = d(x, z) + d(z, y); (iii) dla każdego w [x, y] d mamy d(x, y) = d(x, w) + d(w, y), to nazywamy go d-metrycznym odcinkiem ł acz acym w X punkt x z punktem y. Przed wypowiedzi a twierdzenia Mengera o istnieniu metrycznego odcinka przypomnȩ definicjȩ przestrzeni ograniczenie zwartej. Definicja 1.8. ( [29]) Niech (X, d) bȩdzie przestrzeni a metryczn a. Gdy każdy niepusty domkniȩty i ograniczony zbiór w (X, d) jest zbiorem zwartym, to przestrzeń metryczn a (X, d) nazywamy przetrzeni a ograniczenie zwart a. Mamy nastȩpuj ace twierdzenie Mengera, które podajȩ w słabszej dostosowanej do moich potrzeb wersji.

8 Twierdzenie 1.1. ( [113], patrz także [9], [18], [19], [28], [87] i [114]) Niech (X, d) bȩdzie ograniczenie zwart a przestrzeni a metryczn a. Jeżeli (X, d) jest przestrzeni a metrycznie wypukł a, to każde dwa różne punkty w X mog a być poł aczone w X d-metrycznym odcinkiem. W nastȩpnym twierdzeniu bȩdȩ używać pojȩcia lokalnej całkowitej ograniczoności przestrzeni metrycznej (X, d). Definicja 1.9. ( [105], patrz także [54] i [106]) Mówimy, że ograniczona przestrzeń metryczna (Y, d Y ) jest przestrzeni a całkowicie ( totalnie) ograniczon a jeśli dla każdego ε > 0 istnieje pokrycie złożone ze skończonej liczby zbiorów o średnicy mniejszej niż ε. Przestrzeń metryczna (X, d X ) jest lokalnie całkowicie ograniczona jeżeli każdy niepusty i ograniczony podzbiór C (z metryk a d X ) zbioru X jest całkowicie ograniczony. Uwaga 1.1. Oczywiście niepuste warunkowo zwarte podzbiory C przestrzeni metrycznej (X, d) s a całkowicie ograniczone (przypominam, że C jest zbiorem warunkowo zwartym w przestrzeni metrycznej (X, d), gdy jego domkniȩcie C d jest zbiorem zwartym w (X, d)). Muszȩ też mieć definicjȩ odwzorowania k-lipschitzowskiego i w szczególności definicjȩ odwzorowania nieoddalaj acego. Definicja ( [57], [58]) Niech (X 1, d 1 ) i (X 2, d 2 ) bȩd a przestrzeniami metrycznymi i niech D 1 X 1 i D 2 X 2 bȩd a ich podzbiorami. Niech bȩdzie dane odwzorowanie f : D 1 D 2. Jeżeli istnieje k R + =< 0, + ), takie że d 2 (f (x), f (y)) kd 1 (x, y) dla każdych x, y D 1, to mówimy, że odwzorowanie f jest k-lipschitzowskie lub lipschitzowskie ze stał a Lipschitza równ a k (ze wzglȩdu na metryki d 1 i d 2 ). Jeżeli k = 1, to odwzorowanie f nazywamy nieoddalaj acym. Mogȩ teraz wypowiedzieć twierdzenie o zachowaniu siȩ ci agu iteracji odwzorowania nieoddalaj acego w takiej przestrzeni. Twierdzenie 1.2. ( [29]) Niech f bȩdzie przekształceniem nieoddalaj acym lokalnie całkowicie ograniczonej przestrzeni metrycznej (X, d) w siebie. Jeżeli dla pewnego x 0 X ci ag iteracyjny {f n (x 0 )} zawiera ograniczony podci ag, to dla każdego x X cały ci ag iteracyjny {f n (x)} jest ograniczony. Podkreślȩ tutaj, że zastosowanie tego twierdzenia jest kluczowe w dowodach moich twierdzeń typu Wolffa-Denjoya. 7

9 8 Ponieważ dowody moich twierdzeń maj a charakter metryczny, to przypomnȩ najpierw definicjȩ wykorzystanych w nich odległości. Definicja Niech bȩdzie jednostkowym kołem otwartym na płaszczyźnie zespolonej C. Odległość Poincarégo w jednostkowym kole otwartym jest zadana wzorem z w k (z, w) = ω (z, w) = arg tgh 1 zw = arg tgh (1 σ (z, w)) 1 2, gdzie ( 1 z 2 ) ( 1 w 2) σ (z, w) = 1 zw 2, z, w. W przypadku ograniczonego i wypukłego obszaru w zespolonej przestrzeni Banacha zamiast odległości Poincarégo bȩdziemy używać odległości Kobayashiego ( [88], [89], [90]). Definicja tej odległości, któr a podam jest w zasadzie definicj a funkcji Lemperta, ale w przypadku ograniczonego i wypukłego obszaru D w zespolonej przestrzeni Banacha funkcja Lemperta δ jest równa odległości Kobayashiego k D. Definicja ( [108], [48]) Niech D ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Przez H(, D) oznaczamy zbiór wszystkich odwzorowań holomorficznych z w D. Odległość Kobayashiego w D jest dana wzorem k D (x, y) = δ D (x, y) = inf {k (0, γ) : istnieje f H(, D), gdzie x, y D. takie że f (0) = x i f (γ) = y}, W szczególności w kuli Hilberta B H, tzn. w jednostkowej kuli otwartej o środku w 0 w zespolonej przestrzeni Hilberta (H, (, )), mamy nastȩpuj acy wzór na odległość Kobayashiego gdzie x, y B H i k BH (x, y) = arg tgh (1 σ (x, y)) 1 2, σ (x, y) = ( 1 x 2 ) ( 1 y 2) 1 (x, y) 2 ( [60]). Przejdźmy teraz do własności odległości Kobayashiego. Załóżmy, że D jest wypukłym i ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ). Niech dist (x, D) oznacza odległość w (X, ) punktu x D do brzegu D obszaru D i diam D jest średnic a obszaru

10 D w (X, ). O zwi azkach miȩdzy norm a a odległości a Kobayashiego mówi nastȩpne twierdzenie. Twierdzenie 1.3. ( [63]) Jeżeli D jest ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ), to prawdziwe s a nastȩpuj ace nierówności ( ) x y arg tgh k D (x, y) diam D dla wszystkich x, y D i ( ) x y k D (x, y) arg tgh, dist (x, D) gdy x y < dist (x, D). St ad dostajemy, że przy naszych założeniach o D odległość Kobayashiego k D jest lokalnie równoważna normie w X, tzn. lokalnie zbieżność normowa jest równa zbieżności w k D. Ponadto (D, k D ) jest zupełn a przestrzeni a metryczn a. Nastȩpny lemat wykorzystujȩ w dowodach wypułości kul i horosfer w ograniczonych i wypukłych obszarach D z odległości a Kobayashiego. Lemat 1.4. ( [107], [75], [104]) Niech D bȩdzie wypukłym i ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ). (i) Jeżeli x, y, w, z D i s [0, 1], to k D (sx + (1 s) y, sw + (1 s) z) max [k D (x, w), k D (y, z)] ; (ii) jeżeli x, y D i s, t [0, 1], to k D (sx + (1 s) y, tx + (1 t) y) k D (x, y). Aby scharakteryzować zbiory k D -ograniczone wprowadzamy nastȩpuj ace pojȩcie. Definicja Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli dla niepustego podzbioru C D mamy dist (C, D) := inf{ x y : x C, y D} > 0, to mówimy, że leży on ściśle wewn atrz D. Twierdzenie 1.4. ( [63]) Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Niepusty podzbiór C D jest k D -ograniczony wtedy i tylko wtedy gdy leży ściśle wewn atrz D. 9

11 10 Zanim przejdȩ do własności granic ci agów uogólnionych w (D, k D ) przypomnȩ definicjȩ ścisłej wypukłości obszaru. Definicja ( [46]) Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli dla każdych dwóch różnych punktów x, y D otwarty odcinek (x, y) = {z X : z = sx + (1 s) y, 0 < s < 1} leży w D, to obszar D nazywamy obszarem ściśle wypukłym. Jeżeli jednostkowa kula otwarta w (X, ) jest ściśle wypukła, to (X, ) nazywamy przestrzeni a ściśle wypukł a. Mamy teraz nastȩpuj acy lemat, który wielokrotnie stosowałam w moich pracach. Lemat 1.5. ( [99]) Niech D bȩdzie ograniczonym i ściśle wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Niech {x j } j J i {y j } j J bȩd a dwoma ci agami uogólnionymi w D zbieżnymi w normie odpowiednio do ξ D i η D. Jeżeli to ξ = η. sup {k D (x j, y j ) : j J} = c <, Można łatwo sprawdzić, że w lemacie 1.5 założenie ścisłej wypukłości obszaru D jest istotne. Omówiȩ teraz interesuj ace mnie własności zarówno odwzorowań holomorficznych jak i odwzorowań k D -nieoddalaj acych. Zacznȩ od podania kilku definicji i oznaczeń. Definicja Niech (X 1, 1 ) i (X 2, 2 ) bȩd a zespolonymi przestrzeniami Banacha i niech D bȩdzie obszarem w (X 1, 1 ). Jeżeli odwzorowanie f : D X 2 ma w każdym punkcie x D pochodn a Frécheta Df(x), to odwzorowanie f nazywamy holomorficznym. Rodzinȩ wszystkich odwzorowań holomorficznych z ograniczonego i wypukłego obszaru D w zespolonej przestrzeni Banacha (X 1, 1 ) w zespolon a przestrzeń Banacha (X 2, 2 ) bȩdȩ oznaczać przez H(D, X 2 ), rodzinȩ wszystkich odwzorowań holomorficznych z ograniczonego i wypukłego obszaru D 1 X 1 w wypukły i ograniczony obszar D 2 X 2 bȩdȩ oznaczać przez H(D 1, D 2 ), a gdy (X 1, 1 ) = (X 2, 2 ) i D = D 1 = D 2, to rodzinȩ wszystkich odwzorowań holomorficznych z D w D bȩdȩ oznaczać przez H(D). Gdy rozpatrujemy odwzorowania, to odwzorowanie identycznościowe określone na D bȩdȩ oznaczać przez I.

12 Aby pokazać, że badanie holomorficzności odwzorowania można sprowadzić do badania analityczności funkcji jednej zmiennej zespolonej musimy przypomnieć pojȩcie zbioru normuj acego. Definicja ( [50]) Niech (X, ) bȩdzie zespolon a przestrzeni a Banacha i niech N bȩdzie niepustym podzbiorem przestrzeni sprzȩżonej X. Jeżeli istniej a dodatnie stałe c i C, takie że sup { l (x) : l N, l C} c x dla każdego x X, to zbiór N nazywamy zbiorem normuj acym dla X. Oczywiście zbiór normuj acy wyznacza topologiȩ liniow a Hausdorffa σ (X, N ) w X. Możemy teraz podać nastȩpuj ace bardzo pożyteczne twierdzenie. Twierdzenie 1.5. ( [7], [8], [13], [34], [38], [50], [55], [63], [67]) Niech (X 1, 1 ) i (X 2, 2 ) bȩd a przestrzeniami Banacha, D X 1 ograniczonym i wypukłym obszarem w X 1 i niech N bȩdzie zbiorem normuj acym dla (X 2, 2 ). Dla a D i x X\ {0} niech D (a, x) bȩdzie zbiorem postaci D (a, x) = {z C : a + zx D}. Wtedy odwzorowanie f : D X 2 jest odwzorowaniem holomorficznym w całym obszarze D wtedy i tylko wtedy gdy f jest odwzorowaniem lokalnie ograniczonym w D i dla każdego a D, każdego x X\ {0} i każdego funkcjonału l N funkcja jest funkcj a analityczn a w D (a, x). l f D(a,x) : D (a, x) C Nastȩpuj acy fakt jest dobrze znany i pozwala wykorzystywać metody metrycznej teorii punktów stałych w badaniu zachowania siȩ przekształceń holomorficznych (patrz np. [2], [46], [55], [58], [?], [63], [70], [71], [88], [89], [90], [126], [128]). Mianowicie, jeżeli D 1 i D 2 s a ograniczonymi i wypukłymi obszarami odpowiednio w zespolonych przestrzeniach Banacha (X 1, 1 ) i (X 2, 2 ) oraz k D1 i k D2 s a odległościami Kobayashiego odpowiednio w D 1 i D 2, to każde odwzorowanie holomorficzne f : D 1 D 2 jest nieoddalaj ace wzglȩdem tych odległości, tzn. k D1 (f(x), f(y)) k D2 (x, y) dla wszystkich x, y D 1. W szczególności, gdy D jest ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ), to każde holomorficzne odwzorowanie f : D D jest k D -nieoddalaj ace. 11

13 12 Oczywiście rodzina wszystkich odwzorowań f z D 1 w D 2, które s a nieoddalaj ace ze wzgłedu na odległości Kobayashiego, jest znacznie wiȩksza niż rodzina H(D 1, D 2 ) i bȩdziemy j a oznaczać przez N(D 1, D 2 ) lub N(D), gdy D = D 1 = D 2. Okazuje siȩ, że używaj ac zbioru normuj acego można uzyskać wyniki o granicach ci agów punktowych i ci agów funkcyjnych. Twierdzenie 1.6. ( [73], patrz także [94] i [97]) Niech (X, ) bȩdzie zespolon a przestrzeni a Banacha, N zbiorem normuj acym dla X i niech D X bȩdzie ograniczonym i wypukłym obszarem, takim że jego domkniȩcie D w normie jest zwarte w topologii σ (X, N ). Jeżeli {x β } β J i {y β } β J s a uogólnionymi ci agami w D i s a one zbieżne w topologii σ (X, N ) odpowiednio do x D i y D, to prawdziwa jest nierówność k D (x, y) lim inf β k D (x β, y β ). Twierdzenie 1.7. ( [73]) Niech D 1, D 2 bȩd a ograniczonymi i wypukłymi obszarami odpowiednio w zespolonych przestrzeniach Banacha (X 1, 1 ) i (X 2, 2 ), i niech N bȩdzie zbiorem normuj acym dla (X 2, 2 ). Jeżeli {f λ } λ J jest ci agiem odwzorowań holomorficznych (odwzorowań nieoddalaj acych wzglȩdem odległości Kobayashiego w tych obszarach) f λ : D 1 D 2, który jest punktowo zbieżny w topologii σ (X 2, N ) do odwzorowania f : D 1 D 2 i istnieje punkt z0 D 1, taki że w 0 = f (z 0 ) D 2, to f : D 1 D 2 i odwzorowanie f jest holomorficzne (nieoddalaj ace wzglȩdem odległości Kobayashiego). Z odległości a Kobayashiego zwi azane jest pojȩcie zespolonej geodezyjnej. Zespolona geodezyjna odgrywa kluczow a rolȩ w dowodach ścisłej liniowej wypukłości kul w metryce Kobayashiego i w dowodach niepustości horosfer wprowadzonych w pracach zarówno moich jak i innych autorów. Definicja ( [46], [47], [107], [108], [133], [147], [148], [149]) Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ) i niech φ : D bȩdzie odwzorowaniem holomorficznym. Jeżeli dla każdych ζ 1, ζ 2 mamy k (ζ 1, ζ 2 ) = k D (φ(ζ 1 ), φ(ζ 2 )), to odwzorowanie φ nazywamy zespolon a geodezyjn a (k D -geodezyjn a) w D. Jeżeli z, w D, z w i istnieje zespolona geodezyjna φ : D, taka że w = φ(0) i z = φ(ζ), gdzie 0 < ζ R, to φ nazywamy znormalizowan a zespolon a geodezyjn a ł acz ac a punkt w z punktem z.

14 Okazuje siȩ, że zespolona geodezyjna jest izometrycznym włożeniem otwartego koła (, k ) w (D, k D )( [46]) i dlatego powyższa definicja jest równoważna oryginalnej definicji podanej przez E. Vesentiniego ( [146], [147], [148], [149]; patrz także na historyczne uwagi w [2]). Istotnie mamy Twierdzenie 1.8. ( [147], [148]) Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Każda zespolona geodezyjna f : D jest izometrycznym włożeniem otwartego koła jednostkowego z odległości a k w obszar D z odległości a k D. Dodatkowo mamy Dalej dostajemy lim k D(f(0), f(re iθ )) = lim k (0, re iθ ) = + r 1 r 1 Twierdzenie 1.9. ( [46], [107], [133]) Jeżeli (X, ) jest zespolon a przestrzeni a Banacha, N zbiorem normuj acym dla X i D X jest ograniczonym i wypukłym obszarem, takim że jego domkniȩcie D w normie jest zwarte w topologii σ (X, N ), to przez każde dwa różne punkty w D przechodzi przynajmniej jedna znormalizowana zespolona k D -geodezyjna. Aby podać warunki na jedyność geodezyjnej i na liniow a ścisł a wypukłość k D -kul w ograniczonym i ściśle wypukłym obszarze D (patrz rozdział 4) bȩdziemy potrzebować definicji analitycznej własności Radona- Nikodyma (arnp) przestrzeni Banacha. Zacznȩ od nastȩpuj acego oznaczenia. Symbol H (, X) bȩdzie oznaczać rodzinȩ wszystkich holomorficznych i ograniczonych odwzorowań jednostkowego koła otwartego w zespolon a przestrzeń Banacha (X, ). W zespolonej przestrzeni liniowej H (, X) mamy normȩ supremum. Definicja ( [25]) Niech (X, ) bȩdzie zespolon a przestrzeni a Banacha. Jeżeli każde odwzorowanie f H (, X) ma prawie wszȩdzie granice radialne, tzn. granica lim r 1 f(re iθ ) istnieje dla prawie wszystkich θ ([0, 2π], µ 1 ), gdzie µ 1 oznacza miarȩ Lebesgue a, to mówimy, że X ma analityczn a własność Radona-Nikodyma (arnp). Można zauważyć, że gdy (X, ) ma arnp, to prawie wszȩdzie określona funkcja brzegowa f (tzn. f (e iθ ) = lim r 1 f(reiθ )) należy do L ([0, 2π], µ 1 ) i wyznacza f. St ad gdy f, g H (, X) i f = g w L ([0, 2π], µ 1 ), to f = g. 13

15 14 Twierdzenie ( [25], [61], [136]) Każda zespolona i refleksywna przestrzeń Banacha ma arnp i każda ośrodkowa zespolona i sprzȩżona przestrzeń Banacha ma arnp. Twierdzenie ( [46], [47]) Jeżeli (X, ) jest zespolon a przestrzeni a Banacha, (X, ) ma arnp i D X jest ograniczonym i ściśle wypukłym obszarem, to przez każde dwa różne punkty w D przechodzi co najwyżej jedna znormalizowana zespolona k D -geodezyjna. Ostatecznie dostajemy Twierdzenie ( [46]) Jeżeli (X, ) jest zespolon a przestrzeni a Banacha, (X, ) ma arnp, N jest zbiorem normuj acym dla X i D X jest ograniczonym i ściśle wypukłym obszarem, takim że jego domkniȩcie D w normie jest zwarte w topologii σ (X, N ), to przez każde dwa różne punkty w D przechodzi dokładnie jedna znormalizowana zespolona k D -geodezyjna. Przypomnȩ teraz nastȩpuj ac a definicjȩ. Definicja ( [51], [63]) Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli odwzorowanie f : D D jest takie, że f(d) leży ściśle wewn atrz D, to mówimy, że przekształcenie f odwzorowuje obszar D ściśle do wewn atrz D. W moich badaniach wielokrotnie używam ci agów aproksymacyjnych dla badanego odwzorowania. Ci agi te s a tworzone przy pomocy nastȩpuj acego twierdzenia. Twierdzenie ( [51], [130], [129], [149]) Niech D bȩdzie ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ) i niech przekształcenie holomorficzne odwzorowanie f : D D odwzorowuje D ściśle do wewn atrz D. Wtedy f jest k D -kontrakcj a, tzn. istnieje 0 < c < 1 takie, że dla wszystkich x, y D. k D (f(x), f(y)) c k D (x, y) St ad, gdy D jest domkniȩtym, ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ), to z twierdzenia 1.13 dostajemy, że odwzorowanie g s,z = (1 s) z + si : D D jest k D - kontrakcj a dla każdego ustalonego z D i dla 0 s < 1. Dlatego dla k D -nieoddalaj acego odwzorowania f : D D przekształcenie f s,z = g s,z f = (1 s) z + sf : D D jest k D -kontrakcj a i ma dokładnie jeden punkt stały, który oznaczamy przez h f (s, z). Ustalmy

16 0 s < 1 i x 0 D. Wtedy odwzorowanie h f (s, ) : D D jest k D - nieoddalaj ace (holomorficzne, gdy f jest holomorficzne) jako punktowa granica ci agu funkcyjnego { f n s, (x 0 ) }. Jak wyjaśniȩ w rozdziale 2, w przypadku nieskończenie wymiarowej zespolonej przestrzeni Banacha bez dodatkowych założeń o odwzorowaniu k D -nieooddalaj acym (holomorficznym) twierdzenie Wolffa-Denjoya nie jest prawdziwe. Takim dodatkowym naturalnym założeniem jest założenie, że odwzorowanie to jest kondensuj ace ze wzglȩdu na miarȩ niezwartości Kuratowskiego. Definicja ( [105]) Niech (X, d) bȩdzie zupełn a przestrzeni a metryczn a i niech B oznacza rodzinȩ wszystkich niepustych i ograniczonych podzbiorów zbioru X. Funkcjȩ α d : B R + dan a wzorem α d (C) = inf{ε > 0 : istnieje skończona liczba zbiorów C 1,.., C m B m o średnicy mniejszej niż ε i takich, że C C j } (dla C B) nazywamy miar a niezwartości Kuratowskiego. Miara niezwartości Kuratowskiego ma nastȩpuj ace własności. Twierdzenie ( [5], [10], [12], [57]) Niech (X, d) bȩdzie zupełn a przestrzeni a metryczn a i niech B oznacza rodzinȩ wszystkich niepustych i ograniczonych (w metryce d) podzbiorów zbioru X. Jeżeli α d jest miar a niezwartości, to dla zbiorów C, C 1 B mamy (i) α d (C) = 0 wtedy i tylko wtedy gdy domkniȩcie C d zbioru C jest zbiorem zwartym; (ii) α d (C) = α d (C d ); (iii) gdy C C 1, to α d (C) α d (C 1 ); (iv) α d (C C 1 ) = max{α d (C), α d (C 1 )}; (v) α d (C C 1 ) min{α d (C), α d (C 1 )}; (vi) jeżeli {C n } jest zstȩpuj acym ci agiem domkniȩtych zbiorów należ acych do B i jeżeli lim n α d (C n ) = 0, to przeciȩcie n=1 C n tych zbiorów jest niepuste i jest zbiorem zwartym. Gdy w miejsce przestrzeni metrycznej mamy przestrzeń Banacha (X, ), to dodatkowo dostajemy (vii) α (C + C 1 ) α (C) + α (C 1 ); (viii) α (tc) = t α (C); (ix) α (convc) = α (C), gdzie conv(c) oznacza otoczkȩ wypukł a zbioru C. Przejdźmy wiȩc do ogólnej definicji przekształcenia kondensuj ace ze wzglȩdu na miarȩ niezwartości Kuratowskiego. j=1 15

17 16 Definicja ( [137]) Niech (X, d) bȩdzie zupełn a przestrzeni a metryczn a i niech D X. Mówimy, że odwzorowanie f : D D jest kondensuj ace ze wzglȩdu na Kuratowskiego miarȩ niezwartości α d (α d -kondensuj ace) gdy α d (f(c)) < α d (C) dla każdego ograniczonego w (X, d) podzbioru C D z α d (C) > 0. Nastȩpuj ace własności odwzorowań α d -kondensuj acych s a dobrze znane. Lemat 1.6. ( [75]) Niech D bȩdzie niepustym i ograniczonym zbiorem w zupełnej przestrzeni metrycznej (X, d). Jeżeli f : D D jest odwzorowaniem α d -kondensuj acym i {x n } jest ci agiem w D, takim że d (x n, f (x n )) 0, to zbiór wszystkich elementów tego ci agu, który dla uproszczenia zapisu również oznaczamy przez {x n }, jest zbiorem warunkowo zwartym w (X, d), tzn. α d ({x n }) = 0. Jako wniosek z tego lematu dostajemy Wniosek 1.1. ( [75]) Niech D bȩdzie wypukłym i ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli f : D D jest odwzorowaniem k D -nieoddalaj acym i α -kondensuj acym, C jest niepustym, k D -domkniȩtym, wypukłym i f-niezmienniczym podzbiorem obszaru D, {s n } jest ci agiem, takim że lim n s n = 1, 0 < s n < 1 i {z n } jest ci agiem elementów podzbioru C, to ci ag aproksymuj acy {x n } dany wzorem x n = h f (s n, z n ) = f sn,z n (x n ) = (1 s n ) z n + s n f (x n ) C dla n = 1, 2, 3,... zawiera podci ag zbieżny w normie. Nastȩpnie mamy Lemat 1.7. ( [137]) Niech D bȩdzie niepustym i ograniczonym zbiorem w zupełnej przestrzeni metrycznej (X, d). Jeżeli f : D D jest odwzorowaniem α d -kondensuj acym, to α d ({f n (x)}) = 0 dla każdego x D, tzn. dla każdego x D zbiór elementów ci agu iteracyjnego {f n (x)} jest zbiorem totalnie ograniczonym w (X, d). Jako wniosek dostajemy Wniosek 1.2. ( [75]) Niech D bȩdzie wypukłym i ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli f : D D jest odwzorowaniem k D -nieoddalaj acym i α -kondensuj acym, to dla każdego x D jego ci ag iteracyjny {f n (x)} zawiera podci ag zbieżny w normie. Z naszych dotychczasowych rozważań wynika nastȩpuj ace twierdzenie.

18 Twierdzenie ( [75]) Niech (D, d) i (X, d X ) bȩd a dwiema przestrzeniami metrycznymi, takimi że (i) D X i zbiór D jest zbiorem d X -ograniczonym i d X -otwartym i obie przestrzenie metryczne (D, d) i (X, d X ) s a zupełne; (ii) dla każdego x D i każdego ci agu {x n } w D, który jest zbieżny do ξ X\D w (X, d X ), mamy lim n d (x, x n ) = ; (iii) topologie wyznaczone na D przez d i przez d X D D s a identyczne. Niech f : D D bȩdzie odwzorowaniem d-nieoddalaj acym i α dx - kondensuj acym. Wtedy (a) dla każdego x D, każdy podci ag {f n i (x)} ci agu iteracyjnego {f n (x)} zawiera d X -zbieżny podci ag; (b) odwzorowanie f ma wszystkie d-ograniczone ci agi iteracyjne {f n (x)} wtedy i tylko wtedy gdy istnieje x D z d-ograniczonym podci agiem {f n i ( x)} ci agu iteracyjnego {f n ( x)} ; (c) jeżeli odwzorowanie f ma d-nieograniczon a orbitȩ, to dla każdego x D każdy podci ag {f n i (x)} ci agu iteracyjnego {f n (x)} zawiera podci ag {f n i j (x)}, który jest dx -zbieżny do ξ X\D przy j. Ostatecznie korzystaj ac z ostatniego twierdzenia i z lematu 1.5 otrzymujemy, w przypadku odwzorowań bez punktu stałego, nastȩpuj ace dwa bardzo ważne z naszego punktu widzenia twierdzenia. Twierdzenie ( [75], [B 2], [B 6]) Niech D bȩdzie ściśle wypukłym i ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli f : D D jest odwzorowaniem k D -nieoddalaj acym i α -kondensuj acym i nie ma punktu stałego, to dla każdego x D zbiór punktów skupienia A ci agu iteracyjnego {f n (x)} ma nastȩpuj ace własności: (i) A, (ii) A D (iii) A jest zbiorem niezależnym od wyboru x D. Twierdzenie ( [75], [B 2], [B 6]) Niech D bȩdzie ściśle wypukłym i ograniczonym obszarem w zespolonej przestrzeni Banacha (X, ). Jeżeli f : D D jest odwzorowaniem k D -nieoddalaj acym i α -kondensuj acym i nie ma punktu stałego, to dla każdego z D zbiór punktów skupienia B, przy s 1, krzywej aproksymacyjnej tzn. zbiór {h f (s, z)} 0 s<1 = {(1 s) z + sf (h f (s, z))} 0 s<1, B = {x D : istnieje ciąg {s n } z 0 s n 1 i h f (s n, z) x}, 17

19 18 ma nastȩpuj ace własności: (i) B, (ii) B D (iii) B jest zbiorem niezależnym od wyboru z D.

20 2. Problemy zwia zane z twierdzeniem Wolffa-Denjoya - rys historyczny W tym rozdziale omówiȩ historiȩ problemów, którymi siȩ zajȩłam w moim osi agniȩciu naukowym i podam znane w chwili rozpoczȩcia moich badań wyniki w tym zakresie. W 1926 roku J. Wolff i A. Denjoy udowodnili nastȩpuj ace twierdzenie o zachowaniu siȩ iteracji funkcji analitycznej. Twierdzenie 2.1. Niech bȩdzie jednostkowym kołem otwartym na płaszczyźnie zespolonej C. Gdy funkcja analityczna f : nie jest ani funkcj a identycznościow a ani też nie jest automorfizmem z dokładnie jednym punktem stałym w (tzn. nie jest automorfizmem eliptycznym), to istnieje dokładnie jeden punkt ξ, taki że ci ag iteracji {f n } funkcji f jest zbieżny do funkcji stałej równej ξ w topologii zwartootwartej, tzn. jednostajnie na każdym zwartym zbiorze C. Twierdzenie 2.1 ma interesuj ac a historiȩ. Najpierw udowodnił je J. Wolff przy dodatkowym założeniu, że funkcja ma ci agłe rozszerzenie na brzeg i był to dowód nie wprost ( [154], praca była zarekomendowana do publikacji 31 grudnia 1925 roku przez E. Borela). Nastȩpnie, w krótkim odstȩpie czasu, niezależnie od siebie i różnymi metodami, twierdzenie 2.1 udowodnili J. Wolff ( [155], praca była zarekomendowana do publikacji 18 stycznia 1926 roku przez E. Borela) i A. Denjoy ( [44], praca była zarekomendowana do publikacji 25 stycznia 1926 roku przez M. Goursata). Ostatecznie kilka miesiȩcy później J. Wolff ( [156], praca była zarekomendowana do publikacji 7 kwietnia 1926 roku przez E. Borela) podał bardzo ładny dowód tego twierdzenia przy pomocy nastȩpuj acego lematu zwanego obecnie lematem Wolffa. Lemat 2.1. Niech bȩdzie jednostkowym kołem otwartym na płaszczyźnie zespolonej C. Jeżeli funkcja analityczna f : nie ma punktu stałego, to istnieje jedyny punkt ξ na brzegu koła, taki że ξ f(z) 2 ξ z 2 1 f(z) 2 1 z 2 dla każdego z, przy czym równość ma miejsce wtedy tylko wtedy, gdy f jest parabolicznym automorfizmem z punktem stałym ξ. Zauważmy, że w swoim ostatnim dowodzie twierdzenia 2.1 J.Wolff wykorzystał wprowadzony przez siebie niezmienniczy horocykl D(ξ, R) z centrum w punkcie ξ i promieniu R > 0 D(ξ, R) = {z : ξ z 2 1 z 2 < R}, 19

21 20 który jest otwartym kołem o promieniu R i środku 1 ξ, tzn. R+1 1+R D(ξ, R) = {z : z R ξ < R R + 1 } i koło to jest styczne do okrȩgu jednostkowego w punkcie ξ. Warto też odnotować fakt, że w 1983 roku E. Vesentini ( [150]) opublikował dowód twierdzenia Wolffa-Denjoya, który jest inny od tych wspomnianych już przeze mnie (patrz też [14] i [30]). Mnie bȩdzie interesować tylko ta czȩść twierdzenia Wolffa-Denjoya, w której funkcja nie ma punktu stałego, tzn. nastȩpuj ace twierdzenie. Twierdzenie 2.2. Niech bȩdzie jednostkowym kołem otwartym na płaszczyźnie zespolonej C. Gdy funkcja analityczna f : nie ma punktu stałego, to istnieje ξ na brzegu koła, takie że ci ag iteracji {f n } funkcji f jest zbieżny do funkcji stałej równej ξ w topologii zwartootwartej, tzn. jednostajnie na każdym zwartym zbiorze C. Moje zainteresowanie siȩ tylko tak a postaci a twierdzenia wynika z faktu, że E. Vesentini oraz V. Khatskevich i D. Shoikhet podali w swoich pracach (odpowiednio w [150], [151], [84] i [85], patrz też [126]) warunki konieczne i dostateczne na zbieżność ci agu iteracyjnego {f n } do punktu stałego odwzorowania f. Warunki te albo s a podane w terminach teorii spektralnej wzglȩdem pochodnej Df( x) w punkcie stałym x D odwzorowania f albo s a to warunki geometryczne. Bȩdȩ wiȩc zajmować siȩ tylko nastȩpuj acymi problemami zwi azanymi z twierdzeniem 2.2: 1) iteracje odwzorowań holomorficznych (k D -nieoddalaj acych) bez punktów stałych przekształcaj acych otwart a kulȩ jednostkow a (w zespolonej przestrzeni Banacha (X, )) w siebie i ich zbieżność, 1 ) iteracje funkcji holomorficznych (k D -nieoddalaj acych) bez punktów stałych przekształcaj acych ograniczony i silnie wypukły obszar D C k (patrz definicja 2.5) w siebie i ich zbieżność, 2) orbity półgrup S = {f t } t 0 złożonych z holomorficznych (k D - nieoddalaj acych) odwzorowań i ich zbieżność, 3) graniczne zachowanie siȩ rodziny holomorficznych (k D -nieoddalaj acych) retraktów z pustym przeciȩciem. Rozdzieliłam tutaj problem zachowania siȩ itearcji funkcji na dwie czȩści (1 i 1 ), ponieważ w chwili rozpoczȩcia moich badań wyniki otrzymane dla otwartej kuli jednostkowej były zdecydowanie silniejsze od tych otrzymanych dla ograniczonych i wypukłych obszarów. 1) Iteracje funkcji holomorficznych (k D -nieoddalaj acych) przekształcaj acych otwart a kulȩ jednostkow a (w zespolonej przestrzeni Banacha (X, )) w siebie i ich zbieżność

22 Pierwszy tego typu wynik M. Hervé udowodnił w 1963 roku. Twierdzenie 2.3. ( [66]) Niech B bȩdzie jednostkow a kul a otwart a w C k ze standardow a norm a. Jeżeli funkcja holomorficzna f : B B nie ma punktu stałego, to istnieje punkt ξ na brzegu kuli B, taki że ci ag iteracji {f n } funkcji f jest zbieżny do funkcji stałej równej ξ w topologii zwarto-otwartej, tzn. jednostajnie na każdym zwartym zbiorze C B. Twierdzenie to było ponownie odkryte w 1983 roku przez B. D. Mac- Cluer [109] i przez Y. Kubotȩ [93]. Okazuje siȩ jednak, że twierdzenie Wolffa-Denjoya nie jest prawdziwe w zespolonej przestrzeni Banacha o wymiarze nieskończonym. W 1985 roku, opieraj ac siȩ na przykładzie M. Edelsteina ( [52]), A. Stachura podał przykład holomorficznego przekształcenia f otwartej kuli Hilberta B l 2 (w zespolonej przestrzeni Hilberta l 2 ) w siebie, które nie ma punktu stałego i lim sup f n (0) = 1 > 0 = lim inf f n (0) n n ( [143]). Okazuje siȩ jednak, że dodaj ac dodatkowe założenie o odwzorowaniu f można udowodnić twierdzenie Wolffa-Denjoya również w nieskończenie wymiarowej zespolonej przestrzeni Banacha. Pierwszym takim wynikiem było nastȩpuj ace twierdzenie udowodnione przez C.-H. Chu i P. Mellon w 1997 roku. Twierdzenie 2.4. ( [36]) Niech B H bȩdzie jednostkow a kul a otwart a w zespolonej przestrzeni Hilberta H, czyli tzw. kul a Hilberta. Jeżeli funkcja holomorficzna f : B H B H jest zwartym odwzorowaniem bez punktu stałego, to istnieje punkt ξ na brzegu kuli, taki że ci ag iteracji {f n } funkcji f jest zbieżny do funkcji stałej równej ξ w topologii zwarto-otwartej, tzn. jednostajnie na każdym zwartym zbiorze C B H. W 1999 roku twierdzenie to było uogólnione przez J. Kapelusznego, T. Kuczumowa i S. Reicha do jednostkowej kuli otwartej B X o środku w 0 w ściśle wypukłych przestrzeniach Banacha (X, ) ( [74]). Twierdzenie 2.5. ( [74]) Niech B X bȩdzie jednostkow a kul a otwart a w ściśle wypukłej zespolonej przestrzeni Banacha (X, ). Jeżeli odwzorowanie holomorficzne (k BX -nieoddalaj ace) f : B X B X jest zwartym odwzorowaniem bez punktu stałego, to istnieje punkt ξ na brzegu kuli, taki że ci ag iteracji {f n } odwzorowania f jest zbieżny do odwzorowania stałego równego ξ w topologii zwarto-otwartej, tzn. jednostajnie na każdym zwartym zbiorze C B X. Omówiȩ teraz ideȩ dowodu tego twierdzenia, ponieważ bȩdȩ j a stosować w dowodach 3 twierdzeń wystȩpuj acych w moim osi agniȩciu 21

23 22 naukowym. Okazało siȩ, że w dowodzie twierdzenia 2.5, z uwagi na brak odpowiedniej gładkości brzegu kuli, nie można było bezpośrednio zastosować horosfer E x (ξ, R) i F x (ξ, R) użytych przez M. Abate dla ograniczonych i silnie wypukłych obszarów w C k (defincje tych horosfer podam w czȩści 1 )).Dlatego w [74] wprowadzono niezmiennicze ci agowe horosfery G ( x, ξ, R, {x n }) w ośrodkowych zespolonych przestrzeniach Banacha zamiast horosfer E x (ξ, R) i F x (ξ, R). Horosfery G ( x, ξ, R, {x n }) zdefiniowano nastȩpuj aco. Definicja 2.1. ( [74]) Niech D bȩdzie ograniczonym i wypukłym obszarem w ośrodkowej zespolonej przestrzeni Banacha (X, ), x D, ξ D i niech {x n } bȩdzie ci agiem w D z lim x n = ξ. Załóżmy, że dla każdych x, y D istnieje granica lim n [k D (y, x n ) k D (x, x n )]. Wtedy horosferȩ G ( x, ξ, R, {x n }) w D określamy nastȩpuj aco { G ( x, ξ, R, {x n }) = y D : n lim [k D (y, x n ) k D ( x, x n )] < 1 } 2 log R. Podane w definicji 2.1 założenie istnienia granic lim [k D (y, x n ) k D (x, x n )] n nie jest zbyt restrykcyjne, ponieważ interesuj a nas tylko ci agi aproksymuj ace dla f z granic a równ a ξ, które możemy odpowiednio zast apić ich podci agami oraz mamy założenie ośrodkowości zespolonej przestrzeni Banacha i prawdziwe s a nierówności dla wszystkich x, y D,. k D (y, x n ) k D (x, x n ) k D (y, x) Uwaga 2.1. Od tej pory bȩdziemy wiȩc zawsze zakładać o ci agu {x n } wystȩpuj acym w G ( x, ξ, R, {x n }), że wszystkie granice istniej a. lim [k D (y, x n ) k D (x, x n )], x, y D, n Podstawowe własności horosfer G ( x, ξ, R, {x n }) s a podane w nastȩpnym twierdzeniu. Twierdzenie 2.6. ( [74], [75]) Niech D bȩdzie ograniczonym i wypukłym obszarem w ośrodkowej zespolonej przestrzeni Banacha (X, ). Niech x D, ξ D, R > 0, x n D, n = 1, 2,..., i lim n x n = ξ. Wtedy horosfery G ( x, ξ, R, {x n }) maj a nastȩpuj ace własności: (i) E x (ξ, R) G ( x, ξ, R, {x n }) F x (ξ, R) dla każdych x D, ξ D i R > 0; (ii) jeżeli G ( x, ξ, R, {x n }) jest zbiorem niepustym, to jest zbiorem wypukłym;

24 23 (iii) dla każdych 0 < R 1 < R 2 mamy [ D G ( x, ξ, R 1, {x n }) ] G ( x, ξ, R 2, {x n }) ; 1 (iv) dla każdego R > 1 mamy B kd ( x, log 2 R) G ( x, ξ, R, {x n }) ; (v) B kd ( x, 1 log 2 R) G (x, ξ, R, {x n }) = dla każdego 0 < R < 1; (vi) G ( x, ξ, R, {x n }) = D i G ( x, ξ, R, {x n }) = ; R>0 R>0 Zauważmy tutaj, że w przypadku otwartej kuli jednostkowej B X w zespolonej przestrzeni Banacha (X, ) używaj ac zespolonych geodezyjnych ł acz acych 0 z dowolnym innym punktem z B X (jest to po prostu przeciȩcie kuli B X z płaszczyzn a zespolon a przechodz ac a przez 0 i z), ortogonalnych projekcji na te geodezyjne i wzoru k BX (0, z) = arg tgh z można stosunkowo łatwo udowodnić nastȩpuj acy lemat. Lemat 2.2. ( [74]) Dla każdego ξ B X i każdego 0 < t < 1 mamy lim [k B X (tξ, w) k BX (0, w)] = k BX (0, tξ). w ξ Z niego dostajemy natychmiast dwa wnioski. Wniosek 2.1. ( [74]) Niech B X bȩdzie otwart a kul a jednostkow a w ośrodkowej zespolonej przestrzeni Banacha (X, ), x B X, ξ B X i niech {x n } bȩdzie ci agiem w B X z lim x n = ξ. Załóżmy, że dla każdych x, y B X istnieje granica lim n [k D (y, x n ) k D (x, x n )]. Wtedy każda horosfera G ( x, ξ, R, {x n }) jest niepustym zbiorem. Wniosek 2.2. ( [74]) Przy założeniach z wniosku 2.1 i przy dodatkowym założeniu ścisłej wypukłości zespolonej przestrzeni Banacha (X, ) punkt ξ jest nie tylko granic a ci agu {x n }, ale jednocześnie jedynym punktem przeciȩcia R>0 G ( x, ξ, R, {x n }) domkniȩć w normie wszystkich ci agowych horosfer. Bior ac teraz odpowiedni ci ag aproksymacyjny dla odwzorowania f otrzymujemy Twierdzenie 2.7. [74] Niech B X bȩdzie jednostkow a kul a otwart a w ośrodkowej i ściśle wypukłej zespolonej przestrzeni Banacha (X, ). Jeżeli odwzorowanie holomorficzne (k D -nieoddalaj ace) f : B X B X jest zwartym odwzorowaniem bez punktu stałego, {x n } = {(1 t n )z n + t n f(x n )}

25 24 jest zbieżnym ci agiem aproksymacyjnym dla odwzorowania f, gdzie z n B X, 0 < t n < 1 dla n = 1, 2,..., ξ = lim n x n B X i dla każdych x, y D istnieje granica lim [k D (y, x n ) k D (x, x n )], n to każda horosfera G (0, ξ, R, {x n }) w B X jest niepustym zbiorem i f (G (0, ξ, R, {x n })) G (0, ξ, R, {x n }). St ad i z wniosku 2.2 natychmiast dostajemy twierdzenie 2.5. Zauważmy dalej, że gdy dla k BX -nieoddalaj acego odwzorowania f : B X B X w kuli otwartej B X w zespolonej przestrzeni Banacha (X, ) prawdziwe jest twierdzenie Wolffa-Denjoya, to dla każdego x D ci ag jego iteracji {f n (x)} jest warunkowo zwarty w (X, ) i dlatego α ({f n (x) : n = 1, 2, 3,...}) = 0, gdzie α jest miar a niezwartości Kuratowskiego. Jak już wspomniałam w rozdziale 1 (lemat 1.7) B. N. Sadowskii udowodnił, że dla odwzorowania, z D X w D w przestrzeni metrycznej (X, d), bȩd acego α d -kontrakcj a mamy α d ({f n (x)}) = 0 dla każdego x D. St ad dodatkowe założenie, że holomorficzne (k D -nieoddalaj ace) odwzorowanie f : D D jest α - kontrakcj a, okazuje siȩ naturalne w przypadku badania iteracji odwzorowania w nieskończenie wymiarowej przestrzeni Banacha (X, ). Dalej przy tym założeniu możemy też skorzystać z twierdzenia A. Całki (twierdzenie 1.2), które wyzwala nas od żmudnego dowodu rozbieżności do brzegu ci agu iteracyjnego. Nastȩpnie (patrz wniosek 1.1) dla ograniczonego i wypukłego obszaru D w zespolonej przestrzeni Banacha (X, ) i holomorficznej (k D -nieoddalaj acej) α -kontrakcji f : D D każdy ci ag aproksymuj acy {x n } dany wzorem x n = h f (s n, z n ) = f sn,z n (x n ) = (1 s n ) z n + s n f (x n ) dla n = 1, 2, 3,... (gdzie z n D, 0 < s n < 1 dla n = 1, 2, 3,... i lim n s n = 1) zawiera podci ag zbieżny w normie. Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Przypomnȩ teraz, że w [75] (patrz też [B4]) J. Kapeluszny, T. Kuczumow i S. Reich wprowadzili horosferȩ H ( x, ξ, R, {x n }). Definicja 2.2. ( [75]) Niech {n γ } γ Γ bȩdzie takim podci agiem uogólnionym ci agu {w n } n N = {n} n N, który jest maksymalnym ci agiem uogólnionym (patrz lemat 1.1). Niech D bȩdzie ograniczonym i wypukłym obszarem w ośrodkowej przestrzeni Banacha (X, ), x D, ξ D i niech {x n } bȩdzie ci agiem w D z lim x n = ξ. Wtedy horosferȩ

26 H ( x, ξ, R, {x n }) w D określamy nastȩpuj aco { [ ( ) )] } 1 H ( x, ξ, R, {x n }) = y D : lim kd y, xnγ kd ( x, xnγ < γ Γ 2 log R. Horosfera H ( x, ξ, R, {x n }) ma takie same własności jak horosfera G ( x, ξ, R, {x n }). Twierdzenie 2.8. ( [75]) Niech D bȩdzie ograniczonym i wypukłym obszarem w zespolonej przestrzeni Banacha (X, ). Niech x D, ξ D, R > 0, x n D, n = 1, 2,... i lim n x n = ξ. Wtedy horosfery H ( x, ξ, R, {x n }) maj a nastȩpuj ace własności: (i) E x (ξ, R) H ( x, ξ, R, {x n }) F x (ξ, R) ; (ii) Jeżeli H ( x, ξ, R, {x n }) jest zbiorem niepustym, to jest zbiorem wypukłym; (iii) dla każdych 0 < R 1 < R 2 mamy [ D H ( x, ξ, R 1, {x n }) ] H (x, ξ, R 2, {x n }) ; ( (iv) dla każdego R > 1 mamy B kd x, 1 log 2 R) H ( x, ξ, R, {x n }) ; (v) dla każdego 0 < R < 1 mamy B kd ( x, 1 log 2 R) H ( x, ξ, R, {x n }) = ; (vi) H ( x, ξ, R, {x n }) = D i H ( x, ξ, R, {x n }) = ; R>0 R>0 Lemat 2.3. ( [75]) Niech B X bȩdzie otwart a kul a jednostkow a w zespolonej przestrzeni Banacha (X, ), x B X, ξ B X i niech {x n } bȩdzie ci agiem w B X z lim x n = ξ. Wtedy każda horosfera H ( x, ξ, R, {x n }) jest niepustym zbiorem. Wniosek 2.3. ( [75]) Przy założeniach z ostatniego lematu i przy dodatkowym założeniu ścisłej wypukłości zespolonej przestrzeni Banacha (X, ) punkt ξ jest nie tylko granic a ci agu {x n }, ale jednocześnie jedynym punktem przeciȩcia domkniȩć w normie wszystkich ci agowych horosfer R>0 H ( x, ξ, R, {x n }). Na koniec otrzymujemy ostateczn a wersjȩ twierdzenia Wolffa-Denjoya dla kuli jednostkowej. Twierdzenie 2.9. ( [75]) Niech B X bȩdzie jednostkow a kul a otwart a w ściśle wypukłej zespolonej przestrzeni Banacha (X, ). Jeżeli odwzorowanie holomorficzne (k D -nieoddalaj ace) f : B X B X jest α kontrakcj a bez punktu stałego, to istnieje punkt ξ na brzegu kuli taki, że ci ag iteracji {f n } odwzorowania f jest zbieżny do funkcji stałej równej ξ w topologii zwarto-otwartej, tzn. jednostajnie na każdym zwartym zbiorze C B X. 25

27 26 Powróćmy na chwilȩ do kuli otwartej B H w przestrzeni Hilberta H. Tutaj mamy trochȩ wiȩcej informacji o odwzorowaniach bez punktów stałych. Najpierw wprowadzamy nastȩpuj ac a definicjȩ. Definicja 2.3. ( [126]) Niech G bȩdzie podrodzin a rodziny wszystkich k BH -nieoddalaj acych odwzorowań jednostkowej kuli otwartej B H w siebie. Mówimy, że rodzina G ma własność Wolffa-Denjoya, jeśli dla każdego odwzorowania f G bez punktów stałych w B H istnieje punkt ξ B H, taki że ci ag iteracji {f n } odwzorowania f jest zbieżny do ξ i to jednostajnie na każdym zbiorze zwartym w B H. Twierdzenie Niech B H bȩdzie jednostkow a kul a otwart a w przestrzeni Hilberta H. Dla kuli B H znamy nastȩpuj ace klasy odwzorowań maj ace własność Wolffa-Denjoya: i) ( [75]; patrz także [B3], [B5], [B6], [36], [74], [92] i [99]) klasa G 1 składaj aca siȩ ze wszyskich α H -kontrakcji; ii) ( [58], [59], [124] i [125]) klasa G 2 złożona ze wszystkich mocno ( firmly) k BH -nieoddalaj acych odwzorowań pierwszego rodzaju; iii) ( [58], [59], [124] i [125] ) klasa G 3 złożona ze wszystkich mocno ( firmly) k BH -nieoddalaj acych odwzorowań drugiego rodzaju; iv) ( [123]) klasa G 4 składaj aca siȩ ze wszystkich uśrednionych odwzorowań pierwszego rodzaju, tzn. f = (1 s)i sg, gdzie g jest k BH -nieoddalaj acym odwzorowaniem, s (0, 1) i dla x, y B H symbol (1 s)x sy oznacza jedyny taki punkt z B H spełniaj acy równości: k BH (x, z) = sk BH (x, y) i k BH (z, y) = (1 s)k BH (x, y); v) ( [123]) klasa G 5 składaj aca siȩ ze wszystkich uśrednionych odwzorowań drugiego rodzaju, tzn. f = (1 s)i + sg, gdzie g jest k BH - nieoddalaj acym odwzorowaniem i s (0, 1); vi) ( [64], [98] i [102]) klasa G 6 do której należ a wszystkie odwzorowania f z B H na BH, które s a kbh -izometriami w B H, maj a dokładnie dwa punkty stałe w B H i oba te punkty leż a na brzegu B H kuli otwartej B H. 1 ) Iteracje funkcji holomorficznych (k D -nieoddalaj acych) przekształcaj acych ograniczony i silnie wypukły obszar D C k w siebie i ich zbieżność Zauważmy najpierw, że po zastosowaniu twierdzeń Riemanna i Osgooda- Taylora-Carathéodory ego ( [26]) otrzymujemy z twierdzenia 2.2 nastȩpuj a wersjȩ twierdzenia Wolffa-Denjoya na płaszczyźnie zespolonej C. Twierdzenie Niech D bȩdzie obszarem Jordana na płaszczyźnie zespolonej C. Gdy funkcja analityczna f : D D nie ma punktu stałego, to istnieje ξ na brzegu D obszaru D, takie że ci ag iteracji

28 {f n } funkcji f jest zbieżny do funkcji stałej równej ξ w topologii zwartootwartej, tzn. jednostajnie na każdym zwartym zbiorze C D. Uwaga 2.2. W 1941 roku M. H. Heins ( [65]) uogólnił powyższe twierdzenie do ograniczonych i m-spójnych obszarów w C ograniczonych przez krzywe Jordana. Nastȩpnie jako wniosek z twierdzenia 2.11 dostajemy Twierdzenie Niech D bȩdzie obszarem ograniczonym i wypukłym na płaszczyźnie zespolonej C. Gdy funkcja analityczna f : D D nie ma punktu stałego, to istnieje ξ na brzegu D obszaru D, takie że ci ag iteracji {f n } funkcji f jest zbieżny do funkcji stałej równej ξ w topologii zwarto-otwartej, tzn. jednostajnie na każdym zwartym zbiorze. Ostatnie twierdzenie nie jest prawdziwe w C k dla k 2 o czym świadczy nastȩpuj acy przykład. Przykład 2.1. ( [36]) W C 2 wystarczy wzi ać nastȩpuj ac a funkcjȩ f : dla (z 1, z 2 ). f(z 1, z 2 ) := ( (1 1 2 )z1, iz 2 ) Musimy wiȩc tak jak w przypadku otwartej kuli dodać założenie na brzeg obszaru i bȩdziemy rozważać obszary tylko leż ace w C k. Dlatego teraz przypomnȩ nastȩpuj ac a definicjȩ silnej wypukłości obszaru. Zacznȩ od wprowadzenia funkcji definiuj acej dla obszaru. Definicja 2.4. ( [2], [91]) Niech D R k bȩdzie ograniczonym obszarem i niech 0 < m N. Jeżeli istnieje funkcja ρ : R k R klasy C m, taka że (i) D = {x R k : ρ(x) < 0} (ii) D = {x R k : ρ(x) = 0} (iii) grad ρ(x) 0 w każdym punkcie x D, to mówimy, że obszar D jest obszarem o brzegu klasy C m ( lub, że jest obszarem klasy C m ), a funkcjȩ ρ nazywamy funkcj a definiuj ac a dla obszaru D. Jeżeli x D, to zbiór T x ( D) = {w = (w 1,..., w k ) R k : k j=1 ρ x j (x)w j = 0} nazywamy płaszczyzn a styczn a do brzegu w punkcie x. Dalej mamy 27

29 28 Definicja 2.5. ( [2], [91], [107]) Jeżeli ograniczony obszar D R k jest obszarem o brzegu klasy C 2 i ρ : R k R jest funkcj a definiuj ac a dla D, tak a że w punkcie x D mamy H ρ,x (w, w) = k j,j =1 2 ρ (x)w j w j > 0 x j x j dla wszystkich 0 w = (w 1,..., w k ) T x ( D) (tzn. rzeczywisty Hessian H ρ,x jest dodatnio określony na T x ( D)), to obszar D nazywamy silnie wypukłym w punkcie x. Jeżeli dla pewnej funkcji definiuj acej ρ dla D Hessian H ρ,x jest dodatnio określony na T x ( D) w każdym punkcie x D, to obszar D nazywamy silnie wypukłym. Ograniczony i silnie wypukły obszar D R k o brzegu klasy C 2 jest zawsze obszarem ściśle wypukłym ( [2]). Przypominam, że głównym narzȩdziem w dowodzie klasycznego twierdzenia Wolffa-Denjoya jest tzw. horocykl D(ξ, R) czyli koło wewnȩtrznie styczne do w punkcie ξ zadane wzorem D(ξ, R) = { z : 1 z ξ 2 1 z 2 < R Okazuje siȩ, że można opisać ten horocykl przy pomocy odległości Poincaré ego. Istotnie w 1978 roku P. Yang udowodnił nastȩpuj acy wzór lim [k (z, w) k (0, w)] = 1 w ξ 2 log 1 zξ 2 1 z 2, gdzie z i ξ ( [158]). Dlatego mamy równoważn a definicjȩ horocyklu D (ξ, R) w { } 2 1 ξz D(ξ, R) = z : 1 z < R = 2 { = z : lim [k (z, w) k (0, w)] < 1 } w ξ 2 log R ( [158]). Dalej w dowodzie twierdzenia Wolffa-Denjoya dla jednostkowej kuli B k w C k ze standardow a norm a, jak i dla kuli Hilberta B H w przestrzeni Hilberta H, rolȩ horocyklu odgrywa elipsoida E (ξ, R) = {x B n : 1 (x, ξ) 2 1 x 2 < R } }., R > 0, gdzie (, ) jest iloczynem skalarnym, a norm a w C k i odpowiednio } 1 (x, ξ) 2 E (ξ, R) = {x B H : 1 x 2 < R, R > 0,